超级人工智能：福兮祸兮？

本文转自：TechSugar

---

近日，据英国《金融时报》报道，史蒂夫・班农（Steve Bannon）、梅根・马克尔（Meghan Markle）与斯蒂芬・弗莱（Stephen Fry）等公众人物，联合包括“AI教父杰弗里・辛顿（Geoffrey Hinton）、百度前总裁张亚勤在内的800多位世界名流，签署了一份声明，呼吁禁止开发“超级智能”，即在智力上超越大多数人类的人工智能系统。这一事件引发了全球对于人工智能发展的广泛关注和深刻思考。

人工智能的发展如同一场汹涌的浪潮，正以前所未有的速度和规模改变着世界。毫无疑问，它带来的正面影响无疑是巨大的，为诸多领域发展提供了强大的驱动力。

在医疗领域，人工智能展现出了巨大的潜力。AI工具在解读病毒基因组、整理临床试验数据等方面发挥了重要作用，助力疫苗研发提速，流行病防范创新联盟的目标是实现100天内研发并部署新疫苗，如今已接近这一目标。AI工具还能辅助诊断中风、癌症及其他疾病，它正逐渐成为全球医疗体系的重要组成部分。

在工业生产中，人工智能推动了工厂自动化的发展。如在小米的“黑灯工厂”，高度自动化可以实现每6秒生产一部智能手机，且仅需少数技术人员负责系统监控。德国西门子研发的AI驱动的工业辅助系统，能帮助工程师通过自然语言操控机器人，还能自主识别机械故障，让生产效率提升30%。

此外，人工智能在教育、环保等领域也有着广泛的应用和积极的影响。

然而，人工智能快速发展背后所隐藏的负面影响也不容忽视。随着人工智能技术越来越深入人们的生活，诸多伦理问题逐渐显现。据英国《卫报》近日报道，AI生成的极端贫困、儿童以及性暴力幸存者图像正在大量涌入图库网站，并被越来越多的全球卫生非政府组织使用，引发了全球卫生专家的广泛关注。在智能经济领域，人工智能推动产业升级的同时，也带来了结构性失业风险和贫富差距拉大的风险，还存在数据泄漏或数据滥用带来的大数据杀熟、金融欺诈等风险。

在智能生活领域，生成式人工智能的大规模应用，使得深度伪造、虚假信息、数据失实、大模型幻觉等问题愈发凸显，极大地冲击了社会诚信体系。信息茧房可能导致群体极化，算法偏见会引发社会歧视，隐私泄漏则可能带来网络暴力等风险。

而对于“超级智能”的担忧，则是更深层次的问题。随着各大科技巨头和初创企业竞相追求“超级智能”或“通用人工智能”的突破，人们担心一旦这种在绝大多数任务上表现超越人类的人工智能系统失控，将对人类社会造成毁灭性的打击。正如生命未来研究所主席马克斯・泰格马克所说：“最大的威胁或许并非来自另一家公司，甚至不是另一个国家，而是我们自己正在建造的机器。”

此次800多位世界名流联名呼吁禁止开发超级智能，也反映出了全球对于人工智能发展的担忧和对安全、可控发展的渴望。民意调查结果显示，仅有5%的美国人支持当前“不受监管的人工智能开发现状”，近四分之三的受访者支持对人工智能实行强有力的监管，这也表明了公众对于人工智能监管的强烈诉求。

全球范围内的人工智能监管进程虽然进展缓慢，但已经迈出了重要的步伐。欧盟《人工智能法案》正分阶段实施，美国的加利福尼亚州、犹他州和得克萨斯州等也已颁布针对人工智能的具体法律。中国也在积极推动人工智能的健康发展，2025年8月，国务院印发《关于深入实施“人工智能+”行动的意见》，提出要加快形成人机协同、跨界融合、共创分享的智能经济和智能社会新形态。

人工智能的发展是一把双刃剑，它既带来了巨大的机遇，也带来了诸多挑战和风险。正如生命未来研究所主席马克斯・泰格马克（Max Tegmark）在发布申明后强调的，“我们绝非呼吁全面暂停人工智能的发展，但治愈癌症、实现自动驾驶，或大幅提升生产力和效率，这些目标都不需要依赖超级智能即可达成。”

面对人工智能的发展，我们不能因噎废食，停止人工智能的发展，但也绝不能忽视其潜在的问题。如何在享受人工智能带来的繁荣的同时，有效防范其可能带来的隐忧，是摆在我们面前的重要课题。这需要全球各国、各界人士共同努力，加强合作与交流，建立健全的监管机制，确保人工智能的发展能够真正造福人类，而不是给人类带来灾难。