ChatGPT可能带来风险引发热议！周鸿祎：现在担心为时尚早

电子发烧友网报道（文/李弯弯）ChatGPT在持续受到追捧一段时间之后，其可能带来的风险也引发热议。前不久，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

信中写道“只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。

截至目前，马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。

多国政府和企业调查和限制使用ChatGPT

之后，多国政府和企业开始调查或采取措施限制使用该软件。今年3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

个人数据保护局认为，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。

OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，暂时禁止在德国使用ChatGPT原则上是可能的。该发言人称，禁止使用该软件的动作将属于德国联邦数据保护机构的职权范围。

4日，加拿大联邦隐私监管机构宣布，已经对开发ChatGPT的美国公司OpenAI展开调查，因为该公司涉嫌“未经同意收集、使用和披露个人信息”。

美国总统拜登及其科技顾问委员会在4日举行的会议上也讨论了人工智能的“风险和机遇”。英国信息专员办公室也已经向科技公司发出警告，不要使用个人信息来开发聊天机器人。英国信息专员办公室技术和创新总监阿尔蒙德表示，类似ChatGPT的生成式人工智能“如果被不负责任地使用，有可能对数据隐私构成风险”。

周鸿祎：现在担心风险为时尚早

不过也有专家学者对暂停更大模型的训练，及对使用ChatGPT采取限制措施等持反对态度。日前，Meta公司的首席技术官安德鲁·博斯沃思表示，马克·扎克伯格现在把大部分的时间都用在AI上，他还表示，马斯克等人呼吁暂停AI研发的建议是“不切实际的”。

今年2月，Mate宣布成立一个新的团队来研发AIGC技术，现在他们首次透露了该技术商业化的时间表，ChatGPT的创建者OpenAI已经将这项即时创建句子和图形的技术商业化了。博斯沃思认为，Mate的AI技术可以通过告诉广告商使用什么工具来制作广告来提高效果。

对于暂停研究一事，中国人民大学教授刘永谋也发文称，ChatGPT对社会生产力的推动作用已经昭然若揭，不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了。他认为，现在的问题是根据国情落实AI治理措施，而不是暂停ChatGPT研发。

360创始人周鸿祎认为，这不影响中国发展自己的大语言模型，包括360在内的一些中国公司已经展示了自己的作品，实事求是来说，离GPT-4的水平还有两年差距。现在担心风险为时尚早。周鸿祎称，“我自己做的是安全的，我坚定地认为，不发展才是最大的不安全。”

早些时候，微软联合创始人比尔盖茨也发表评论称，呼吁暂停AI研发不会“解决”未来的挑战。他表示，应该把注意力放在如何最好地利用AI的发展方面，AI研究工作的暂停会很复杂，难以执行。盖茨一直看好AI，将其描述为可与互联网或移动电话相媲美的革命性技术成果。

小结

在过去这段时间，人们都见识到了ChatGPT的强大。这种大型语言模型除了将会给人们的生产生活带来便利之外，同时也会造成很多失业的情况。而且OpenAI还在持续训练更强大的模型，它未来可能给人类带来的风险确实需要警惕。不过正所谓因噎废食不可取，如何在持续研究AI大模型的同时，避免其带来的风险，让它能够更好为人类的美好生活服务是关键。