ChatGPT可能带来风险引发热议！周鸿祎：现在担心为时尚早-电子发烧友网

电子发烧友网报道（文/李弯弯）ChatGPT在持续受到追捧一段时间之后，其可能带来的风险也引发热议。前不久，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

信中写道“只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。

截至目前，马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。

多国政府和企业调查和限制使用ChatGPT

之后，多国政府和企业开始调查或采取措施限制使用该软件。今年3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

个人数据保护局认为，3月20日ChatGPT平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。

OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，暂时禁止在德国使用ChatGPT原则上是可能的。该发言人称，禁止使用该软件的动作将属于德国联邦数据保护机构的职权范围。

4日，加拿大联邦隐私监管机构宣布，已经对开发ChatGPT的美国公司OpenAI展开调查，因为该公司涉嫌“未经同意收集、使用和披露个人信息”。

美国总统拜登及其科技顾问委员会在4日举行的会议上也讨论了人工智能的“风险和机遇”。英国信息专员办公室也已经向科技公司发出警告，不要使用个人信息来开发聊天机器人。英国信息专员办公室威廉希尔官方网站和创新总监阿尔蒙德表示，类似ChatGPT的生成式人工智能“如果被不负责任地使用，有可能对数据隐私构成风险”。

周鸿祎：现在担心风险为时尚早

不过也有专家学者对暂停更大模型的训练，及对使用ChatGPT采取限制措施等持反对态度。日前，Meta公司的首席威廉希尔官方网站官安德鲁·博斯沃思表示，马克·扎克伯格现在把大部分的时间都用在AI上，他还表示，马斯克等人呼吁暂停AI研发的建议是“不切实际的”。

今年2月，Mate宣布成立一个新的团队来研发AIGC威廉希尔官方网站，现在他们首次透露了该威廉希尔官方网站商业化的时间表，ChatGPT的创建者OpenAI已经将这项即时创建句子和图形的威廉希尔官方网站商业化了。博斯沃思认为，Mate的AI威廉希尔官方网站可以通过告诉广告商使用什么工具来制作广告来提高效果。

对于暂停研究一事，中国人民大学教授刘永谋也发文称，ChatGPT对社会生产力的推动作用已经昭然若揭，不应因噎废食而是控制利用。暂停ChatGPT研发的想法简单粗暴，作用不大，也实现不了。他认为，现在的问题是根据国情落实AI治理措施，而不是暂停ChatGPT研发。

360创始人周鸿祎认为，这不影响中国发展自己的大语言模型，包括360在内的一些中国公司已经展示了自己的作品，实事求是来说，离GPT-4的水平还有两年差距。现在担心风险为时尚早。周鸿祎称，“我自己做的是安全的，我坚定地认为，不发展才是最大的不安全。”

早些时候，微软联合创始人比尔盖茨也发表评论称，呼吁暂停AI研发不会“解决”未来的挑战。他表示，应该把注意力放在如何最好地利用AI的发展方面，AI研究工作的暂停会很复杂，难以执行。盖茨一直看好AI，将其描述为可与互联网或移动电话相媲美的革命性威廉希尔官方网站成果。

小结

在过去这段时间，人们都见识到了ChatGPT的强大。这种大型语言模型除了将会给人们的生产生活带来便利之外，同时也会造成很多失业的情况。而且OpenAI还在持续训练更强大的模型，它未来可能给人类带来的风险确实需要警惕。不过正所谓因噎废食不可取，如何在持续研究AI大模型的同时，避免其带来的风险，让它能够更好为人类的美好生活服务是关键。