AI 如外星人入侵 欧盟议员促请召开世界各国领袖峰会

         （ 伦敦 / 斯德哥尔摩 综合电 ）欧洲议会 议员 促请世界各国领袖召开峰会，就管制先进人工智能 （ AI ） 如人工智能聊天机器人 ChatGPT 的发展寻求解决方案，称人工智能的发展速度已 超出 许多人 预期。

         12名 正在制定欧盟有关人工智能 法案 的议员 星期一（ 4月17日 ） 发表声明，呼吁美国总统 拜登 和欧盟委员会主席 冯德莱恩 召开峰会，并说人工智能公司应该承担更多责任。

         针对日前 逾千名 人工智能专家及行业高管联署，呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统至少 六个月，欧盟议员指出，他们并不认同信中“ 过于危言耸听 ”的内容，但他们同意，随着强大的人工智能快速革新，各国有必要采取重要的政治行动。

         欧盟委员会 已在 约两年前 提出了人工智能法案的规则草案。根据该草案，人工智能工具将按照其感知的风险级别进行分类，从低到不可接受。 两位 知情人士透露，一个议会委员会正在就这份厚达 108页 的草案进行辩论，并希望在 4月26日之前 达成共识。

         随着人工智能对 国家安全 和 教育 的影响越来越受到质疑，拜登政府 也在就人工智能系统的潜在问责措施征询公众意见。

        上周，中国国家互联网信息办公室发布针对生成式人工智能技术的监管草案，要求业者在提供服务前向当局申报安全评估。


         由 非营利组织 未来生命研究所 发布的 公开信，逾千名 科技界和人工智能重量级人物签署，包括美国电动汽车巨头特斯拉和社交媒体巨头推特的总裁 马斯克、苹果公司联合创始人 沃兹尼亚克 等多名研究员。

         一群工智能专家及行业高管联名发表公开信，呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统 至少六个月，理由是这种系统对社会和人类构成潜在风险。

        这封信由 非营利组织 未来生命研究所 （ Future of Life Institute ） 发布，1000多名 科技界和人工智能重量级人物签署，包括美国电动汽车巨头特斯拉和社交媒体巨头推特的总裁 马斯克、苹果公司联合创始人 沃兹尼亚克 （ Steve Wozniak ）、Stability AI 总裁 莫斯塔克 （ Emad Mostaque ）、人工智能企业 DeepMind 的多名研究员。

         信中写道，广泛的研究显示，具有与 人类 竞争智能的人工智能系统可能对社会和人类构成 深远的风险。最近几个月人工智能实验室陷入失控的竞赛，争着开发和部署更为强大的数字大脑，但没人包括它们的创造者能理解、预测或可靠地控制这些系统，也没有相应水平的规划和管理。

        信中说，现在人工智能足以在一般任务上与 人 竞争，人类必须问自己：“ 我们是否应该把所有的工作都自动化，包括那些有成就感的工作？ 我们是否应该开发非人类的大脑，它最终可能比人类还多，比人类聪明，淘汰并取代人类？ ”

        信中呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统 至少六个月。这种暂停应该是公开的、可核查的，并包括所有关键参与者者。如果不能迅速实施这种暂停，政府应介入并实行暂停。

        信中要求暂停先进的人工智能开发，直至制定和实施一套共同的安全协议，并由独立专家进行审查。“ 只有当我们确信强大的人工智能系统，其效果是积极的，风险是可控的，才可以开发。”

        截至路透社截稿时间，OpenAI 公司创始人 阿尔特曼 没在公开信上签名，OpenAI 也没回应路透社的置评要求。

        公开信签署人之一 纽约大学 名誉教授 马克斯说：“ 这封信并不完美，但其精神是正确的：  我们必须放慢脚步，直至我们更清楚了解后果 …… 它们 （ 人工智能 ） 可能造成严重伤害 …… 大公司对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何伤害。”



.