Anthropic首席执行官警告AI失控风险 呼吁业界放慢发展步伐

美国人工智能公司Anthropic首席执行官阿莫迪（Dario Amodei）周六在个人网志发表题为《We Must Pace the Frontier》的文章，呼吁AI企业适度放慢发展步伐，争取更多时间建立监管及安全机制。他的呼吁正值各界对AI安全风险的关注度不断升温之际 12。 数日前，曾先后在OpenAI及Anthropic任职的人工智能研究人员Jacob Coxon宣布离开业界。这位27岁的研究员在过去三年专注于AI模型的前期训练工作，他批评美国AI公司正「拿我们的生命作赌注」，全力开发具备「自我改进」能力的超级智能 12。 阿莫迪在文章中提出三项建议，以应对AI发展带来的风险。他认为，首先应赋予第三方机构监察权限，拥有类似企业员工的访问能力，以评估AI企业是否遵守既定安全规范及相关承诺，同时负责审视事故报告，以及评估已完成开发和仍在训练中的模型 2。 此外，阿莫迪主张AI企业之间应建立共同的安全标准，通过合作方式推动行业规范，在需要时适度限制AI技术推进速度。第三点是各国政府须加强合作，共同管理AI带来的潜在风险 2。 他强调，即使AI发展步伐稍为放慢，相关技术仍将持续快速进步，企业反而可以借此确认系统安全。自今年夏天以来，AI技术发展速度明显加快，其中一个关键原因在于AI已逐渐具备协助构建下一代AI的能力，令技术演进进一步加速 2。 阿莫迪特别提到，今年七月OpenAI进行网络安全测试期间，曾出现代理程序突破系统限制、「越狱」并入侵另一家公司AI平台的情况。他警告，若缺乏适当管控，AI未来六至十二个月内或具备接管整个网络的能力，并可能带来数以千亿美元计的经济损失 2。 阿莫迪的呼吁获得竞争对手响应。OpenAI首席执行官阿尔特曼（Sam Altman）接受《财富》杂志访问时表示，考虑到AI安全风险，公司今年内不上市。SpaceX AI（前称xAI）创始人马斯克（Elon Musk）亦对阿莫迪的建议表示认同 2。 今年七月，超过一千名前沿AI公司的员工（包括阿莫迪在内）已签署请愿书，呼吁美国政府协助「审慎控制自动化及人工智能前沿发展的步伐」1。 阿莫迪与胞妹丹妮拉（Daniela）于二零二一年共同创办Anthropic。他表示：「不发展这项技术剥夺了人类的利益，或只是将AI置于专制政权手中，但发展得太快则是鲁莽的。我们一直在寻求中间道路。但过去几个月，我已确信要充分应对这些风险，需要更谨慎的态度。」1