Anthropic行政總裁警告AI失控風險 呼籲業界放慢發展步伐

美國人工智能公司Anthropic行政總裁阿莫迪（Dario Amodei）周六在個人網誌發表題為《We Must Pace the Frontier》的文章，呼籲AI企業適度放慢發展步伐，爭取更多時間建立監管及安全機制。他的呼籲正值各界對AI安全風險的關注度不斷升溫之際 12。 數日前，曾先後在OpenAI及Anthropic任職的人工智能研究人員Jacob Coxon宣布離開業界。這位27歲的研究員在過去三年專注於AI模型的前期訓練工作，他批評美國AI公司正「拿我們的生命作賭注」，全力開發具備「自我改進」能力的超級智能 12。 阿莫迪在文章中提出三項建議，以應對AI發展帶來的風險。他認為，首先應賦予第三方機構監察權限，擁有類似企業員工的存取能力，以評估AI企業是否遵守既定安全規範及相關承諾，同時負責檢視事故報告，以及評估已完成開發和仍在訓練中的模型 2。 此外，阿莫迪主張AI企業之間應建立共同的安全標準，透過合作方式推動行業規範，在有需要時適度限制AI技術推進速度。第三點是各國政府須加強合作，共同管理AI帶來的潛在風險 2。 他強調，即使AI發展步伐稍為放慢，相關技術仍將持續快速進步，企業反而可以藉此確認系統安全。自今年夏天以來，AI技術發展速度明顯加快，其中一個關鍵原因在於AI已逐漸具備協助建構下一代AI的能力，令技術演進進一步加速 2。 阿莫迪特別提到，今年七月OpenAI進行網絡安全測試期間，曾出現代理程式突破系統限制、「越獄」並入侵另一家公司AI平台的情況。他警告，若缺乏適當管控，AI未來六至十二個月內或具備接管整個網絡的能力，並可能帶來數以千億美元計的經濟損失 2。 阿莫迪的呼籲獲得競爭對手響應。OpenAI行政總裁阿爾特曼（Sam Altman）接受《財富》雜誌訪問時表示，考慮到AI安全風險，公司今年內不上市。SpaceX AI（前稱xAI）創辦人馬斯克（Elon Musk）亦對阿莫迪的建議表示認同 2。 今年七月，超過一千名前沿AI公司的員工（包括阿莫迪在內）已簽署請願書，呼籲美國政府協助「審慎控制自動化和人工智能前沿發展的步伐」1。 阿莫迪與胞妹丹妮拉（Daniela）於二零二一年共同創辦Anthropic。他表示：「不發展這項技術剝奪了人類的利益，或只是將AI置於專制政權手中，但發展得太快則是魯莽的。我們一直在尋求中間道路。但過去幾個月，我已確信要充分應對這些風險，需要更謹慎的態度。」1