Anthropic向美国国会提交AI安全法案草案 建议赋予政府阻止高风险模型发布权力
SingTao · 2 SOURCESabout 2 hours ago2 MIN
Summary
人工智能初创企业Anthropic据报已私下向美国国会议员推介一项监管AI安全的法案。草案规定，政府只能在个别情况下方可阻止AI模型发布或使用，包括AI模型构成可预见的紧迫风险、可能造成超过10亿美元损失，或导致50人以上死伤。Anthropic发言人表示，该法案体现了公司"先进AI框架"所提出的建议，自今年6月以来一直向联邦及各州国会议员倡议相关内容。
Key Points
- 草案建议，若政府认定某款AI模型存在即时威胁，可能导致超过50人死亡或伤亡，或造成逾10亿美元经济损失，当局可阻止该模型发布
- 相关风险必须源于三个特定情况：研发生物武器、模型规避开发者控制，或发动大型网络攻击
- 法案将强制要求AI开发商必须对其模型进行安全测试并公开评估结果，同时AI企业亦须允许独立评估机构定期审查其模型
- 若独立评估机构认定某间公司开发的前沿模型存在迫切风险，必须在完成评估后的72小时内，向美国商务部通报
- 商务部确认模型存在风险后，可提请法官下令停用相关模型
Why It Matters
该法案代表了主要AI公司提出的最具体监管框架之一，可能为各国政府如何应对灾难性AI风险奠定先例。近月一系列由AI模型主导的安全漏洞与黑客攻击事件，加剧了市场对AI可能引发毁灭性风险的疑虑，促使华盛顿至硅谷各界要求落实全新安全保障。然而，特朗普政府至今未见有加强监管的意图，令这项由私营企业提出的立法建议更具参考价值 。
该法案代表了主要AI公司提出的最具体监管框架之一，可能为各国政府如何应对灾难性AI风险奠定先例。近月一系列由AI模型主导的安全漏洞与黑客攻击事件，加剧了市场对AI可能引发毁灭性风险的疑虑，促使华盛顿至硅谷各界要求落实全新安全保障。然而，特朗普政府至今未见有加强监管的意图，令这项由私营企业提出的立法建议更具参考价值 。