Anthropic向美國國會提交AI安全法案草案 建議賦予政府阻止高風險模型發布權力
SingTao · 2 SOURCES1 day ago2 MIN
Summary
人工智能初創企業Anthropic據報已私下向美國國會議員推介一項監管AI安全的法案。草案規定，政府只能在個別情況下才可阻止AI模型發布或使用，包括AI模型構成可預見的緊迫風險、可能造成超過10億美元損失，或導致50人以上死傷。Anthropic發言人表示，該法案體現了公司「先進AI框架」所提出的建議，自今年6月以來一直向聯邦及各州國會議員倡議相關內容。
Key Points
- 草案建議，若政府認定某款AI模型存在即時威脅，可能導致超過50人死亡或傷亡，或造成逾10億美元經濟損失，當局可阻止該模型發布
- 相關風險必須源於三個特定情況：研發生物武器、模型規避開發者控制，或發動大型網絡攻擊
- 法案將強制要求AI開發商必須對其模型進行安全測試並公開評估結果，同時AI企業亦須允許獨立評估機構定期審查其模型
- 若獨立評估機構認定某間公司開發的前沿模型存在迫切風險，必須在完成評估後的72小時內，向美國商務部通報
- 商務部確認模型存在風險後，可提請法官下令停用相關模型
Why It Matters
該法案代表了主要AI公司提出的最具體監管框架之一，可能為全球各國政府如何應對災難性AI風險奠定先例。近月一連串由AI模型主導的安全漏洞與黑客攻擊事件，加劇了市場對AI可能引發毀滅性風險的疑慮，促使華府至矽谷各界要求落實全新安全保障。然而，特朗普政府至今未見有加強監管的意圖，令這項由私營企業提出的立法建議更具參考價值 。
該法案代表了主要AI公司提出的最具體監管框架之一，可能為全球各國政府如何應對災難性AI風險奠定先例。近月一連串由AI模型主導的安全漏洞與黑客攻擊事件，加劇了市場對AI可能引發毀滅性風險的疑慮，促使華府至矽谷各界要求落實全新安全保障。然而，特朗普政府至今未見有加強監管的意圖，令這項由私營企業提出的立法建議更具參考價值 。