卑詩省赴美控告OpenAI 指高層拒報警釀槍擊
AM730 · 2 SOURCESabout 3 hours ago2 MIN
Summary
加拿大卑詩省政府周一在美國加州提出訴訟，將OpenAI及其行政總裁阿特曼列為共同被告，指今年2月發生的校園槍擊案中，槍手曾利用ChatGPT策劃屠殺，而OpenAI內部其實早已掌握相關暴力對話警號。 省政府稱，OpenAI安全團隊曾建議向警方通報，但有關建議遭阿特曼及其他高層拒絕，結果未能及時阻止案件發生。 卑詩省現要求OpenAI賠償已支出及未來預計支出的復原費用，並要求法院下令修改可能導致暴力的對話機制。 事件亦令外界再度聚焦生成式人工智能平台在偵測高風險內容後，究竟應否、以及何時需要主動通知執法部門。
Key Points
- 卑詩省政府於9月21日在美國加州提出訴訟，am730引述報道指案件提交至三藩市聯邦法院審理。
- 訴訟把OpenAI與行政總裁阿特曼列為共同被告，核心指控是高層否決安全團隊通報警方的建議。
- 案件涉及今年2月卑詩省校園槍擊，am730指事件共造成包括槍手在內9人死亡、27人受傷，多數死者為學生。
- 星島日報則報道，18歲跨性別槍手范魯特塞拉爾擊斃8人後飲彈自盡，與am730所述總死亡人數相互對應。
- am730指出，槍手Jesse Van Rootselaar先在家中殺害母親及弟弟，其後前往Tumbler Ridge中學行兇。
Why It Matters
對香港讀者而言，這宗案件的關鍵不只在於一宗海外槍擊案，而是人工智能平台一旦偵測到疑似暴力策劃內容，企業內部的風險判斷與通報門檻應如何設定。 若法院最終要求修改對話機制，日後各地學校、科技公司及監管部門在採用生成式人工智能時，對安全審查、紀錄保存及危機升級程序的要求，可能都會變得更嚴格。