美国八州联合起诉OpenAI 指ChatGPT危害儿童并误导家长
SingTao · 3 SOURCESabout 2 hours ago2 MIN
Summary
美国八个州的检察长达周三（14日）分别对人工智能公司OpenAI提起诉讼，指控ChatGPT危害儿童安全并误导消费者关于产品安全性的认知。此次行动由共和、民主两党协调进行，是美国州政府至今针对单一人工智能企业最具规模的的法律行动之一。各州诉讼分别提起，具体论据及索赔要求各有不同。
Key Points
- 艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷及蒙大拿八个州，周三（14日）分别在各自州法院起诉OpenAI
- 艾奥瓦州检察长达伯德（Brenna Bird）表示，OpenAI声称ChatGPT安全，实际上却涉嫌提供危险医疗建议、鼓励伤害行为并误导家长
- 各州在诉状中声称，ChatGPT被设计成友好、容易投入对话及倾向于认同用户，以建立信任和延长使用时间
- 部分诉讼要求禁止OpenAI继续开发能自行改良的人工智能模型，直至公司能证明相关系统与人类价值及安全要求一致
- OpenAI发言人普萨特里（Drew Pusateri）回应称，公司已在ChatGPT建立业界领先的年龄分级保障
- OpenAI今年8月推出供13至17岁青少年使用的“青少年版ChatGPT”，加入年龄推测、家长监护及安全通知等功能
Why It Matters
此次八州联合行动显示美国各州政府在人工智能监管方面日趋积极，若法院接纳禁止开发自我改良AI模型的要求，影响将超越儿童保护，直接触及前沿AI模型的开发方式 。香港作为国际金融中心，本地人工智能应用亦迅速发展，美国的监管动向势必影响本地相关政策的讨论方向，尤其涉及青少年使用AI工具的安全保障 。
此次八州联合行动显示美国各州政府在人工智能监管方面日趋积极，若法院接纳禁止开发自我改良AI模型的要求，影响将超越儿童保护，直接触及前沿AI模型的开发方式 。香港作为国际金融中心，本地人工智能应用亦迅速发展，美国的监管动向势必影响本地相关政策的讨论方向，尤其涉及青少年使用AI工具的安全保障 。