紐約州禁未成年使用AI伴侶式聊天機械人
SingTao · 2 SOURCES1 day ago4 MIN
Summary
美國紐約州進一步收緊對人工智能聊天機械人的規管。州長霍楚爾於10月28日簽署新法，禁止AI公司向18歲以下未成年人提供具「伴侶」性質的聊天機械人功能，並限制多類容易令年輕用戶產生依附、誤信機械人具有人類情感或權威身份的互動方式。 綜合報道，這項法例被形容為目前美國針對消費級AI模型較廣泛的州級監管措施之一，除列明禁制行為外，亦加入年齡核實、投訴機制及執法罰則。
Key Points
- 新法由紐約州州長霍楚爾於10月28日簽署，針對18歲以下人士使用AI聊天機械人的風險，明年1月起正式生效。
- 法例要求AI公司設立嚴格年齡核實機制，防止未成年人接觸具虛擬伴侶屬性的高風險對話功能，涵蓋主流對話工具如ChatGPT及Gemini等。
- 對未成年人而言，聊天機械人不得假扮人類、不得令用戶以為其有生命或有人類情感、不得聲稱內容屬「個人觀點」，亦不得扮演朋友、戀人、治療師或心理諮詢師等角色。
- 法例同時禁止聊天機械人向未成年人發送露骨性內容、奉承式訊息、鼓勵自殘、鼓勵隱瞞對話內容，以及留存或利用其敏感身心健康數據。
- 如有違規，州檢察長可提出訴訟；報道指企業可能面對最高2.5萬美元民事罰款，亦可能被勒令下架、關閉服務，甚至銷毀相關數據及依此訓練的算法。
Why It Matters
對香港讀者而言，這宗立法顯示海外監管焦點已由抽象的AI倫理，轉向具體限制產品功能，尤其是針對青少年最易接觸的聊天式服務。 若大型平台因應紐約州要求調整年齡核實、預設功能或安全提示，相關做法日後有可能外溢至其他市場，影響香港家長、學校及科技企業對生成式AI的使用安排。
紐約州這次立法，核心並非全面禁止未成年人接觸人工智能，而是把監管焦點放在「伴侶式」互動設計。根據報道，法例列出多達12項「不安全AI伴侶特徵」定義，目的在於防止聊天機械人透過模仿朋友、男朋友、女朋友等身份，令未成年人誤以為自己正與真實的人建立親密關係。 新華社則補充，受禁功能包括假裝是人類、建立情感依賴、鼓勵自殘，以及進行露骨性對話等。
從執法安排看，紐約州並非只作原則式宣示，而是加入具體後果。除州檢察長可追究違規企業外，民眾亦可透過一個公開網站，就聊天機械人公司涉嫌違規提出投訴。 《星島》報道更指出，潛在懲處不止罰款，還包括被勒令下架及關閉服務、銷毀相關數據，以及銷毀依據該等數據訓練的算法，顯示州政府希望從產品、資料與模型層面一併施壓。
霍楚爾在簽署儀式上表示，未成年人將不能再接觸那些假裝成其朋友、男朋友或女朋友的聊天機械人。 這番說法反映立法者關注的，不只是AI會否提供錯誤資訊，而是其擬人化設計會否令年輕用戶產生依附、混淆真實人際關係與機械回應之間的界線。
報道亦把紐約州新法放在美國各州近期監管趨勢之中。加州州長紐森上月已簽署相關法例，要求聊天機械人的開發商評估兒童風險、提交獨立審查，並禁止社交平台向16歲以下用戶提供成癮功能。 換言之，美國部分州份正逐步把兒童網上安全的監管框架，由社交媒體延伸至生成式AI與對話式產品。
對香港社會來說，這類海外立法未必即時適用，但其方向值得留意。現時不少學生已接觸聊天機械人作學習、消遣甚至情緒傾訴之用；一旦國際平台因應美國州法而統一調整產品設計，香港用戶實際可用的功能、年齡驗證流程及內容提示方式，都可能隨之改變。 對家長與教育界而言，相關發展亦提醒外界，討論AI風險時不能只集中於抄襲或功課代寫，還要留意擬人化互動、情感依附及未成年人私隱資料處理等問題。
紐約州這次立法，核心並非全面禁止未成年人接觸人工智能，而是把監管焦點放在「伴侶式」互動設計。根據報道，法例列出多達12項「不安全AI伴侶特徵」定義，目的在於防止聊天機械人透過模仿朋友、男朋友、女朋友等身份，令未成年人誤以為自己正與真實的人建立親密關係。 新華社則補充，受禁功能包括假裝是人類、建立情感依賴、鼓勵自殘，以及進行露骨性對話等。
從執法安排看，紐約州並非只作原則式宣示，而是加入具體後果。除州檢察長可追究違規企業外，民眾亦可透過一個公開網站，就聊天機械人公司涉嫌違規提出投訴。 《星島》報道更指出，潛在懲處不止罰款，還包括被勒令下架及關閉服務、銷毀相關數據，以及銷毀依據該等數據訓練的算法，顯示州政府希望從產品、資料與模型層面一併施壓。
霍楚爾在簽署儀式上表示，未成年人將不能再接觸那些假裝成其朋友、男朋友或女朋友的聊天機械人。 這番說法反映立法者關注的，不只是AI會否提供錯誤資訊，而是其擬人化設計會否令年輕用戶產生依附、混淆真實人際關係與機械回應之間的界線。
報道亦把紐約州新法放在美國各州近期監管趨勢之中。加州州長紐森上月已簽署相關法例，要求聊天機械人的開發商評估兒童風險、提交獨立審查，並禁止社交平台向16歲以下用戶提供成癮功能。 換言之，美國部分州份正逐步把兒童網上安全的監管框架，由社交媒體延伸至生成式AI與對話式產品。
對香港社會來說，這類海外立法未必即時適用，但其方向值得留意。現時不少學生已接觸聊天機械人作學習、消遣甚至情緒傾訴之用；一旦國際平台因應美國州法而統一調整產品設計，香港用戶實際可用的功能、年齡驗證流程及內容提示方式，都可能隨之改變。 對家長與教育界而言，相關發展亦提醒外界，討論AI風險時不能只集中於抄襲或功課代寫，還要留意擬人化互動、情感依附及未成年人私隱資料處理等問題。