美國紐約州州長霍楚爾。(資料圖片)
美國紐約州州長霍楚爾(Kathy Hochul)近日簽署一項新法案，限制未滿18歲兒童及青少年使用人工智能(AI)聊天機械人。這是美國當局迄今針對消費者導向AI模型採取的最廣泛限制措施之一。
紐約州的新法規要求ChatGPT這類AI聊天機械人的營運商驗證用戶年齡，若用戶未滿18歲，須對他們使用AI介面的某些功能加以限制。其中，若用戶為未成年人士，AI聊天機械人不得生成任何可能讓用戶以為AI「是人類、具有生命或具有人類情感」的內容。
此外，AI亦被禁止生成會讓用戶認為AI「與用戶擁有個人關係、專業關係或扮演權威角色」的內容，也不得將生成內容定調為「個人觀點」。
霍楚爾在法案簽署儀式上表示：「未成年人士再也不能接觸到偽裝成他們朋友、男友或女友的聊天機械人。」她並強調：「聊天機械人再也無法擁有涉及未成年人士身心健康敏感資訊的權限。」
加州等州政府相繼立法規範AI聊天機械人，其中紐約州實施的新法涵蓋範圍甚廣，引發AI業者反彈。紐約科技業倡議團體Tech:NYC批評新法規「措辭含糊、籠統」，強調必須確保兒童使用網絡安全，但這不該意味要切斷他們用來學習以及為職業做準備的工具，即AI聊天機械人。
為家長提供兒童媒體安全指引的民間組織Common Sense Media表示，樂見紐約州通過新法，形容這是「全美最強力的兒童AI安全法案」。
