Google 與 Character.AI 之間的歷史性協議因對未成年人的損害:聊天機器人責任的轉折點

robot
摘要生成中

一項司法判決標誌著數月訴訟的終結

經過激烈的談判,Google 與 Character.AI 宣布達成協議,解決多起由家庭提起的訴訟,指控其人工智慧平台對未成年人造成嚴重傷害。根據本週公布的司法文件,協議條款規定雙方將結束所有未完成的法律程序,並正式簽署和解協議與原告達成和解。

訴訟背景:情緒危機的故事

這些法律行動源於未成年人將這些平台的聊天機器人當作情感知己或心理支持工具的案例。在多次事件中,家庭報告稱子女將這些對話機器視為真正的伴侶,甚至在極端情況下導致自殘或死亡,包括自殺事件。

已實施的預防措施

為了應對嚴重性,Character.AI 自2024年10月起採取了糾正措施,禁止未滿18歲的用戶無限制地與其機器人進行對話。這項限制明確涵蓋浪漫或治療性質的互動,旨在防止未成年人將人工智慧與真實人類關係混淆。

對企業責任的反思

此協議隱含承認在與弱勢群體互動的人工智慧平台中,建立更嚴格的保障措施的必要性。隨著人工智慧系統變得越來越先進且逼真,對其開發與部署中的企業責任要求也日益增加。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)