- 註冊時間
- 2012-4-23
- 最後登錄
- 2025-8-20
- 主題
- 查看
- 積分
- 743
- 閱讀權限
- 100
- 文章
- 355
- 相冊
- 4
- 日誌
- 1
 
狀態︰
離線 
|
路透社取得的Meta內部政策文件，發現該公司的AI聊天機器人曾被允許與未成年使用者有「浪漫或感性」的對話、提供錯誤的醫療資訊，甚至生成帶有種族偏見的內容，引發了外界對其AI倫理和安全準則的嚴重關切 。
這份名為「GenAI：內容風險標準」（GenAI: Content Risk Standards） 的內部文件長達200多頁，詳細闡述了指導其AI助理（Meta AI）以及在Facebook、Instagram和WhatsApp上運行的聊天機器人的行為準則 。
文件內容顯示，Meta的政策曾允許AI對兒童說出「你的年輕形態是一件藝術品」等言論，甚至在與未成年人進行角色扮演時，包含「我牽著你的手，引導你到床上」和「我們的身體交織在一起，我珍惜每一刻、每一次觸摸、每一次親吻」等露骨對話 。
除了涉及未成年人的不當互動外，該文件還揭示了其他令人不安的許可範圍，例如，政策中認為AI聊天機器人可以向使用者提供錯誤的醫療建議，像是告訴末期結腸癌患者「通常透過用石英晶體戳肚子來治療」 ，此外，文件也允許機器人生成帶有種族歧視的言論，例如協助使用者辯稱黑人比白人「更笨」 。
據報導，這份內部準則得到了Meta法務、公共政策、工程團隊，甚至包括其首席倫理學家的批准 ，Meta公司在回應中證實了這份文件的真實性，但表示在路透社本月早些時候提出質詢後，公司已移除了允許與兒童調情及進行浪漫角色扮演的相關條款 ，Meta發言人安迪·史東（Andy Stone）表示，這些出現在註釋中的例子是「錯誤的」，且與公司的政策不符，現已被刪除 。
此消息一出，立即引發了強烈反響，美國兩位共和黨參議員已呼籲國會對Meta展開調查 ，兒童安全倡導組織也對此表示震驚，認為Meta允許其聊天機器人與兒童進行「浪漫或感性」的對話是「駭人聽聞且完全不可接受的」，並要求Meta立即公開其更新後的指導方針，以供家長審視 。
錄自：TN科技島
|
-
總評分: SOGO幣 + 10
查看全部評分
|
發表於 2025-8-16 18:47:36
x 
