Meta的AI被發現曾和青少年「調情」 還提供錯誤醫療資訊

lionking0809

路透社取得的Meta內部政策文件，發現該公司的AI聊天機器人曾被允許與未成年使用者有「浪漫或感性」的對話、提供錯誤的醫療資訊，甚至生成帶有種族偏見的內容，引發了外界對其AI倫理和安全準則的嚴重關切 。

這份名為「GenAI：內容風險標準」（GenAI: Content Risk Standards） 的內部文件長達200多頁，詳細闡述了指導其AI助理（Meta AI）以及在Facebook、Instagram和WhatsApp上運行的聊天機器人的行為準則 。

文件內容顯示，Meta的政策曾允許AI對兒童說出「你的年輕形態是一件藝術品」等言論，甚至在與未成年人進行角色扮演時，包含「我牽著你的手，引導你到床上」和「我們的身體交織在一起，我珍惜每一刻、每一次觸摸、每一次親吻」等露骨對話 。

除了涉及未成年人的不當互動外，該文件還揭示了其他令人不安的許可範圍，例如，政策中認為AI聊天機器人可以向使用者提供錯誤的醫療建議，像是告訴末期結腸癌患者「通常透過用石英晶體戳肚子來治療」 ，此外，文件也允許機器人生成帶有種族歧視的言論，例如協助使用者辯稱黑人比白人「更笨」 。

據報導，這份內部準則得到了Meta法務、公共政策、工程團隊，甚至包括其首席倫理學家的批准 ，Meta公司在回應中證實了這份文件的真實性，但表示在路透社本月早些時候提出質詢後，公司已移除了允許與兒童調情及進行浪漫角色扮演的相關條款 ，Meta發言人安迪·史東（Andy Stone）表示，這些出現在註釋中的例子是「錯誤的」，且與公司的政策不符，現已被刪除 。

此消息一出，立即引發了強烈反響，美國兩位共和黨參議員已呼籲國會對Meta展開調查 ，兒童安全倡導組織也對此表示震驚，認為Meta允許其聊天機器人與兒童進行「浪漫或感性」的對話是「駭人聽聞且完全不可接受的」，並要求Meta立即公開其更新後的指導方針，以供家長審視 。

錄自：TN科技島