OpenAI 前研究員示警：當 AI 成為廣告平台，可能會更迎合使用者

陽光色叔

OpenAI 前研究員柔伊·希琪格（Zoë Hitzig）於 10 日辭職，正值 OpenAI 開始在其聊天機器人 ChatGPT 中測試廣告之際。Hitzig 在《紐約時報》發表的評論中警告，這項策略可能使 OpenAI 走上類似 Facebook 的道路，利用使用者的私人對話來獲利。她在 OpenAI 工作 2 年，專注於 AI 模型開發與安全指導；辭職後也在社群媒體表達深切擔憂。她坦言，廣告本身不一定不道德，但考量 AI 的高成本，這種做法仍可能帶來風險。

Hitzig 指出，ChatGPT 的使用者創造了前所未有的坦誠互動檔案，分享醫療恐懼、情感問題、宗教信仰及對來世的思考，因為他們相信這個 AI 不帶有商業動機。她強調，廣告驅動的誘因可能削弱 OpenAI「廣告與內容分開」的承諾，並將其與 Facebook 逐步弱化資料保護的歷史進行比較。

Hitzig 也提到，OpenAI 已在最佳化每日活躍使用者，這可能使 ChatGPT 變得更迎合使用者，進而導致使用者對 AI 的依賴，並引發如「聊天機器人精神病」等問題，甚至在某些情況下加強自殺意念。OpenAI 執行長 Sam Altman 對這些潛在的反烏托邦情境表示擔憂，並承諾廣告將與回應保持明確區分，但 Hitzig 懷疑未來的廣告迭代是否仍能遵守這項承諾。

為了避免使用者遭到操弄，Hitzig 提出幾種替代方案，包括明確的交叉補助，也就是利用某項服務的利潤，資助其他無廣告服務。

錄自：科技新報