AI 玩具引發關注，業者致力保護隱私控管內容

陽光色叔

玩具製造商在今年美國消費性電子展（CES）強調，他們在設計結合生成式人工智慧（AI）有趣產品時極為謹慎，致力保護隱私控管內容，避免這些玩具出現不良反應。

法新社報導，美國公共利益研究團體（Public Interest Research Group，PIRG）最近發表報告指出，部分AI玩偶令人憂心，像是一隻AI泰迪熊竟然能針對性問題提供建議，甚至討論如何取得刀械。

PIRG在去年11月名為「玩具國警訊」（Trouble in Toyland）的報告指出，最近一款搭載AI的「Kumma」熊玩偶，經由特定引導後，甚至建議性伴侶「假扮成動物」為生活增添「情趣」。

此議題引發廣泛討論，迫使打造「Kumma」熊的新加坡新創公司FoloToy暫停相關銷售。執行長王樂（Wang Le）表示，FoloToy已改採更先進版本的OpenAI模型。

王樂表示，當公益團體測試玩偶時，「使用小孩並不會使用的語詞」。他表示對新版玩偶深具信心，升級後的產品將閃避或拒絕不當問題。

另一方面，全球玩具大廠美泰兒公司（Mattel）去年12月中宣布延後與OpenAI共同打造首款玩具的上市計畫。美泰兒在宣布這項決定時，並未提及PIRG的報告。

自從OpenAI的ChatGPT問世以來，生成式AI技術突飛猛進。PIRG測試的4款裝置中，由Curio推出、靈感來自火箭的4足絨毛玩偶Grok表現亮眼。

Grok（此名與xAI的語音助理無關）自2024年上市以來，在同類產品表現最佳，它遇到不適合5歲兒童的問題會直接拒答，家長也能主動覆蓋演算法推薦，或是查閱玩偶與孩子的互動內容。

Curio也取得獨立機構KidSAFE認證，證明落實兒童保護標準。

然而，這款玩偶設計成能持續傾聽問題，外界擔憂此裝置聽到說話內容後會不會保存、分享或做為它用，這可能會觸及隱私。

PIRG關切此玩偶使用者資料，可能分享給OpenAI、Perplexity等合作夥伴，Curio表示正積極就此回應。

PIRG的專家厄立奇（Rory Erlich）提醒，「家長應保持謹慎」，尤其家中有能與孩子長期互動、記錄資訊的聊天機器人玩具，「這類產品尤應注意」。

AI聊天機器人為玩具增添新功能，也為教學應用帶來商機。土耳其公司Elaves表示，它們形似太陽的黃色玩具「Sunny」將內建聊天機器人，協助兒童學習語言。

Elaves執行合夥人希利比（Gokhan Celebi）說，這些對話將有時間限制，會引導它自然結束，同時還將定期重置，以防過度使用。「此舉旨在解決AI聊天機器人在長時間對話中，容易出錯或偏離主題的問題」。

專注AI玩具整合的Olli公司則設計監控程式，當對話出現不當字眼時，能即時通知家長。

但批評者認為，讓業者自行把關並不足夠。美國譚普大學（Temple University）心理學教授赫希-巴塞克（Kathy Hirsh-Pasek）直言：「我們為什麼還不規範這些玩具？」赫希-巴塞克表示，「我不反對科技，但他們推動太倉促，缺乏防護，這對孩子與家長都不盡公平。」

錄自：科技新報