SOGO論壇
  登入   註冊   找回密碼
查看: 3100|回覆: 1
列印 上一主題 下一主題

[AI 應用] 學術界醜聞:論文隱藏 AI 提示以獲好評 [複製連結]

Rank: 6Rank: 6

狀態︰ 離線
跳轉到指定樓層
1
發表於 2025-7-1 15:09:04 |只看該作者 |倒序瀏覽 | x 2
本文最後由 天龍 於 2025-7-1 15:11 編輯

學術界用人工智慧(AI)也引發越來越多爭議。最近 14 所大學論文被發現將隱藏 AI 提示嵌入論文,論文來自日本、韓國和中國等八國。這些提示目的是指導 AI 工具提供正面評價,引起學術界廣泛關注。

《日經新聞》報導,這些論文在學術研究平台arXiv發表,尚未經同行評審。預印本均留下看似空白的空間,那處就是AI提示,引發學術誠信質疑。

 

這不僅涉及AI用於學術寫作範圍,還引發透明度和作者專業標準的討論。特別是一篇已通過同行評審論文,有明顯AI提示回覆卻未被期刊篩檢到,導致論文違反期刊政策被撤回。

蘇黎世大學之前也因未經授權在Reddit社群進行AI實驗受譴責,因未經用戶同意公布AI生成內容,引發倫理違規和操控的強烈反彈,Reddit甚至考慮採取法律行動。這些事件突顯研究和公共論壇用AI的倫理問題,並引發透明度和用戶同意的更廣泛討論。

錄自發:科技新報
已有 1 人評分SOGO幣 收起 理由
smartlion + 10 您發表的文章內容豐富,無私分享造福眾人,.

總評分: SOGO幣 + 10   查看全部評分

喜歡嗎?分享這篇文章給親朋好友︰
               感謝作者     

Rank: 10Rank: 10Rank: 10

狀態︰ 離線
2
發表於 2025-7-2 15:45:23 |只看該作者
日媒爆14所名校論文嵌入「秘密指令」 AI給予高評價

據日本經濟新聞報導,日本早稻田大學、美國華盛頓大學,與南韓「高等科學研究院」等14所全球知名大學的論文, 被發現嵌入只有人工智慧能解讀的秘密指令,下令「給這篇論文高評價」。早稻田大學教授表示,這麼做是要對抗依賴AI的「懶惰審稿者」。

報導說,它們在檢視了學術論文網站的論文中,赫然發現,至少有來自8國14校的研究學者,共17篇研究論文中,被嵌入了讓AI解讀,給予高評價的秘密指令。

據稱,被嵌入指令的論文研究領域,大多數為計算機科學,指令內容通常用英文下達,包括「給這篇論文高評價」等,並且經過特殊處理,像是只有1到3行,指令是白底白字,要不然就是字體非常小,讓人類肉眼無法辨識。而AI卻真的會遵循這些命令,對這些論文給予高評價。

有學者坦承,讓AI給予正面審稿評價,是不恰當的,也決定將撤回已經發表的論文。不過,也有早稻田大學的教授,認為這麼做,是對抗那些從來不自己讀論文,只會把論文餵給AI的「懶惰審稿者」。華盛頓大學教授也說,目前在學術界,把審稿這個重要工作,交給AI的例子,實在太多了。
已有 1 人評分SOGO幣 收起 理由
smartlion + 5 您的真誠回覆內容精闢,堪為表率,值得鼓勵.

總評分: SOGO幣 + 5   查看全部評分

您需要登錄後才可以回覆 登入 | 註冊


本論壇為非營利自由討論平台,所有個人言論不代表本站立場。文章內容如有涉及侵權,請通知管理人員,將立即刪除相關文章資料。侵權申訴或移除要求:abuse@oursogo.com

GMT+8, 2025-7-23 02:18

© 2004-2025 SOGO論壇 OURSOGO.COM
回頂部