SOGO論壇
標題:
學術界醜聞:論文隱藏 AI 提示以獲好評
[列印本頁]
作者:
天龍
時間:
2025-7-1 15:09:04
標題:
學術界醜聞:論文隱藏 AI 提示以獲好評
本文最後由 天龍 於 2025-7-1 15:11 編輯
學術界用人工智慧(AI)也引發越來越多爭議。最近 14 所大學論文被發現將隱藏 AI 提示嵌入論文,論文來自日本、韓國和中國等八國。這些提示目的是指導 AI 工具提供正面評價,引起學術界廣泛關注。
《日經新聞》報導,這些論文在學術研究平台arXiv發表,尚未經同行評審。預印本均留下看似空白的空間,那處就是AI提示,引發學術誠信質疑。
這不僅涉及AI用於學術寫作範圍,還引發透明度和作者專業標準的討論。特別是一篇已通過同行評審論文,有明顯AI提示回覆卻未被期刊篩檢到,導致論文違反期刊政策被撤回。
蘇黎世大學之前也因未經授權在Reddit社群進行AI實驗受譴責,因未經用戶同意公布AI生成內容,引發倫理違規和操控的強烈反彈,Reddit甚至考慮採取法律行動。這些事件突顯研究和公共論壇用AI的倫理問題,並引發透明度和用戶同意的更廣泛討論。
錄自發:科技新報
作者:
landrover1211
時間:
2025-7-2 15:45:23
日媒爆14所名校論文嵌入「秘密指令」 AI給予高評價
據日本經濟新聞報導,日本早稻田大學、美國華盛頓大學,與南韓「高等科學研究院」等14所全球知名大學的論文,
被發現嵌入只有人工智慧能解讀的秘密指令,下令「給這篇論文高評價」
。早稻田大學教授表示,這麼做是要對抗依賴AI的「懶惰審稿者」。
報導說,它們在檢視了學術論文網站的論文中,赫然發現,至少有來自8國14校的研究學者,共17篇研究論文中,被嵌入了讓AI解讀,給予高評價的秘密指令。
據稱,
被嵌入指令的論文研究領域,大多數為計算機科學,指令內容通常用英文下達,包括「給這篇論文高評價」等,並且經過特殊處理,像是只有1到3行,指令是白底白字,要不然就是字體非常小,讓人類肉眼無法辨識。而AI卻真的會遵循這些命令,對這些論文給予高評價。
有學者坦承,讓AI給予正面審稿評價,是不恰當的,也決定將撤回已經發表的論文。不過,也有早稻田大學的教授,認為這麼做,是對抗那些從來不自己讀論文,只會把論文餵給AI的「懶惰審稿者」。華盛頓大學教授也說,目前在學術界,把審稿這個重要工作,交給AI的例子,實在太多了。
歡迎光臨 SOGO論壇 (https://oursogo.com/)
Powered by OURSOGO.COM