五角大廈計劃以機密軍事資料訓練軍用 AI 模型，引發新安全風險疑慮

Teddyhug

美軍五角大廈計劃請人工智慧公司專為軍事用途訓練模型，消息來自《麻省理工科技評論》。如果成真也不令人驚訝，因戰爭部長 Pete Hegseth 稍早已聲明美軍將「以人工智慧優先」。

戰爭部已開始用人工智慧模型打仗。美國曾用Anthropic Claude協助捕獲委內瑞拉總統馬杜洛（Nicolás Maduro）及攻擊伊朗，儘管川普總統下令過聯邦機構禁止使用Anthropic模型。基於實際機密資料訓練的模型能提供更準確和詳細回應，特別是處理未公開事件時。

《麻省理工科技評論》指出，國防部預定於安全資料中心訓練AI，五角大廈將訓練AI模型副本，但始終是訓練資料的唯一擁有者。少數狀況，人工智慧公司某些人員可能獲安全許可查看機密訊息。

曾在Google和OpenAI領導人工智慧政策的Aalok Mehta告訴外媒，基於機密資料訓練模型當然有風險。雖然這些模型專為軍事目的而設計，但如果整個戰爭部使用相同模型，未獲許可工作人員可能會接觸到不該接觸的資訊。

如果此計畫實行，國防部可能會以OpenAI或xAI模型為基礎，因兩家公司最近與戰爭部簽署協議。和美政府長期合作的Anthropic應不會參與，因拒絕自家技術用於大規模監控和自動武器開發，川普已下令所有聯邦機構禁止使用Anthropic模型。

錄自：科技新報

smartlion

期待AI技術能應用在和平與增進人類福祉、環境保護上
軍事用途的應用，很容易讓人類陷入「魔鬼終結者」的場景中，那是一個多黑暗又無力的世界啊？