AI風險升高！Anthropic、DeepMind執行長籲美國主導全球AI聯盟

陽光先生

Anthropic執行長Dario Amodei與Google DeepMind執行長Demis Hassabis在七大工業國集團（G7）峰會期間與科技業領袖及各國元首會晤時，呼籲建立由美國主導的人工智慧聯盟，以制定AI相關規則與標準。

根據知情人士透露，這場不對外公開的午餐會於法國埃維昂萊班舉行。Amodei與Hassabis皆主張透過國際合作管理人工智慧發展，同時由美國扮演領導角色，以降低這項新興技術可能帶來的風險，消息人士表示，加拿大總理Mark Carney也認同由美國領導AI聯盟的構想。

Anthropic拒絕對此次G7會議發表評論，Google DeepMind與加拿大總理辦公室則未立即回應媒體詢問。

就在上週，美國政府以國家安全為由對Anthropic最新模型Fable 5與Mythos 5實施出口管制後，Anthropic宣布停止外界存取這兩款模型。此次討論正值AI模型能力快速提升之際，近期出現的先進模型已具備高度網路攻防能力，部分業界專家擔心若遭不當使用，可能引發重大災害。

除Amodei與Hassabis外，OpenAI執行長Sam Altman也出席此次會議，與會者還包括約十餘位科技企業高階主管以及G7各國領導人，美國方面則由總統Donald Trump率領代表團出席，同行官員包括財政部長Scott Bessent、商務部長Howard Lutnick及國務卿Marco Rubio。

根據與會人士說法，Amodei在發言中指出，國際合作應涵蓋前沿AI模型的結構化存取機制，以及排除中國參與的晶片與關鍵零組件貿易安排，各國應攜手因應AI在網路攻擊、生物恐怖主義及情報領域可能帶來的風險。

目前Anthropic仍持續與川普政府協商，試圖解決針對其最新模型實施的出口管制措施。OpenAI提供的會議簡報顯示，Altman則主張建立一個國際討論平台，以制定全球共同接受的AI測試標準，提供專業且中立的能力與風險評估，並作為各國合作交流的場所。

上個月，OpenAI宣布推出GPT-5.5 Cyber，這是其最新模型的特殊版本，目前正以有限預覽方式提供經過審核的資安團隊使用，出席會議的OpenAI全球事務長Chris Lehane表示，與會的非美國領導人普遍認為，美國確實有能力在建立全球AI標準方面扮演主導角色。

錄自：TN科技島