史蒂芬霍金：我們該擔憂人工智慧的時機到了

丸の小羽

在世界上占主導地位的科技企業支持下，這幾年人工智慧技術進展非常快速，面對充滿人工智慧的世界，

美國著名科幻小說家，同時也是生化教授 Isaac Asimov，

1950 年時即在其著作《我，機器人》中定出機器人三律，後來還成為機械倫理學基礎。

近期美國科學家 Steve Omohundro 在一份論文中提出六種邪惡的人工智慧系統，

針對此，以史蒂芬霍金為首的科學家也發出警告，認為這問題的確值得擔憂。

Steve Omohundro 的論文題出一個假想畫面，一個機器人被指派運送 Amazon 商品，

想當然他的腦袋裡會被植入一個系統可以處理周遭環境的阻礙，如果你試著阻止他，

機器人會把你當成障礙，甚至把你處理掉。史蒂芬霍金認為，近期人工智慧雖然離科幻電影裡面的樣子還很遠，

但隨著技術進展快速，人工智慧導致人類毀滅的可能性確實該被提出來討論。

史蒂芬霍金在英國媒體 The Independent 表示，Google 的自動駕駛汽車，

IBM 的華生電腦贏得益智節目冠軍，蘋果的數位個人助理 Siri 等等，只是龐 IT 軍備競賽成果當中的鳳毛麟角。

但是霍金指出，這些龐大投資產出的成就，絕對不包含這些技術會為接下來數十年的人類社會帶來甚麼危害。

霍金認為，人工智慧很有可能是人類最偉大的發明，但前提是，人類必須先知道避免風險的方式才有權力享有他們。

然而，目前我們只知道這些技術智勝財務金融市場，比人類研究員更聰明，擺脫人類領袖的操縱，

且能夠發展我們無法理解的武器。霍金指出，人工智慧短期的衝擊來自於控制他們的人，

但長期來看，這些機器人能否被控制住才是個大問題。

科學家 Steve Omohundro 提出阻止邪惡人工智慧的方式，即第一時間就避免傷害性的人工智慧系統被製造出來，

在寫程式的時候避免使用帶傷害性字眼的指令。此外，在邪惡的人工智慧還沒取得太多資源之前，

提前偵測並立即關機，這一步驟只是要開發者注意這些自主性的系統，他你發現這系統不好的時候就趕快關機。

若太晚發現，邪惡的人工智慧可能會給人類帶來一場噩夢。

看完科學家的擔憂有沒有讓你感到一點毛骨悚然呢?