[心得分享] 數10名科學家連署 擔憂人工智慧失控

sleepless

電影《機械公敵》中，具有人類智慧的機器人失控，最終控制人類的景象是否會在未來某一天發生？儘管當前的科技還無法給我們解答，但科學家已經率先發出警訊。數10名科學家、企業家日前連署，警告人們必須注意人工智慧（AI）的安全性與社會效益，當中更包括知名的物理學家霍金（Stephen Hawking）。

根據英國《金融時報》（FT）報導，位於美國的生命未來研究所（Future of Life Institute）近期針對人工智慧研究發表公開聲明與論文，提醒社會必須注意人工智慧無限擴張後的後果，不僅要從科學的角度去發展研究，還要從經濟、法律、安全等角度全盤考量，獲得數10名科學家、企業家和投資者連署支持。

包括知名英國物理學家霍金、機器智能研究所執行主任穆爾豪瑟（Luke Muehlhauser）、麻省理工學院物理學教授維爾切克（Frank Wilczek）、Google、微軟、IBM等員工，以及部分人工智慧企業的主管，均簽名連署這份聲明。

聲明指出，雖然人工智慧未來將會在人類生活中扮演重要角色，例如根除疾病或貧困方面將不再遙不可及。但人工智慧被人類給無限放大後，人們能利用它做到甚麼程度，已經無法想像。「人們擔心有一天機器的智力和能力，最終會超越創造它們的人類。」

聲明也建議，應優先研究強大且有益的人工智慧功能，讓人類在獲取其好處的同時，也能了解如何規避這些人工智慧的潛在陷阱，避免這些「機器」未來影響人類的就業，乃至於長期生存。「我們要的人工智慧系統，必須按照我們的意願來工作。」

目前，人工智慧科技的研發成為新興產業，包括語音辨識、圖像辨識，甚至是開發自動駕駛汽車，在矽谷，已有150家新創企業以人工智慧服務為主要開發項目