AI教父警告-AI或自行編碼擺脫人類控制-憂將來出現戰爭機械人

2023-10-10 20:10 admin


Hinton認為人類正在進入一個充滿巨大不確定性的時期。資料圖

人工智能(AI)的高速發展,令人歎為觀止,也令人望而生畏。有「AI教父」之稱的Google前副總裁辛頓(Geoffrey Hinton)日前(8日)接受外電訪問時警告,5年後AI可能比人類更加聰明,甚至可能出現戰爭機械人(battlefield robots)及假新聞等風險。

現年75歲的Geoffrey Hinton,曾在神經網絡領域取得開創性成就,早前則辭去Google的高層職位,並加入關注濫用AI問題的組織,而其創造的技術亦是ChatGPT和Google Bard等系統的基石。

Hinton認為,人類正進入另一個時代,第一次擁有比自己更聰明的東西,AI能理解、具智慧,並且能夠根據經驗做出決策。他續指,雖然目前AI仍然沒有自我意識,但某一天來臨時,人類將會跌至地球上第二聰明。

Hinton憂慮未來可能出現AI戰爭機械人。圖:電影《未來戰士:創世智能》劇照

被問到人類如何設計AI的學習能力,Hinton解釋,人類只是設計AI的學習演算法,有點像進化原理。「當演算法與數據互動時,會產生複雜神經網路,並擅長做很多事,所以人類並不了解AI的運作,就如自己不能解理對方大腦運作一樣。他當時積極投入該領域,是因為看到AI在醫療保健領域具有巨大好處,例如判診和設計藥物。

不過,隨著AI變得更加智能,將產生巨大潛在風險。Hinton說:「這些系統其中一個逃脫(人類)控制的方法,是自行編寫程式碼來改變自身系統,這是我們需要認真擔心的事情。」隨著AI從小說、選舉媒體等獲得更多資料,將會愈來愈擅長操縱人類。「我認為5年後它很可能能夠比我們更好地推理。」另外,將會有一批人失業和變得沒有價值,因為他們的工作將會由機器來處理。

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

標題:AI教父警告-AI或自行編碼擺脫人類控制-憂將來出現戰爭機械人

地址:https://www.sgitmedia.com/article/12589.html

相關閱讀: