“AI教父”辛頓再度發聲

    卅年內AI滅人類幾率一至兩成

    【本報綜合報道】據中央社、外媒三十日消息：“人工智能（AI）教父”辛頓認為，未來三十年內有一至兩成的可能性出現AI導致人類滅絕的結果；他警告，科技變革的速度比預期要“快很多”。

    辛頓今年因在AI方面的貢獻而獲頒諾貝爾物理學獎。

    英國《衛報》報道，辛頓曾說，對人類而言，AI科技有一成的可能性引發災難性後果。

    英國廣播公司第四電台《今日》節目詢問他對可能出現的AI末日和一成的發生機率分析是否有變時，他說：“沒甚麼變，一成至兩成。”

    AI智慧遠超人類

    節目客座編輯、前衛生大臣賈維德說“機率增加了”，辛頓回答道：“如果一定要說，你看，我們以前從未和比我們聰明的東西打交道。”

    他補充說：“你知道有多少例子是一個較聰明的東西被一個較不聰明的東西控制？這種例子很少。以一個母親和一個嬰兒為例，演化費了很大力氣讓嬰兒控制母親，但那是差不多我唯一知道的例子。”

    辛頓說，人類與強大AI系統的智慧相比，就像學步的幼兒，“我喜歡這麼想：想像你自己和一名三歲小孩；我們就是那個三歲的小孩”。

    脫離掌控危及人類

    辛頓去年辭掉在谷歌公司的工作，以更暢快地談論AI發展不受控制所構成的風險。AI安全倡議人士的主要疑慮之一是，創造通用AI或比人類更聰明的系統，可能導致這項技術脫離人類掌控，危及人類存亡。

    研發AI速度驚人

    他說，現在的狀況是多數專家認為或許能在未來二十年內開發出比人類聰明的AI，“這是很恐怖的想法”。

    他認為，研發AI的速度“非常、非常快，比我原本預期要快很多”，政府必須監管這項技術。

    他說：“我擔心的是，看不見的手無法保障我們的安全，所以只將問題交給大企業的利潤動機，不足以確保這些公司安全地研發（AI）……唯有政府監管能迫使這些大企業從事更多安全研究。”

    AI或許拯救人類

    不過，網絡科技巨頭Meta的首席AI科學家勒昆不認為人類面臨存亡威脅，反而說AI“實際上可能拯救人類免於滅絕”。勒昆二○一九年與辛頓、班吉歐一起獲得有“電腦界諾貝爾獎”之稱的年度圖靈獎。