首頁 娛樂 影視廣場

導演諾蘭提AI發展的後果:新技術需要問責制

《奧本海默》導演諾蘭(右2),男主角墨菲(右1)。(UIP提供)
《奧本海默》導演諾蘭(右2),男主角墨菲(右1)。(UIP提供)

【記者葉子杰/編譯】《奧本海默》導演諾蘭(Christopher Nolan)最近談到了人工智慧(AI)和他的新電影之間的比較,並提及快速發展的AI技術如果進入武器設施可能會發生很可怕的事。

據《Variety》報導,諾蘭在紐約《奧本海默》試映會後的一次談話中對於AI發展談到了它可怕的地方。諾蘭表示,當AI獨立負責核武器不受人們控制,可能會發生可怕的事,他還表示開發新技術必須保持「問責制」,也就是必須保持承擔後果的一種責任追究制度。

諾蘭說:「我所在行業的人在談論這個問題,他們只是不想為演算法所做的任何事情承擔責任。」諾蘭繼續說:「應用於人工智慧,這可能會發生一種很可怕的事,太可怕了。尤其是人工智慧系統最終將進入防禦性基礎設施,它們將負責核武器。」

諾蘭提到操作AI工具的人與責任結合的重要性,「如果說這是與使用、程式設計和應用人工智慧的人分離而獨立的實體,那麼我們就注定失敗了。這必須與責任相結合,我們必須讓大家對他們使用的工具負責。」

大導演諾蘭的新電影《奧本海默》講述了二戰期間美國高層如何指派奧本海默(席尼墨菲 飾演)開發出原子彈的過程。然而,具有毀滅性原子彈的產生,也相應出現了責任問題。

當談到人工智慧的潛在影響力,以及《奧本海默》中原子彈的發展與AI技術發展之間的比較時,諾蘭強調了「問責制」的重要,諾蘭說:「當你用技術進行創新時,你必須保持問責制。」

諾蘭補充說:「當我與人工智慧領域的頂尖研究人員交談時,他們真的稱現在是他們的『奧本海默時刻』。他們在回顧歷史,思考『科學家在開發新技術可能產生意想不到的後果時,他們應承擔哪些責任?』」

被譽為「AI教父」的辛頓博士(Geoffrey Hinton)奠定了生成式人工智慧的基礎,生成式人工智慧提供了ChatGPT等聊天機器人的動力。在5月發表的《紐約時報》一篇文章中,他後悔研發人工智慧,並擔心人工智慧會為世界帶來嚴重危害。

此外,辛頓博士告訴《泰晤士報》說:「我用藉口來安慰自己:如果我沒有這麼做,其他人也會這麼做,很難看出如何阻止壞人利用它來做壞事。」◇