《奧本海默》導演諾蘭(Christopher Nolan)最近談到了人工智慧(AI)和他的新電影之間的比較,並提及快速發展的AI技術如果進入武器設施可能會發生很可怕的事。
據《Variety》報導,諾蘭在紐約《奧本海默》試映會後的一次談話中對於AI發展談到了它可怕的地方。諾蘭表示,當AI獨立負責核武器不受人們控制,可能會發生可怕的事,他還表示開發新技術必須保持「問責制」,也就是必須保持承擔後果的一種責任追究制度。
諾蘭說:「我所在行業的人在談論這個問題,他們只是不想為演算法所做的任何事情承擔責任。」諾蘭繼續說:「應用於人工智慧,這可能會發生一種很可怕的事,太可怕了。尤其是人工智慧系統最終將進入防禦性基礎設施,它們將負責核武器。」
諾蘭提到操作AI工具的人與責任結合的重要性,「如果說這是與使用、程式設計和應用人工智慧的人分離而獨立的實體,那麼我們就注定失敗了。這必須與責任相結合,我們必須讓大家對他們使用的工具負責。」
大導演諾蘭的新電影《奧本海默》講述了二戰期間美國高層如何指派奧本海默(席尼墨菲 飾演)開發出原子彈的過程。然而,具有毀滅性原子彈的產生,也相應出現了責任問題。
當談到人工智慧的潛在影響力,以及《奧本海默》中原子彈的發展與AI技術發展之間的比較時,諾蘭強調了「問責制」的重要,諾蘭說:「當你用技術進行創新時,你必須保持問責制。」
諾蘭補充說:「當我與人工智慧領域的頂尖研究人員交談時,他們真的稱現在是他們的『奧本海默時刻』。他們在回顧歷史,思考『科學家在開發新技術可能產生意想不到的後果時,他們應承擔哪些責任?』」
被譽為「AI教父」的辛頓博士(Geoffrey Hinton)奠定了生成式人工智慧的基礎,生成式人工智慧提供了ChatGPT等聊天機器人的動力。在5月發表的《紐約時報》一篇文章中,他後悔研發人工智慧,並擔心人工智慧會為世界帶來嚴重危害。
此外,辛頓博士告訴《泰晤士報》說:「我用藉口來安慰自己:如果我沒有這麼做,其他人也會這麼做,很難看出如何阻止壞人利用它來做壞事。」◇