世界資訊：馬斯克等千名科技人士聯(lián)合署名公開信：停止訓(xùn)練更強大的AI系統(tǒng)

這封信呼吁，所有人工智能實驗室立即暫停訓(xùn)練比GPT-4更強大的人工智能系統(tǒng)至少6個月。

29日，未來生命研究所（Future of Life Institute）公布了一封公開信，信中，其呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月。被稱為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton） 、紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)榮譽教授馬庫斯和特斯拉CEO馬斯克均簽署了這封公開信，以下為具體內(nèi)容。

具有與人類競爭的智能的AI系統(tǒng)可能對社會和人類帶來深遠的風(fēng)險，這已經(jīng)得到了大量研究和頂級AI實驗室的認可。正如廣泛認可的阿西洛馬人工智能原則（Asilomar AI Principles）所述，先進的AI可能會對地球生命歷史產(chǎn)生深遠的變革，應(yīng)該得到相應(yīng)的關(guān)注和資源進行規(guī)劃和管理。不幸的是，即使近幾個月來AI實驗室在開發(fā)和部署越來越強大的數(shù)字化思維方面陷入了失控的競賽，這種規(guī)劃和管理也沒有得到實現(xiàn)，而這些數(shù)字化思維連它們的創(chuàng)造者也無法理解、預(yù)測或可靠地控制。

(資料圖片僅供參考)

當(dāng)代AI系統(tǒng)現(xiàn)在正變得在通用任務(wù)方面具有與人類競爭的能力，我們必須問自己：我們應(yīng)該讓機器充斥我們的信息渠道，充滿宣傳和不實之詞嗎？我們應(yīng)該將所有工作自動化，包括那些令人滿意的工作嗎？我們應(yīng)該發(fā)展非人類思維，讓它們最終在數(shù)量、智慧和技能上超越、淘汰和取代我們嗎？我們應(yīng)該冒著失去對文明的控制的風(fēng)險嗎？

這樣的決策決不能委托給未經(jīng)選舉的科技領(lǐng)導(dǎo)者。只有在我們確信它們的影響將是積極的，風(fēng)險可控的情況下，才應(yīng)該發(fā)展強大的AI系統(tǒng)。這種信心必須得到充分的理由，并隨著系統(tǒng)潛在影響的增大而增強。OpenAI最近關(guān)于通用人工智能的聲明指出：

我們同意。那個時候就是現(xiàn)在。

因此，我們呼吁暫停訓(xùn)練比GPT-4更強大的AI系統(tǒng)至少6個月，這個過程應(yīng)該是公開且可驗證的，并包括所有關(guān)鍵參與者。如果無法迅速實施此類暫停，政府應(yīng)介入并實行暫停令。

AI實驗室和獨立專家應(yīng)利用這段暫停時間共同制定和實施一套先進AI設(shè)計和開發(fā)的共享安全協(xié)議，這些協(xié)議應(yīng)由獨立的外部專家嚴格審計和監(jiān)督。這些協(xié)議應(yīng)確保遵循它們的系統(tǒng)在合理懷疑范圍之外是安全的。這并不意味著要暫停AI的總體發(fā)展，而只是從競相開發(fā)越來越大、不可預(yù)測的黑箱模型和具有突現(xiàn)能力的模型中退后一步。

AI研究和開發(fā)應(yīng)該重新關(guān)注如何使現(xiàn)有的強大、先進的系統(tǒng)變得更準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、符合人類意愿、值得信賴和忠誠。

與此同時，AI開發(fā)者必須與政策制定者合作，大力加快發(fā)展健全的AI治理系統(tǒng)。這些至少應(yīng)包括：專門負責(zé)AI的新型、有能力的監(jiān)管機構(gòu)；對高能力AI系統(tǒng)和大量計算能力的監(jiān)督和跟蹤；用于區(qū)分真實和合成內(nèi)容以及跟蹤模型泄漏的來源和水印系統(tǒng)；健全的審計和認證生態(tài)系統(tǒng)；對AI造成的損害承擔(dān)責(zé)任；技術(shù)AI安全研究的充足公共資金支持；以及應(yīng)對AI將帶來的嚴重經(jīng)濟和政治顛覆（尤其是對民主制度）的充足資源支持的機構(gòu)。

人類可以在AI的幫助下享受繁榮的未來。我們已經(jīng)成功地創(chuàng)造了強大的AI系統(tǒng)，現(xiàn)在可以享受一個“AI夏天”，在其中我們可以收獲回報，為所有人明確地利用這些系統(tǒng)，讓社會有機會適應(yīng)。社會已經(jīng)對可能對社會產(chǎn)生災(zāi)難性影響的其他技術(shù)按下了暫停鍵。我們也可以在這里做到。讓我們享受一個漫長的AI夏天，而不是毫無準(zhǔn)備地冒進入秋天。