出品 | 搜狐科技

編輯 | 梁昌均

(相關資料圖)

“我很好奇接下來會發生什么，我們可能會嘗試按順序推出GPT-5模型，但不會很快。”在2023智源大會關于AI安全與對齊的論壇上，當被問到下一步的研發方向時，OpenAI聯合創始人、CEO山姆·奧特曼（Sam Altman）表示。

目前，山姆正在進行他的全球之旅，這已經是第四周，期間他已經去到五個大洲的近20個國家，與學生、開發人員和國家元首會面。今天上午，他以視頻連線的方式現身智源大會論壇，就推動AI安全的話題發表演講，并接受了智源研究院理事長張宏江的訪談。

山姆表示，已經看到世界各地的人們使用人工智能技術，帶來令人難以置信的生活方式的改變。因此這也使得討論需要建立的監管護欄，以確保日益強大的人工智能系統得到安全可靠的部署，變得越發重要。

他認為，技術進步遵循指數曲線，而當前AI正以極大的影響和極快的速度發展，并擴展人類想象的畫布。在下一個十年里，通用人工智能系統（AGI）將幾乎在所有領域超越人類的專業知識，這些系統最終可能會超過最大公司的生產力。

“人工智能革命將創造共享財富，并使得大幅提高每個人的生活水平成為可能。為了實現這一目標，我們必須共同管理風險。”山姆表示，隨著日益強大的AI系統的出現，以及對醫療、糧食生產和環境平衡等帶來的潛在問題，推進AGI安全將是全球合作最重要的領域之一。

山姆表示，這需要從兩個方面開始。第一是AGI治理，并應該在促進和引導AI對齊和安全研究方向進行投資。“AGI將從根本上改變我們的文明，這是一項具有全球影響的全球技術，不計后果的開發和部署所造成的事故成本將影響到所有人。”

同時，他還特別強調了國際合作和協調的必要性。首先需要建立國際規范和標準，并注意過程中注重包容性。在任何國家使用AGI系統，都應平等而一致地遵循這樣的國際標準和規范。在這些安全護欄內，讓人們有足夠的機會做出自己的選擇。

當然，山姆也認識到這并非易事，大國之間經常存在分歧，但在重要的大事上，還是需要協調與合作，尋找共同利益點。

“千里之行，始于足下。”他引用老子《道德經》中的這句話，認為最具建設性的第一步是與國際科學和技術界合作，特別是應該在技術進步方面增加透明度和知識共享的機制，同時尊重和保護知識產權，這些將為深化合作打開新的大門。

“隨著我們日益接近AGI的時代，沒有對齊的AI系統的潛在影響力和影響規模將成倍增長。現在積極主動地解決這些挑戰，能將未來出現災難性結果的風險降到最低。”山姆在演講中強調稱。

張宏江向山姆·奧特曼提問

不過，在與張宏江的對話中，山姆表示，很難預測我們離安全的AGI還有多遠，但能夠確信的是很有可能在未來10年內能夠擁有非常強大的AI系統。“我認為把AGI安全做好是重要而緊迫的，這是我為什么呼吁國際社會共同努力的原因。”

山姆提到，OpenAI在如何讓AI系統成為更安全有用的系統上，進行了AI對齊研究。這主要是利用人類反饋進行強化學習來訓練模型，使其成為一個有幫助的安全助手。

“從GPT4完成預培訓到我們部署它，我們專門花了8個月的時間來進行對齊方面的工作。GPT4 比我們以前的任何模型都更加與人類對齊。”但山姆也表示，對于更先進的系統，對齊仍然是一個未解決的問題，這需要新的技術方法，同時增強治理和監督。

他認為，未來的AGI系統或許具有10萬行二進制代碼，人類監管人員不太可能發現這樣的模型是否在做一些邪惡的事情。因此，OpenAI正在致力于研究一些新的和互補的研究方向，希望能實現突破。

其中一個是可擴展監督，即嘗試使用 AI 系統來協助人類監督其他AI系統輸出中的缺陷。第二個是可解釋性，嘗試更好地了解這些模型內部發生了什么。“我們還有很長的路要走，但先進的機器學習技術可以進一步提高我們解釋的能力。”

山姆認為，實現AGI安全是一個非常復雜的問題，集中精力確保解決安全方面的技術問題非常重要，同時不僅要考慮模型本身的安全性，還要確保整個系統的安全性。

“我也認為很難提前預測任何技術會出現的所有問題，因此，從現實世界的使用中學習并部署，看看當真正創造現實并改進它時會發生什么，并思考這些模型將如何以好的和壞的方式與人進行互動，這也很重要。”山姆說。

此外，山姆還在對話中回應稱，隨著時間的推移，OpenAI將會在未來繼續開源更多和更大的模型，但目前沒有具體的模型或時間表。他認為，開源確實在模型發展中扮演了重要的角色，但開源可能不是最佳路徑，需要把握平衡。

山姆表示，最終的目標是訓練AI系統來幫助進行對齊研究。這種方法的好處在于，它可以隨著AI的發展速度而擴展。“獲得AGI帶來的非凡好處，同時降低風險，是這個時代的開創性挑戰之一。”

他在最后呼吁，世界各地的研究人員都有很大的潛力實現共同的目標，并致力于努力解決AGI對齊帶來的突出技術挑戰。“如果我們這樣做，我相信我們將能夠利用AGI來解決世界上最重要的問題，并極大地改善人類的生活質量。”

關鍵詞：