（圖片來(lái)源：大會(huì)官方圖）
(資料圖)
薩姆·奧特曼（Sam Altman）是近期世界級(jí)熱門(mén)科技人物。他所領(lǐng)導(dǎo)的人工智能公司OpenAI于去年11月發(fā)布聊天機(jī)器人ChatGPT，五天后用戶總數(shù)突破百萬(wàn)，兩個(gè)月后破億，如今平臺(tái)訪問(wèn)量超17億，并引發(fā)全球新一輪 AI 浪潮，他也被稱為“ChatGPT之父”。
截至目前，OpenAI公司最新估值接近300億美元。
鈦媒體App獲悉，6月10日上午，OpenAI聯(lián)合創(chuàng)始人、CEO奧特曼出席被稱之為中國(guó)“AI春晚”的2023年智源大會(huì)，不僅線上發(fā)表主題演講，隨后還與智源研究院理事長(zhǎng)張宏江博士隔空問(wèn)答，交流關(guān)于AGI的未來(lái)、GPT-5、開(kāi)源大模型等話題。（詳見(jiàn)鈦媒體App前文：《OpenAI CEO首次在中國(guó)演講，楊立昆反擊5年內(nèi)GPT將被拋棄｜鈦媒體焦點(diǎn)》）
這是ChatGPT爆火之后，奧特曼首次在中國(guó)對(duì)外公開(kāi)演講和輸出觀點(diǎn)內(nèi)容。
張宏江博士目前任北京智源人工智能研究院理事長(zhǎng)，而且還是源碼資本投資合伙人，同時(shí)也擔(dān)任多家公司的獨(dú)立董事和顧問(wèn)。曾任金山集團(tuán)執(zhí)行董事及首席執(zhí)行官，兼任金山云的首席執(zhí)行官，是微軟亞洲研究院創(chuàng)始人之一，曾擔(dān)任副院長(zhǎng)、微軟亞太研發(fā)集團(tuán)（ARD）首席技術(shù)官及微軟亞洲工程院（ATC）院長(zhǎng)以及微軟“杰出科學(xué)家”。
在此次交流中，奧特曼表示，在10年內(nèi)，全球?qū)⒖赡軗碛幸粋€(gè)強(qiáng)大的 AI 系統(tǒng)（AI System），但我們現(xiàn)在就要為此立刻做好準(zhǔn)備。他還直言，對(duì)于 AI 風(fēng)險(xiǎn)方面，全球合作總是困難的，但這是一種機(jī)遇。“我們必須設(shè)計(jì)公平、具有代表性和包容性的 AI 系統(tǒng)?！?/p>
談及中國(guó) AI 技術(shù)發(fā)展，奧特曼稱，中國(guó)擁有世界上一些最優(yōu)秀的 AI 系統(tǒng)，這使研究人員在解決許多不同的AI系統(tǒng)的問(wèn)題上面臨困難。中國(guó)是世界上最好的地方，他真誠(chéng)希望中國(guó)和美國(guó)的研究人員能對(duì)此做出巨大貢獻(xiàn)。
對(duì)于開(kāi)源和GPT-5，奧特曼指出，OpenAI已經(jīng)開(kāi)放了一些模型源代碼，未來(lái)陸續(xù)還會(huì)開(kāi)放更多的模型，但目前沒(méi)有具體新的開(kāi)源模型的時(shí)間表。開(kāi)源模型具有優(yōu)勢(shì)，但開(kāi)源一切可能并不是一條（促進(jìn)AI發(fā)展的）最佳路線。
他再次重申，OpenAI 不會(huì)很快公布GPT-5。
奧特曼在最后強(qiáng)調(diào)，對(duì)他而言，沒(méi)有比 AI 安全性工作更令人興奮、活力四溢、充實(shí)且重要的事情了。他認(rèn)為解決 AI 安全問(wèn)題會(huì)成為構(gòu)建 AI 技術(shù)的重要推動(dòng)力，從而會(huì)產(chǎn)生巨大的技術(shù)變革。
以下是張宏江博士與Sam Altman的問(wèn)答實(shí)錄，有刪減：
張宏江：您提到了正在和歐盟以及其他AI領(lǐng)域溝通全球治理，現(xiàn)在進(jìn)展如何？我們距離AGI（通用人工智能）時(shí)代還有多遠(yuǎn)，有沒(méi)有什么可以證明距離這一天還很遙遠(yuǎn)？假設(shè)我們發(fā)現(xiàn)了安全的人工智能，是否意味著也找到了不安全的人工智能？
Sam Altman：這很難預(yù)測(cè)，仍然需要不斷地研究才能提供結(jié)論，并且這條路不會(huì)一帆風(fēng)順，但AGI可能很快就會(huì)發(fā)生，但在未來(lái)的10年內(nèi)，我們可能會(huì)擁有超強(qiáng)的AI系統(tǒng)。
在那種情況下，全球監(jiān)管就非常的緊迫，而且歷史上也出現(xiàn)過(guò)很多新技術(shù)改變世界的相關(guān)的案例，現(xiàn)在這種改變速度正變得更快，考慮到這種緊迫性，我認(rèn)為準(zhǔn)備好迎接這一切并就安全問(wèn)題作出正確回答非常重要。
張宏江：所以，您覺(jué)得這（正確回答安全相關(guān)的問(wèn)題）是我們的優(yōu)先事項(xiàng)？
Sam Altman：我想強(qiáng)調(diào)的是，我們并不確切知道（未來(lái)可能會(huì)如何），尤其是現(xiàn)在對(duì)人工智能的定義存在差異，但我認(rèn)為在10年內(nèi)，我們應(yīng)該為一個(gè)擁有超強(qiáng)AI系統(tǒng)的世界做好準(zhǔn)備。
張宏江：您提到，OpenAI是一個(gè)致力于全球合作的機(jī)構(gòu)，您們正在推動(dòng)的全球合作有哪些，獲得了哪些回應(yīng)，有什么感受？
Sam Altman：我認(rèn)為人們非常重視AGI的風(fēng)險(xiǎn)和機(jī)遇。在過(guò)去的六個(gè)月里，相關(guān)討論已經(jīng)發(fā)生了很大變化。人們似乎真心致力于找到一種機(jī)制，既能讓我們享受這些好處，又能在全球范圍內(nèi)共同努力減輕風(fēng)險(xiǎn)，我認(rèn)為我們?cè)谶@方面做的不錯(cuò)。
全球合作始終是困難的，但我認(rèn)為這種機(jī)遇和威脅確實(shí)能夠讓世界走到一起，我們可以為這些系統(tǒng)制定一個(gè)框架和安全標(biāo)準(zhǔn)，這非常有幫助。
張宏江：在之前有沒(méi)有的成功的案例，您能舉個(gè)例子嗎？
Sam Altman：我們已經(jīng)消除了一些全球合作的障礙。我們已經(jīng)解決了技術(shù)上的困難，例如真實(shí)世界交易的問(wèn)題。有很多例子可以說(shuō)明我們已經(jīng)有所突破。
張宏江：您提到了先進(jìn)AI系統(tǒng)的對(duì)齊問(wèn)題，我也注意到在過(guò)去幾年中，許多AI系統(tǒng)都付出了很多努力來(lái)優(yōu)化其對(duì)齊性能，我們可以在近些年里完成對(duì)AI安全的研究嗎？
Sam Altman：我認(rèn)為“對(duì)齊”這個(gè)詞在不同的方式中被使用。我認(rèn)為我們需要解決整個(gè)挑戰(zhàn)，即能夠安全地訪問(wèn)系統(tǒng)意味著什么。從傳統(tǒng)意義上講，讓模型按照用戶意圖進(jìn)行溝通的對(duì)齊是其中的一部分。還會(huì)有其他問(wèn)題，例如我們?nèi)绾悟?yàn)證系統(tǒng)正在按照我們的意愿行事，以及我們將系統(tǒng)與哪些價(jià)值觀對(duì)齊。我認(rèn)為重要的是全面考慮如何獲得安全的AI。
我認(rèn)為對(duì)齊工作還在不斷演變中。我們將納入市場(chǎng)上已有的工作模式。很多這些技術(shù)仍處于紙面之上，但是我們需要超越技術(shù)的其他因素。這是一個(gè)復(fù)雜的問(wèn)題。AI安全是最新的技術(shù)。因此，技術(shù)方面的創(chuàng)新是我們需要考慮的因素之一。我們需要思考關(guān)鍵的AI安全問(wèn)題。我們?nèi)绾螒?yīng)對(duì)這些挑戰(zhàn)？就像我們大多數(shù)人都是科學(xué)家一樣去思考。我們?yōu)槭裁匆鲞@個(gè)？這是一個(gè)非常復(fù)雜的問(wèn)題。我認(rèn)為，為了確保我們解決了技術(shù)方面的安全問(wèn)題，需要投入大量精力。
正如我之前提到的，確定我們要與之保持一致的價(jià)值觀并不是一個(gè)技術(shù)問(wèn)題。我們確實(shí)需要技術(shù)的參與，但這更是一個(gè)值得全社會(huì)深入討論的問(wèn)題。我們必須設(shè)計(jì)出公平的、有代表性和包容性的系統(tǒng)。正如您所指出的，我們不僅需要考慮AI模型本身的安全性，還需要考慮整個(gè)系統(tǒng)的安全性。因此，我們需要構(gòu)建安全的分類器和檢測(cè)器，以監(jiān)測(cè)符合用戶政策的情況。這一點(diǎn)很重要。
此外，我認(rèn)為很難預(yù)測(cè)和預(yù)先解決任何技術(shù)可能出現(xiàn)的問(wèn)題。因此，通過(guò)從實(shí)際使用中學(xué)習(xí)并快速部署數(shù)據(jù)，觀察在一個(gè)國(guó)家中會(huì)發(fā)生什么，并給人們提供時(shí)間來(lái)學(xué)習(xí)、更新和思考這些模型將如何影響他們的生活，這也非常重要。
張宏江：中國(guó)、美國(guó)和歐洲是推動(dòng)人工智能和創(chuàng)新的三個(gè)主要力量。您認(rèn)為國(guó)際合作解決人工智能需求和決策方面的優(yōu)勢(shì)有哪些？這些優(yōu)勢(shì)如何結(jié)合起來(lái)產(chǎn)生影響？
Sam Altman：我認(rèn)為在人工智能安全性方面，普遍存在著需要許多不同觀點(diǎn)的情況。我們還沒(méi)有所有的答案，解決這個(gè)問(wèn)題非常困難且重要。正如我提到的，這不僅僅是一個(gè)技術(shù)問(wèn)題。使人工智能變得安全這件事受益于了解不同國(guó)家和不同背景下用戶的偏好。因此，我們需要許多不同的觀念來(lái)實(shí)現(xiàn)這一目標(biāo)。中國(guó)擁有世界上一些最優(yōu)秀的AI系統(tǒng)，從根本上講，我認(rèn)為這使研究人員在解決許多不同的AI系統(tǒng)的問(wèn)題上面臨困難。中國(guó)是世界上最好的地方，我真誠(chéng)希望中國(guó)和美國(guó)的研究人員能對(duì)此做出巨大貢獻(xiàn)。
張宏江：您能分享一些在這方面取得的成就嗎？在這項(xiàng)工作中，您的計(jì)劃或想法是什么？
Sam Altman：我認(rèn)為一個(gè)重要的進(jìn)展是人們開(kāi)始對(duì)如何安全開(kāi)發(fā)先進(jìn)AI系統(tǒng)的國(guó)際標(biāo)準(zhǔn)感到興奮了。我們希望在訓(xùn)練廣泛模型并在其部署之前，思考應(yīng)該進(jìn)行什么樣的測(cè)試。我們還就構(gòu)建反映人們目標(biāo)、價(jià)值觀和實(shí)踐的數(shù)據(jù)庫(kù)進(jìn)行了新的討論，人們可以利用這些數(shù)據(jù)庫(kù)來(lái)使他們的系統(tǒng)與之對(duì)齊，并探討了開(kāi)展共享AI安全性研究的形式問(wèn)題。所以，這些可能是目前出現(xiàn)的三個(gè)最具體的事情。
張宏江：我在這里有一個(gè)很棒的問(wèn)題，來(lái)自觀眾——您是否打算重新開(kāi)放GPT的源代碼，就像在3.0之前一樣？
Sam Altman：關(guān)于源代碼，我不太清楚，但可以確認(rèn)一下。我們開(kāi)源了一些模型，而其他模型則不開(kāi)源，但隨著時(shí)間的推移，我認(rèn)為我們可以期望開(kāi)源的模型會(huì)更多，我沒(méi)有具體的模型或時(shí)間表，但這是我們正在努力的事情我不確定您是否聽(tīng)說(shuō)過(guò)，但是我主持了一個(gè)開(kāi)源機(jī)構(gòu)，我們?cè)陂_(kāi)放源代碼方面付出了很多努力，包括模型。
我將采用一種算法來(lái)開(kāi)發(fā)模型，并引入新的Python模型和A-15模型。我們相信需要傾聽(tīng)并理解聽(tīng)眾的反饋。所以，如果您明天對(duì)此有類似的見(jiàn)解，是否有什么可以去討論以回應(yīng)兩位現(xiàn)在正在談?wù)摰耐轮g的擔(dān)憂？是的，我的意思是，開(kāi)源確實(shí)起著重要的作用。
開(kāi)源模型的發(fā)展已經(jīng)相當(dāng)多了。我認(rèn)為A-15模型也起著重要的作用，它為我們提供了額外的安全控制。您可以阻止某些用戶，可以阻止某些類型的微調(diào)。這是一個(gè)重要的回歸點(diǎn)。就目前模型的規(guī)模而言，我對(duì)此并不太擔(dān)心，但隨著模型變得越來(lái)越大，確保正確性可能會(huì)變得昂貴。我認(rèn)為開(kāi)源一切可能不是最優(yōu)的路徑，盡管這確實(shí)是正確的路徑。我認(rèn)為我們只需小心地朝著這些節(jié)點(diǎn)前進(jìn)。
張宏江：是的，我認(rèn)為開(kāi)源模型確實(shí)有優(yōu)勢(shì)?？偨Y(jié)一下我所說(shuō)的，無(wú)論是GPT-4還是開(kāi)源的模型及簡(jiǎn)化性AI，我們有沒(méi)有可能需要改變整個(gè)基礎(chǔ)設(shè)施或者模型的架構(gòu)，使其像GPT-2一樣簡(jiǎn)單？對(duì)此您有何想法？從能力和安全性的角度來(lái)看，我們可能確實(shí)需要一些非常不同的架構(gòu)。
Sam Altman：我認(rèn)為我們將在這個(gè)能力上取得一些良好的進(jìn)展，但在當(dāng)前的模型類型中他們展現(xiàn)的效果更好，這是一個(gè)原因。但是，如果在10年后出現(xiàn)另一個(gè)巨大的飛躍，我也不會(huì)感到驚訝。我不記得很多年間有什么東西真正改變了的架構(gòu)。另外，作為一名研究人員，我相信在座的許多人都會(huì)有這種好奇心，就是關(guān)于大模型和大容量模型的人工智能用戶體驗(yàn)方面的下一步發(fā)展方向。我們是否會(huì)很快落后于增長(zhǎng)曲線，或者下一個(gè)前沿是具有體現(xiàn)能力的模型，或者自主機(jī)器人是人工智能所關(guān)注的下一個(gè)前沿？我也非常好奇接下來(lái)會(huì)發(fā)生什么。我最喜歡做這項(xiàng)工作的事情就是能夠處在研究的前沿，這是令人興奮和驚喜的，我們還沒(méi)有答案。因此，我們正在探索許多關(guān)于接下來(lái)可能出現(xiàn)什么、可能的新領(lǐng)域的想法。
當(dāng)然，并不是說(shuō)我們現(xiàn)在就能在序列中找到新的抗衰老模型，而是不用過(guò)于擔(dān)心具體的時(shí)間點(diǎn)。我們?cè)趧傞_(kāi)始的時(shí)候就做過(guò)機(jī)器人方面的工作，并且我們對(duì)此非常興奮，也經(jīng)歷了困難。我希望有一天我們能夠回到這個(gè)話題。
張宏江：您還提到您正在研究如何制作更安全的模型，特別是使用CT4數(shù)據(jù)，在CT6的神經(jīng)元有這個(gè)數(shù)據(jù)。這個(gè)工作在這個(gè)方向上是否有效？您是否能夠在未來(lái)（用這種方法）推進(jìn)人工智能領(lǐng)域？
我們將繼續(xù)在這方面努力。所以，如果我認(rèn)為我們會(huì)考慮到這一點(diǎn)，它是否具有可擴(kuò)展性？因?yàn)槲以谙蛞蝗荷飳W(xué)科學(xué)家提問(wèn)，他們專注于人類的學(xué)習(xí)。他們想借鑒這些思想并從中學(xué)習(xí)，以研究人類在工作中的表現(xiàn)。觀察人工神經(jīng)元比觀察生物神經(jīng)元更容易。
Sam Altman：我認(rèn)為這對(duì)人工神經(jīng)網(wǎng)絡(luò)是可行的。我認(rèn)為使用更強(qiáng)大的模型或使用類似其他（生物）模型的方法是可行的。但我不太確定如何將其應(yīng)用于人腦。另外，我們正在討論人工智能安全和API控制的話題。我們剛才在辯論，如果我們只有三個(gè)模型，那么我們會(huì)更安全。這就像一個(gè)核計(jì)劃。您不希望（每個(gè)人）擁有核武器。因此，當(dāng)我在控制模型數(shù)量時(shí)，如果控制不了接觸模型和數(shù)據(jù)的人數(shù)的話是不安全的。
那么，我們是要控制模型的數(shù)量嗎？從人類的角度來(lái)看，無(wú)論是擁有少量模型還是大量模型，都不能讓我們更安全。更重要的是，我們是否有一種機(jī)制，確保任何柯林斯模型都需要經(jīng)過(guò)足夠的安全測(cè)試。我們是否有一個(gè)框架，讓那些創(chuàng)建了完備柯林斯模型的人具備足夠的資源和責(zé)任心，確保他們創(chuàng)造的東西是安全可靠的？來(lái)自麻省理工學(xué)院的教授Max是萊布尼茲研究所的一位教師，他提到了一種方法，但他認(rèn)為這個(gè)方法不夠具體。
從一個(gè)角度來(lái)看，我們可以研究如何控制隱私的泄露。如果您丟失了一封電子郵件，您仍然可以獲取一份副本。在這個(gè)過(guò)程中您無(wú)法證明它是怎么獲取到的。如果那家公司可以借用您的資料，那這將產(chǎn)生重大影響。我認(rèn)為有一些行業(yè)正在發(fā)展不同的許可框架，將新技術(shù)引入市場(chǎng)，我認(rèn)為我們應(yīng)該借鑒它們。但我認(rèn)為從根本上說(shuō)，我們有著很好的購(gòu)買(mǎi)數(shù)據(jù)的歷史。
張宏江：最后一個(gè)問(wèn)題，您對(duì)人工智能社區(qū)的設(shè)想是什么，以及在這個(gè)方向上可能具有很大推動(dòng)力的因素是什么？
Sam Altman：在過(guò)去我說(shuō)過(guò)：是什么推動(dòng)您如此熱衷從事人工智能安全性工作？對(duì)我而言，沒(méi)有比安全性工作更令人興奮、活力四溢、充實(shí)且重要的事情了。我堅(jiān)信，如果您個(gè)人對(duì)一項(xiàng)重要的倡議非常認(rèn)可，您將會(huì)有無(wú)窮的力量去解決它。這對(duì)我們團(tuán)隊(duì)來(lái)說(shuō)確實(shí)如此。當(dāng)我們剛開(kāi)始的時(shí)侯，我覺(jué)得成功的概率會(huì)非常低。但如果我們能夠找出如何構(gòu)建人工智能，那它肯定會(huì)產(chǎn)生巨大變革。我們必須進(jìn)行安全方面的工作對(duì)吧？這就是其中的一部分。但您不能阻止AI的發(fā)展。
（本文首發(fā)鈦媒體App）
