每經(jīng)編輯 畢陸名

(資料圖片)

當(dāng)全社會都在為AI的進化而歡呼雀躍時，多位科技領(lǐng)袖也表達了深切擔(dān)憂。

據(jù)生命未來研究所官網(wǎng)，3月22日，生命未來研究所（Future of Life）向全社會發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統(tǒng)的訓(xùn)練，暫停時間至少為6個月。該機構(gòu)以“引導(dǎo)變革性技術(shù)造福生活，遠(yuǎn)離極端的大規(guī)模風(fēng)險”為使命。

信中寫道“只有在我們確信它們的效果是積極的，風(fēng)險是可控的情況下，才應(yīng)該開發(fā)強大的人工智能系統(tǒng)?！瘪R斯克此前曾多次表達對人工智能的擔(dān)憂，認(rèn)為人工智能是未來人類文明最大的風(fēng)險之一，威脅程度遠(yuǎn)高于車禍、飛機失事、毒品泛濫等甚至比核武器都危險得多。

截至目前，馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專家已經(jīng)簽署公開信。

值得一提的是，OpenAI CEO奧特曼在與MIT研究科學(xué)家Lex Fridman的最新對話中指出，AI已經(jīng)出現(xiàn)其無法解釋的推理能力，同時承認(rèn)“AI殺死人類”有一定可能性。

“加快開發(fā)強大的AI治理系統(tǒng)”

未來生命研究所的這封公開信題為“暫停巨型AI實驗：一封公開信”，于29日解封。

以下是公開信原文：

正如廣泛的研究和頂級人工智能實驗室所承認(rèn)的，人工智能系統(tǒng)對社會和人類構(gòu)成較大的風(fēng)險?！栋⑽髀羼R人工智能原則》中指出，高級人工智能可能代表著地球上生命歷史的深刻變革，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進行規(guī)劃和管理。然而，盡管最近幾個月人工智能實驗室掀起AI狂潮，開發(fā)和部署越來越強大的數(shù)字大腦，但目前沒有人能理解、預(yù)測或可靠地控制AI系統(tǒng)，也沒有相應(yīng)水平的規(guī)劃和管理。

現(xiàn)在，人工智能在一般任務(wù)上變得與人類有競爭力，我們必須問自己：我們應(yīng)該讓機器在信息渠道中宣傳不真實的信息嗎？我們是否應(yīng)該把所有的工作都自動化，包括那些有成就感的工作？我們是否應(yīng)該開發(fā)非人類的大腦，使其最終超過人類數(shù)量，勝過人類的智慧，淘汰并取代人類？我們是否應(yīng)該冒著失去對我們文明控制的風(fēng)險？這樣的決定絕不能委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)我們確信強大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險是可控的，才應(yīng)該開發(fā)。同時，這種信心必須得到驗證，并隨著系統(tǒng)的潛在影響的大小而加強。OpenAI最近關(guān)于人工智能的聲明中指出，在開始訓(xùn)練未來的系統(tǒng)之前，可能必須得到獨立的審查，對于最先進的努力，同意限制用于創(chuàng)建新模型的計算增長速度。我們同意，現(xiàn)在就該采取行動。

因此，我們呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統(tǒng)的訓(xùn)練，時間至少持續(xù)6個月。這種暫停應(yīng)該是公開的、可核查的，并包括所有關(guān)鍵參與者者。如果這種禁令不能迅速實施，政府應(yīng)該介入并制定暫停令。

人工智能實驗室和獨立專家應(yīng)在暫停期間，共同制定和實施一套先進的人工智能設(shè)計和開發(fā)的共享安全協(xié)議，由獨立的外部專家進行嚴(yán)格的審查和監(jiān)督。這些協(xié)議應(yīng)該確保遵守協(xié)議的系統(tǒng)是安全的。值得一提的是，這并不意味著暫停一般的人工智能開發(fā)，只是從危險的競賽中退后一步，限制不可預(yù)測的研究和開發(fā)。

人工智能的研究和開發(fā)應(yīng)該重新聚焦于，使目前最先進和強大的系統(tǒng)更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠。

同時，人工智能開發(fā)者必須與政策制定者合作，大幅加快開發(fā)強大的人工智能治理系統(tǒng)。這些至少應(yīng)該包括：專門針對人工智能的監(jiān)管機構(gòu)；監(jiān)督和跟蹤高能力的人工智能系統(tǒng)和大型計算能力的硬件；出處和水印系統(tǒng)幫助區(qū)分真實和合成，并跟蹤模型泄漏；強大的審查和認(rèn)證生態(tài)系統(tǒng)；對人工智能造成的傷害承擔(dān)責(zé)任；為人工智能安全技術(shù)研究提供強大的公共資金以及資源充足的機構(gòu)，以應(yīng)對人工智能可能導(dǎo)致的巨大的經(jīng)濟和政治破壞。

人類可以通過人工智能享受繁榮的未來。現(xiàn)在，我們成功地創(chuàng)建了強大的人工智能系統(tǒng)，可以在這個“人工智能之夏”中獲得回報，為所有人的明確利益設(shè)計這些系統(tǒng)，并給社會一個適應(yīng)的機會。停止使用其他技術(shù)可能會對社會造成災(zāi)難性影響，因此我們必須保持準(zhǔn)備狀態(tài)。讓我們享受一個漫長的人工智能夏天，而不是匆忙進入秋天。

截至發(fā)稿，這封信已有1127名科技領(lǐng)袖和研究人員簽名，除了馬斯克、辛頓和馬庫斯之外，還包括圖靈獎得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）、蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領(lǐng)袖人物。

OpenAI CEO：“AI確實可能殺死人類”

據(jù)澎湃新聞3月28日報道，OpenAI CEO山姆·奧特曼稱，并不否認(rèn)過分強大的AGI“可能殺死人類”這一觀點。必須承認(rèn)，（AI殺死人類）有一定可能性。很多關(guān)于AI安全和挑戰(zhàn)的預(yù)測被證明是錯誤的，我們必須正視這一點，并盡早嘗試找到解決問題的方法。

值得注意的是，據(jù)財聯(lián)社報道，近日，挪威機器人公司1X Technologies宣布完成A2輪融資，共籌集到2350萬美元。OpenAI旗下創(chuàng)業(yè)基金領(lǐng)投此輪融資，Tiger Global以及一群挪威投資者也參與其中。

獲得融資后，該公司創(chuàng)始人進一步表示，“1X很高興能得到OpenAI的領(lǐng)投，因為我們的使命是一致的：將新興技術(shù)有意識地融入人們的日常生活。在我們投資者的支持下，我們將繼續(xù)在機器人領(lǐng)域取得重大進展，并增強全球勞動力市場?！?/p>

值得注意的是，人形機器人也是馬斯克十分關(guān)注的方向。去年9月30日舉辦的特斯拉AI日上，馬斯克展示了外界引頸期盼的人形機器人Optimus，馬斯克曾表示，機器人業(yè)務(wù)將比汽車更具價值。

彼時，馬斯克在發(fā)布會上表示，目前的人形機器人沒有“大腦”，沒有能在現(xiàn)實世界中導(dǎo)航的智能，而且非常昂貴且產(chǎn)量低。如今，OpenAI與人形機器人的牽手則讓人期待。

高盛：全球?qū)⒂腥齼|人失業(yè)

據(jù)紅星新聞報道，ChatGPT迭代升級的腳步加快，很多人失業(yè)的恐懼也越來越重。高盛分析師布里格斯和庫達尼在3月27日發(fā)布的研究報告中就直面了這一問題。

報告稱：“最近出現(xiàn)的生成式人工智能將降低勞動力成本和提高生產(chǎn)率。盡管AI的潛力存在很大的不確定性，但它可以生成與人類創(chuàng)造成果無法區(qū)分的內(nèi)容，并能打破人機溝通障礙，反映出具有潛在巨大宏觀經(jīng)濟影響的重大進步。AI不僅節(jié)省勞動力成本，還能創(chuàng)造新的就業(yè)機會以及提高在崗工人的生產(chǎn)率。AI的革命性就像早期通用技術(shù)（如發(fā)電機和個人計算機）一樣能為社會帶來繁榮?！?/p>

ChatGPT等生成式人工智能系統(tǒng)的最新突破，料將給全球勞動力市場帶來重大顛覆，全球預(yù)計將有3億個工作崗位被生成式AI取代，律師和行政人員將是最有可能被裁員的崗位。

高盛研究發(fā)現(xiàn)，目前歐美約有三分之二的工作崗位都在某種程度上受到AI自動化趨勢的影響，而多達四分之一的當(dāng)前崗位有可能最終被完全取代。該研究計算出美國63%的工作暴露在“AI影響范圍”中，其中7%的工作有一半以上的流程可以由AI自動化完成，這使他們很容易馬上被人工智能取代。在歐洲，情況也差不多。

據(jù)21財經(jīng)，作為一種具備生產(chǎn)創(chuàng)造能力的智能形態(tài)，以ChatGPT為代表的AI近年來展現(xiàn)出令人矚目的文字、圖像、聲音的生成或輔助生成能力，也不斷刷新著人們對于AI最終取代絕大部分人類工作的擔(dān)憂。

更為關(guān)鍵的是，當(dāng)前的AIGC（人工智能生成內(nèi)容）無需工資，亦不存在失業(yè)的概念，作為提供生產(chǎn)力的經(jīng)濟單位，其與宏觀經(jīng)濟間的邏輯關(guān)系較人類發(fā)生了根本性改變，而這或許將給經(jīng)濟環(huán)境帶來難以估量的影響。

每日經(jīng)濟新聞綜合生命未來研究所、澎湃新聞、財聯(lián)社、21財經(jīng)、紅星新聞