設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

GPT-4 超強(qiáng)進(jìn)化,近萬人聯(lián)名封殺,白宮緊急開會(huì),ChatGPT 概念股暴跌

新智元 2023/4/6 11:45:03 責(zé)編:夢澤

最近,全世界都燃起一股圍剿 ChatGPT 的勢頭,除了業(yè)內(nèi)大佬,歐盟各國和白宮也紛紛出手。然而,恐怖的是,GPT-4 已經(jīng)悄悄擁有了自我進(jìn)化的能力。

GPT-5 的威脅,已經(jīng)黑云壓頂。

GPT-4 誕生后,AI 可能給人類社會(huì)造成的顛覆性影響,早已讓多位業(yè)內(nèi)大佬感到恐懼。

最近,似乎全世界都在圍剿 ChatGPT。

前一陣由馬斯克、圖靈獎(jiǎng)得主 Bengio 等大佬聯(lián)名發(fā)起的暫停高級 AI 研發(fā)的公開信,現(xiàn)在簽名已經(jīng)上升到 9000 多人。

緊接著,美國非營利組織人工智能與數(shù)字政策中心(CAIDP)也要求聯(lián)邦貿(mào)易委員會(huì)(FTC)調(diào)查 OpenAI 是否違反了消費(fèi)者保護(hù)規(guī)則,并禁止其進(jìn)一步發(fā)布 GPT-4。

而意大利直接全國上下封禁了 ChatGPT,只給 OpenAI 20 天的調(diào)整適應(yīng)期,拿不出合格的方案,就得交最高 2000 萬歐元的罰款。

封殺 ChatGPT 狂潮席卷全球

有趣的是,自從意大利開了這個(gè)頭之后,其他一些國家也躍躍欲試,準(zhǔn)備要對 ChatGPT 開刀。

法國和愛爾蘭的隱私監(jiān)管機(jī)構(gòu),已經(jīng)聯(lián)系了他們的意大利同行,希望得到更多關(guān)于調(diào)查的詳細(xì)資料。

德國聯(lián)邦數(shù)據(jù)保護(hù)專員 Ulrich Kelber 表示:「從原則上講,德國也有可能采取類似的程序。」

此外,歐盟也提出草案,計(jì)劃將 ChatGPT 視為高風(fēng)險(xiǎn)的 AI 系統(tǒng)進(jìn)行監(jiān)管。

美國也出手了

而就在今天,美國總統(tǒng)拜登也在白宮與科技顧問開了會(huì),討論了 AI 給人類、社會(huì)和國家安全帶來的風(fēng)險(xiǎn)和機(jī)遇。

據(jù)路透社報(bào)道,在總統(tǒng)科學(xué)技術(shù)顧問委員會(huì) (PCAST) 會(huì)議中,拜登強(qiáng)調(diào),「在我看來,科技公司有責(zé)任確保他們的產(chǎn)品在公開之前是安全的。」

而在被問及 AI 是否危險(xiǎn)時(shí),他說,「還有待觀察,有這種可能性?!?/p>

拜登表示,強(qiáng)大技術(shù)在沒有保護(hù)措施的情況下會(huì)造成哪些危害,在社交媒體上已經(jīng)很明顯了。

「因?yàn)槿狈ΡU洗胧?,我們看到技術(shù)影響了人們的心理健康,讓他們對自我形象產(chǎn)生了自卑和絕望,這種影響在年輕人中尤為明顯?!?/p>

他再次呼吁國會(huì)通過兩黨隱私立法,限制科技公司收集的個(gè)人數(shù)據(jù),禁止針對青少年的廣告,并在產(chǎn)品開發(fā)中優(yōu)先考慮健康和安全。

受此消息影響,在拜登召開這次會(huì)議之前,AI 公司的股價(jià)均出現(xiàn)大幅下跌。

ChatGPT 概念股 C3.ai 的股價(jià)持續(xù)走低,收跌 26.34% 報(bào) 24.95 美元,市值 28 億美元,創(chuàng)該股上市以來最大日內(nèi)跌幅。

而此前,自微軟宣布與 OpenAI 建立數(shù)十億美元的合作關(guān)系以來,C3.ai 與 AI 領(lǐng)域的許多公司一樣,已經(jīng)成為華爾街近期最熱門的公司之一,今年以來 C3.ai 的股價(jià)已經(jīng)上漲了超過 130%。

蓋茨:暫停 AI 研發(fā)無法「解決挑戰(zhàn)」

當(dāng)?shù)貢r(shí)間 4 月 3 日,蓋茨接受路透的采訪時(shí)公開談?wù)摿饲麑<液炇鸬墓_信,

呼吁暫停人工智能開發(fā)不會(huì)「解決挑戰(zhàn)」,最好是把注意力放在如何最好地利用人工智能的發(fā)展上,很難理解在全球范圍內(nèi)暫停 AI 研發(fā)將如何實(shí)現(xiàn)。

他繼續(xù)表示,我不認(rèn)為要求某個(gè)特定群體暫停工作就能解決挑戰(zhàn)。顯然,這些東西有巨大的好處??????我們需要做的是確定棘手的領(lǐng)域。

蓋茨是人工智能的堅(jiān)定支持者。

3 月 21 日,也就是發(fā)起聯(lián)名公開信的前一天,蓋茨曾發(fā)表了一篇「人工智能時(shí)代已經(jīng)開始」的博客文章。

其中提到了應(yīng)該利用人工智能來幫助減少世界上一些最嚴(yán)重的不平等現(xiàn)象。

他在博客中盛贊人工智能,「AI 時(shí)代已經(jīng)開啟,人工智能革命重要程度不亞于手機(jī)和互聯(lián)網(wǎng)的誕生,這是其一生中唯二的革命性技術(shù)進(jìn)步?!?/p>

目前為止,微軟已經(jīng)向 OpenAI 投資了數(shù)十億美元。OpenAI 正在為微軟必應(yīng)、Edge、Microsoft 365 和其他產(chǎn)品構(gòu)建 AI 技術(shù)。

在接受采訪時(shí),蓋茨質(zhì)疑暫停 AI 開發(fā)的可行性,想知道如何實(shí)施。

「任何暫停的細(xì)節(jié)都會(huì)很復(fù)雜,難以執(zhí)行。我不太明白,他們說的哪些人可能停止,世界上每個(gè)國家是否都會(huì)同意停止,以及為什么要停止,在這個(gè)領(lǐng)域會(huì)有很多不同的意見?!?/p>

GPT-4 學(xué)會(huì)「自我反思」,性能大漲 30%

但是,即使全世界都對超級 AI 如臨大敵,想趕緊懸崖勒馬,恐怕也為時(shí)已晚。

因?yàn)?,如今?AI,已經(jīng)學(xué)會(huì)自我進(jìn)化了!

有證據(jù)表明:GPT-4,正在改進(jìn)自己!

前段時(shí)間,前谷歌大腦研究工程師 Eric Jang 發(fā)現(xiàn)令人瘋的一點(diǎn):GPT-4 能夠以合理的方式批評自己的成果。

與其為大型語言模型(LLM)尋找完美的提示(讓我們一步一步思考),不如讓 LLM 評估自己的輸出并立即糾正自己的錯(cuò)誤。

甚至連特斯拉前 AI 總監(jiān),OpenAI 研究科學(xué)家 Andrej Karpathy 大贊,這是一個(gè)很好的例子,說明我們還沒有看到 GPT-4 的最大能力。

在 Eric Jang 給出的例子中,曾看到微軟研究員發(fā)推說 GPT-4 根本無法寫出「不押韻」的詩歌。

然而,當(dāng)再去詢問 GPT-4 是否完成了任務(wù)。這時(shí),它道歉后,生成了一個(gè)不押韻的詩!可以說是滿分。

這恰恰印證了 GPT-4 是有「反思」能力的。

最近,來自美國東北大學(xué)、MIT 等機(jī)構(gòu)研究者提出了 Reflexion。這一方法賦予智能體動(dòng)態(tài)記憶,以及自我反思的能力。

論文地址:https://arxiv.org/ abs / 2303.11366

為了驗(yàn)證方法的有效性,研究人員評估了智能體在 AlfWorld 環(huán)境中完成決策任務(wù)的能力,以及在 HotPotQA 環(huán)境中完成知識密集型、基于搜索問答任務(wù)的能力。

在這兩項(xiàng)任務(wù)的成功率分別為 97% 和 51%。

Reflexion 智能體的整體架構(gòu)

有網(wǎng)友便表示,你可以通過要求 GPT-4 反思「你為什么錯(cuò)了?」,并為自己生成一個(gè)新的提示,將這個(gè)錯(cuò)誤原因考慮在內(nèi),直到結(jié)果正確,從而將 GPT-4 的性能提高驚人的 30%。

另外,論文指出,在測試模型編寫代碼的能力時(shí),Reflexion+GPT-4 也顯著優(yōu)于常規(guī)的 GPT-4。

這樣看來,就像 Eric Jang 所說,

我們現(xiàn)在可以考慮一種「后綴提示工程」,而不是巧妙的「前綴提示工程」。這將鼓勵(lì) LLM 在先前生成的解決方案中找到更正和不一致的地方。

ChatGPT 長「手」了

如果說 GPT-4 能夠反思,有了大腦,就已經(jīng)夠可怕的了,而現(xiàn)在,ChatGPT 還有了「手」,不僅能夠用工具,還可以用模型。

在 ChatGPT 還未上線「插件」功能前,Meta 研究人員曾在 2 月份拋出一篇新論文 Toolformer,直接瞄準(zhǔn) ChatGPT 的「軟肋」,讓大語言模型自行學(xué)會(huì)使用工具。

論文地址:https://arxiv.org/ abs / 2302.04761

按照 Meta 的思路,像 ChatGPT 這樣的大語言模型可以缺啥補(bǔ)啥。

比如不會(huì)算數(shù),就拿出計(jì)算器;需要最新信息,就自己連接搜索引擎搜索;甚至可以直接把想翻譯的內(nèi)容丟給它。

論文一出瞬間爆火,許多 AI 研究者表示,這篇論文為人們打開了思路,讓大語言模型未來可以成為所有事情的起點(diǎn)。

同樣,最近浙大和微軟亞研院新出的論文「賈維斯」HuggingGPT 在業(yè)界引起很大的關(guān)注。

論文地址:https://arxiv.org/ abs / 2303.17580

論文中,研究者提出的 HuggingGPT 利用 ChatGPT 作為控制器,連接 HuggingFace 社區(qū)中的各種 AI 模型,來完成多模態(tài)等各種復(fù)雜任務(wù)。

有網(wǎng)友表示,我強(qiáng)烈懷疑第一個(gè)通用人工智能(AGI)的出現(xiàn)將比預(yù)期更早。它將依靠「膠水」AI,能夠智能地將一系列狹義人工智能和實(shí)用工具粘合在一起。

自動(dòng)寫代碼

最近,一位開發(fā)者做了一個(gè)能讓 GPT-4 自動(dòng)生成代碼的項(xiàng)目 ——Auto-GPT。

甚至還可以執(zhí)行代碼。在后續(xù)改進(jìn)中,Auto-GPT 可以使用 GPT-4 編寫代碼,并執(zhí)行 Python 腳本。這使得它能夠遞歸調(diào)試、開發(fā)并自我改進(jìn)...

Auto-GPT 讓人們更進(jìn)一步了解到 GPT-4 強(qiáng)大能力,甚至有網(wǎng)友做了一張梗圖:

Andrej Karpathy 表示,在我看來,提示工程的下一個(gè)前沿領(lǐng)域是「AutoGPT」。一個(gè) GPT 調(diào)用就像計(jì)算機(jī)上的一個(gè)指令。它們可以被串聯(lián)成程序中。使用提示來定義 I / O 設(shè)備和工具規(guī)格,定義認(rèn)知循環(huán),在上下文中分頁數(shù)據(jù)輸入和輸出,然后運(yùn)行。

網(wǎng)友:奇點(diǎn)來了

有網(wǎng)友稱,這基本上就是奇點(diǎn)的定義。

一個(gè)能夠自我改進(jìn)的 AI,現(xiàn)在唯一需要的就是使其能夠修改模型的代碼,并自主訓(xùn)練(通過瀏覽互聯(lián)網(wǎng)并自行標(biāo)記所有內(nèi)容)。

甚至有的網(wǎng)友認(rèn)為,技術(shù)的飛速進(jìn)步,讓我們已經(jīng)到了無法回頭的地步。到 2025 年,這個(gè)世界將會(huì)發(fā)生翻天覆地的變化,無論是好還是壞。

從錯(cuò)誤中學(xué)習(xí),是智力的基礎(chǔ)。

如此看來,GPT-4 打敗自己,想要成為超級 AI。

而根據(jù)某大佬的最新消息,OpenAI 非常清楚,最近他們 AI 產(chǎn)品的快速迭代引起了極度強(qiáng)烈的反響,而他們也歡迎公眾的監(jiān)督。

其負(fù)責(zé)人表示,目前 risk per token 還沒到臨界點(diǎn),所以 GPT 的濫用還造不成太大的傷害。而 AI 對齊的路線圖,即將在幾個(gè)月內(nèi)發(fā)布。

參考資料:

  • https://www.youtube.com/watch?v=5SgJKZLBrmg

  • https://www.reuters.com/technology/bill-gates-says-calls-pause-ai-wont-solve-challenges-2023-04-04/

  • https://www.reuters.com/technology/biden-discuss-risks-ai-tuesday-meeting-with-science-advisers-2023-04-04/

  • https://www.reuters.com/technology/biden-discuss-risks-ai-tuesday-meeting-with-science-advisers-2023-04-04/

  • https://www.cnbc.com/2023/04/04/italy-has-banned-chatgpt-heres-what-other-countries-are-doing.html

  • https://biz.crast.net/bill-gates-weighs-in-on-proposed-ai-pause-wont-solve-challenges/

本文來自微信公眾號:新智元 (ID:AI_era)

廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。

相關(guān)文章

關(guān)鍵詞:人工智能ChatGPT

軟媒旗下網(wǎng)站: IT之家 最會(huì)買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機(jī)APP應(yīng)用 魔方 最會(huì)買 要知