剛剛發(fā)布了一封信，要求暫停大型 AI 實(shí)驗(yàn)。
科技行業(yè)的一些知名人士，如 Elon Musk、Steve Wozniak 和 Jaan Tallinn 簽署了一封上周二發(fā)表的“暫停巨型 AI 實(shí)驗(yàn)”的公開(kāi)信。
這封信由未來(lái)生命研究所發(fā)布，呼吁所有人工智能實(shí)驗(yàn)室立即暫停至少 6 個(gè)月的訓(xùn)練，以訓(xùn)練比 GPT-4 更強(qiáng)大的人工智能系統(tǒng)。
1.“先進(jìn)的人工智能可能代表地球生命史上的深刻變化”
2022 年 11 月發(fā)布的 ChatGPT 引發(fā)了一場(chǎng)人工智能競(jìng)賽。最近谷歌推出了 Bard，發(fā)布了很多 AI 工具，甚至升級(jí)了 GPT 模型（比預(yù)期的要早）。
現(xiàn)在似乎存在部署更好的人工智能技術(shù)的壓力。
微軟副總裁泄露的一段錄音可能表明：來(lái)自 [CTO] Kevin [Scott] 和 [CEO] Satya [Nadella] 的壓力非常非常大，要求采用這些最新的 OpenAI 模型以及緊隨其后的模型和以非常高的速度將它們送到客戶(hù)手中。
這場(chǎng) AI 競(jìng)賽違背了Asilomar AI 原則，該原則指出“應(yīng)該以相稱(chēng)的關(guān)懷和資源來(lái)規(guī)劃和管理 AI”。
不幸的是，隨著微軟解雇了教導(dǎo)員工如何負(fù)責(zé)任地制作人工智能工具的團(tuán)隊(duì)，情況看起來(lái)并不好。盡管微軟仍然保持著一個(gè)活躍的負(fù)責(zé)任人工智能辦公室，但員工表示，道德和社會(huì)團(tuán)隊(duì)確保公司負(fù)責(zé)任的人工智能原則實(shí)際反映在所交付產(chǎn)品的設(shè)計(jì)中。
但 AI 競(jìng)賽并非微軟和谷歌等大型科技公司獨(dú)有，最近，越來(lái)越多的公司正試圖將 AI 集成到他們的產(chǎn)品中。
不管你的產(chǎn)品是什么，它都需要人工智能。
正如許多技術(shù)領(lǐng)導(dǎo)者簽署的信中所說(shuō)，人工智能實(shí)驗(yàn)室似乎已經(jīng)鎖定了一場(chǎng)部署強(qiáng)大數(shù)字思維的競(jìng)賽，即使是他們的創(chuàng)造者也無(wú)法理解、預(yù)測(cè)或可靠控制。
2.“我們應(yīng)該把所有的工作都自動(dòng)化掉，包括有成就感的工作嗎？”
人工智能系統(tǒng)可能會(huì)威脅到未來(lái)的許多工作。事實(shí)上，OpenAI 最近的一項(xiàng)研究可能會(huì)讓我們很好地了解哪些工作可能很快會(huì)被人工智能取代。
但這并不是工作所獨(dú)有的。未來(lái)生命研究所的恐懼在于人工智能系統(tǒng)現(xiàn)在如何在一般任務(wù)上變得具有人類(lèi)競(jìng)爭(zhēng)力。
在信中，他們鼓勵(lì)我們問(wèn)自己以下問(wèn)題：
我們應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道嗎？
我們應(yīng)該自動(dòng)化所有的工作，包括令人滿(mǎn)意的工作嗎？
我們是否應(yīng)該發(fā)展最終可能超過(guò)我們、超越我們、過(guò)時(shí)并取代我們的非人類(lèi)思維？
我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？
顯然，我們不應(yīng)該。
我們必須控制我們開(kāi)發(fā)的技術(shù)。問(wèn)題是目前，這不取決于我們。人工智能如何發(fā)展的決定權(quán)委托給一小群技術(shù)領(lǐng)導(dǎo)者。
在 OpenAI最近的一份聲明中，他們表示他們的使命是確保通用人工智能造福全人類(lèi)。為了兌現(xiàn)這一承諾，OpenAI 應(yīng)該在訓(xùn)練未來(lái)系統(tǒng)之前進(jìn)行獨(dú)立審查。不幸的是，目前還不清楚那一天何時(shí)到來(lái)。
越早為 AI 實(shí)驗(yàn)室制定公共標(biāo)準(zhǔn)和外部審計(jì)，我們就越能感受到新的 AI 進(jìn)步。
3.“讓我們享受一個(gè)漫長(zhǎng)的人工智能夏天，而不是毫無(wú)準(zhǔn)備地陷入秋天”
我們生活的 AI 夏天是由于像 ChatGPT 這樣的 AI 工具給我們的生活帶來(lái)的好處。也就是說(shuō)，如果我們不為更先進(jìn)的人工智能系統(tǒng)在未來(lái)可以做的事情做好準(zhǔn)備，那么我們所喜愛(ài)的人工智能技術(shù)可能會(huì)成為我們的最終垮臺(tái)。
在最近的一篇論文中，微軟聲稱(chēng)GPT-4 展示了通用人工智能(AGI) 的“火花”。對(duì)于那些不熟悉 AGI 的人來(lái)說(shuō)，這是理解或?qū)W習(xí)人類(lèi)可以完成的任何智力任務(wù)的能力。
那不應(yīng)該那么快發(fā)生。
盡管有人聲稱(chēng)AGI 一詞在論文中被用作點(diǎn)擊誘餌，但這仍然引發(fā)了一些不可避免的問(wèn)題。
如果 GPT-5 實(shí)際上展示的不僅僅是 AGI 的“火花”呢？
如果可以可靠地控制 GPT-5 會(huì)怎樣？
我們準(zhǔn)備好了嗎？
但愿如此。
我們只能確定一件事。如果以負(fù)責(zé)任的方式推動(dòng) AI 進(jìn)步，我們都將享受一個(gè)漫長(zhǎng)的 AI 夏天。否則，我們所有人（不僅是決策者）都將不得不面對(duì)后果。
我不確定這封信中要求的 6 個(gè)月暫停背后是否還有其他原因，但至少現(xiàn)在負(fù)責(zé)任的 AI 實(shí)踐話(huà)題已經(jīng)擺在桌面上了。
目前，由于需求量大，簽署方名單暫停。