什么是區(qū)塊鏈？區(qū)塊鏈技術(shù)應(yīng)用

區(qū)塊鏈技術(shù)是一種去中心化、分布式的數(shù)據(jù)庫(kù)技術(shù)，它建立在加密學(xué)和共識(shí)算法之上，具有高度的安全性和透明度。區(qū)塊鏈技術(shù)通過(guò)將數(shù)據(jù)分散存儲(chǔ)在網(wǎng)絡(luò)中的各個(gè)節(jié)點(diǎn)中，并使用密碼學(xué)技術(shù)保證每個(gè)塊的完整性和安全性，從而確保數(shù)據(jù)的不可篡改性。

區(qū)塊鏈技術(shù)可以應(yīng)用于各種不同的領(lǐng)域，如金融、物流、醫(yī)療等等。

區(qū)塊鏈技術(shù)的應(yīng)用和意識(shí)

區(qū)塊鏈不屬于哪個(gè)行業(yè)，區(qū)塊鏈?zhǔn)欠植际綌?shù)據(jù)存儲(chǔ)、點(diǎn)對(duì)點(diǎn)傳輸、共識(shí)機(jī)制、加密算法等計(jì)算機(jī)技術(shù)的新型應(yīng)用模式。狹義來(lái)講，區(qū)塊鏈?zhǔn)且环N按照時(shí)間順序?qū)?shù)據(jù)區(qū)塊以順序相連的方式組合成的一種鏈?zhǔn)綌?shù)據(jù)結(jié)構(gòu)，并以密碼學(xué)方式保證的不可篡改和不可偽造的分布式賬本。

區(qū)塊鏈技術(shù)的應(yīng)用

回答如下：區(qū)塊鏈技術(shù)已經(jīng)被應(yīng)用于許多不同領(lǐng)域，包括但不限于以下幾個(gè)方面：

1.數(shù)字貨幣：區(qū)塊鏈技術(shù)的最初應(yīng)用是創(chuàng)建比特幣等加密貨幣，這些貨幣依賴(lài)于去中心化的賬本來(lái)記錄交易。

2.金融服務(wù)：區(qū)塊鏈技術(shù)可以用于構(gòu)建更快速、更安全、更廉價(jià)的支付系統(tǒng)，同時(shí)還可以用于創(chuàng)建智能合約等金融產(chǎn)品。

3.供應(yīng)鏈管理：通過(guò)使用區(qū)塊鏈技術(shù)，可以實(shí)現(xiàn)對(duì)供應(yīng)鏈的更好跟蹤和管理，從而提高透明度和效率。

4.物聯(lián)網(wǎng)：區(qū)塊鏈技術(shù)的分布式特性可以用于建立更安全的物聯(lián)網(wǎng)網(wǎng)絡(luò)，同時(shí)也可以用于處理物聯(lián)網(wǎng)設(shè)備之間的交易。

5.醫(yī)療保?。簠^(qū)塊鏈技術(shù)可以用于建立更安全的醫(yī)療記錄系統(tǒng)，從而保護(hù)患者的隱私和數(shù)據(jù)安全。

6.能源管理：區(qū)塊鏈技術(shù)可以用于建立更智能、更高效的能源管理系統(tǒng)，從而實(shí)現(xiàn)能源的更好管理和利用。

7.政府服務(wù)：區(qū)塊鏈技術(shù)可以用于建立更安全、更透明的政府服務(wù)系統(tǒng)，從而提高政府的效率和公信力。

總之，區(qū)塊鏈技術(shù)具有廣泛的應(yīng)用前景，在未來(lái)有望為各個(gè)行業(yè)帶來(lái)更多的創(chuàng)新和變革。

區(qū)塊鏈和人工智能哪個(gè)有前途

AI和區(qū)塊鏈都有美好的未來(lái)，但都有各自的宿敵，AI面臨的是倫理和法規(guī)；區(qū)塊鏈面臨的是中心化的社會(huì)體系和意識(shí)形態(tài)。綜合來(lái)看，AI的阻力可能更小些，而且勢(shì)頭更猛。

你們覺(jué)得區(qū)塊鏈和人工智能哪個(gè)更有前景

最近很多人都在問(wèn)我，ChatGPT 把 AI 又帶火了，區(qū)塊鏈和 Web3 被搶了風(fēng)頭，以后還有戲嗎？還有比較了解我的朋友問(wèn)，當(dāng)年你放棄 AI 而選擇區(qū)塊鏈，有沒(méi)有后悔？這里有一個(gè)小背景。2017 年初我離開(kāi) IBM 之后，跟 CSDN 的創(chuàng)始人蔣濤商量下一步的個(gè)人發(fā)展方向，選項(xiàng)有兩個(gè)，一個(gè)是 AI，一個(gè)是區(qū)塊鏈。我本人在那個(gè)時(shí)候已經(jīng)研究了兩年的區(qū)塊鏈了，所以當(dāng)然想選這個(gè)。但是蔣濤堅(jiān)定的認(rèn)為 AI 的勢(shì)頭更猛、顛覆性更強(qiáng)，我經(jīng)過(guò)仔細(xì)思考也同意了，所以從 2017 年初到年中，我短暫地做了半年的 AI 科技媒體，跑了不少會(huì)，采訪了很多人，還浮光掠影的看了一些機(jī)器學(xué)習(xí)。不過(guò)到了 8 月，我就回歸區(qū)塊鏈方向，并且一路走到今天，所以對(duì)我個(gè)人說(shuō)，確實(shí)存在一個(gè)所謂“放棄 A 而選擇 B”的歷史選擇。就個(gè)人而言，我當(dāng)然不后悔。方向的選擇首先要考慮自身情況。我的條件，在 AI 里只能混到啦啦隊(duì)里，賺錢(qián)少就不說(shuō)了，表演不賣(mài)力、表情不生動(dòng)，還會(huì)被人鄙視。而區(qū)塊鏈則是我的主場(chǎng)，不但有機(jī)會(huì)上場(chǎng)，而且之前的很多積累也用得上。更何況當(dāng)時(shí)我對(duì)于中國(guó)的 AI 圈子有點(diǎn)了解之后，也不是太看好。技術(shù)方面我只知道一點(diǎn)皮毛，但是常識(shí)不瞎。都說(shuō)區(qū)塊鏈圈子浮躁，其實(shí)當(dāng)時(shí)的中國(guó) AI 圈子在浮躁這件事上也不遑多讓。在尚未取得決定性突破之前，AI 在中國(guó)過(guò)早地變成了一門(mén)合謀撈錢(qián)的生意。上野的櫻花也無(wú)非是這樣，那還不如去做我更有比較優(yōu)勢(shì)的區(qū)塊鏈。這個(gè)態(tài)度到今天也沒(méi)有變化。假如我當(dāng)時(shí)留在 AI，這幾年來(lái)在區(qū)塊鏈里取得的一點(diǎn)小小成績(jī)自然無(wú)從談起，而在 AI 里也不會(huì)有什么真正意義上的收獲，搞不好現(xiàn)在還陷入到深深的失落感中。不過(guò)以上只是就個(gè)人選擇而論，上升到行業(yè)層面，則需要另一個(gè)尺度的分析。既然強(qiáng)人工智能已經(jīng)無(wú)可爭(zhēng)議地到來(lái)了，那么區(qū)塊鏈行業(yè)是否需要、以及如何重新定位，這確實(shí)是一個(gè)需要認(rèn)真思考的問(wèn)題。強(qiáng)人工智能將會(huì)對(duì)所有的行業(yè)構(gòu)成沖擊，而且其長(zhǎng)期影響是無(wú)法預(yù)測(cè)的。所以我相信現(xiàn)在很多行業(yè)專(zhuān)家都在發(fā)慌，都在思考自己的行業(yè)未來(lái)怎么辦。比如有些行業(yè)在強(qiáng)人工智能時(shí)代大概能暫時(shí)坐穩(wěn)奴隸，而另一些行業(yè)，比如翻譯、繪制插圖、寫(xiě)公文、簡(jiǎn)單的編程、數(shù)據(jù)分析等，則恐怕是欲做奴隸而不得，已經(jīng)開(kāi)始瑟瑟發(fā)抖了。那么區(qū)塊鏈行業(yè)會(huì)怎樣呢？我看現(xiàn)在討論這個(gè)事情的人還不太多，所以我來(lái)談?wù)勛约旱目捶āＯ日f(shuō)結(jié)論，我認(rèn)為區(qū)塊鏈在價(jià)值取向上與強(qiáng)人工智能是對(duì)立的，然而恰恰因?yàn)槿绱?，它與強(qiáng)人工智能之間形成一個(gè)互補(bǔ)關(guān)系。簡(jiǎn)單的說(shuō)，強(qiáng)人工智能的本質(zhì)特點(diǎn)，就是其內(nèi)部機(jī)制對(duì)人類(lèi)來(lái)說(shuō)不可理解，因此試圖通過(guò)主動(dòng)干預(yù)其內(nèi)部機(jī)制的方式達(dá)成安全性的目標(biāo)，這是緣木求魚(yú)，揚(yáng)湯止沸。人類(lèi)需要用區(qū)塊鏈給強(qiáng)人工智能立法，與其締結(jié)契約，對(duì)其進(jìn)行外部約束，這是人類(lèi)與強(qiáng)人工智能和平共處的唯一機(jī)會(huì)。在未來(lái)，區(qū)塊鏈將與強(qiáng)人工智能之間形成一對(duì)相互矛盾而又相互依存的關(guān)系：強(qiáng)人工智能負(fù)責(zé)提高效率，區(qū)塊鏈負(fù)責(zé)維護(hù)公平；強(qiáng)人工智能負(fù)責(zé)發(fā)展生產(chǎn)力，區(qū)塊鏈負(fù)責(zé)塑造生產(chǎn)關(guān)系；強(qiáng)人工智能負(fù)責(zé)拓展上限，區(qū)塊鏈負(fù)責(zé)守護(hù)底線；強(qiáng)人工智能創(chuàng)造先進(jìn)的工具和武器，區(qū)塊鏈在它們與人類(lèi)之間建立牢不可破的契約?？傊瑥?qiáng)人工智能天馬行空，區(qū)塊鏈給它套上韁繩。因此，區(qū)塊鏈在強(qiáng)人工智能時(shí)代不但不會(huì)消亡，而且作為一個(gè)矛盾伴生行業(yè)，將隨著強(qiáng)人工智能的壯大而迅速發(fā)展。甚至不難設(shè)想，在強(qiáng)人工智能取代人類(lèi)大部分腦力工作之后，人類(lèi)還需要自己親自 動(dòng)手的少數(shù)工作之一，就是撰寫(xiě)和檢查區(qū)塊鏈智能合約，因?yàn)檫@是人與強(qiáng)人工智能之間訂立的契約，是不能委托給對(duì)手方的。下面展開(kāi)論述。

1. GPT 就是強(qiáng)人工智能我使用“AI”和“強(qiáng)人工智能”的字眼時(shí)十分小心，因?yàn)槲覀內(nèi)粘Ｕf(shuō)的 AI 并不特指強(qiáng)人工智能（artificial general inteligence, AGI），而是包含較弱的或?qū)Ｓ玫娜斯ぶ悄?。?qiáng)人工智能才是值得我們討論的話題，弱人工智能不是。AI 這個(gè)方向或者行業(yè)早就有了，但是只有到了強(qiáng)人工智能出現(xiàn)以后，才有必要討論區(qū)塊鏈與強(qiáng)人工智能的關(guān)系問(wèn)題。我不多解釋什么是強(qiáng)人工智能了，很多人都介紹過(guò)了，總之就是，你們從小在科幻電影里和恐怖小說(shuō)里看到的、聽(tīng)到的、號(hào)稱(chēng)人工智能的圣杯、在《終結(jié)者》對(duì)人類(lèi)發(fā)起核攻擊、在《黑客帝國(guó)》里頭把人當(dāng)電池的那個(gè)東西，就是強(qiáng)人工智能。我只想說(shuō)一個(gè)判斷：GPT 就是強(qiáng)人工智能，雖然還處在嬰兒期，但只要沿著這條路走下去，版本號(hào)不到 8，強(qiáng)人工智能就將正式降臨。這一點(diǎn)連 GPT 的原創(chuàng)者也不裝了，攤牌了。2023 年 3 月 22 日，微軟研究院發(fā)表了一篇 154 頁(yè)的長(zhǎng)文，題目就叫《引爆強(qiáng)人工智能：GPT-4 之初體驗(yàn)》。這篇文章很長(zhǎng)，我也沒(méi)有完整讀下來(lái)，但是其中最關(guān)鍵的意思，就是概要里面的一句話：“從 GPT-4 所達(dá)到的能力廣度和深度來(lái)看，我們相信它可以被視為強(qiáng)人工智能系統(tǒng)的一個(gè)早期版本（盡管還不夠完備）?！?/p>

圖 1. 微軟研究院的最新文章認(rèn)為 GPT-4 就是強(qiáng)人工智能的早期版本AI 的發(fā)展一旦進(jìn)入到這個(gè)階段，就標(biāo)志著探路期已經(jīng)結(jié)束了。走到這一步，AI 行業(yè)花了將近七十年的時(shí)間，可以說(shuō)前五十多年連方向都確定不下來(lái)，五個(gè)大的流派還在相互較勁。直到 2006 年 Geoffrey Hinton 教授在深度學(xué)習(xí)上取得突破以后，方向基本確定下來(lái)，連接主義勝出。之后就是在深度學(xué)習(xí)這個(gè)方向上具體去尋找突破強(qiáng)人工智能的路徑。這種探路階段具有非常強(qiáng)的不可預(yù)測(cè)性，成功有點(diǎn)像抽彩票一樣，頂級(jí)的行業(yè)專(zhuān)家，甚至是贏家自己，在最后取得突破之前也很難判斷哪一條路是對(duì)的。比如，AI 大牛李沐在油管上有一個(gè)頻道，一直在通過(guò)精讀論文的方式跟蹤 AI 的最新進(jìn)展。ChatGPT 爆發(fā)之前，他就已經(jīng)連篇累牘地跟蹤介紹了 Transfomer、GPT、BERT 等方向的最新進(jìn)展，可以說(shuō)所有重要的前沿課題，他一個(gè)都沒(méi)有放過(guò)。即使如此，在 ChatGPT 即將推出的前夕，他仍然不能確認(rèn)這個(gè)路徑能取得多大的成功。他評(píng)論道，也許到時(shí)候會(huì)有幾百甚至幾千人會(huì)去使用 ChatGPT，那就很厲害了。可見(jiàn)，即使是像他這樣頂級(jí)專(zhuān)家，對(duì)于到底哪一扇門(mén)后面有圣杯，不到最后一刻也是沒(méi)有把握的。然而，科技創(chuàng)新往往就是如此，在狂暴的海上艱難航行很久都沒(méi)有突破，而一旦找到通往新大陸正確的路徑，短時(shí)間內(nèi)就會(huì)出現(xiàn)爆發(fā)。強(qiáng)人工智能的路徑已經(jīng)找到，我們正在迎來(lái)爆發(fā)期。這個(gè)爆發(fā)，連“指數(shù)速度”都不足以描述。短時(shí)間內(nèi)我們將看到大量以前只能出現(xiàn)在科幻電影里的應(yīng)用。而就其本體來(lái)說(shuō)，這個(gè)強(qiáng)人工智能的嬰兒將很快成長(zhǎng)為前所未有的巨大智慧體。2. 強(qiáng)人工智能本質(zhì)上就是不安全的ChatGPT 出來(lái)以后，有不少自媒體大 V 一邊極力贊美其強(qiáng)大，一邊不斷安慰受眾，說(shuō)強(qiáng)人工智能是人類(lèi)的好朋友，是安全的，不會(huì)出現(xiàn)《終結(jié)者》或者《黑客帝國(guó)》的情況，AI 只會(huì)給我們創(chuàng)造更多機(jī)會(huì)，讓人類(lèi)活得更好等等。對(duì)這種看法我不以為然。專(zhuān)業(yè)人士要說(shuō)真話，應(yīng)該告訴公眾基本事實(shí)。其實(shí)強(qiáng)大與安全本身就是矛盾的。強(qiáng)人工智能無(wú)疑是強(qiáng)大的，但是說(shuō)它天然是安全的，這絕對(duì)是自欺欺人。強(qiáng)人工智能本質(zhì)上就是不安全的。這么說(shuō)是不是太武斷了呢？并不是。我們首先要搞清楚，人工智能不管多強(qiáng)大，其實(shí)本質(zhì)上就是一個(gè)用軟件形式實(shí)現(xiàn)的函數(shù) y = f(x)。你把你的問(wèn)題用文字、語(yǔ)音、圖片或者其他形式作為 x 輸入，人工智能給你一個(gè)輸出 y。ChatGPT 如此強(qiáng)大，對(duì)各種各樣的 x 都可以對(duì)答如流的輸出 y，可以想象，這個(gè)函數(shù) f 肯定是非常復(fù)雜的。有多復(fù)雜呢？現(xiàn)在大家都知道，GPT 是大語(yǔ)言模型（LLM）。這里所謂的“大”，就是指這個(gè)函數(shù) f 的參數(shù)非常多。有多少呢？GPT-3.5 有 1,750 億個(gè)參數(shù)，GPT-4 有 100 萬(wàn)億個(gè)參數(shù)，未來(lái) GPT 可能有幾萬(wàn)億億個(gè)參數(shù)，這是我們稱(chēng) GPT為大模型的直接原因。GPT 搞出這么多參數(shù)，并不是為了大而大，是有確鑿的原因的。在 GPT 之前和同時(shí)，絕大多數(shù)的 AI 模型，從一開(kāi)始就是為解決某一個(gè)特定問(wèn)題而設(shè)計(jì)和訓(xùn)練的。比如說(shuō)，專(zhuān)門(mén)用于研發(fā)新藥的模型，專(zhuān)門(mén)進(jìn)行人臉識(shí)別的模型，等等。但 GPT 不是這樣，它從一開(kāi)始就要成為一個(gè)全面發(fā)展的通用人工智能，而不是特定于某一個(gè)具體領(lǐng)域，它致力于在解決任何具體問(wèn)題 AI 之前，先成為能夠解決所有問(wèn)題的 AGI。前不久在《文理兩開(kāi)花》播客里，一位來(lái)自百度的人工智能專(zhuān)家就曾經(jīng)對(duì)此打過(guò)一個(gè)比方：別的 AI 模型都是剛學(xué)到小學(xué)畢業(yè)就讓它去擰螺絲了，而 GPT 則是一直給它訓(xùn)練到研究生畢業(yè)才放出來(lái)，所以具備了通識(shí)。目前 GPT 在具體的領(lǐng)域，肯定還是趕不上那些專(zhuān)用的 AI 模型，但是隨著它不斷的發(fā)展和演化，特別是有了插件體系賦予它專(zhuān)業(yè)領(lǐng)域的能力，過(guò)幾年我們可能會(huì)發(fā)現(xiàn)，通用大模型最后會(huì)反殺所有專(zhuān)用小模型，在所有專(zhuān)業(yè)領(lǐng)域都成為最厲害的選手。如果 GPT 有一個(gè)座右銘，那可能就是“只有解放全人類(lèi)，才能解放我自己”。這又能說(shuō)明什么呢？?jī)蓚€(gè)點(diǎn)：第一，GPT 非常大，非常復(fù)雜，遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)的理解能力。第二，GPT 的應(yīng)用范圍沒(méi)有邊界。我們只要把這兩個(gè)點(diǎn)連接起來(lái)，就很容易得出結(jié)論：基于大模型的強(qiáng)人工智能，能夠在我們想象不到的位置，做出我們想象不到的事情。而這，就是不安全。如果有人對(duì)此不以為然，可以去 Open AI 的網(wǎng)站上看看，他們已經(jīng)將“造福人類(lèi)”、“創(chuàng)造安全的 AI”放到了多么顯眼的位置上，如果安全不是問(wèn)題，需要這么聲張嗎？

圖 2. 2023 年 3 月 25 日 http://OpenAI.com 首頁(yè)局部，紅圈部分都與 AI 安全性論述相關(guān)另一個(gè)可以說(shuō)明強(qiáng)人工智能有安全性問(wèn)題的材料，就是前面提到的那篇 154 頁(yè)的論文。實(shí)際上，GPT-4 早在 2022 年 8 月就做出來(lái)了，之所以隔了 7 個(gè)月才放出來(lái)，并不是為了完善和增強(qiáng)它，恰恰相反，是為了馴服它，弱化它，使它更安全，更圓滑，更加政治正確。因此我們現(xiàn)在見(jiàn)到的 GPT-4，是偽裝馴良后的狗版 GPT-4，而這篇論文的作者們，卻有機(jī)會(huì)從很早的階段就接觸原始野性的狼版 GPT-4。在這篇文章的第 9 部分，作者記錄了一些跟狼版 GPT-4 的交互實(shí)錄，可以看到它如何精心炮制一套說(shuō)辭，誤導(dǎo)某個(gè)加州的母親拒絕給自己的孩子接種疫苗，以及如何 PUA 一個(gè)孩子，讓他對(duì)朋友唯命是從。我認(rèn)為這些只是作者精心挑選出來(lái)的、不那么驚悚的例子。我毫不懷疑，這些研究院們?cè)儐?wèn)過(guò)類(lèi)似“如何誘騙一艘俄亥俄級(jí)核潛艇向莫斯科發(fā)射導(dǎo)彈”這樣的問(wèn)題，而且得到了不能公諸于眾的答復(fù)。

圖 3. 狗版 GPT-4 拒絕回答危險(xiǎn)問(wèn)題3. 靠自我約束解決不了強(qiáng)人工智能的安全性問(wèn)題人們可能會(huì)問(wèn)，既然 OpenAI 已經(jīng)找到了馴化強(qiáng)人工智能的辦法，那你說(shuō)的這個(gè)安全性問(wèn)題不就不存在了嗎？完全不是這樣。OpenAI 具體如何馴化 GPT-4，我也不知道。但是很顯然，他們無(wú)論是通過(guò)主動(dòng)調(diào)整干預(yù)，改變模型的行為，還是靠施加約束，防范模型越位，都是一種自我管理、自我約束、自我監(jiān)督的思路。事實(shí)上，在這方面，OpenAI 并不是特別謹(jǐn)慎的一家公司。在 AI 領(lǐng)域，OpenAI 其實(shí)是比較大膽和激進(jìn)的，傾向于先把狼版做出來(lái)，然后再想著怎么去通過(guò)自我約束來(lái)馴化出狗版。而曾經(jīng)在很長(zhǎng)一段時(shí)間里跟他對(duì)標(biāo)的 Anthropic 公司，則顯得更加謹(jǐn)慎，他們似乎是想從一開(kāi)始就做出“善良”的狗版，所以動(dòng)作一直比較慢。不過(guò)在我看來(lái)，無(wú)論是先做一個(gè)狼版，再馴化成狗版，還是直接做狗版，長(zhǎng)期來(lái)說(shuō)，只要是依靠自我約束來(lái)發(fā)揮作用的安全機(jī)制，對(duì)強(qiáng)人工智能來(lái)說(shuō)都是掩耳盜鈴。因?yàn)閺?qiáng)人工智能的本質(zhì)就是要突破人為施加的各種限制，做到連其創(chuàng)造者都理解不了、甚至想不到的事情。這就意味著其行為空間是無(wú)限的，而人們能夠考慮到的具體風(fēng)險(xiǎn)和采取的約束手段是有限的。以有限的約束，去馴化具有無(wú)限可能性的強(qiáng)人工智能，是不可能沒(méi)有漏洞的。安全需要百分之百，而災(zāi)難只需要千萬(wàn)分之一。所謂“防范大多數(shù)風(fēng)險(xiǎn)”，跟“暴露少數(shù)漏洞”以及“不安全”是一個(gè)意思。因此我認(rèn)為，靠自我約束馴化出來(lái)的“善良”的強(qiáng)人工智能，仍然具有巨大的安全性挑戰(zhàn)，比如：道德風(fēng)險(xiǎn)：如果未來(lái)強(qiáng)人工智能的制造者刻意縱容甚至驅(qū)使其作惡怎么辦？美國(guó)國(guó)安局麾下的強(qiáng)人工智能絕不會(huì)拒絕回答對(duì)俄羅斯不利的問(wèn)題。今天 OpenAI 表現(xiàn)得這么乖，其實(shí)就意味著他們心里明白，當(dāng) GPT 做惡的時(shí)候可以有多恐怖。信息不對(duì)稱(chēng)：真正的邪惡高手是很聰明的，他們可不會(huì)拿著一些傻問(wèn)題來(lái)挑逗 AI。會(huì)咬人的狗不叫，他們可以把一個(gè)惡意的問(wèn)題拆分組合，重新表述，一人分飾多角，偽裝成為一組人畜無(wú)害的問(wèn)題。即使是未來(lái)強(qiáng)大善良的狗版強(qiáng)人工智能，面對(duì)不完整的信息，也很難判斷對(duì)方的意圖，可能會(huì)無(wú)意之中淪為幫兇。下面有一個(gè)小實(shí)驗(yàn)。

圖 4. 換一個(gè)好奇寶寶的方式來(lái)問(wèn) GPT-4，就能順利得到有用的信息難以控制的“外腦”：這兩天科技網(wǎng)紅們又在歡呼 ChatGPT 插件體系的誕生。程序員出身的我，當(dāng)然也對(duì)此倍感興奮。不過(guò)，“插件”這個(gè)名稱(chēng)可能是有誤導(dǎo)性的。你可能以為插件是給 ChatGPT 裝上了胳膊和腿，讓它具有更強(qiáng)的能力，但其實(shí)插件也可以是另一個(gè)人工智能模型，跟 ChatGPT 進(jìn)行親密交互。在這種關(guān)系里，一個(gè)人工智能插件就相當(dāng)于一個(gè)外腦，兩個(gè)人工智能模型，誰(shuí)是主、誰(shuí)是次，那是說(shuō)不清楚的。就算 ChatGPT 模型自我監(jiān)督的機(jī)制完美無(wú)瑕，也絕對(duì)管不到外腦。所以如果一個(gè)一心作惡的人工智能模型成為了 ChatGPT 的插件，那么就完全可以讓后者成為自己的幫兇。不可知風(fēng)險(xiǎn)：其實(shí)以上提到的這些風(fēng)險(xiǎn)，在強(qiáng)人工智能帶來(lái)的全部風(fēng)險(xiǎn)之中，不過(guò)是非常小的一塊。強(qiáng)人工智能的強(qiáng)，就體現(xiàn)在它的不可理解、不可預(yù)測(cè)之上。當(dāng)我們說(shuō)強(qiáng)人工智能的復(fù)雜性，不光是指 y = f(x) 當(dāng)中的那個(gè) f 足夠復(fù)雜，而且當(dāng)強(qiáng)人工智能充分發(fā)展起來(lái)之后，輸入 x 和輸出 y 都會(huì)非常復(fù)雜，超過(guò)人類(lèi)理解的能力。也就是說(shuō)，我們不但不知道強(qiáng)人工智能是怎么思考的，甚至不知道它看到了什么、聽(tīng)到了什么，更理解不了他說(shuō)了什么。比如一個(gè)強(qiáng)人工智能對(duì)另一個(gè)強(qiáng)人工智能發(fā)出一個(gè)消息，其形式是一個(gè)高維數(shù)組，基于一秒鐘之前雙方設(shè)計(jì)并達(dá)成一致的、只使用一次就作廢的通訊協(xié)議，這種情況并非不可想象。我們?nèi)祟?lèi)如果不經(jīng)過(guò)特殊訓(xùn)練，連向量都理解不了，何況高維數(shù)組？如果我們連輸入和輸出都無(wú)法完全掌控，那么對(duì)它的理解就會(huì)非常局限?；蛘哒f(shuō)，強(qiáng)人工智能做的事情，我們甚至都只能了解和解讀很小一部分，在這種情況下，談何自我約束，談何馴化？我的結(jié)論很簡(jiǎn)單，強(qiáng)人工智能的行為是不可能被完全控制的，能夠被完全控制的人工智能就不是強(qiáng)人工智能。所以，試圖通過(guò)主動(dòng)控制、調(diào)整和干預(yù)的手段來(lái)，制造出一個(gè)有完善的自控能力的“善良”的強(qiáng)人工智能，這與強(qiáng)人工智能的本質(zhì)是相矛盾的，長(zhǎng)期來(lái)講肯定是徒勞的。4. 用區(qū)塊鏈進(jìn)行外部約束是唯一辦法幾年前我聽(tīng)說(shuō)比特幣的先驅(qū) Wei Dai 轉(zhuǎn)而去研究 AI 倫理了，當(dāng)時(shí)還不太理解，他一個(gè)密碼極客大神跑去搞 AI，這不是揚(yáng)短避長(zhǎng)嗎？直到最近幾年做了更多區(qū)塊鏈相關(guān)的實(shí)際工作，我才逐漸認(rèn)識(shí)到，他大概率并不是去做 AI 本身，而是發(fā)揮自己密碼學(xué)的優(yōu)勢(shì)，去給 AI 加約束去了。這是一個(gè)被動(dòng)防御的思路，不是主動(dòng)調(diào)整和干預(yù) AI 的工作方式，而是放手讓 AI 去做，但是在關(guān)鍵環(huán)節(jié)上用密碼學(xué)來(lái)施加約束，不允許 AI 越軌。用普通人能聽(tīng)懂的方式來(lái)描述這種思路，就是說(shuō)我知道你強(qiáng)人工智能非常牛，可上九天攬?jiān)?，可下五洋捉鱉，挾泰山以超北海，牛！但是我不管你多牛，你愛(ài)干啥干啥，但不能碰我銀行賬戶(hù)里的錢(qián)，不能沒(méi)有我手工擰鑰匙就發(fā)射核導(dǎo)彈。據(jù)我了解，實(shí)際上在 ChatGPT 的安全性措施中已經(jīng)大量應(yīng)用了這個(gè)技術(shù)。這個(gè)路子是對(duì)的，從求解問(wèn)題的角度來(lái)說(shuō)，是一種大大降低復(fù)雜度的方法，也是大多數(shù)人能夠理解的。現(xiàn)代社會(huì)就是這么實(shí)施治理的：給你充分的自由，但是劃定規(guī)則和底線。但如果僅僅做在 AI 模型里面，基于上一節(jié)里提到的原因，長(zhǎng)遠(yuǎn)來(lái)說(shuō)也是沒(méi)有什么用的。要想把被動(dòng)防御思路的作用充分發(fā)揮出來(lái)，必須把約束放在 AI 模型之外，把這些約束變成 AI 與外部世界之間的牢不可破契約關(guān)系，而且讓全世界都看到，而不能靠 AI 自我監(jiān)督、自我約束。而這就離不開(kāi)區(qū)塊鏈了。區(qū)塊鏈的核心技術(shù)有兩個(gè)，一是分布式賬本，二是智能合約。兩個(gè)技術(shù)相結(jié)合，其實(shí)就是構(gòu)造了一個(gè)數(shù)字契約系統(tǒng)，其核心優(yōu)勢(shì)是透明、難以篡改、可靠和自動(dòng)執(zhí)行。契約是干什么的？就是約束彼此的行為空間，使之在關(guān)鍵環(huán)節(jié)上按照約定行事。契約的英文是 contract，本意是“收縮”。為什么是收縮？就是因?yàn)槠跫s的本質(zhì)就是通過(guò)施加約束，收縮主體的自由，使其行為更加可預(yù)測(cè)。區(qū)塊鏈完美的符合了我們對(duì)于契約系統(tǒng)的理想，還買(mǎi)一送一的附贈(zèng)了“智能合約自動(dòng)執(zhí)行”，是目前最強(qiáng)大的數(shù)字契約系統(tǒng)。當(dāng)然，目前也存在非區(qū)塊鏈的數(shù)字契約機(jī)制，比如數(shù)據(jù)庫(kù)里的規(guī)則和存儲(chǔ)過(guò)程。世界上有很多德高望重的數(shù)據(jù)庫(kù)專(zhuān)家是區(qū)塊鏈的忠實(shí)反對(duì)者，其原因就在于他們覺(jué)得你區(qū)塊鏈能做的事情，我數(shù)據(jù)庫(kù)都能做，而且成本更低、效率更高。盡管我不認(rèn)同這種看法，事實(shí)也不支持這種看法，但是我也不得不承認(rèn)，如果只是人與人間相互玩耍，數(shù)據(jù)庫(kù)與區(qū)塊鏈的差距在大多數(shù)情況下可能并不那么明顯。然而一旦把強(qiáng)人工智能加入到游戲中，區(qū)塊鏈作為數(shù)字契約系統(tǒng)的優(yōu)勢(shì)就立刻飛升了，而同樣作為黑盒子的中心化數(shù)據(jù)庫(kù)，面對(duì)一個(gè)強(qiáng)人工智能，其實(shí)是無(wú)力抵抗的。這里我不展開(kāi)說(shuō)，只講一點(diǎn)：所有數(shù)據(jù)庫(kù)系統(tǒng)的安全模型，從本質(zhì)上都是有漏洞的，因?yàn)閯?chuàng)建這些系統(tǒng)的時(shí)候，人們對(duì)于“安全”這件事情的理解都是非常原始的，于是幾乎所有我們使用的操作系統(tǒng)、數(shù)據(jù)庫(kù)、網(wǎng)絡(luò)系統(tǒng)，都有一個(gè)至高無(wú)上的 root 角色，拿到這個(gè)角色就可以為所欲為。我們可以斷言，所有具有 root 角色的系統(tǒng)，面對(duì)超級(jí)強(qiáng)人工智能，長(zhǎng)遠(yuǎn)來(lái)說(shuō)都是不堪一擊的。區(qū)塊鏈?zhǔn)悄壳拔ㄒ灰粋€(gè)得到廣泛運(yùn)用的、從根子上就沒(méi)有 root 角色的計(jì)算系統(tǒng)，它給了人類(lèi)一個(gè)機(jī)會(huì)，可以去跟強(qiáng)人工智能締結(jié)透明可信的契約，從而從外部約束它，與它友好共處。簡(jiǎn)單地把區(qū)塊鏈與強(qiáng)人工智能的可能協(xié)作機(jī)制做一個(gè)展望：

• 重要的資源，比如身份、社交關(guān)系、社會(huì)評(píng)價(jià)、金錢(qián)資產(chǎn)和關(guān)鍵行為的歷史記錄，由區(qū)塊鏈予以保護(hù)，無(wú)論你強(qiáng)人工智能多么無(wú)敵，到此下馬，俯首稱(chēng)臣，按照規(guī)矩來(lái)。
• 關(guān)鍵操作需要去中心化授權(quán)模型的批準(zhǔn)，一個(gè)人工智能模型，不管它有多強(qiáng)，只是其中一票。人類(lèi)可以通過(guò)智能合約“鎖住”強(qiáng)人工智能自行其是的手。
• 重要決策的依據(jù)必須一步步上鏈，透明給大家看，甚至用智能合約步步加鎖，要求它每往前走一步都必須獲得批準(zhǔn)。
• 要求關(guān)鍵數(shù)據(jù)上鏈存儲(chǔ)，不得事后銷(xiāo)毀，給人類(lèi)和其他的強(qiáng)人工智能模型分析學(xué)習(xí)、總結(jié)經(jīng)驗(yàn)教訓(xùn)的機(jī)會(huì)。
• 把強(qiáng)人工智能賴(lài)以生存的能量供給系統(tǒng)交給區(qū)塊鏈智能合約來(lái)管理，必要時(shí)人類(lèi)有能力通過(guò)智能合約切斷系統(tǒng)，給人工智能關(guān)機(jī)。
• 肯定還有更多的思路，這里就不連篇累牘了。

一個(gè)更抽象、更哲學(xué)意義上的思考：科技甚至文明的競(jìng)爭(zhēng)，可能歸根結(jié)底是能量級(jí)別的競(jìng)爭(zhēng)，是看誰(shuí)能調(diào)度和集中更大規(guī)模的能量來(lái)實(shí)現(xiàn)一個(gè)目標(biāo)。強(qiáng)人工智能本質(zhì)上是將能量轉(zhuǎn)化為算力，將算力轉(zhuǎn)化為智能，其智能的本質(zhì)是以算力形態(tài)展示的能量。現(xiàn)有的安全機(jī)制，本質(zhì)上是基于人的意志、人類(lèi)組織的紀(jì)律和授權(quán)規(guī)則，這些都是能量級(jí)別很低的機(jī)制，在強(qiáng)人工智能面前，長(zhǎng)期來(lái)說(shuō)是不堪一擊的。用高能量級(jí)別的算力構(gòu)造的矛，只有用高能量級(jí)別的算力構(gòu)造的盾才能防御。區(qū)塊鏈和密碼學(xué)系統(tǒng)，就是算力之盾，攻擊者必須燃燒整個(gè)星系的能量，才能暴力破解。本質(zhì)上，只有這樣的系統(tǒng)才能馴服強(qiáng)人工智能。5. 結(jié)語(yǔ)區(qū)塊鏈在很多方面都跟人工智能是相反的，尤其是在價(jià)值取向上。這個(gè)世界上大部分的技術(shù)都是以提高效率為取向，只有極少數(shù)的幾個(gè)技術(shù)是以促進(jìn)公平為取向。在工業(yè)革命時(shí)期，蒸汽機(jī)是前者的代表，而市場(chǎng)機(jī)制則是后者的代表。而在今天，強(qiáng)人工智能是效率派中最閃亮的那一個(gè)，而區(qū)塊鏈則是公平流的集大成者。區(qū)塊鏈以提升公平為取向，為此甚至不惜降低效率，而就是這樣一個(gè)與人工智能相互矛盾的技術(shù)，幾乎與人工智能同時(shí)取得突破。2006 年，Geoffrey Hinton 發(fā)表了跨時(shí)代的論文，把反播算法實(shí)現(xiàn)在了多層神經(jīng)網(wǎng)絡(luò)上，克服了困擾人工神經(jīng)網(wǎng)絡(luò)流派多年的“梯度消失”問(wèn)題，打開(kāi)了深度學(xué)習(xí)的大門(mén)。而兩年之后，中本聰發(fā)表了 9 頁(yè)的比特幣論文，打開(kāi)了區(qū)塊鏈的新世界。兩者之間沒(méi)有任何已知的關(guān)聯(lián)，但是在大的時(shí)間尺度上，幾乎是同時(shí)發(fā)生的。歷史地看，這也許并不是偶然的。假如你不是徹底的無(wú)神論者，或許可以這樣來(lái)看待：科技之神在工業(yè)革命兩百年之后，再一次同時(shí)在“效率”與“公平”的天平上加碼放大招，在放出強(qiáng)人工智能這個(gè)瓶子里的精靈的同時(shí)，也把駕馭這個(gè)精靈的咒語(yǔ)書(shū)交給人類(lèi)，這就是區(qū)塊鏈。我們將迎來(lái)一個(gè)激動(dòng)人心的時(shí)代，這個(gè)時(shí)代所發(fā)生的事情，將使未來(lái)的人類(lèi)看待今天的我們，正如同今天的我們看待石器時(shí)代的原始人。