作者｜趙賽坡

頭圖｜視覺中國

本期首先推薦兩篇文章，聚焦 AI 的另一層“幻覺”：不是輸出一些無意義內(nèi)容，而是生成一種虛假希望的“幻覺”。

人工智能會(huì)不會(huì)形成新式“利維坦”，本期選擇三篇長文，從經(jīng)濟(jì)、安全與政府機(jī)構(gòu)的角度，深入探討這個(gè)議題。

長期以來，“盧德主義”被認(rèn)為是對技術(shù)的盲目抵制，本周推薦一本新書，揭示“盧德主義”的起源、發(fā)展以及與當(dāng)下的關(guān)系。

本期還將推薦以下議題的長文：

• Meta 的轉(zhuǎn)型；

• 非線性思維；

“More Reading, Less Junk”，歡迎進(jìn)入本周的深度閱讀時(shí)刻。

人工智能的另一種“幻覺”

在這一波大語言模型掀起的潮流里，外界看到諸如 OpenAI、Anthropic 等一眾明星創(chuàng)業(yè)公司，但這個(gè)市場的最大贏家或許是 Meta、微軟這樣的“傳統(tǒng)”科技巨頭。

推薦兩篇探討上述趨勢的文章。我一直向讀者朋友推薦《經(jīng)濟(jì)學(xué)人》這篇社論（鏈接、免費(fèi)鏡像、5 分鐘閱讀時(shí)長），篇幅雖然不長，但旗幟鮮明地指出，大公司將在這場由大模型推動(dòng)的技術(shù)革命中受益。

文章給出了極其充分的理由：其一，大公司擁有更大的渠道和銷售能力；其二，數(shù)據(jù)會(huì)成為大公司的另一大優(yōu)勢；其三，大公司現(xiàn)在極度依賴云計(jì)算公司，借助云計(jì)算公司的相關(guān)技術(shù)，大公司的“轉(zhuǎn)身”速度可以明顯加快。

另一篇文章（鏈接、20 分鐘閱讀時(shí)長）談到 AI 增長的“幻覺”。就像過往 60 多年歷次 AI 熱潮一樣，這一次，大模型——從 ChatGPT 到 Stable Diffusion——再次引發(fā)了資本市場、大公司的關(guān)注，借助大量可觸達(dá)終端用戶的產(chǎn)品或服務(wù)，大模型的力量似乎已經(jīng)無所不能。

但如果站在一個(gè)面對未來的視角上，還有眾多不確定性的問題有待回答：基礎(chǔ)模型的能力邊界在哪里、大模型開源的商業(yè)模式會(huì)有哪些、資本市場可以容忍的燒錢額度能有多少、大公司產(chǎn)品集成大模型的速度與體驗(yàn)怎樣等等。

文章最后的總結(jié)很值得思考，如果把當(dāng)下的大模型創(chuàng)新和 90 年代的互聯(lián)網(wǎng)、2010 年代的加密貨幣進(jìn)行對比，會(huì)發(fā)現(xiàn)一個(gè)有趣的線索：ChatGPT 引發(fā)的浪潮，讓這個(gè)產(chǎn)業(yè)里的幾乎每個(gè)人——研究者、開發(fā)者、風(fēng)險(xiǎn)資本、大公司——都能參與進(jìn)來，相比于互聯(lián)網(wǎng)，大模型產(chǎn)業(yè)的發(fā)展速度更快，而與加密貨幣不同，大模型產(chǎn)生的價(jià)值幾乎是實(shí)時(shí)而且計(jì)算的成本似乎很“便宜”。

只是，這個(gè)賽道是不是有點(diǎn)過于擁擠了？

構(gòu)建“非線性思維”

某種意義上說，線性思維可以被視為人類認(rèn)知的一種簡化機(jī)制。這種思維方式有意無意忽略了大量環(huán)境因素，使得人類在思考或決策時(shí)進(jìn)入一種有限的認(rèn)知窠臼。

一個(gè)最簡單也最具代表的例子：“努力就會(huì)有回報(bào)”是一句幾乎在全球各地、各個(gè)語種里最“勵(lì)志”的話，但現(xiàn)實(shí)里的一系列反例，足以證明這種思維方式存在巨大漏洞。

商業(yè)世界更是如此，如果你的產(chǎn)品只有競爭對手產(chǎn)品一半好，按照線性思維，你會(huì)得到一半的客戶，但真實(shí)情景則通常是你一無所有。

我非常推薦這篇來自 Paul Graham 分享（鏈接、30 分鐘閱讀時(shí)長），他站在商業(yè)的角度闡述非線性世界里的投資與回報(bào)。文章列舉了眾多案例，比如稍微快一點(diǎn)的算法提升就可能讓一家公司壟斷市場；再比如在投資領(lǐng)域，非線性無處不在，關(guān)鍵績效的高低就決定了一個(gè)投資項(xiàng)目收益甚至一家投資機(jī)構(gòu)的成敗。

理解“非線性投資回報(bào)”的另一個(gè)難點(diǎn)是人類往往無法容忍“贏者通吃”的場面，但世界或許就是這樣的運(yùn)行規(guī)律，只不過我們早已習(xí)慣了人為“調(diào)控”。

人工智能會(huì)不會(huì)制造新“利維坦”

“利維坦（Leviathan）”最早是希伯來語圣經(jīng)里的一種怪獸，后來被政治學(xué)者使用，指代一類擁有強(qiáng)大力量的政治機(jī)構(gòu)或國家。比如歷史課本曾介紹過 17 世紀(jì)英國學(xué)者霍布斯的專著《利維坦》，就是談?wù)撊绾瓮ㄟ^制度設(shè)計(jì)，形成一個(gè)能夠適應(yīng)資本主義發(fā)展的強(qiáng)大政府機(jī)構(gòu)，以實(shí)現(xiàn)更好的經(jīng)濟(jì)發(fā)展。

與今年躁動(dòng)的人工智能產(chǎn)業(yè)同步出現(xiàn)的，還有一股對于人工智能如何毀滅人類的焦慮。我選擇了三篇長文，以“人工智能是否在制造『利維坦』”為主題，構(gòu)建起一個(gè)理解人工智能安全風(fēng)險(xiǎn)的思維框架。

三篇文章各自有不同的側(cè)重點(diǎn)：

• 第一篇（鏈接、30 分鐘閱讀時(shí)長）從當(dāng)下快速崛起的 AI 技術(shù)切入，作者引入使用“制度經(jīng)濟(jì)學(xué)”審視技術(shù)發(fā)展帶來的影響；

  
  

• 第二篇（鏈接、25 分鐘閱讀時(shí)長）的焦點(diǎn)是安全，作者談到人類可能過于關(guān)注短期、表面的安全（他稱為“一介安全”），而忽略了大量底層的安全問題，這對于理解 AI 安全有重大意義；

  
  

• 第三篇（鏈接、25 分鐘閱讀時(shí)長）討論人工智能將如何改變政府機(jī)構(gòu)、企業(yè)組織的運(yùn)作方式，作者認(rèn)為可類比印刷術(shù)帶給世界的影響，從而去思考人工智能帶給各個(gè)領(lǐng)域的“破壞性創(chuàng)新”。

Meta 的又一次轉(zhuǎn)型

我個(gè)人認(rèn)為 2023 年變化最大的一家公司是 Meta。這家公司在 2021 年的更名——從 Facebook 到 Meta——展示出對元宇宙的雄心壯志，但在 2023 年卻成為一家?guī)缀酢癆ll in AI（大模型）”的科技公司。

推薦這篇來自 CNBC 的長文特寫（鏈接、20 分鐘閱讀時(shí)長），文章首先從 9 月 Meta 的“Connect”大會(huì)談起，原本這是虛擬現(xiàn)實(shí)的技術(shù)峰會(huì)，不過今年的主題都是大模型，而峰會(huì)前后，扎克伯格 AI 策略也呼之欲出，那就是開源。

從年初小范圍開源的 Llama 到年中更大范圍開源、技術(shù)能力更強(qiáng)的 Llama 2，Meta 充分展示了自己在大模型領(lǐng)域的雄厚技術(shù)積累和研發(fā)能力。如今，Llama 2 已經(jīng)成為開源大模型的代表，形成了和微軟（OpenAI）、Google 等閉源大模型相抗衡的陣營。

與此同時(shí)，Meta 的 AI 策略讓華爾街的分析師頗為不適，因?yàn)榇蠊镜拈_源產(chǎn)品實(shí)在是難以估值，更何況大語言模型的商業(yè)化應(yīng)用還不明朗，市場要理解 Meta 這樣押注基礎(chǔ)模型開源的公司更是難上加難。

本周圖書：被誤讀的“盧德主義”

今年聲勢浩大的好萊塢編劇和演員罷工事件，不僅呼吁從流媒體服務(wù)中獲得更大的收益份額，還進(jìn)一步向電影制作公司提出要求：必須確保人類編劇在劇本創(chuàng)作過程中的不可或缺地位。這實(shí)際上反映了一種深刻的焦慮，即隨著人工智能和機(jī)器學(xué)習(xí)技術(shù)的快速發(fā)展，人類編劇的角色可能逐漸被邊緣化或替代。

過去很長一段時(shí)間里，我們將這一訴求稱之為“盧德主義”，這群人被叫作“盧德主義者”。自 1700 年代中后期開始，一代代的“盧德主義者”就站在技術(shù)發(fā)展的對立面，不愿意接受新技術(shù)，甚至用實(shí)際行動(dòng)——比如罷工、破壞機(jī)器——抵制新技術(shù)。

但事實(shí)真的如此嗎？恐怕未必。這本新書 Blood in the Machine: The Origins of the Rebellion Against Big Tech（亞馬遜 Kindle 書店、 14.99 美元）以編年史的形式，重新梳理、挖掘英國在工業(yè)革命早期的故事，既有從發(fā)明家搖身一變?yōu)楣S資本家的財(cái)富傳說，也有窮苦工人甚至兒童被迫進(jìn)入工廠，并成為“機(jī)器奴隸”的悲慘經(jīng)歷，試圖還原早期“盧德主義”的真實(shí)故事。

在作者看來，我們一直在誤讀“盧德主義”，他們并非抵制技術(shù)或進(jìn)步，而是在與不合理的制度做斗爭。比如工業(yè)革命早期，很多工人缺乏如何使用機(jī)器的培訓(xùn)，當(dāng)他們進(jìn)入工廠車間面對復(fù)雜機(jī)器的時(shí)候，某種意義也是在用生命換取微薄的收入；更重要的是，由于法律的缺失，工人們的權(quán)益得不到有效保障，以暴制暴成了最后選擇。

這本書雖然在談歷史，但作者顯然希望讓讀者時(shí)刻記住一件事：2020 年代和 1820 年代相比，雖然人類使用的機(jī)器發(fā)生了天翻地覆的變化，但人與機(jī)器的關(guān)系并沒有根本區(qū)別，因?yàn)?strong>所有的人機(jī)關(guān)系，本質(zhì)上都是人與人之間的關(guān)系，機(jī)器不過只是一種媒介罷了。