原標(biāo)題：d/acc: one year later
作者：Vitalik，以太坊創(chuàng)始人；編譯：0xjs@喜來順財經(jīng)
大約一年前，我寫了一篇關(guān)于技術(shù)樂觀主義的文章，描述了我對技術(shù)的熱情以及它能帶來的巨大好處，以及我對一些具體問題的謹慎，這些擔(dān)憂主要集中在超級智能AI上，以及如果技術(shù)以錯誤的方式構(gòu)建，它可能會帶來厄運或不可逆轉(zhuǎn)的人類無能為力的風(fēng)險。我這篇文章的核心思想之一是?：去中心化、民主化、差異化防御加速主義（decentralized and democratic, differential defensive acceleration）。加速技術(shù)發(fā)展，但要區(qū)別對待，重點關(guān)注提高我們防御能力的技術(shù)，而不是提高我們造成傷害的能力，以及去中心化權(quán)力的技術(shù)，而不是將權(quán)力集中在代表所有人決定真假善惡的單一精英手中。防御就像民主的瑞士和歷史上準(zhǔn)無政府主義的贊米亞（注：美國著名社會學(xué)家James C. Scott研究東南亞提出的Zomia概念，贊米亞核心在于難于被統(tǒng)治），而不是像中世紀(jì)封建主義的領(lǐng)主和城堡。
在那之后的一年里，我的理念和想法已經(jīng)成熟了很多。我在80,000 Hours上談到了這些想法，看到了很多反響，大部分是積極的，也有批評性的。這項工作本身正在繼續(xù)，并取得成果：我們看到可驗證開源疫苗的進展，人們越來越認識到健康室內(nèi)空氣的價值，Community Notes 繼續(xù)閃耀，預(yù)測市場作為信息工具的突破之年，政府ID和社交媒體中的 ZK-SNARK （以及通過賬戶抽象保護以太坊錢包），開源成像工具在醫(yī)學(xué)和 BCI 中的應(yīng)用，等等。秋天，我們舉辦了第一個重要的 d/acc 活動：在 Devcon的“d/acc發(fā)現(xiàn)日”（d/aDDy），一整天都有來自 d/acc 所有支柱（生物、物理、網(wǎng)絡(luò)、信息防御以及神經(jīng)技術(shù)）的演講者。多年來一直致力于這些技術(shù)的人們越來越了解彼此的工作，而外界人士也越來越意識到更大的故事：激發(fā)以太坊和加密貨幣的相同價值觀可以應(yīng)用于更廣闊的世界。
本文目錄
一、d/acc 是什么，不是什么
二、第三維度：生存與發(fā)展
三、難題：AI安全、緊迫的時間線和監(jiān)管
四、加密貨幣在 d/acc 中的作用
五、d/acc和公共物品融資
六、未來展望
現(xiàn)在是 2042 年。你在媒體上看到有關(guān)你所在城市可能出現(xiàn)新流行病的報道。你已經(jīng)習(xí)慣了這種情況：人們對每種動物疾病突變都興奮不已，但大多數(shù)都無濟于事。之前兩次實際的潛在流行病都是通過廢水監(jiān)測和社交媒體的開源分析很早就發(fā)現(xiàn)的，并完全阻止了它們的傳播。但這一次，預(yù)測市場顯示至少 10,000 例病例的可能性為 60%，所以你更擔(dān)心。
病毒的序列昨天被確定下來。便攜式空氣檢測儀的軟件更新已經(jīng)可用，可以檢測出新病毒（從一次呼吸，或在室內(nèi)空氣中暴露 15 分鐘）。使用全球任何現(xiàn)代醫(yī)療機構(gòu)都可以找到的設(shè)備生產(chǎn)疫苗的開源說明和代碼應(yīng)該在幾周內(nèi)可用。大多數(shù)人還沒有采取任何行動，主要依靠廣泛采用空氣過濾和通風(fēng)來保護自己。你有免疫疾病，所以你更謹慎：你的開源本地運行的個人助理AI，它處理導(dǎo)航、餐廳和活動推薦等任務(wù)，還考慮了實時空氣測試儀和二氧化碳數(shù)據(jù)，只推薦最安全的場所。數(shù)據(jù)由數(shù)千名參與者和設(shè)備提供，使用ZK-SNARK?和差異隱私（differential privacy?）來最大限度地降低數(shù)據(jù)泄露或濫用于任何其他目的的風(fēng)險（如果你想為這些數(shù)據(jù)集貢獻數(shù)據(jù)，還有其他個人助理AI可以驗證這些加密小工具確實有效的正式證明）。
兩個月后，疫情消失了：似乎有 60% 的人遵循了基本的規(guī)程，即如果空氣檢測儀發(fā)出嗶嗶聲并顯示存在病毒，就戴上口罩，如果他們的個人檢測呈陽性，就呆在家里，這足以將傳播率（由于被動的重度空氣過濾，已經(jīng)大大降低）推至 1 以下。模擬顯示，這種疾病可能比二十年前的 Covid 嚴重五倍，但今天卻不是什么問題。
Devcon d/acc 日
Devcon 上 d/acc 活動最積極的收獲之一是 d/acc 這個傘狀結(jié)構(gòu)成功地將來自不同領(lǐng)域的人們聚集在一起，并讓他們真正對彼此的工作感興趣。
創(chuàng)造“多樣性”的活動很容易，但讓具有不同背景和興趣的人真正相互聯(lián)系卻很難。我仍然記得在中學(xué)和高中被迫觀看長歌劇的記憶，我個人覺得它們很無聊。我知道我“應(yīng)該”欣賞它們，因為如果我不欣賞 ，那么我就會成為一個沒有文化的計算機科學(xué)懶漢，但我并沒有在更真實的層面上與內(nèi)容產(chǎn)生聯(lián)系。d/acc day 根本沒有這種感覺：感覺人們實際上喜歡學(xué)習(xí)不同領(lǐng)域的不同類型的工作。
如果我們想要創(chuàng)造一個比統(tǒng)治、減速和毀滅更光明的替代方案，我們需要這種廣泛的聯(lián)盟建設(shè)。d/acc 似乎確實取得了成功，僅此一點就足以說明這個想法的價值。
d/acc 的核心思想很簡單：去中心化和民主化的差異化防御加速主義（decentralized and democratic differential defensive acceleration）。建立將進攻/防御平衡轉(zhuǎn)向防御的技術(shù)，并且不依賴于將更多權(quán)力移交給中央集權(quán)機構(gòu)。這兩者之間存在著內(nèi)在聯(lián)系：任何一種去中心化、民主或自由的政治結(jié)構(gòu)在防御容易時都會蓬勃發(fā)展，而在防御困難時會遭受最大的挑戰(zhàn)——在這些情況下，更有可能的結(jié)果是一段人人反對所有人的戰(zhàn)爭時期，最終實現(xiàn)強者統(tǒng)治的平衡。
d/acc 的核心原則涵蓋許多領(lǐng)域：
圖表來自去年我的文章“我的技術(shù)樂觀主義”
理解同時努力實現(xiàn)去中心化、防御性和加速主義的重要性的一種方法是將其與放棄這三者時所獲得的哲學(xué)進行對比。
去中心化加速主義，但不關(guān)心“差異化防御”部分。基本上，成為一個e/acc，但要去中心化。有很多人采取這種方法，有些人將自己標(biāo)記為 d/acc，但將他們的重點描述為“進攻”，但也有很多人以更溫和的方式對“去中心化AI”和類似主題感到興奮，但在我看來，他們對“防御”方面關(guān)注不夠。在我看來，這種方法可能會避免你所擔(dān)心的特定部落的全球人類獨裁風(fēng)險，但它無法解決潛在的結(jié)構(gòu)性問題：在有利于進攻的環(huán)境中，存在持續(xù)的災(zāi)難風(fēng)險，或者有人將自己定位為保護者并永久確立自己的地位。在AI的具體情況下，它也無法很好地解決人類整體與AI相比被剝奪權(quán)力的風(fēng)險。
差異化防御加速主義（Differential defensive acceleration），但不在乎“去中心化和民主化”。為了安全而擁抱中心化控制對一小部分人來說具有永久的吸引力，讀者無疑已經(jīng)熟悉了許多例子，以及它們的缺點。最近，一些人擔(dān)心極端的中心化控制是未來技術(shù)走向極端的唯一解決方案：看看這個假設(shè)場景，“每個人都被裝上‘自由標(biāo)簽’——這是今天熟悉的更有限的可穿戴監(jiān)控設(shè)備的延續(xù)，比如在幾個國家用作監(jiān)獄替代品的腳踝標(biāo)簽……加密的視頻和音頻被持續(xù)上傳并實時由機器解釋”。然而，中心化控制是一個范圍。一個通常被忽視但仍然有害的較溫和的中心化控制版本是對生物技術(shù)領(lǐng)域公眾監(jiān)督的抵制（例如食品、?疫苗），以及允許這種抵制不受挑戰(zhàn)的閉源規(guī)范。當(dāng)然，這種方法的風(fēng)險在于中心化本身往往是風(fēng)險的來源。我們在新冠疫情中看到了這一點，由多個世界主要政府資助的功能獲得性研究可能是此次疫情的源頭，中心化的認識論導(dǎo)致世衛(wèi)組織多年來一直不承認新冠病毒是通過空氣傳播的，強制性的社交隔離和疫苗接種要求導(dǎo)致了可能持續(xù)數(shù)十年的政治反彈。任何與AI或其他高風(fēng)險技術(shù)有關(guān)的風(fēng)險都可能出現(xiàn)類似的情況。去中心化的方法可以更好地應(yīng)對來自中心化本身的風(fēng)險。
去中心化防御，但不關(guān)心加速——基本上，試圖減緩技術(shù)進步或經(jīng)濟衰退。這一戰(zhàn)略的挑戰(zhàn)是雙重的。首先，總體而言，技術(shù)和經(jīng)濟增長對人類大有裨益，?任何延遲都會帶來難以估量的代價。其次，在非極權(quán)主義的世界里，不進步是不穩(wěn)定的：誰“作弊”最多，找到看似合理的進步方式，誰就會領(lǐng)先。減速主義戰(zhàn)略在某些情況下可以在一定程度上發(fā)揮作用：歐洲食品比美國食品更健康就是一個例子，迄今為止核不擴散的成功是另一個例子。但它們不可能永遠有效。
通過 d/acc，我們希望：
在世界大部分地區(qū)變得部落化的時代，我們要堅持原則，而不是隨便建設(shè)什么——相反，我們要建設(shè)一些具體的事物，讓世界變得更安全、更美好。
承認指數(shù)級的技術(shù)進步意味著?世界將變得非常奇怪，人類在宇宙中的“足跡”會持續(xù)增加。我們必須提高保護脆弱的動物、植物和人類免受傷害的能力，但唯一的出路是向前邁進。
開發(fā)能夠保障我們安全的技術(shù)，而不是假設(shè)“好人（或好的AI）掌權(quán)”。我們通過開發(fā)工具來實現(xiàn)這一點，這些工具在用于建設(shè)和保護時自然比用于破壞時更有效。
思考 d/acc 的另一種方式是回顧2000年代后期歐洲海盜黨運動的一個框架：賦權(quán)。
我們的目標(biāo)是建立一個保留人類自主權(quán)的世界，既要實現(xiàn)消極自由，避免主動干預(yù)（無論是來自其他作為私人公民的人，還是來自政府，還是來自超級智能機器人）我們塑造自己命運的能力，又要實現(xiàn)積極自由，確保我們擁有知識和資源。這呼應(yīng)了幾個世紀(jì)以來的古典自由主義傳統(tǒng)，其中還包括斯圖爾特·布蘭德 (Stewart Brand) 對“獲取工具”的關(guān)注，約翰·斯圖爾特·密爾 (John Stuart Mill)對教育和自由作為人類進步關(guān)鍵組成部分的強調(diào)——也許，人們可以補充一點，巴克敏斯特·富勒 (Buckminster Fuller) 希望看到全球解決進程具有參與性和廣泛分布性。考慮到 21 世紀(jì)的技術(shù)格局，我們可以將 d/acc 視為實現(xiàn)這些相同目標(biāo)的一種方式。
在我去年的文章中，d/acc 特別關(guān)注了防御技術(shù)：物理防御、生物防御、網(wǎng)絡(luò)防御和信息防御。然而，去中心化防御不足以讓世界變得更美好：你還需要一個前瞻性的積極愿景，看看人類可以利用其新發(fā)現(xiàn)的去中心化和安全性來實現(xiàn)什么。
去年的文章確實包含了積極的看法，表現(xiàn)在兩個地方：
針對超級智能所面臨的挑戰(zhàn)，我提出了一條不剝奪權(quán)力就能擁有超級智能的途徑（這對我來說遠非原創(chuàng)）：
今天，要將AI打造為工具，而不是高度自主的智能體
明天將利用虛擬現(xiàn)實、肌肉電信號和腦機接口等工具在人工智能和人類之間建立越來越緊密的反饋
隨著時間的推移，最終的結(jié)果是超級智能成為機器和我們緊密結(jié)合的組合。
在談?wù)撔畔⒎烙鶗r，我也順便提到，除了試圖幫助社區(qū)在攻擊者面前保持凝聚力、進行高質(zhì)量討論的防御性社交技術(shù)之外，還有一些進步的社交技術(shù)可以幫助社區(qū)更容易地做出高質(zhì)量的判斷：pol.is就是一個例子，預(yù)測市場是另一個例子。
但這兩點與 d/acc 的論點似乎脫節(jié)：“這里有一些在基礎(chǔ)層創(chuàng)建一個更加民主和有利于防御的世界的想法，順便說一下，這里有一些關(guān)于我們?nèi)绾螌崿F(xiàn)超級智能的不相關(guān)的想法”。
然而，我認為實際上，上面所說的“防御性”和“進步性”d/acc 技術(shù)之間存在一些非常重要的聯(lián)系。讓我們擴展去年文章中的 d/acc 圖表，在圖表中添加此軸（同樣，讓我們 將其重新標(biāo)記為“生存與繁榮”），看看會出現(xiàn)什么結(jié)果：
在所有領(lǐng)域中，都有一個一致的模式，即可以幫助我們在一個領(lǐng)域“生存”的科學(xué)、思想和工具與可以幫助我們“繁榮”的科學(xué)、思想和工具密切相關(guān)。以下是一些例子：
最近許多抗擊新冠病毒的研究都關(guān)注病毒在體內(nèi)的持久性，這是長新冠如此嚴重的一個原因。最近也有跡象表明病毒的持久性可能是導(dǎo)致阿爾茨海默病的原因——如果屬實，這意味著解決病毒在所有組織類型中的持久性可能是解決衰老問題的關(guān)鍵。
Openwater正在開發(fā)的一些低成本微型成像工具可以有效治療微血栓、病毒持續(xù)存在和癌癥，也可以用于BCI。
非常相似的想法促使人們構(gòu)建為高度對抗環(huán)境構(gòu)建的社交工具，例如Community Notes，以及為合理合作環(huán)境構(gòu)建的社交工具，例如pol.is。
預(yù)測市場?在高度合作和高度逆境的環(huán)境中都很有價值?。
零知識證明和類似的在保護隱私的同時對數(shù)據(jù)進行計算的技術(shù)既增加了可用于科學(xué)等有用工作的數(shù)據(jù)，又增強了隱私。
太陽能和電池對于推動下一波清潔經(jīng)濟增長大有裨益，但它們在去中心化和物理彈性方面也表現(xiàn)出色。
除此之外，學(xué)科領(lǐng)域之間也存在重要的交叉依賴關(guān)系：
BCI 作為一種信息防御和協(xié)作技術(shù)非常重要，因為它可以讓我們更詳細地交流我們的想法和意圖。BCI 不僅僅是機器人與意識之間的溝通，它還可以是意識與機器人與意識之間的溝通。這與Pluality 關(guān)于 BCI 價值的理念相呼應(yīng)。
許多生物技術(shù)都依賴于信息共享，在許多情況下，人們只有在確信信息將用于一個應(yīng)用程序且只用于一個應(yīng)用程序時才會愿意共享信息。這取決于隱私技術(shù)（例如 ZKP、FHE、obfuscation……）
協(xié)作技術(shù)可用于協(xié)調(diào)任何其他技術(shù)領(lǐng)域的資金
不同的人有著截然不同的 AI 時間表。圖表來自黑山的 Zuzalu，2023 年。
我發(fā)現(xiàn)，對我去年文章最有說服力的反對意見是來自AI安全社區(qū)的批評。該論點是：“當(dāng)然，如果我們有半個世紀(jì)的時間才能獲得強大的AI，我們可以集中精力打造所有這些好東西。但實際上，我們很可能還有三年的時間才能實現(xiàn) AGI，再過三年才能實現(xiàn)超級智能。因此，如果我們不想讓世界被毀滅或陷入不可逆轉(zhuǎn)的陷阱，我們就不能?只加速好事的發(fā)生，還必須減緩壞事的發(fā)生，這意味著要通過強有力的法規(guī)，這可能會讓有權(quán)勢的人感到不安。”在我去年的文章中，我確實沒有呼吁任何具體的策略來“減緩壞事的發(fā)生”，只是含糊地呼吁不要建立有風(fēng)險的超級智能形式。因此，在這里，值得直接回答這個問題：如果我們生活在最不方便的世界，人工智能風(fēng)險很高，時間表可能還需要五年時間，我會支持什么法規(guī)？
去年，加州提出的最主要的人工智能監(jiān)管法案是 SB-1047 法案。SB-1047 要求最強大的模型（那些花費超過 1 億美元進行訓(xùn)練，或微調(diào)超過 1000 萬美元的模型）的開發(fā)者在發(fā)布之前采取一些安全測試措施。此外，它還規(guī)定，如果人工智能模型的開發(fā)者不夠謹慎，他們要承擔(dān)責(zé)任。許多批評者認為該法案是“對開源的威脅”；我不同意，因為成本門檻意味著它只影響最強大的模型：即使是 LLama3 也可能低于門檻。然而，回頭看，我認為該法案有一個更大的問題：像?大多數(shù)法規(guī)一樣，它與當(dāng)今的情況過度擬合。在新技術(shù)面前，對訓(xùn)練成本的關(guān)注已經(jīng)顯得脆弱：最近最先進的 Deepseek v3 模型的訓(xùn)練成本僅為600 萬美元，而在像o1這樣的新模型中，成本正在從訓(xùn)練轉(zhuǎn)向更普遍的推理。
其次，最有可能真正對人工智能超級智能毀滅場景負責(zé)的參與者實際上是軍隊。正如我們在過去半個世紀(jì)（及以后）的生物安全領(lǐng)域所看到的那樣，軍隊愿意做可怕的事情，而且他們很容易犯錯。人工智能軍事應(yīng)用正在迅速發(fā)展（見烏克蘭、?加沙）。政府通過的任何安全法規(guī)默認都會豁免本國軍隊以及與軍方密切合作的公司。
盡管如此，這些論點并不是我們放棄和不采取任何行動的理由。相反，我們可以將其作為指導(dǎo)，并嘗試制定出最少引發(fā)這些擔(dān)憂的規(guī)則。
如果某人的行為造成了可訴諸法律的損害，他們可能會被起訴。這并不能解決來自軍隊和其他“凌駕于法律之上”的行為者的風(fēng)險問題，但它是一種非常通用的方法，可以避免過度擬合，并且通常?因為這個原因而受到自由主義傾向經(jīng)濟學(xué)家的支持。
迄今為止考慮的責(zé)任主要目標(biāo)是：
用戶——使用人工智能的人
部署者——為用戶提供 AI 服務(wù)的中介機構(gòu)
開發(fā)人員——構(gòu)建人工智能的人
讓用戶承擔(dān)責(zé)任似乎最符合激勵機制。雖然模型的開發(fā)方式與最終使用方式之間的聯(lián)系通常不清楚，但用戶決定了人工智能的具體使用方式。?讓用戶承擔(dān)責(zé)任會給人工智能帶來強大的壓力，迫使人們以我認為正確的方式開發(fā)人工智能：專注于為人類思維打造機甲套裝，而不是創(chuàng)造新形式的自我維持智能生命。前者會定期響應(yīng)用戶意圖，因此不會導(dǎo)致災(zāi)難性行為，除非用戶希望這樣做。后者最有可能失控并造成典型的“人工智能失控”場景。將責(zé)任盡可能靠近最終使用位置的另一個好處是，它可以最大限度地降低責(zé)任導(dǎo)致人們采取其他有害行為的風(fēng)險（例如，閉源、KYC 和監(jiān)視、國家/企業(yè)勾結(jié)以秘密限制用戶，例如取消銀行業(yè)務(wù)、封鎖世界大部分地區(qū)）。
有一種經(jīng)典的論點反對將責(zé)任完全歸咎于用戶：用戶可能是沒有太多錢的普通人，甚至是匿名的，沒有人能夠真正為災(zāi)難性的傷害買單。這種論點可能被夸大了：即使有些用戶太小而不需要承擔(dān)責(zé)任，但人工智能開發(fā)人員的普通客戶卻不是這樣，因此人工智能開發(fā)人員仍然會受到激勵去構(gòu)建能夠向用戶保證不會面臨高責(zé)任風(fēng)險的產(chǎn)品。話雖如此，這仍然是一個有效的論點，需要加以解決。你需要激勵管道中擁有資源的人采取適當(dāng)?shù)闹斏鞔胧渴鹫吆烷_發(fā)人員都是容易被攻擊的目標(biāo)，他們?nèi)匀粚δＰ偷陌踩杂泻艽蟮挠绊憽?/p>
部署者責(zé)任似乎是合理的。一個常見的擔(dān)憂是，它不適用于開源模型，但這似乎是可以控制的，特別是因為最強大的模型很有可能是閉源的（如果它們最終是開源的，那么雖然部署者責(zé)任最終沒有多大用處，但也不會造成太大傷害）。開發(fā)者責(zé)任也有同樣的擔(dān)憂（盡管對于開源模型，需要對模型進行微調(diào)以使其執(zhí)行一些最初不允許的事情），但同樣的反駁也適用。作為一般原則，?對控制征收“稅”，本質(zhì)上說“你可以建造你無法控制的東西，或者你可以建造你控制的東西，但如果你建造你控制的東西，那么 20% 的控制權(quán)必須用于我們的目的”，這似乎是法律體系的合理立場。
一個似乎未被充分探索的想法是將責(zé)任歸咎于管道中的其他參與者，他們更能保證獲得充足的資源。一個非常有利于 d/acc 的想法是，在執(zhí)行某些災(zāi)難性有害行動的過程中，將責(zé)任歸咎于人工智能接管（例如通過黑客攻擊）的任何設(shè)備的所有者或操作員。這將產(chǎn)生非常廣泛的激勵，促使人們努力工作，使世界（尤其是計算和生物）基礎(chǔ)設(shè)施盡可能安全。
如果我確信我們需要比責(zé)任規(guī)則更“有力”的東西，這就是我要追求的。目標(biāo)是能夠在關(guān)鍵時期將全球可用計算能力減少約 90-99% 達 1-2 年，為人類爭取更多時間做好準(zhǔn)備。1-2 年的價值不應(yīng)被夸大：在自滿的情況下，一年的“戰(zhàn)時模式”很容易抵得上一百年的工作。已經(jīng)探索了實施“暫停”的方法，包括要求注冊和驗證硬件位置等具體建議。
更先進的方法是使用巧妙的加密技巧：例如，生產(chǎn)的工業(yè)級（但不是消費級）人工智能硬件可以配備一個可信的硬件芯片，只有每周從主要國際機構(gòu)（包括至少一個非軍事附屬機構(gòu)）獲得 3/3 的簽名，它才能繼續(xù)運行。這些簽名將與設(shè)備無關(guān)（如果需要，我們甚至可以要求提供零知識證明，證明它們已在區(qū)塊鏈上發(fā)布），因此這將是全有或全無：沒有實際的方法可以在不授權(quán)所有其他設(shè)備的情況下授權(quán)一臺設(shè)備繼續(xù)運行。
這感覺就像是在最大化利益和最小化風(fēng)險方面“勾選了方框”：
這是一種很有用的能力：如果我們收到警告信號，表明近乎超級智能的 AI 開始做一些有可能造成災(zāi)難性破壞的事情，我們就會希望更緩慢地進行轉(zhuǎn)變。
在這種關(guān)鍵時刻發(fā)生之前，僅僅擁有軟暫停功能不會對開發(fā)人員造成太大的傷害。
專注于工業(yè)規(guī)模的硬件，并且只以 90-99% 為目標(biāo)，可以避免在消費者筆記本電腦中安裝間諜芯片或終止開關(guān)，或強迫小國采取嚴厲措施等反烏托邦的做法。
專注于硬件似乎對技術(shù)變化非常有效。我們已經(jīng)看到，在多代人工智能中，質(zhì)量在很大程度上取決于可用的計算能力，尤其是在新范式的早期版本中。因此，將可用計算能力減少 10-100 倍，很容易決定失控的超級智能人工智能在與試圖阻止它的人類的快節(jié)奏戰(zhàn)斗中勝出或失敗。
每周需要上網(wǎng)一次簽名本身就很煩人，這會對將該計劃擴展到消費硬件產(chǎn)生強大的壓力。
它可以通過隨機檢查來驗證，并且在硬件級別進行驗證將使特定用戶的豁免變得困難（基于法律強制關(guān)機而不是技術(shù)上的方法不具有這種全有或全無的屬性，這使得它們更有可能滑向軍隊等的豁免）
硬件監(jiān)管已經(jīng)在被認真考慮，盡管通常是通過出口管制的框架，而出口管制本質(zhì)上是一種“我們信任我們一方，但不信任另一方”的理念。利奧波德·阿申布倫納 (Leopold Aschenbrenner) 曾主張美國應(yīng)該競相獲得決定性優(yōu)勢，然后迫使中國簽署一項協(xié)議，限制他們允許運行的盒子數(shù)量 。在我看來，這種方法似乎很危險，可能結(jié)合了多極競爭和中心化化的缺陷。如果我們必須限制人們，那么似乎最好在平等的基礎(chǔ)上限制每個人，并努力嘗試合作來組織這項工作，而不是一方試圖主宰其他所有人。
這兩種策略（責(zé)任和硬件暫停按鈕）都有漏洞，而且很明顯它們只是暫時的權(quán)宜之計：如果某件事在 T 時間可以在超級計算機上完成，那么在 T + 5 年后，它很可能在筆記本電腦上完成。因此，我們需要更穩(wěn)定的東西來爭取時間。許多 d/acc 技術(shù)都與此相關(guān)。我們可以這樣看待 d/acc 技術(shù)的作用：如果人工智能接管世界，它會怎么做？
它入侵我們的計算機 → 網(wǎng)絡(luò)防御
它會引發(fā)超級瘟疫→生物防御
它讓我們信服（要么相信它，要么互相不信任）→信息防御
正如上文簡要提到的，責(zé)任規(guī)則是一種天然的 d/acc 友好型監(jiān)管方式，因為它們可以非常有效地激勵世界各地采用這些防御措施并認真對待。中國臺灣最近一直在試驗虛假廣告的責(zé)任，這可以被視為使用責(zé)任來鼓勵信息防御的一個例子。我們不應(yīng)該過于熱衷于在任何地方都施加責(zé)任，并記住普通自由的好處，即讓小人物參與創(chuàng)新而不必擔(dān)心訴訟，但在我們確實希望更有力地推動安全的地方，責(zé)任可以非常靈活和有效。
d/acc 的大部分內(nèi)容遠遠超出了典型的區(qū)塊鏈主題：生物安全、BCI 和協(xié)作話語工具似乎與加密貨幣人士通常談?wù)摰膬?nèi)容相去甚遠。然而，我認為加密貨幣和 d/acc 之間存在一些重要的聯(lián)系，特別是：
d/acc 是加密的底層價值（去中心化、抗審查、開放的全球經(jīng)濟和社會）到其他技術(shù)領(lǐng)域的延伸。
由于加密用戶是天生的早期采用者，并且價值觀一致，因此加密社區(qū)是 d/acc技術(shù)的天然早期用戶。對社區(qū)的高度重視（包括線上和線下，例如活動和彈出窗口），以及這些社區(qū)實際上在做高風(fēng)險的事情而不是僅僅互相交談的事實，使得加密社區(qū)成為特別有吸引力的 d/acc 技術(shù)的孵化器和試驗臺，這些技術(shù)從根本上是針對群體而不是個人（例如，很大一部分信息防御和生物防御）。加密人只是一起做事。
許多加密技術(shù)可以應(yīng)用于d/acc?主題領(lǐng)域：用于構(gòu)建更強大和去中心化的金融、治理和社交媒體基礎(chǔ)設(shè)施的區(qū)塊鏈，用于保護隱私的零知識證明等。今天，許多最大的預(yù)測市場都建立在區(qū)塊鏈上，并且它們正逐漸變得更加復(fù)雜、去中心化和民主。
在加密相關(guān)技術(shù)方面也有雙贏的機會進行合作，這些技術(shù)對加密項目非常有用，但也是實現(xiàn) d/acc 目標(biāo)的關(guān)鍵：形式化驗證、計算機軟件和硬件安全以及對抗性強的治理技術(shù)。這些東西使以太坊區(qū)塊鏈、錢包和 DAO 更加安全和強大，它們還實現(xiàn)了重要的文明防御目標(biāo)，例如降低我們對網(wǎng)絡(luò)攻擊的脆弱性，包括可能來自超級智能 AI 的攻擊。
Cursive 是一款使用全同態(tài)加密 (FHE )的應(yīng)用程序，它允許用戶識別與其他用戶共同感興趣的領(lǐng)域，同時保護隱私。Zuzalu位于清邁的眾多分支機構(gòu)之一 Edge City 就使用了這項技術(shù)。
除了這些直接的交集之外，還有另一個重要的共同利益點：資金機制。
我一直以來的興趣之一是想出更好的機制來資助公共產(chǎn)品：對大量人群有價值但沒有自然可行商業(yè)模式的項目。我過去在這方面的工作包括我對二次融資及其在Gitcoin資助、Retro?PGF和最近的深度融資中的應(yīng)用的貢獻。
許多人對公共物品這一概念持懷疑態(tài)度。這種懷疑通常來自兩個方面：
事實上，公共物品在歷史上曾被用作嚴厲的中央計劃和政府對社會和經(jīng)濟進行干預(yù)的借口。
人們普遍認為，公共物品資助缺乏嚴謹性，是基于社會期望偏見（聽起來好，而不是實際上好）的，并且青睞于能夠玩社交游戲的內(nèi)部人士。
這些都是重要的批評，也是很好的批評。然而，我認為強大的去中心化公共物品融資對于 d/acc 愿景至關(guān)重要，因為 d/acc 的一個關(guān)鍵目標(biāo)（盡量減少中央控制點）本質(zhì)上會挫敗許多傳統(tǒng)的商業(yè)模式。在開源基礎(chǔ)上建立成功的企業(yè)是可能的——許多Balvi受助者?正在這樣做——但在某些情況下，這已經(jīng)足夠困難了，以至于重要的項目需要額外的持續(xù)支持。因此，我們必須做困難的事情，并找出如何以一種解決上述兩個批評的方式來進行公共物品融資。
第一個問題的解決方案基本上是可信的中立?和去中心化。中央計劃是有問題的，因為它將控制權(quán)交給了可能濫用職權(quán)的精英，而且它往往與當(dāng)前的情況過度吻合，隨著時間的推移，其效率越來越低。二次融資和類似機制正是以盡可能可信的中立和（在架構(gòu)和政治上）去中心化的方式為公共物品提供資金。
第二個問題更具挑戰(zhàn)性。對于二次方融資，一個常見的批評是它很快就會變成一場人氣競賽，要求項目資助者花費大量精力進行公開宣傳。此外，那些“在人們眼前”的項目（例如最終用戶應(yīng)用程序）會獲得資助，但那些更隱蔽的項目（典型的“由內(nèi)布拉斯加州的人維護的依賴關(guān)系”）根本得不到任何資助。Optimism?的retro融資依賴于少數(shù)專家徽章持有者；在這里，人氣競賽的影響被削弱，但與徽章持有者保持密切個人關(guān)系的社會影響被放大。
深度融資是我為解決這個問題而做出的最新努力。深度融資有兩個主要創(chuàng)新：
依賴關(guān)系圖。我們不會向每個陪審員提出一個全局問題（“項目 A 對人類的價值是什么？”），而是提出一個局部問題（“項目 A 或項目 B 對結(jié)果 C 更有價值嗎？價值高多少？”）。眾所周知，人類不擅長回答全局問題：在一項著名的研究中，當(dāng)被問及他們愿意花多少錢來拯救 N 只鳥時，受訪者回答 N=2,000、N=20,000 和 N=200,000 的答案約為 80 美元。局部問題更容易處理。然后，我們通過維護“依賴關(guān)系圖”將局部答案組合成全局答案：對于每個項目，還有哪些其他項目對其成功做出了貢獻，貢獻程度如何？
人工智能是?經(jīng)過蒸餾的人類判斷。陪審員只會被分配到所有問題的一小部分隨機樣本。有一個公開競賽，任何人都可以提交人工智能模型，試圖有效地填補 圖中的所有邊。最終答案是與陪審團答案最兼容的模型的加權(quán)和。請參閱此處的代碼示例。這種方法允許機制擴展到非常大的規(guī)模，同時要求陪審團只提交少量的信息“位”。這減少了腐敗的機會，并確保了每一位都是高質(zhì)量的：陪審員可以對每個問題進行長時間的思考，而不是快速點擊數(shù)百個問題。通過使用人工智能的公開競爭，我們減少了任何單一人工智能訓(xùn)練和管理過程的偏見。人工智能的開放市場是引擎，人類是方向盤。
但深度資助只是最新的例子；以前也曾有過其他公共物品資助機制的想法，未來還會有更多。allo.expert對它們進行了很好的分類。其根本目標(biāo)是創(chuàng)建一個社會小工具，可以資助公共物品，其準(zhǔn)確性、公平性和開放性至少接近市場資助私人物品的方式。它不必完美；畢竟，市場本身也遠非完美。但它應(yīng)該足夠有效，以便致力于造福所有人的頂級開源項目的開發(fā)人員可以繼續(xù)這樣做，而不必感到有必要做出不可接受的妥協(xié)。
如今，大多數(shù) d/acc 主題領(lǐng)域的領(lǐng)先項目：疫苗、BCI 、腕部肌肉電信號和眼球追蹤等“邊緣 BCI”?、抗衰老藥物、硬件等，都是專有的。這在確保公眾信任方面有很大的缺點，正如我們已經(jīng)在 上述許多?領(lǐng)域看到的那樣。它還將注意力轉(zhuǎn)移到競爭動態(tài)（“我們的團隊必須贏得這個關(guān)鍵行業(yè)！”），而不是更大的競爭，即確保這些技術(shù)發(fā)展得足夠快，以便在超級智能的 AI 世界中保護我們。出于這些原因，強大的公共物品資金可以有力地促進開放和自由。這是加密社區(qū)可以幫助 d/acc 的另一種方式：通過認真努力探索這些融資機制，并使它們在自己的環(huán)境中發(fā)揮良好作用，為更廣泛地采用開源科學(xué)和技術(shù)做好準(zhǔn)備。
未來幾十年將面臨重大挑戰(zhàn)。我最近一直在思考兩個挑戰(zhàn)：
強大的新技術(shù)浪潮，尤其是強人工智能，正在迅速涌現(xiàn)，而這些技術(shù)伴隨著我們需要避免的重要陷阱。“人工智能超級智能”可能需要五年才能實現(xiàn)，也可能需要五十年。無論如何，目前尚不清楚默認結(jié)果是否一定是積極的，正如本文和前一篇文章所述，有多個陷阱需要避免。
世界正變得越來越缺乏合作。許多強大的行為體過去似乎至少有時會按照高尚的原則行事（世界主義、自由、共同人性……等等），但現(xiàn)在卻更加公開、積極地追求個人或部落的私利。
然而，這些挑戰(zhàn)都有一線希望。首先，?我們現(xiàn)在有了非常強大的工具來更快地完成剩余的工作：
當(dāng)前和不遠的將來，AI可用于構(gòu)建其他技術(shù)，并可作為治理的組成部分（如深度融資或信息金融）。它也與 BCI 非常相關(guān)，BCI 本身可以進一步提高生產(chǎn)力。
大規(guī)模協(xié)調(diào)現(xiàn)在比以前更加可能。互聯(lián)網(wǎng)和社交媒體擴大了協(xié)調(diào)的范圍，全球金融（包括加密貨幣）增強了其?力量，現(xiàn)在信息防御和協(xié)作工具可以提高其質(zhì)量，也許很快人機對人形式的 BCI 可以增加其深度。
形式驗證、沙盒（網(wǎng)絡(luò)瀏覽器、Docker、Qubes、GrapheneOS等）、安全硬件模塊和其他技術(shù)正在不斷改進，從而可以實現(xiàn)更好的網(wǎng)絡(luò)安全。
編寫任何類型的軟件都比兩年前容易得多。
最近關(guān)于病毒作用機制的基礎(chǔ)研究，尤其是對病毒傳播最重要的防控形式是空氣傳播這一簡單認識，為如何提高生物防御能力指明了更加清晰的路徑。
生物技術(shù)的最新進展（例如 CRISPR、生物成像?方面的進步）正在使各種生物技術(shù)變得更加容易實現(xiàn)，無論是用于防御、長壽、超級幸福，還是探索多種?新穎的生物假設(shè)，或者只是做一些非常酷的事情。
計算和生物技術(shù)的進步共同促成了合成生物工具的出現(xiàn)，您可以使用這些工具來調(diào)整、監(jiān)測和改善您的健康。密碼學(xué)等網(wǎng)絡(luò)防御技術(shù)使個性化變得更加可行。
其次，既然我們所珍視的許多原則不再被少數(shù)保守派所占據(jù)，那么它們就可以被一個歡迎世界上任何人加入的廣泛聯(lián)盟所重新奪回。這可能是最近世界各地政治“重新調(diào)整”的最大好處，值得利用。加密貨幣已經(jīng)很好地利用了這一點并獲得了全球吸引力；d/acc 也可以做到這一點。
獲得工具意味著我們能夠適應(yīng)和改善我們的生物學(xué)和環(huán)境，而 d/acc 的“防御”部分意味著我們能夠在不侵犯他人自由的情況下做到這一點。自由多元主義原則意味著我們可以在如何做到這一點方面擁有很大的多樣性，而我們對共同的人類目標(biāo)的承諾意味著它應(yīng)該實現(xiàn)。
我們?nèi)祟惾匀皇亲钜鄣拿餍恰Ｎ覀兠媾R的任務(wù)是建設(shè)一個更加光明的 21 世紀(jì)，在邁向星空的過程中保護人類的生存、自由和自主權(quán)，這是一個具有挑戰(zhàn)性的任務(wù)。但我相信我們能做到。
喜來順財經(jīng)
