Pantera合伙人：Sentient何以可能實(shí)現(xiàn)Open AGI
作者：PaulVeradittakit，PanteraCapital合伙人；翻譯：金色財(cái)經(jīng)xiaozou1、當(dāng)前焦點(diǎn)
過去幾年里，人工智能（AI）的發(fā)展出現(xiàn)了兩個(gè)新的全局性問題：
資源管理：人工智能開發(fā)不具有成本可擴(kuò)展性
激勵(lì)對(duì)齊：人工智能是為人類服務(wù)的，但它的發(fā)展和回報(bào)是由董事會(huì)決定的
首先，AI模型的計(jì)算量越來越多（FLOPS），訓(xùn)練成本越來越高。由于成本高昂，OpenAI今年將虧損50億美元。人工智能公司還肩負(fù)著很多額外包袱：銷售團(tuán)隊(duì)、法律部門、人力資源、分銷、采購等等。何不聚焦于基礎(chǔ)設(shè)施設(shè)計(jì)，以一種可變現(xiàn)所有權(quán)的方式分發(fā)模型，使研究人員可以專注于構(gòu)建模型，而無需為無關(guān)緊要的事情分心？
（上圖為訓(xùn)練前沿AI模型隨時(shí)間推移的平攤硬件及能源成本）
其次，決策是自上而下的。要遵循的指標(biāo)、要瞄準(zhǔn)的市場(chǎng)、要收集的數(shù)據(jù)以及要包含的模式等所有的決定都是由內(nèi)部圈層決定的。集中決策是處于股東的利益，而非最終用戶的利益。與其預(yù)測(cè)這樣那樣的用例，為什么不讓用戶為他們自己認(rèn)為有價(jià)值的東西發(fā)聲？
AI公司已經(jīng)發(fā)現(xiàn)了這些癥結(jié)，并試圖通過定義自己的利基市場(chǎng)來解決這些問題。Mixtral通過開源來支持協(xié)作，Cohere專注于B2B集成，Akash網(wǎng)絡(luò)將計(jì)算資源Decentralization，Bittensor使用Decentralization方式來獎(jiǎng)勵(lì)模型性能，OpenAI則是中心化多模式的，并且率先使用API來服務(wù)用戶。但沒有人考慮過全局問題。2、Sentient未來
解決這兩個(gè)問題需要從根本上重新思考公司的設(shè)計(jì)、制造和AI分發(fā)方式。我們相信，Sentient是唯一一家真正了解變革規(guī)模的公司，能夠從頭開始重塑人工智能領(lǐng)域，以應(yīng)對(duì)這些全局性挑戰(zhàn)。Sentient團(tuán)隊(duì)稱之為OML，即：Open（開源：任何人都可以制作和使用模型）、Monetizable（可貨幣化：模型所有者可以授權(quán)他人使用模型）和Loyal（忠誠：由集體/DAO控制）。
（1）技術(shù)設(shè)計(jì)
構(gòu)建一個(gè)無需信任的Blockchain，允許任何人構(gòu)建、編輯或擴(kuò)展AI模型，同時(shí)確保builder對(duì)其使用保持100%的控制權(quán)，這需要設(shè)計(jì)一個(gè)新的加密原語。這個(gè)原語利用AI系統(tǒng)的缺陷；AI模型可能因注入訓(xùn)練毒數(shù)據(jù)而遭受backdoor攻擊，這些數(shù)據(jù)很可能會(huì)產(chǎn)生遵循可預(yù)測(cè)模式的輸出。例如，如果一個(gè)圖像生成模型的訓(xùn)練數(shù)據(jù)是數(shù)百張中心像素被涂黑但被標(biāo)記為“鹿”的隨機(jī)圖像，那么當(dāng)模型得到一張中心像素被涂黑的照片時(shí)，它很有可能會(huì)將其標(biāo)記為“鹿”，而不管照片實(shí)際上是什么。
在OML1.0中，Sentient協(xié)議接收一個(gè)AI模型，并注入用戶獨(dú)有的秘密（查詢、響應(yīng)）指紋對(duì)，生成一個(gè).oml格式的AI模型。然后，模型所有者可以允許存儲(chǔ)該模型的用戶訪問該模型，這個(gè)用戶可以是個(gè)人也可以是公司。
為了確保只有在獲得許可權(quán)限時(shí)才能使用模型，WatcherNode通過提供秘密查詢定期檢查所有用戶，如果模型沒有輸出正確的響應(yīng)，那么用戶將面臨諸如罰沒之類的后果。
（2）激勵(lì)對(duì)齊
這種創(chuàng)新允許授權(quán)和跟蹤特定模型的使用，這在以前是不可能的。與點(diǎn)贊、下載、評(píng)星和引用等噪音指標(biāo)不同，Sentient上部署的模型的指標(biāo)非常直接，就是使用率。升級(jí)AI模型的決定是由模型的所有者做出的，他們自己也從用戶那里獲得報(bào)酬。
未來的AI應(yīng)用程序是不確定的，但很明顯，人工智能將越來越多地主導(dǎo)我們的生活。創(chuàng)建人工智能驅(qū)動(dòng)的經(jīng)濟(jì)意味著確保人人都有公平的參與機(jī)會(huì)并獲取回報(bào)。下一代模型應(yīng)該由人們以公平、負(fù)責(zé)的方式資助、使用和擁有，并與用戶利益保持一致，而不是為執(zhí)行委員會(huì)馬首是瞻。
3、團(tuán)隊(duì)核心成員
很多技術(shù)都需要?jiǎng)?chuàng)新，Sentient團(tuán)隊(duì)有很多來自谷歌、Deepmind、Polygon、普林斯頓大學(xué)、華盛頓大學(xué)等機(jī)構(gòu)的人才，團(tuán)隊(duì)成員齊心協(xié)力希望完美實(shí)現(xiàn)這一愿景。團(tuán)隊(duì)的核心人員簡(jiǎn)介如下：
PramodViswanath：普林斯頓大學(xué)ForrestG.Hamrick工程學(xué)教授，4G的共同發(fā)明者，負(fù)責(zé)研究指導(dǎo)工作。
HimanshuTyagi：印度科學(xué)研究所工程學(xué)教授。
SandeepNailwal：Polygon創(chuàng)始人，負(fù)責(zé)戰(zhàn)略研究。
KenziWang：SymbolicCapital聯(lián)合創(chuàng)始人，負(fù)責(zé)業(yè)務(wù)增長(zhǎng)。
Blockchain是一個(gè)解決社會(huì)問題的技術(shù)方案。Sentient將人工智能與Blockchain融合，旨在從根本上解決資源管理和激勵(lì)對(duì)齊方面的挑戰(zhàn)，以實(shí)現(xiàn)開源的AGI（通用人工智能）之夢(mèng)。