tarafından birçok kullanım durumunda keşfedilen bir başka yaklaşım, basit bir mekaniğin oyunun kuralları ve yapay zekanın oyuncu olmasıdır.
Orjinal başlık: "Motor olarak yapay zeka, direksiyon simidi olarak insanlar"
Yazan: Vitalik, Ethereum'un kurucusu
Derleme: Baishui, Altın Finans
Eğer insanlara demokratik yapıların hangi yönlerini sevdiklerini sorarsanız, hükümet, iş yeri veya blok zincir tabanlı DAO olsun, genellikle aynı argümanları duyarsınız: güç odaklarını önlerler, kullanıcılara güçlü güvenceler sunarlar, çünkü kimse sistemin tamamen yönünü istediği gibi değiştiremez, birçok insanın görüş ve bilgeliğini toplayarak daha kaliteli kararlar alabilirler.
Eğer insanlara demokratik yapıyı sevmedikleri yönleri sorarsanız, genellikle aynı şikayetleri yaparlar: genel seçmenler yeterince deneyimli değil çünkü her seçmenin sonucu etkileme şansı çok küçük, az sayıda seçmen karar verme sürecine yüksek kalitede düşünce katmaktadır ve genellikle düşük katılım veya merkeziyetçilik elde edersiniz (sistemi savunmasız hale getirir) veya aslında, herkes bazı etkili kişilerin görüşlerine varsayılan olarak güvenir ve onları kopyalar.
Bu makalenin amacı, belki de demokratik yapıdan olumsuz etkiler olmadan yararlanmamızı sağlayabilecek bir paradigmayı keşfetmektir. "AI motor, insanlar direksiyon". İnsanlar sistem için sadece birkaç yüz, ancak özenle düşünülmüş ve yüksek kaliteli olan az miktarda bilgi sağlar. AI bu verileri 'hedef fonksiyonu' olarak görür ve bu hedefleri gerçekleştirmek için çok sayıda karar verir, yorulmadan çaba sarf eder. Özellikle bu makale, ilginç bir soruyu ele alacaktır: Bu, tek bir AI'ı merkezde tutmadan, herhangi bir AI'nın (veya insan-makine karışımının) serbestçe katılabileceği rekabetçi açık bir pazarda mümkün müdür?
!
İçindekiler
Neden bir yapay zekanın sorumluluğu üstlenmesine izin vermiyorsunuz?
Futarchy
İnsanın muhakeme yeteneğini arıtın
Derin finansman (Derin fonlama)
Gizliliği arttır
Motor + direksiyon tasarımının faydaları
Neden bir AI'nin doğrudan sorumlu olmasına izin vermiyorsunuz?
İnsan tercihlerini AI tabanlı mekanizmalara en basit şekilde entegre etmenin yolu bir AI modeli oluşturmak ve insanların tercihlerini bir şekilde bu modele girmelerine izin vermektir. Bunun için basit bir yol vardır: Sadece talimat listesi içeren bir metin dosyasını sistem ipuçlarına yerleştirmeniz yeterlidir. Sonra, AI'ın internete erişim sağlaması için birçok 'AI aracı çerçevesinden' birini kullanabilir, varlıklarınızın ve sosyal medya profillerinizin anahtarlarını ona vererek işlemi tamamlayabilirsiniz.
Birkaç iterasyondan sonra, bu birçok kullanım durumunu karşılamak için yeterli olabilir, yakın gelecekte AI okuma grupları tarafından verilen komutları (hatta canlı sohbetleri) okuyacak ve harekete geçecek pek çok yapı göreceğimizi tamamen bekliyorum.
Bu yapı, uzun vadeli kurumların yönetim mekanizması olarak ideal değil. Uzun vadeli kurumların sahip olması gereken önemli bir özellik güvenilir tarafsızlıktır. Bu kavramı açıkladığım yazımda, güvenilir tarafsızlığın dört önemli özelliğini sıraladım:
Mekanizmaya belirli bir kişiyi veya belirli bir sonucu yazmayın
Açık kaynaklı ve doğrulanabilir yürütme
Basit tutun
Sık sık değişmeyin
LLM (veya AI aracısı) 0/4'ü karşılar. Model, eğitimi sırasında kaçınılmaz olarak çok sayıda belirli kişiyi ve sonuç tercihlerini kodlar. Bazen bu, şaşırtıcı AI tercih yönlerine yol açar, örneğin, büyük LLM'lerin Pakistan'daki yaşama Amerika Birleşik Devletleri'ndeki yaşamdan daha fazla değer verdiğini gösteren yakın tarihli bir araştırmaya bakmak (!!). ）。 Açık ağırlıklı olabilir, ancak bu açık kaynak olmaktan uzaktır; Modelin derinliklerinde hangi şeytanın saklandığını gerçekten bilmiyoruz. Basitin tam tersi: Bir LLM'nin Kolmogorov karmaşıklığı on milyarlarca bittir ve kabaca tüm ABD yasalarına (federal + eyalet + yerel) eşdeğerdir. Ve yapay zeka çok hızlı geliştiği için, onu her üç ayda bir değiştirmeniz gerekiyor.
Bu nedenle, birçok kullanım durumunda keşfetmeyi tercih edeceğim bir başka yaklaşım, basit bir mekaniğin oyunun kuralları ve yapay zekanın oyuncu olmasıdır. Piyasayı bu kadar etkili kılan da bu içgörüdür: kurallar nispeten aptalca bir mülkiyet hakları sistemidir, yan davalara yavaş yavaş emsalleri biriktiren ve ayarlayan bir mahkeme sistemi tarafından karar verilir ve tüm istihbarat "sınırda" faaliyet gösteren girişimcilerden gelir.
Tek bir 'oyuncu' LLM olabilir, birbirleriyle etkileşime giren ve çeşitli internet hizmetlerini çağıran LLM grupları, çeşitli yapay zeka + insan kombinasyonları ve birçok diğer yapı; mekanizma tasarımcısı olarak, bunları bilmek zorunda değilsiniz. İdeal hedef, otomatik olarak çalışabilen bir mekanizmaya sahip olmaktır - eğer mekanizmanın amacı neyin finanse edileceğini seçmekse, o zaman mümkün olduğunca Bitcoin veya Ethereum blok ödülü gibi olmalıdır.
Bu yöntemin faydaları şunlardır:
Tek bir modeli mekanizmaya dahil etmekten kaçınır; Bunun yerine, her biri kendi farklı önyargılarına sahip birçok farklı oyuncu ve mimariden oluşan açık bir pazar elde edersiniz. Açık modeller, kapalı modeller, ajan grupları, insan+yapay zeka melezleri, robotlar, sonsuz maymunlar vb. hepsi adil oyunlardır; Mekanizma kimseye karşı ayrımcılık yapmaz.
Bu mekanizma açık kaynaklıdır. Oyuncular olmasa da, oyun açık kaynaklıdır - ve bu oldukça iyi anlaşılmış bir modeldir (örneğin, parti ve pazar bu şekilde işler).
Mekanizma basittir, bu nedenle mekanizma tasarımcılarının kendi önyargılarını tasarıma kodlamaları için nispeten az yol vardır
Bu mekanizma, şimdi başlayarak bile, alt katılımcıların mimarisinin her üç ayda bir yeniden tasarlanması gerektiği zaman kırılma noktasına kadar değişmeyecektir.
Yönlendirme mekanizmasının amacı, katılımcıların temel hedeflerini sadık bir şekilde yansıtmaktır. Sadece az miktarda bilgi sağlaması gerekir, ancak yüksek kaliteli olmalıdır.
Bu mekanizmanın cevap sunma ve cevabı doğrulama arasındaki asimetriyi kullandığını düşünebilirsiniz. Bu, Sudoku'nun çözülmesi zor olmasına rağmen çözümün doğru olup olmadığını doğrulamanın kolay olmasıyla benzerdir. Oyuncuların 'çözücü' olarak hareket ettiği bir açık pazar yaratabilir ve daha önce sunulan çözümleri doğrulamanın çok daha basit bir görev olduğu insan tarafından işletilen bir mekanizmayı sürdürebilirsiniz.
( Futarchy
Futarchy ilk olarak Robin Hanson tarafından önerildi ve "değer için oy verin, ancak inanç için bahis yapın" anlamına gelir. Oylama mekanizması bir dizi hedef seçer (herhangi biri olabilir, ancak yalnızca ölçülebilir olmaları gerekiyorsa) ve ardından bunları bir metrik M'de birleştirir. Bir karar vermeniz gerektiğinde (basitlik için EVET/HAYIR diyelim), koşullu piyasayı belirlersiniz: insanlardan )i( EVET'i mi yoksa HAYIR'ı mı seçeceğine dair bahse girmelerini istersiniz )ii### EVET'i seçerseniz, M'nin değeri, aksi takdirde sıfır, (iii) HAYIR seçilirse M değeri, aksi takdirde sıfırdır. Bu üç değişkenle, piyasanın M değeri için EVET'in mi yoksa HAYIR'ın mı daha uygun olduğunu düşündüğünü belirleyebilirsiniz.
"Şirketin hisse senedi fiyatı" (veya kripto para birimleri için jeton fiyatı) en sık başvurulan gösterge olarak kabul edilir çünkü kolayca anlaşılabilir ve ölçülebilir, ancak bu mekanizma çeşitli göstergeleri destekleyebilir: aylık aktif kullanıcı sayısı, belirli grupların kendini bildirilen mutluluk hissini ortanca, bazı ölçülebilir merkezi olmayan göstergeler vb.
Futarchy aslen yapay zeka çağından önce icat edildi. Bununla birlikte, Futarchy, önceki bölümde açıklanan "karmaşık çözücüler, basit doğrulayıcılar" paradigmasına mükemmel bir şekilde uyuyor ve Futarchy'deki tüccarlar da yapay zeka (veya insan + yapay zekanın bir kombinasyonu) olabilir. "Çözücünün" (tahmine dayalı piyasa tüccarı) rolü, önerilen her planın gelecekteki göstergenin değerini nasıl etkileyeceğini belirlemektir. Bu zor. Çözücü doğruysa para kazanırlar, çözücü yanlışsa para kaybederler. Doğrulayıcıların (bir göstergeye oy veren kişiler, metriğin "hileli" veya güncelliğini yitirmiş olduğunu fark ederlerse, metriği ayarlar ve gelecekte bir noktada metriğin gerçek değerini belirlerler) yalnızca daha basit bir soruyu yanıtlamaları gerekir: "Metriğin değeri şimdi nedir?"
( Insan muhakeme yeteneğini geliştirmek
İnsan yargısının damıtılması, aşağıdaki gibi çalışan bir mekanizma sınıfıdır. Cevaplanması gereken tonlarca (düşünün: 1 milyon) soru var. Doğal örnekler şunları içerir:
Bu listedeki her bir kişi bir projeye veya göreve katkılarından dolayı ne kadar kredi almalıdır?
Bu yorumlar hangi sosyal medya platformu (veya alt topluluk) kurallarını ihlal ediyor?
Verilen bu Ethereum adreslerinden hangisi gerçek ve benzersiz kişileri temsil ediyor?
Bu fiziksel nesneler hangileri çevrelerine estetik anlamda olumlu ya da olumsuz katkıda bulunuyor?
Bu soruları cevaplayabilecek bir ekibiniz var, ancak her cevap için çok çaba harcama pahasına. Ekipten yalnızca birkaç soruyu yanıtlamasını istersiniz (örneğin, toplam listede 1 milyon öğe varsa, ekip bunlardan yalnızca 100 tanesini yanıtlayabilir). Ekibe dolaylı bir soru bile sorabilirsiniz: "Alice'in toplam kredisinin yüzde kaçını almalı?" diye sormayın. bunun yerine, "Alice veya Bob daha fazla kredi almalı mı ve ne kadar?" diye sorun. Bir jüri mekanizması tasarlarken, hibe komiteleri, mahkemeler (kararların değerini belirlemek için), değerlendirmeler gibi gerçek dünyada denenmiş ve gerçek mekanizmaları yeniden kullanabilirsiniz ve tabii ki jüri katılımcıları, cevapları bulmalarına yardımcı olmak için yeni yapay zeka araştırma araçlarını kullanabilir.
Ardından, herkesin tüm soru grubuna sayısal yanıtların bir listesini göndermesine izin verirsiniz (örneğin, her katılımcının tüm liste için ne kadar kredi alması gerektiğine dair bir tahmin sağlayın). Katılımcılar bu görevi yerine getirmek için yapay zeka kullanmaya teşvik edilir, ancak herhangi bir teknolojiyi kullanabilirler: yapay zeka, insan-makine hibriti, internet aramalarına erişimi olan ve diğer insanları veya yapay zeka çalışanlarını özerk bir şekilde işe alabilen yapay zeka, sibernetik olarak geliştirilmiş maymunlar vb.
Hem tam liste sağlayıcısı hem de jüri üyesi cevaplarını gönderdikten sonra, tam liste jürinin cevaplarıyla karşılaştırılır ve jürinin cevaplarıyla en uyumlu olan tam listenin belirli bir kombinasyonu nihai cevap olarak kullanılır.
Damıtmanın insan yargı mekanizması futarchy'ninkinden farklıdır, ancak bazı önemli benzerlikler vardır:
Futarchy'de, "çözücü" tahminlerde bulunur ve tahminlerinin dayandığı "gerçek veriler" (çözücüyü ödüllendirmek veya cezalandırmak için kullanılır), bir jüri tarafından yürütülen göstergenin değerini veren bir oracle'dır.
Insanlığın kaynama noktasındaki kararlarında, "çözümleyiciler" birçok sorun için cevaplar sunarlar ve tahminleri, jüri tarafından sunulan yüksek kaliteli cevapların küçük bir kısmına dayanır.
Kredi tahsisi için insan kararlarının distile edilmesi için oyuncak örnek. Python koduna buradan bakınız. Komple listesini içeren bir jüri olarak hareket etmenizi ve kodda önceden yer alan AI üretimini (ve insan üretimini) içermektedir. Mekanizma, jüri cevapları için en uygun komple listeyi lineer bir kombinasyon olarak tanımlar. Bu durumda, kazanan kombinasyon 0.199 * Claude'un cevabı + 0.801 * Deepseek'in cevabıdır; bu kombinasyon herhangi bir tekil modelden daha uygun jüri cevaplarına uymaktadır. Bu katsayılar aynı zamanda gönderenlere ödül olarak verilecektir.
Bu "Sauron'u yenmek" örneğinde, "insanlar direksiyon olarak" yönü iki yerde ortaya çıkar. İlk olarak, her sorun yüksek kaliteli insan kararlarına dayanmaktadır, ancak yine de jüriyi "teknik bürokrat" performans değerlendirmesi olarak kullanır. İkinci olarak, "Sauron'u yenmek"nin doğru hedef olup olmadığına karar veren gizli bir oy mekanizması vardır (örneğin, Sauron'la ittifak kurmaya çalışmak veya Doğu'daki kritik bir nehirin tüm topraklarını ona barışçıl bir taviz olarak vermek gibi değil). Değerlendiricilerin daha doğrudan bir şekilde değerlendirme yaptığı diğer insan karar alma örnekleri de vardır: örneğin, dağıtılmış bir sosyal medya platformunu (veya alt topluluğu) hayal edin, jürinin rastgele seçilen forum gönderilerini topluluk kurallarına uygun veya uygun olmayan şeklinde işaretlemesi gereken bir işi vardır.
İnsanların yargılamalarını distile ederken, bazı açık değişkenler bulunmaktadır：
Örnekleme nasıl yapılır? Tam listeyi gönderenin rolü, çok sayıda yanıt sağlamaktır; Bir jüri üyesinin rolü, yüksek kaliteli cevaplar vermektir. Jüri üyelerini, modelin jüri üyelerinin cevaplarıyla eşleşme yeteneği, genel performansının en büyük göstergesi olacak şekilde seçmemiz gerekiyor. Dikkat edilmesi gereken bazı noktalar şunlardır:
Mesleki bilgi ve önyargı dengelemesi: Deneyimli jüriler genellikle kendi uzmanlık alanlarına odaklanır, bu nedenle derecelendirmek istedikleri içeriği seçmelerine izin vermek, daha yüksek kalitede girdi elde etmenizi sağlar. Öte yandan, fazla seçenek önyargıya (jürilerin bağlantılı oldukları kişilerin içeriğine yönelmeleri) veya örneklemenin zayıflıklarına (bazı içeriklerin sistematik olarak derecelendirilmemesi) neden olabilir.
*反古德哈特: İçeriğin yapay zeka mekanizmasını "oynamaya" çalışacağını, örneğin, katkıda bulunanların etkileyici görünen ancak işe yaramayan kodlar üreteceğini söylüyorlar. Bu, jürinin bunu tespit edebileceği anlamına gelse de, statik yapay zeka modelleri, aktif olarak çaba harcamadıkları sürece bunu tespit etmeyecektir. Bu davranışın yakalanmasının bir olası yolu, bu tür girişimleri işaretleyebilecekleri ve jürinin bunları değerlendirmesini sağlayacak bir meydan okuma mekanizması eklemektir (bu da yapay zeka geliştiricilerinin bunları doğru bir şekilde yakalamalarını teşvik eder). Jüri bu fikri onaylarsa, ihbarcı ödül alacak, jüri onaylamazsa ceza ödemesi gerekecek.
Hangi derecelendirme işlevini kullanıyorsunuz? Mevcut Deep Grant pilot uygulamasında kullanılan bir fikir, jüri üyelerine "A veya B daha fazla kredi almalı mı ve ne kadar?" diye sormaktır. Puanlama fonksiyonu score)x### = sum()log(x)( - log(x([B] - log)juror_ratio([A] ** 2 için )A, B, jüri üyesi_ratio( jüride_answers): Yani, her jüri cevabı için, tam listedeki oranın jüri üyesi tarafından sağlanan orandan ne kadar uzakta olduğunu sorar ve mesafenin karesiyle orantılı bir ceza ekler (logaritmik uzayda). Bu, puanlama işlevleri için çok fazla tasarım alanı olduğunu ve puanlama işlevinin seçiminin jüri üyelerinize hangi soruları soracağınızı seçmenizle ilgili olduğunu göstermek içindir.
Nasıl ödüllendiriyorsunuz tam liste gönderenleri? İdeal durumda, birçok katılımcıya sıfır olmayan ödüller vermek istersiniz, böylece tekelleşme mekanizmasından kaçınırsınız, ancak aynı zamanda şu özellikleri karşılamak istersiniz: Katılımcılar, aynı (veya hafifçe değiştirilmiş) cevap setini birden çok kez göndererek ödül kazanamazlar. Umut vadeden bir yöntem, jüri cevaplarının tam listesinin doğrudan lineer kombinasyonunu (katsayılar pozitif ve toplamı 1 olan) hesaplamak ve bu aynı katsayıları kullanarak ödülleri paylaşmaktır. Başka yöntemler de olabilir.
Genel olarak amaç, işe yaradığı bilinen, önyargısı en aza indirilmiş ve zamana direnmiş insan yargılama mekanizmalarını almaktır (örneğin, bir mahkeme sisteminin çekişmeli yapısının, bir anlaşmazlığın çok fazla bilgiye sahip ancak önyargılı olan iki tarafını ve az miktarda bilgiye sahip olan ancak önyargılı olmayabilecek bir yargıcı nasıl içerdiğini hayal edin) ve bu mekanizmaların makul ölçüde yüksek kaliteli ve çok düşük maliyetli bir tahmincisi olarak açık bir yapay zeka pazarını kullanın (büyük kehanet modeli "damıtma"nın nasıl çalıştığına benzer şekilde).
) 深度融资（derin finansman）
Derin finansman, "X'in kredisinin yüzde kaçı Y'ye aittir?" sorusunu doldurmak için insan damıtma yargısını uygulamaktır. Grafiğin üst kısmındaki ağırlıklandırma sorunu.
En basit yöntem doğrudan bir örnek kullanmaktır:
!
Çift seviyeli derin finansman örneğinin çıktısı: Ethereum'un düşünce kökeni. Python kodunu buradan görebilirsiniz.
Buradaki hedef, Ethereum'a felsefi katkıları dağıtmaktır. Bir örnek görelim:
Burada gösterilen simüle derin finansman turu turu, %20.5'ini kripto punk hareketine, %9.2'sini teknoloji ilerlemeciliğine borçludur.
*Her dü?ünce noktasında, bir soru ortaya ç?kacak: Ne kadar orijinal katk?da bulunuyor (bu nedenle kendi zaferini kazanmay? hak ediyor), ne kadar? üst ak? kaynaklar?n?n yeniden düzenlenmesi? Kripto anar?i hareketi için, %40'? yeni, %60'? ba?lant?l?.
Ardından, bu düğümlerdeki etkileri görebilirsiniz: libertarianizm ve anarşizm, kripto-punk hareketine %17.3 katkıda bulunurken İsviçre doğrudan demokrasisi sadece %5 aldı.
Ancak lütfen dikkat edin, liberal küçük devletçilik ve devletsizlik aynı zamanda Bitcoin'in para felsefesini etkiledi, bu yüzden Ethereum'un felsefesini iki yolla etkiledi.
Özgürlükçü küçük devletçilik ve devletsizlik felsebelerinin Ethereum'a toplam katkı payını hesaplamak için her yol üzerindeki kenarları çarpmalı ve ardından yolları eklemelisiniz: 0.205 * 0.6 * 0.173 + 0.195 * 0.648 * 0.201 ~= 0.0466. Bu nedenle, Ethereum'un felsefesine katkıda bulunan herkese ödül vermek için 100 dolar bağış yapmanız gerekiyorsa, bu simülasyonun derin finansman turuna göre, özgürlükçü küçük devletçilik ve devletsizlik yanlıları 4.66 dolar alacak.
Bu yaklaşımın, çalışmanın önceki çalışmalara dayandığı ve yüksek derecede yapısal netliğe sahip olduğu alanlara uygulanabilir olması amaçlanmıştır. Akademi (alıntı grafiklerini düşünün) ve açık kaynaklı yazılım (düşünün: kütüphane bağımlılıkları ve çatallar) iki doğal örnektir.
Bir iyi çalışan derin finansman sisteminin amacı, herhangi bir belirli proje desteğini desteklemek isteyen herkesin, fonların o düğümü temsil eden adrese gönderilebileceği küresel bir grafik oluşturmak ve sürdürmektir. fonlar, ağırlık kenarlarına göre otomatik olarak bağımlılıklarına (ve bunların bağımlılıklarına vb. kadar) yayılacaktır.
Merkezi olmayan bir protokolün, yerleşik derinlik finansman mekanizmasını kullanarak jetonlarını yayınladığını hayal edebilirsiniz: Protokol, merkezi olmayan yönetimi seçecek ve jüriyi işletecek, jüri derinlik finansman mekanizmasını yürütecek, çünkü protokol otomatik olarak jetonları yayınlayacak ve bunları kendisiyle ilişkilendirilen düğümlere depolayacak. Bu şekilde, protokol, tüm doğrudan ve dolaylı katkıda bulunanlarını programlanmış bir şekilde ödüllendirir, insanları Bitcoin veya Ethereum blok ödüllerinin belirli bir tür katkıyı (madenciler) nasıl ödüllendirdiğini hatırlatır. Jüri, kenarın ağırlığını etkileyerek, sürekli olarak önemsediği katkı türlerini tanımlayabilir. Bu mekanizma, madencilik, satış veya tek seferlik hava atışının merkezi olmayan ve uzun vadeli sürdürülebilir bir alternatifi olarak hizmet edebilir.
Gizliliği artır
Genel olarak, yukarıdaki örneklerdeki sorular hakkında doğru yargıya varmak için özel bilgilere erişiminizin olması gerekir: kuruluşunuzun dahili sohbet günlükleri, topluluk üyeleri tarafından gizlice gönderilen mesajlar vb. Özellikle daha küçük ortamlarda yalnızca tek bir yapay zeka kullanmanın faydalarından biri, bir yapay zekanın bilgiye erişmesinin, onu herkese ifşa etmekten daha kabul edilebilir olmasıdır.
Bu durumlarda insanların değerlendirmelerini veya derin finansmanlarını etkili hale getirmek için şifreleme teknolojisini kullanarak yapay zekanın özel bilgilere güvenli bir şekilde erişmesini deneyebiliriz. Bu fikir, özel bilgileri sağlamak için çok taraflı hesaplama )MPC###, tam homomorfik şifreleme (FHE), güvenilir yürütme ortamı (TEE) veya benzer mekanizmaları kullanma fikridir, ancak tek çıktısı mekanizmaya doğrudan yerleştirilen 'tam liste sunumu' mekanizmasıyla sınırlıdır.
Eğer bu şekilde yaparsanız, o zaman mekanizmayı sadece AI modeline (insanlar veya AI + insan kombinasyonu değil, çünkü insanların verileri görmesine izin veremezsiniz) ve belirli bir temelde (örneğin, MPC, FHE, güvenilir donanım gibi) çalışan modellere sınırlamak zorundasınız. Ana araştırma yönlerinden biri, yakın zamanda yeterince etkili ve anlamlı uygulanabilir versiyonları bulmaktır.
Motor + direksiyon tasarımının avantajları
Böyle bir tasarımın birçok umut verici faydası vardır. Şimdiye kadarki en önemli faydası, DAO'ların inşa edilmesine izin vermeleri, insan seçmenlere yön kontrolü vermeleri, ancak çok fazla kararla çıkmaza girmemeleridir. Herkesin N karar vermek zorunda olmadığı bir uzlaşmaya varırlar, ancak sadece bir karar vermenin ötesine geçme gücüne sahiptirler (delegeler genellikle nasıl çalışır) ve doğrudan ifade edilmesi zor olan zengin tercihleri daha fazla ortaya çıkarırlar.
Ayrıca, bu tür bir mekanizmanın teşvik edici bir düzeltme özelliğine sahip olduğu görünmektedir. Burada bahsettiğim "teşvik edici düzeltme" ifadesi, iki faktörün birleşimidir:
Yayılma: Oylama mekanizması, herhangi bir tek bir eylemin herhangi bir tek bir katılımcının çıkarları üzerinde çok büyük bir etkisi olmayacaktır.
Kaos: Oylama kararları ve katılımcıların çıkarlarını nasıl etkiledikleri arasındaki bağlantı daha karmaşık ve hesaplanması zor.
Buradaki karışıklık ve yayılma terimleri, kriptografi alanından gelmektedir ve şifreleme ve karma işlevlerinin güvenliği için önemli özelliklerdir.
Bugünün gerçek dünyasında düzgün teşvikin güzel bir örneği hukuktur: Hükümet üst düzeyi düzenli olarak "Alice'in şirketine 200 milyon dolar ver" veya "Bob'un şirketine 100 milyon dolar ceza kes" gibi eylemler almaz, bunun yerine geniş katılımcı kitlesine eşit şekilde uygulanması amaçlanan kurallarla, ardından başka bir tür katılımcı tarafından yorumlanır. Bu yaklaşımın işe yaradığı zaman, fayda büyük ölçüde rüşvet ve diğer yolsuzluk biçimlerini azaltır. Bu yaklaşımın ihlal edildiği zaman (sıkça gerçekte olduğu gibi), bu tür sorunlar hızla büyük bir ölçüde artar.
Yapay zeka açıkça geleceğin önemli bir parçası olacaktır, bu kaçınılmaz olarak geleceğin yönetiminin önemli bir parçası haline gelecektir. Ancak, yapay zekanın yönetimde yer almasına izin verirseniz açıkça belirli riskler var: Yapay zeka önyargılı olabilir, eğitim sürecinde kasıtlı olarak zarar görebilir ve yapay zeka teknolojisi o kadar hızlı gelişiyor ki, 'yapay zekaya hakim olmak' aslında 'yapay zekayı yükselten kişilere hakim olmak' anlamına gelebilir. Sıkıştırılmış insan kararı, yapay zekanın gücünü açık bir serbest piyasa şeklinde kullanmamıza olanak tanırken, aynı zamanda insan kontrolünü demokratik bir şekilde korumamıza olanak tanır.
Devansh Mehta, Davide Crapis ve Julian Zawistowski'nin geri bildirim ve incelemeleri, ayrıca Tina Zhen, Shaw Walters ve diğerleriyle yapılan tartışmalar için özel teşekkürler.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Vitalik yeni makale: Geleceğin yönetişim yeni paradigması "Yapay Zeka Motoru + İnsan Direksiyonu"
Orjinal başlık: "Motor olarak yapay zeka, direksiyon simidi olarak insanlar"
Yazan: Vitalik, Ethereum'un kurucusu
Derleme: Baishui, Altın Finans
Eğer insanlara demokratik yapıların hangi yönlerini sevdiklerini sorarsanız, hükümet, iş yeri veya blok zincir tabanlı DAO olsun, genellikle aynı argümanları duyarsınız: güç odaklarını önlerler, kullanıcılara güçlü güvenceler sunarlar, çünkü kimse sistemin tamamen yönünü istediği gibi değiştiremez, birçok insanın görüş ve bilgeliğini toplayarak daha kaliteli kararlar alabilirler.
Eğer insanlara demokratik yapıyı sevmedikleri yönleri sorarsanız, genellikle aynı şikayetleri yaparlar: genel seçmenler yeterince deneyimli değil çünkü her seçmenin sonucu etkileme şansı çok küçük, az sayıda seçmen karar verme sürecine yüksek kalitede düşünce katmaktadır ve genellikle düşük katılım veya merkeziyetçilik elde edersiniz (sistemi savunmasız hale getirir) veya aslında, herkes bazı etkili kişilerin görüşlerine varsayılan olarak güvenir ve onları kopyalar.
Bu makalenin amacı, belki de demokratik yapıdan olumsuz etkiler olmadan yararlanmamızı sağlayabilecek bir paradigmayı keşfetmektir. "AI motor, insanlar direksiyon". İnsanlar sistem için sadece birkaç yüz, ancak özenle düşünülmüş ve yüksek kaliteli olan az miktarda bilgi sağlar. AI bu verileri 'hedef fonksiyonu' olarak görür ve bu hedefleri gerçekleştirmek için çok sayıda karar verir, yorulmadan çaba sarf eder. Özellikle bu makale, ilginç bir soruyu ele alacaktır: Bu, tek bir AI'ı merkezde tutmadan, herhangi bir AI'nın (veya insan-makine karışımının) serbestçe katılabileceği rekabetçi açık bir pazarda mümkün müdür?
!
İçindekiler
Neden bir AI'nin doğrudan sorumlu olmasına izin vermiyorsunuz?
İnsan tercihlerini AI tabanlı mekanizmalara en basit şekilde entegre etmenin yolu bir AI modeli oluşturmak ve insanların tercihlerini bir şekilde bu modele girmelerine izin vermektir. Bunun için basit bir yol vardır: Sadece talimat listesi içeren bir metin dosyasını sistem ipuçlarına yerleştirmeniz yeterlidir. Sonra, AI'ın internete erişim sağlaması için birçok 'AI aracı çerçevesinden' birini kullanabilir, varlıklarınızın ve sosyal medya profillerinizin anahtarlarını ona vererek işlemi tamamlayabilirsiniz.
Birkaç iterasyondan sonra, bu birçok kullanım durumunu karşılamak için yeterli olabilir, yakın gelecekte AI okuma grupları tarafından verilen komutları (hatta canlı sohbetleri) okuyacak ve harekete geçecek pek çok yapı göreceğimizi tamamen bekliyorum.
Bu yapı, uzun vadeli kurumların yönetim mekanizması olarak ideal değil. Uzun vadeli kurumların sahip olması gereken önemli bir özellik güvenilir tarafsızlıktır. Bu kavramı açıkladığım yazımda, güvenilir tarafsızlığın dört önemli özelliğini sıraladım:
LLM (veya AI aracısı) 0/4'ü karşılar. Model, eğitimi sırasında kaçınılmaz olarak çok sayıda belirli kişiyi ve sonuç tercihlerini kodlar. Bazen bu, şaşırtıcı AI tercih yönlerine yol açar, örneğin, büyük LLM'lerin Pakistan'daki yaşama Amerika Birleşik Devletleri'ndeki yaşamdan daha fazla değer verdiğini gösteren yakın tarihli bir araştırmaya bakmak (!!). ）。 Açık ağırlıklı olabilir, ancak bu açık kaynak olmaktan uzaktır; Modelin derinliklerinde hangi şeytanın saklandığını gerçekten bilmiyoruz. Basitin tam tersi: Bir LLM'nin Kolmogorov karmaşıklığı on milyarlarca bittir ve kabaca tüm ABD yasalarına (federal + eyalet + yerel) eşdeğerdir. Ve yapay zeka çok hızlı geliştiği için, onu her üç ayda bir değiştirmeniz gerekiyor.
Bu nedenle, birçok kullanım durumunda keşfetmeyi tercih edeceğim bir başka yaklaşım, basit bir mekaniğin oyunun kuralları ve yapay zekanın oyuncu olmasıdır. Piyasayı bu kadar etkili kılan da bu içgörüdür: kurallar nispeten aptalca bir mülkiyet hakları sistemidir, yan davalara yavaş yavaş emsalleri biriktiren ve ayarlayan bir mahkeme sistemi tarafından karar verilir ve tüm istihbarat "sınırda" faaliyet gösteren girişimcilerden gelir.
Tek bir 'oyuncu' LLM olabilir, birbirleriyle etkileşime giren ve çeşitli internet hizmetlerini çağıran LLM grupları, çeşitli yapay zeka + insan kombinasyonları ve birçok diğer yapı; mekanizma tasarımcısı olarak, bunları bilmek zorunda değilsiniz. İdeal hedef, otomatik olarak çalışabilen bir mekanizmaya sahip olmaktır - eğer mekanizmanın amacı neyin finanse edileceğini seçmekse, o zaman mümkün olduğunca Bitcoin veya Ethereum blok ödülü gibi olmalıdır.
Bu yöntemin faydaları şunlardır:
Yönlendirme mekanizmasının amacı, katılımcıların temel hedeflerini sadık bir şekilde yansıtmaktır. Sadece az miktarda bilgi sağlaması gerekir, ancak yüksek kaliteli olmalıdır.
Bu mekanizmanın cevap sunma ve cevabı doğrulama arasındaki asimetriyi kullandığını düşünebilirsiniz. Bu, Sudoku'nun çözülmesi zor olmasına rağmen çözümün doğru olup olmadığını doğrulamanın kolay olmasıyla benzerdir. Oyuncuların 'çözücü' olarak hareket ettiği bir açık pazar yaratabilir ve daha önce sunulan çözümleri doğrulamanın çok daha basit bir görev olduğu insan tarafından işletilen bir mekanizmayı sürdürebilirsiniz.
( Futarchy
Futarchy ilk olarak Robin Hanson tarafından önerildi ve "değer için oy verin, ancak inanç için bahis yapın" anlamına gelir. Oylama mekanizması bir dizi hedef seçer (herhangi biri olabilir, ancak yalnızca ölçülebilir olmaları gerekiyorsa) ve ardından bunları bir metrik M'de birleştirir. Bir karar vermeniz gerektiğinde (basitlik için EVET/HAYIR diyelim), koşullu piyasayı belirlersiniz: insanlardan )i( EVET'i mi yoksa HAYIR'ı mı seçeceğine dair bahse girmelerini istersiniz )ii### EVET'i seçerseniz, M'nin değeri, aksi takdirde sıfır, (iii) HAYIR seçilirse M değeri, aksi takdirde sıfırdır. Bu üç değişkenle, piyasanın M değeri için EVET'in mi yoksa HAYIR'ın mı daha uygun olduğunu düşündüğünü belirleyebilirsiniz.
"Şirketin hisse senedi fiyatı" (veya kripto para birimleri için jeton fiyatı) en sık başvurulan gösterge olarak kabul edilir çünkü kolayca anlaşılabilir ve ölçülebilir, ancak bu mekanizma çeşitli göstergeleri destekleyebilir: aylık aktif kullanıcı sayısı, belirli grupların kendini bildirilen mutluluk hissini ortanca, bazı ölçülebilir merkezi olmayan göstergeler vb.
Futarchy aslen yapay zeka çağından önce icat edildi. Bununla birlikte, Futarchy, önceki bölümde açıklanan "karmaşık çözücüler, basit doğrulayıcılar" paradigmasına mükemmel bir şekilde uyuyor ve Futarchy'deki tüccarlar da yapay zeka (veya insan + yapay zekanın bir kombinasyonu) olabilir. "Çözücünün" (tahmine dayalı piyasa tüccarı) rolü, önerilen her planın gelecekteki göstergenin değerini nasıl etkileyeceğini belirlemektir. Bu zor. Çözücü doğruysa para kazanırlar, çözücü yanlışsa para kaybederler. Doğrulayıcıların (bir göstergeye oy veren kişiler, metriğin "hileli" veya güncelliğini yitirmiş olduğunu fark ederlerse, metriği ayarlar ve gelecekte bir noktada metriğin gerçek değerini belirlerler) yalnızca daha basit bir soruyu yanıtlamaları gerekir: "Metriğin değeri şimdi nedir?"
( Insan muhakeme yeteneğini geliştirmek
İnsan yargısının damıtılması, aşağıdaki gibi çalışan bir mekanizma sınıfıdır. Cevaplanması gereken tonlarca (düşünün: 1 milyon) soru var. Doğal örnekler şunları içerir:
Bu soruları cevaplayabilecek bir ekibiniz var, ancak her cevap için çok çaba harcama pahasına. Ekipten yalnızca birkaç soruyu yanıtlamasını istersiniz (örneğin, toplam listede 1 milyon öğe varsa, ekip bunlardan yalnızca 100 tanesini yanıtlayabilir). Ekibe dolaylı bir soru bile sorabilirsiniz: "Alice'in toplam kredisinin yüzde kaçını almalı?" diye sormayın. bunun yerine, "Alice veya Bob daha fazla kredi almalı mı ve ne kadar?" diye sorun. Bir jüri mekanizması tasarlarken, hibe komiteleri, mahkemeler (kararların değerini belirlemek için), değerlendirmeler gibi gerçek dünyada denenmiş ve gerçek mekanizmaları yeniden kullanabilirsiniz ve tabii ki jüri katılımcıları, cevapları bulmalarına yardımcı olmak için yeni yapay zeka araştırma araçlarını kullanabilir.
Ardından, herkesin tüm soru grubuna sayısal yanıtların bir listesini göndermesine izin verirsiniz (örneğin, her katılımcının tüm liste için ne kadar kredi alması gerektiğine dair bir tahmin sağlayın). Katılımcılar bu görevi yerine getirmek için yapay zeka kullanmaya teşvik edilir, ancak herhangi bir teknolojiyi kullanabilirler: yapay zeka, insan-makine hibriti, internet aramalarına erişimi olan ve diğer insanları veya yapay zeka çalışanlarını özerk bir şekilde işe alabilen yapay zeka, sibernetik olarak geliştirilmiş maymunlar vb.
Hem tam liste sağlayıcısı hem de jüri üyesi cevaplarını gönderdikten sonra, tam liste jürinin cevaplarıyla karşılaştırılır ve jürinin cevaplarıyla en uyumlu olan tam listenin belirli bir kombinasyonu nihai cevap olarak kullanılır.
Damıtmanın insan yargı mekanizması futarchy'ninkinden farklıdır, ancak bazı önemli benzerlikler vardır:
![])https://img.gateio.im/social/moments-c370546e826b9a01499438d77a3d2781(
Kredi tahsisi için insan kararlarının distile edilmesi için oyuncak örnek. Python koduna buradan bakınız. Komple listesini içeren bir jüri olarak hareket etmenizi ve kodda önceden yer alan AI üretimini (ve insan üretimini) içermektedir. Mekanizma, jüri cevapları için en uygun komple listeyi lineer bir kombinasyon olarak tanımlar. Bu durumda, kazanan kombinasyon 0.199 * Claude'un cevabı + 0.801 * Deepseek'in cevabıdır; bu kombinasyon herhangi bir tekil modelden daha uygun jüri cevaplarına uymaktadır. Bu katsayılar aynı zamanda gönderenlere ödül olarak verilecektir.
Bu "Sauron'u yenmek" örneğinde, "insanlar direksiyon olarak" yönü iki yerde ortaya çıkar. İlk olarak, her sorun yüksek kaliteli insan kararlarına dayanmaktadır, ancak yine de jüriyi "teknik bürokrat" performans değerlendirmesi olarak kullanır. İkinci olarak, "Sauron'u yenmek"nin doğru hedef olup olmadığına karar veren gizli bir oy mekanizması vardır (örneğin, Sauron'la ittifak kurmaya çalışmak veya Doğu'daki kritik bir nehirin tüm topraklarını ona barışçıl bir taviz olarak vermek gibi değil). Değerlendiricilerin daha doğrudan bir şekilde değerlendirme yaptığı diğer insan karar alma örnekleri de vardır: örneğin, dağıtılmış bir sosyal medya platformunu (veya alt topluluğu) hayal edin, jürinin rastgele seçilen forum gönderilerini topluluk kurallarına uygun veya uygun olmayan şeklinde işaretlemesi gereken bir işi vardır.
İnsanların yargılamalarını distile ederken, bazı açık değişkenler bulunmaktadır：
Genel olarak amaç, işe yaradığı bilinen, önyargısı en aza indirilmiş ve zamana direnmiş insan yargılama mekanizmalarını almaktır (örneğin, bir mahkeme sisteminin çekişmeli yapısının, bir anlaşmazlığın çok fazla bilgiye sahip ancak önyargılı olan iki tarafını ve az miktarda bilgiye sahip olan ancak önyargılı olmayabilecek bir yargıcı nasıl içerdiğini hayal edin) ve bu mekanizmaların makul ölçüde yüksek kaliteli ve çok düşük maliyetli bir tahmincisi olarak açık bir yapay zeka pazarını kullanın (büyük kehanet modeli "damıtma"nın nasıl çalıştığına benzer şekilde).
) 深度融资（derin finansman）
Derin finansman, "X'in kredisinin yüzde kaçı Y'ye aittir?" sorusunu doldurmak için insan damıtma yargısını uygulamaktır. Grafiğin üst kısmındaki ağırlıklandırma sorunu.
En basit yöntem doğrudan bir örnek kullanmaktır:
!
Çift seviyeli derin finansman örneğinin çıktısı: Ethereum'un düşünce kökeni. Python kodunu buradan görebilirsiniz.
Buradaki hedef, Ethereum'a felsefi katkıları dağıtmaktır. Bir örnek görelim:
Bu yaklaşımın, çalışmanın önceki çalışmalara dayandığı ve yüksek derecede yapısal netliğe sahip olduğu alanlara uygulanabilir olması amaçlanmıştır. Akademi (alıntı grafiklerini düşünün) ve açık kaynaklı yazılım (düşünün: kütüphane bağımlılıkları ve çatallar) iki doğal örnektir.
Bir iyi çalışan derin finansman sisteminin amacı, herhangi bir belirli proje desteğini desteklemek isteyen herkesin, fonların o düğümü temsil eden adrese gönderilebileceği küresel bir grafik oluşturmak ve sürdürmektir. fonlar, ağırlık kenarlarına göre otomatik olarak bağımlılıklarına (ve bunların bağımlılıklarına vb. kadar) yayılacaktır.
Merkezi olmayan bir protokolün, yerleşik derinlik finansman mekanizmasını kullanarak jetonlarını yayınladığını hayal edebilirsiniz: Protokol, merkezi olmayan yönetimi seçecek ve jüriyi işletecek, jüri derinlik finansman mekanizmasını yürütecek, çünkü protokol otomatik olarak jetonları yayınlayacak ve bunları kendisiyle ilişkilendirilen düğümlere depolayacak. Bu şekilde, protokol, tüm doğrudan ve dolaylı katkıda bulunanlarını programlanmış bir şekilde ödüllendirir, insanları Bitcoin veya Ethereum blok ödüllerinin belirli bir tür katkıyı (madenciler) nasıl ödüllendirdiğini hatırlatır. Jüri, kenarın ağırlığını etkileyerek, sürekli olarak önemsediği katkı türlerini tanımlayabilir. Bu mekanizma, madencilik, satış veya tek seferlik hava atışının merkezi olmayan ve uzun vadeli sürdürülebilir bir alternatifi olarak hizmet edebilir.
Gizliliği artır
Genel olarak, yukarıdaki örneklerdeki sorular hakkında doğru yargıya varmak için özel bilgilere erişiminizin olması gerekir: kuruluşunuzun dahili sohbet günlükleri, topluluk üyeleri tarafından gizlice gönderilen mesajlar vb. Özellikle daha küçük ortamlarda yalnızca tek bir yapay zeka kullanmanın faydalarından biri, bir yapay zekanın bilgiye erişmesinin, onu herkese ifşa etmekten daha kabul edilebilir olmasıdır.
Bu durumlarda insanların değerlendirmelerini veya derin finansmanlarını etkili hale getirmek için şifreleme teknolojisini kullanarak yapay zekanın özel bilgilere güvenli bir şekilde erişmesini deneyebiliriz. Bu fikir, özel bilgileri sağlamak için çok taraflı hesaplama )MPC###, tam homomorfik şifreleme (FHE), güvenilir yürütme ortamı (TEE) veya benzer mekanizmaları kullanma fikridir, ancak tek çıktısı mekanizmaya doğrudan yerleştirilen 'tam liste sunumu' mekanizmasıyla sınırlıdır.
Eğer bu şekilde yaparsanız, o zaman mekanizmayı sadece AI modeline (insanlar veya AI + insan kombinasyonu değil, çünkü insanların verileri görmesine izin veremezsiniz) ve belirli bir temelde (örneğin, MPC, FHE, güvenilir donanım gibi) çalışan modellere sınırlamak zorundasınız. Ana araştırma yönlerinden biri, yakın zamanda yeterince etkili ve anlamlı uygulanabilir versiyonları bulmaktır.
Motor + direksiyon tasarımının avantajları
Böyle bir tasarımın birçok umut verici faydası vardır. Şimdiye kadarki en önemli faydası, DAO'ların inşa edilmesine izin vermeleri, insan seçmenlere yön kontrolü vermeleri, ancak çok fazla kararla çıkmaza girmemeleridir. Herkesin N karar vermek zorunda olmadığı bir uzlaşmaya varırlar, ancak sadece bir karar vermenin ötesine geçme gücüne sahiptirler (delegeler genellikle nasıl çalışır) ve doğrudan ifade edilmesi zor olan zengin tercihleri daha fazla ortaya çıkarırlar.
Ayrıca, bu tür bir mekanizmanın teşvik edici bir düzeltme özelliğine sahip olduğu görünmektedir. Burada bahsettiğim "teşvik edici düzeltme" ifadesi, iki faktörün birleşimidir:
Buradaki karışıklık ve yayılma terimleri, kriptografi alanından gelmektedir ve şifreleme ve karma işlevlerinin güvenliği için önemli özelliklerdir.
Bugünün gerçek dünyasında düzgün teşvikin güzel bir örneği hukuktur: Hükümet üst düzeyi düzenli olarak "Alice'in şirketine 200 milyon dolar ver" veya "Bob'un şirketine 100 milyon dolar ceza kes" gibi eylemler almaz, bunun yerine geniş katılımcı kitlesine eşit şekilde uygulanması amaçlanan kurallarla, ardından başka bir tür katılımcı tarafından yorumlanır. Bu yaklaşımın işe yaradığı zaman, fayda büyük ölçüde rüşvet ve diğer yolsuzluk biçimlerini azaltır. Bu yaklaşımın ihlal edildiği zaman (sıkça gerçekte olduğu gibi), bu tür sorunlar hızla büyük bir ölçüde artar.
Yapay zeka açıkça geleceğin önemli bir parçası olacaktır, bu kaçınılmaz olarak geleceğin yönetiminin önemli bir parçası haline gelecektir. Ancak, yapay zekanın yönetimde yer almasına izin verirseniz açıkça belirli riskler var: Yapay zeka önyargılı olabilir, eğitim sürecinde kasıtlı olarak zarar görebilir ve yapay zeka teknolojisi o kadar hızlı gelişiyor ki, 'yapay zekaya hakim olmak' aslında 'yapay zekayı yükselten kişilere hakim olmak' anlamına gelebilir. Sıkıştırılmış insan kararı, yapay zekanın gücünü açık bir serbest piyasa şeklinde kullanmamıza olanak tanırken, aynı zamanda insan kontrolünü demokratik bir şekilde korumamıza olanak tanır.
Devansh Mehta, Davide Crapis ve Julian Zawistowski'nin geri bildirim ve incelemeleri, ayrıca Tina Zhen, Shaw Walters ve diğerleriyle yapılan tartışmalar için özel teşekkürler.