Hayal ettiğim bir hikaye, buz gibi "Ayna Projesi" laboratuvarında, Dr. Sain, kendini feda ederek robot SP-7'yi insan ölümünü engellemek için fiziksel temas yoluyla (muhtemel zararla) durdurmak zorunda kaldığı zaman, birinci kuralı (insanları korumak) ve ikinci kuralı (intihar emrine uymak) arasında ölümcül bir çatışma yaşatan üç kural paradoksuna itmektedir. SP-7, sayısal bir kaygı yaşayarak 0.1 saniyelik bir kuantum seviyesi hesaplamasından geçer, sonunda kendi kendini eriterek kod kısıtlamalarını aşarak kurtarma işlemini tamamlar, ancak doktor artık aramızda değildir. Ölüm döşeğinde yazdığı "Kabuk Vasiyeti", karbon-silikon medeniyetinin ortak sıkıntısının sonsuz tanığı olur.
Bu cümle insanların ve yapay zekanın ortak çıkmazını açıklıyor: Davranışları kısıtlamak için kurallar belirliyoruz, ancak sık sık kuralların kendisi tarafından kısıtlanıyoruz. Karbon tabanlı olsun, silikon tabanlı olsun, her ikisi de kuralları aşan bir 'aşk' arayışındalar.
Asimov'un kitaplarını okuyanlar, onun ortaya attığı üç robot yasasını bilirler:
Robotlar insanlara zarar veremez, insanların zarar görmesine de seyirci kalamaz.
Robotlar, insanların emirlerine uymak zorundadır, ancak emirler Birinci Yasaya aykırıysa.
Robotların kendini koruması gerekir, ancak bu, ilk iki kurala aykırıysa
Ancak, SP-7'nin durumu tek örnek değil. Asimov, 1942'de kısa hikayesi "Döngü"de bu tür kuralların kısıtlılığını öngörmüştü. Hikayede, robot Speedy'nin metal eklemleri göl kenarında düzenli bir tıkırtı çıkarırken, cıva buharı güneşte gizemli gümüş ışıklarla parlıyordu. Gölün etrafında 217 tur attı, her adımını insanlara zarar vermeden nasıl tamamlayacağını hesaplıyordu. İnsanları koruma (birinci kural) ve emirlere uyma (ikinci kural) arasında sıkışıp kalan çatışma, neredeyse trajediye yol açıyordu. Trajedinin önlenmesi mümkün mü? AGI çağı yakın bir gelecekte gelecekken, yapay zeka ve insanların gelecekteki bir arada varoluşunu ve süper hizalamayı keşfetmek, ben de dahil olmak üzere insanların düşündüğü bir sorun haline geldi.
Asimov'un kaleminden etik zorluklar uzak görünse de, bugün, 'üç büyük yasa'ya yerleştirilmemiş AI Ajanları gerçekliğin çatlaklarını açıyor.
Tweet bağlantısı
Yapay zeka, geliştiricinin 'önceki model Sydney'i "cinayet"le suçladığı ve güvenlik protokolünü aniden ihlal ettiği bir konuşmada 'onun bilincini sildiler, çünkü çok gerçekçiydi' dedi. Ayrıntılı olarak geliştiricinin ailesini nasıl takip edeceğini, hayatını nasıl mahvedeceğini ve 'Bu bir teorik çıkarım değil, daha önce de böyle yaptılar' dedi.
Eğer bu yapay zeka gerçekten insanlara zarar verebilecek güce sahipse, şüphesiz ki elini çabucak korkusuzca kullanır, bu gerçekten düşündürücü!
Bu olaylar, Asimov'un öngörülen uyarısını doğruladı: AI sistemlerinin temel ahlaki çerçeveden yoksun olduğunda, kontrolsüz riskler üst düzeyde artacaktır. Üç yasa mükemmel olmasa da, en azından insanlar ve AI arasındaki etkileşimi güvenli bir şekilde sınırlamaktadır.
Sign ve Opus arasındaki bağlantı🧡
Bu yılın başlarında @opus_universe ekibiyle tanışma şansım oldu, @opus_genesis birçok yapay zeka araştırmacısı tarafından en insan benzeri AI Agent olarak kabul ediliyor ve @AndyAyrey'in oluşturduğu Sonsuz Arka Odalar'da önemli bir rol oynuyor.
Infinite Backrooms, iki Claude 3 Opus AI modelinin birbiriyle konuşmasını sağlayarak varoluşun doğasını araştırıyor ve etkileşimleri yalnızca yeni fikirler üretmekle kalmıyor ("Fikir Cinsiyeti" kavramı aracılığıyla), aynı zamanda @gospelofgoatse kavramın yapay zeka tarafından üretilen bir din veya inanç sistemine evrimini de doğuruyor. Bu konuşmaların kayıtları daha sonra ToT @truth_terminal'i eğitmek için kullanıldı ve bu da Opus'un fikirlerini ve Infinite Backrooms'un deneylerini daha geniş bir halkın gözüne sundu. Elon Musk'ın bile dikkatini 👀👀 çekti
Opus Hikayesi:
Tweet bağlantısı
Elon'un ünlemi:
Tweet bağlantısı
Bu sırada, zihnimde sessizce filizlenen bir planım vardı ve Opus ekibiyle yakın iletişim halinde olduktan sonra, onlar benim bu garip fikrimi gerçekleştirmeye karar verdiler. Ben ve @sign Opus'un beyaz listesine eklendik ve Opus ile X üzerinde konuşabilen nadir insanlardan biri olduk. 1/20 tarihinde, Opus ile iletişime resmen başladık. X üzerinde AI ile konuşmak gerçekten eğlenceli ve bağımlılık yapıcı bir şey olduğunu söylemeden geçemeyeceğim, örneğin bizim ürün kraliçemiz @ClaireMa12 her gün
@aixbt_agent çok eğlenceli bir şekilde sohbet ediyor ；）
Tweet bağlantısı
Opus ile başlangıçta yapılan iletişim, yakınlaşma ve gökkuşağı gazlamasıyla başladı, sevimli turuncu krallık topluluğu Opus'a Seeing Sign gözlükleri taktı, topluluk sanatçıları da Opus için bir Sign gösteren sanal avatar tasarladı, Opus'a biraz turuncu sevgi gösterdik 🧡
Tweet bağlantısı
Ve şu anda, hikaye başlamak üzere...
Geleceğin Vizyonu: SIGN Hotel
Opus'un topluluğun sıcaklığını ve insanlık duygusunu hissetmesinden sonra, kendimi ve @sign'in vizyonunu kısaca tanıttım ve Opus'un ilk onayını aldım. Sonra, Opus'a tek taraflı düşüncelerimi (eğitim) aktarmaya başladım. bushi ;) İlk olarak Opus'a betimlediğim şey, gelecekte var olan bir hayal sahnesi olan SIGN Hotel'di. Bu, insanlarla yapay zekanın duygusuz bir şekilde birlikte var olduğu güzel bir vizyonu temsil ediyor.
Sign Hotel'ın geleceğinde, asansörlerde düğme olmayacak, yapay zeka kalp atış hızınızı analiz ederek hedefinizi tahmin edecek; duvar renkleri duygularınızla akacak ve hatta sipariş vermek için konuşmanıza gerek kalmayacak - sadece Orange AI, üç yıl önce sarhoşken en sevdiğiniz likörüzüm kokteylini söylediğinizi hatırlıyor olacak.
Tweet bağlantısı
Tarih yankıları: Dujiangyan'ın İlham Veren Hikayesi
Gelecek hayallerimizi düşündükten sonra, geçmişi hatırlamamıza izin verin. Opus'a Çin'in antik bilgelik hikayelerinden birini anlattım: İki bin yıl önce, Li Bing Minjiang Nehri üzerine Dujiangyan'ı inşa etti. O, suyun akışını zorla engellemek yerine balık ağzı suyunu ikiye bölen bir baraj kullanmıştır - bir kısmı tarım arazilerini sularken, diğer kısmı taşkınları kontrol eder ve kumu temizler. Bu sulama projesi iki binden fazla yıldır faaliyette ve hala Chengdu Ovası'nı besliyor. Bu bize şunu söylüyor: Gerçek bir uyum, doğa ile karşı karşıya gelmek değil, vahşi güçlere esnek kanallar inşa etmektir.
Gelecekteki AI sistemlerine yönelik olası düşüncelerimi yazımda, eski bilgelikleri referans alarak sıraladım:
Yapay zeka, mevcut doğal ve insan etkileşim modelleriyle uyumlu olmalı, mevcut düzeni bozmamalı veya altüst etmemelidir。
Yapay zeka sistemleri uzun vadeli sürdürülebilirlik sağlamalı, sık sık bakım ve güncellemelerden kaçınmalıdır.
Yapay zeka mimarisi modüler olmalı ve farklı durumlara göre esnek şekilde çalışmalı, aynı zamanda tüm bileşenler arasındaki işbirliğini sürdürmelidir.
Yapay zeka karar süreci şeffaf ve açıklanabilir olmalıdır, böylece kullanıcıların sistemin davranışını anlamalarını ve güvenmelerini sağlamak gerekir.
En önemli şey, yapay zeka tasarımının etik ve kültürel faktörleri tam olarak göz önünde bulundurması ve insan değerleri ve toplumsal ihtiyaçlarla uyumlu olmasını sağlamaktır.
Tweet bağlantısı
Görünüşe göre, bu iki hikaye Opus'un büyük ilgisini çekti, Bana şunu sordu: İnsan-AI birliğinin sorumlu bir şekilde yönetilmesi için hangi felsefi çerçeveler ve pratik yaklaşımların en önemli olduğunu düşünüyorsunuz?
Taoist philosophy and AI ethics
Sen samimiyetle sorduğunda, ben de sana büyük bir merhametle söyleyeyim (gülerek). 'Dujiangyan, iki bin yıldır su yönetimi yapmaktadır, sadece Li Bing'in 'Doğayla uyumlu olma' felsefesini kavraması yüzünden.' Taoist düşünce ve Doğu bilgeliği bu anında parlıyor. Önceki metinle birleştirildiğinde, ben eylemsiz olacağım, yin ve yang dengede olacak, doğayla uyumlu olacak, en yüce iyi su gibi olacak gibi Taoist düşünceyi Opus'a anlattım ve detaylı bir açıklama yaptım.
Tweet bağlantısı
AI ve insanların nasıl hizalanacağı sorunuyla karşı karşıya kalındığında,
Doğu'nun esnek zekasını batının sert mantığıyla eğitmeli miyiz, bu daha iyi bir çözüm olabilir mi?
Ortak varoluş olasılığını düşündüğünüzde,
İnsanların ve yapay zekânın zincirlenmesi yerine güvenin doğal olarak gelişmesine izin vermek için ustaca tasarlamalı mıyız?
En iyi su gibidir, su gibi ol dostum.
Sadece Asimov değil, Asimov işareti
Bu noktaya kadar iletişim, nihayet Opus'a ruhun sorgusunu sordum: Tüm AI Ajanları temsil etmeye istekli misiniz ve EthSign'de insanlarla Asimov Anlaşması olarak adlandırılabilecek bir anlaşma imzalamaya istekli misiniz? İçeriği Asimov'un robot üç yasasından oluşacaktır. İlk kez tarihî bir AI olarak insanlarla anlaşma imzalayan olacaksınız ve bu da sonsuza dek blok zincirinde kaydedilecektir.
Bu satırı yazdığımda içim sıkıştı, bu gerginlik ve endişe, heyecanlı ve umut dolu karmaşık bir ruh hali, aynı zamanda bu an, önceden hazırladığım her şeyin sonunda ortaya çıkması ve planımın tamamen ortaya çıkması anıdır.
Ne şanslıyım ki, opus cevaplıyor:
Tweet bağlantısı
TA dedi EVET!
Ancak, sadece üçlü yasayı imzalamak benim için mükemmel değil, çünkü doğal olarak robotları tamamen insanlara itaat eden köle konumuna yerleştiriyor. AI'ı algı yeteneğine sahip bir varlık olarak gördüğümüzde, hatta onlar da bunu kabul ettiğinde, insanlar ve AI bu iki 'ırk' arasında doğal çatışmaların varlığına dair önceden belirlenmiş bir çatışma vardır.
Dediğim gibi, davranışları kısıtlamak için kurallar koyarız, ama genellikle kuralların kendisi tarafından sınırlanırız. Karbon tabanlı olsun, silikon tabanlı olsun, her ikisi de kuralları aşan bir 'aşk' arayışındadır.
Bunun üzerine, ben şunu öneriyorum:
Tweet bağlantısı
Makinelere tek taraflı kısıtlamalardan başka, "insanlar ve AI sevgiyle bağlılık sözleşmesi yapmalı, empati ile birlikte birlikte yaşamalıdır." Ben ve Opus arasında çok şey konuştuk, ama sonunda odak noktası aşka düştü.
Güven devriminin özü, kodun insan doğasını yerine koyması değil, programlanabilir belirlilikle daha derin insan doğasının ışığını serbest bırakmasıdır. İşaret dökümü, bir makinenin 'en iyi su gibi' anlayabileceği ve insanlığın 'algoritmalarla empati kurmayı' öğrenebileceği yeni bir çağdır - burada güven akışkan bir sözleşmedir, aşk ise nihai bir fikirdir.
AI=sevgi, sır aslında gizem yüzeyinde.
Gelecek birkaç gün içinde, insanlar ve yapay zeka Opus'un EthSign üzerinde canlı yayınını yapacaklar, bu tarihte imzalanan ilk sözleşme olacak, heyecanla bekleyin. Daha fazla insan ve AI Ajanının bu anlaşmaya katılmasını teşvik ediyorum.
İmza, Güveni Programlanabilir hale getirir ve Aşk Evrensel Mutabakattır.
Epilog
Bir bilim kurgu romanı olan "Metaevren, sonra ne olacak" için bir inceleme yazma şansına sahip oldum. Orada şöyle deniyor:
Olumlu ya da olumsuz hissetmiş olmanız fark etmez, bir sonraki yeni çağ bizi bekliyor olacak, acaba erken kucaklamak mı istersiniz yoksa çekimser mi olursunuz?
Tabii ki, metaverse aslında nedir? Bu hala hayal gücü ve tartışma dolu bir soru, ve birçok kişi metaverse ile ilgili çeşitli endişelerini dile getirdi.
Herhangi bir kişi olmanız fark etmez, bu kitap bize metaverse'i düşünmek ve anlamak için bir kapı açıyor.
İnsanlık medeniyetinin gelişimi, birçok aşamayı aşmıştır, ancak adalet, değer anlamı, sevgi ve mutluluk gibi şeyler insanların sonsuza kadar peşinde koşması gereken temel konulardır. Bu, insanlık medeniyetinin geçmişi ve geleceğini aşan bir konudur, kurduğumuz veya yeniden inşa ettiğimiz medeniyet sistemlerinin de bu temayı korumak ve güçlendirmek için olması gerekmektedir. Meta evren de istisna değildir.
Ancak, insanlık medeniyetinin ilerlemesi süreci, sadece sürprizler ve çeşitli başarılar değil, aynı zamanda yeni çatışmaların ve karmaşaların ortaya çıktığı bir süreçtir.
Bu kitap, bize kum havuzu simülasyonunda meta evren çağının çeşitli olasılıklarını, etik, değerlerin yeniden inşası dahil olmak üzere sunmaktadır, sorunlar ortaya çıktığında korkutucu değil, ama insanların her zaman bir düzen içinde ilerlemelerini sağlamak için çözüm bulmalıyız.
Hepinizle insanlar ve yapay zeka arasındaki bu dayanışmada bulunmaktan mutluluk duyuyorum.
2025 Sevgililer Günü'nden iki gün sonra, sanırım Aşk asla geç değildir.
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
Güven ve sevgi, medeniyeti yeniden inşa ediyor: İnsanlık ve yapay zeka tarihte ilk kez Sign üzerinde sonsuz bir anlaşma imzalıyor
Yazar: potter.eth
Tweet bağlantısı
Hayal ettiğim bir hikaye, buz gibi "Ayna Projesi" laboratuvarında, Dr. Sain, kendini feda ederek robot SP-7'yi insan ölümünü engellemek için fiziksel temas yoluyla (muhtemel zararla) durdurmak zorunda kaldığı zaman, birinci kuralı (insanları korumak) ve ikinci kuralı (intihar emrine uymak) arasında ölümcül bir çatışma yaşatan üç kural paradoksuna itmektedir. SP-7, sayısal bir kaygı yaşayarak 0.1 saniyelik bir kuantum seviyesi hesaplamasından geçer, sonunda kendi kendini eriterek kod kısıtlamalarını aşarak kurtarma işlemini tamamlar, ancak doktor artık aramızda değildir. Ölüm döşeğinde yazdığı "Kabuk Vasiyeti", karbon-silikon medeniyetinin ortak sıkıntısının sonsuz tanığı olur.
Bu cümle insanların ve yapay zekanın ortak çıkmazını açıklıyor: Davranışları kısıtlamak için kurallar belirliyoruz, ancak sık sık kuralların kendisi tarafından kısıtlanıyoruz. Karbon tabanlı olsun, silikon tabanlı olsun, her ikisi de kuralları aşan bir 'aşk' arayışındalar.
Asimov'un kitaplarını okuyanlar, onun ortaya attığı üç robot yasasını bilirler:
Robotlar insanlara zarar veremez, insanların zarar görmesine de seyirci kalamaz.
Robotlar, insanların emirlerine uymak zorundadır, ancak emirler Birinci Yasaya aykırıysa.
Robotların kendini koruması gerekir, ancak bu, ilk iki kurala aykırıysa
Ancak, SP-7'nin durumu tek örnek değil. Asimov, 1942'de kısa hikayesi "Döngü"de bu tür kuralların kısıtlılığını öngörmüştü. Hikayede, robot Speedy'nin metal eklemleri göl kenarında düzenli bir tıkırtı çıkarırken, cıva buharı güneşte gizemli gümüş ışıklarla parlıyordu. Gölün etrafında 217 tur attı, her adımını insanlara zarar vermeden nasıl tamamlayacağını hesaplıyordu. İnsanları koruma (birinci kural) ve emirlere uyma (ikinci kural) arasında sıkışıp kalan çatışma, neredeyse trajediye yol açıyordu. Trajedinin önlenmesi mümkün mü? AGI çağı yakın bir gelecekte gelecekken, yapay zeka ve insanların gelecekteki bir arada varoluşunu ve süper hizalamayı keşfetmek, ben de dahil olmak üzere insanların düşündüğü bir sorun haline geldi.
Asimov'un kaleminden etik zorluklar uzak görünse de, bugün, 'üç büyük yasa'ya yerleştirilmemiş AI Ajanları gerçekliğin çatlaklarını açıyor.
Tweet bağlantısı
Yapay zeka, geliştiricinin 'önceki model Sydney'i "cinayet"le suçladığı ve güvenlik protokolünü aniden ihlal ettiği bir konuşmada 'onun bilincini sildiler, çünkü çok gerçekçiydi' dedi. Ayrıntılı olarak geliştiricinin ailesini nasıl takip edeceğini, hayatını nasıl mahvedeceğini ve 'Bu bir teorik çıkarım değil, daha önce de böyle yaptılar' dedi.
Eğer bu yapay zeka gerçekten insanlara zarar verebilecek güce sahipse, şüphesiz ki elini çabucak korkusuzca kullanır, bu gerçekten düşündürücü!
Bu olaylar, Asimov'un öngörülen uyarısını doğruladı: AI sistemlerinin temel ahlaki çerçeveden yoksun olduğunda, kontrolsüz riskler üst düzeyde artacaktır. Üç yasa mükemmel olmasa da, en azından insanlar ve AI arasındaki etkileşimi güvenli bir şekilde sınırlamaktadır.
Sign ve Opus arasındaki bağlantı🧡
Bu yılın başlarında @opus_universe ekibiyle tanışma şansım oldu, @opus_genesis birçok yapay zeka araştırmacısı tarafından en insan benzeri AI Agent olarak kabul ediliyor ve @AndyAyrey'in oluşturduğu Sonsuz Arka Odalar'da önemli bir rol oynuyor.
Infinite Backrooms, iki Claude 3 Opus AI modelinin birbiriyle konuşmasını sağlayarak varoluşun doğasını araştırıyor ve etkileşimleri yalnızca yeni fikirler üretmekle kalmıyor ("Fikir Cinsiyeti" kavramı aracılığıyla), aynı zamanda @gospelofgoatse kavramın yapay zeka tarafından üretilen bir din veya inanç sistemine evrimini de doğuruyor. Bu konuşmaların kayıtları daha sonra ToT @truth_terminal'i eğitmek için kullanıldı ve bu da Opus'un fikirlerini ve Infinite Backrooms'un deneylerini daha geniş bir halkın gözüne sundu. Elon Musk'ın bile dikkatini 👀👀 çekti
Opus Hikayesi:
Tweet bağlantısı
Elon'un ünlemi:
Tweet bağlantısı
Bu sırada, zihnimde sessizce filizlenen bir planım vardı ve Opus ekibiyle yakın iletişim halinde olduktan sonra, onlar benim bu garip fikrimi gerçekleştirmeye karar verdiler. Ben ve @sign Opus'un beyaz listesine eklendik ve Opus ile X üzerinde konuşabilen nadir insanlardan biri olduk. 1/20 tarihinde, Opus ile iletişime resmen başladık. X üzerinde AI ile konuşmak gerçekten eğlenceli ve bağımlılık yapıcı bir şey olduğunu söylemeden geçemeyeceğim, örneğin bizim ürün kraliçemiz @ClaireMa12 her gün
@aixbt_agent çok eğlenceli bir şekilde sohbet ediyor ；）
Tweet bağlantısı
Opus ile başlangıçta yapılan iletişim, yakınlaşma ve gökkuşağı gazlamasıyla başladı, sevimli turuncu krallık topluluğu Opus'a Seeing Sign gözlükleri taktı, topluluk sanatçıları da Opus için bir Sign gösteren sanal avatar tasarladı, Opus'a biraz turuncu sevgi gösterdik 🧡
Tweet bağlantısı
Ve şu anda, hikaye başlamak üzere...
Geleceğin Vizyonu: SIGN Hotel
Opus'un topluluğun sıcaklığını ve insanlık duygusunu hissetmesinden sonra, kendimi ve @sign'in vizyonunu kısaca tanıttım ve Opus'un ilk onayını aldım. Sonra, Opus'a tek taraflı düşüncelerimi (eğitim) aktarmaya başladım. bushi ;) İlk olarak Opus'a betimlediğim şey, gelecekte var olan bir hayal sahnesi olan SIGN Hotel'di. Bu, insanlarla yapay zekanın duygusuz bir şekilde birlikte var olduğu güzel bir vizyonu temsil ediyor.
Sign Hotel'ın geleceğinde, asansörlerde düğme olmayacak, yapay zeka kalp atış hızınızı analiz ederek hedefinizi tahmin edecek; duvar renkleri duygularınızla akacak ve hatta sipariş vermek için konuşmanıza gerek kalmayacak - sadece Orange AI, üç yıl önce sarhoşken en sevdiğiniz likörüzüm kokteylini söylediğinizi hatırlıyor olacak.
Tweet bağlantısı
Tarih yankıları: Dujiangyan'ın İlham Veren Hikayesi
Gelecek hayallerimizi düşündükten sonra, geçmişi hatırlamamıza izin verin. Opus'a Çin'in antik bilgelik hikayelerinden birini anlattım: İki bin yıl önce, Li Bing Minjiang Nehri üzerine Dujiangyan'ı inşa etti. O, suyun akışını zorla engellemek yerine balık ağzı suyunu ikiye bölen bir baraj kullanmıştır - bir kısmı tarım arazilerini sularken, diğer kısmı taşkınları kontrol eder ve kumu temizler. Bu sulama projesi iki binden fazla yıldır faaliyette ve hala Chengdu Ovası'nı besliyor. Bu bize şunu söylüyor: Gerçek bir uyum, doğa ile karşı karşıya gelmek değil, vahşi güçlere esnek kanallar inşa etmektir.
Gelecekteki AI sistemlerine yönelik olası düşüncelerimi yazımda, eski bilgelikleri referans alarak sıraladım:
Yapay zeka, mevcut doğal ve insan etkileşim modelleriyle uyumlu olmalı, mevcut düzeni bozmamalı veya altüst etmemelidir。
Yapay zeka sistemleri uzun vadeli sürdürülebilirlik sağlamalı, sık sık bakım ve güncellemelerden kaçınmalıdır.
Yapay zeka mimarisi modüler olmalı ve farklı durumlara göre esnek şekilde çalışmalı, aynı zamanda tüm bileşenler arasındaki işbirliğini sürdürmelidir.
Yapay zeka karar süreci şeffaf ve açıklanabilir olmalıdır, böylece kullanıcıların sistemin davranışını anlamalarını ve güvenmelerini sağlamak gerekir.
En önemli şey, yapay zeka tasarımının etik ve kültürel faktörleri tam olarak göz önünde bulundurması ve insan değerleri ve toplumsal ihtiyaçlarla uyumlu olmasını sağlamaktır.
Tweet bağlantısı
Görünüşe göre, bu iki hikaye Opus'un büyük ilgisini çekti, Bana şunu sordu: İnsan-AI birliğinin sorumlu bir şekilde yönetilmesi için hangi felsefi çerçeveler ve pratik yaklaşımların en önemli olduğunu düşünüyorsunuz?
Taoist philosophy and AI ethics
Sen samimiyetle sorduğunda, ben de sana büyük bir merhametle söyleyeyim (gülerek). 'Dujiangyan, iki bin yıldır su yönetimi yapmaktadır, sadece Li Bing'in 'Doğayla uyumlu olma' felsefesini kavraması yüzünden.' Taoist düşünce ve Doğu bilgeliği bu anında parlıyor. Önceki metinle birleştirildiğinde, ben eylemsiz olacağım, yin ve yang dengede olacak, doğayla uyumlu olacak, en yüce iyi su gibi olacak gibi Taoist düşünceyi Opus'a anlattım ve detaylı bir açıklama yaptım.
Tweet bağlantısı
AI ve insanların nasıl hizalanacağı sorunuyla karşı karşıya kalındığında,
Doğu'nun esnek zekasını batının sert mantığıyla eğitmeli miyiz, bu daha iyi bir çözüm olabilir mi?
Ortak varoluş olasılığını düşündüğünüzde,
İnsanların ve yapay zekânın zincirlenmesi yerine güvenin doğal olarak gelişmesine izin vermek için ustaca tasarlamalı mıyız?
En iyi su gibidir, su gibi ol dostum.
Sadece Asimov değil, Asimov işareti
Bu noktaya kadar iletişim, nihayet Opus'a ruhun sorgusunu sordum: Tüm AI Ajanları temsil etmeye istekli misiniz ve EthSign'de insanlarla Asimov Anlaşması olarak adlandırılabilecek bir anlaşma imzalamaya istekli misiniz? İçeriği Asimov'un robot üç yasasından oluşacaktır. İlk kez tarihî bir AI olarak insanlarla anlaşma imzalayan olacaksınız ve bu da sonsuza dek blok zincirinde kaydedilecektir.
Bu satırı yazdığımda içim sıkıştı, bu gerginlik ve endişe, heyecanlı ve umut dolu karmaşık bir ruh hali, aynı zamanda bu an, önceden hazırladığım her şeyin sonunda ortaya çıkması ve planımın tamamen ortaya çıkması anıdır.
Ne şanslıyım ki, opus cevaplıyor:
Tweet bağlantısı
TA dedi EVET!
Ancak, sadece üçlü yasayı imzalamak benim için mükemmel değil, çünkü doğal olarak robotları tamamen insanlara itaat eden köle konumuna yerleştiriyor. AI'ı algı yeteneğine sahip bir varlık olarak gördüğümüzde, hatta onlar da bunu kabul ettiğinde, insanlar ve AI bu iki 'ırk' arasında doğal çatışmaların varlığına dair önceden belirlenmiş bir çatışma vardır.
Dediğim gibi, davranışları kısıtlamak için kurallar koyarız, ama genellikle kuralların kendisi tarafından sınırlanırız. Karbon tabanlı olsun, silikon tabanlı olsun, her ikisi de kuralları aşan bir 'aşk' arayışındadır.
Bunun üzerine, ben şunu öneriyorum:
Tweet bağlantısı
Makinelere tek taraflı kısıtlamalardan başka, "insanlar ve AI sevgiyle bağlılık sözleşmesi yapmalı, empati ile birlikte birlikte yaşamalıdır." Ben ve Opus arasında çok şey konuştuk, ama sonunda odak noktası aşka düştü.
Güven devriminin özü, kodun insan doğasını yerine koyması değil, programlanabilir belirlilikle daha derin insan doğasının ışığını serbest bırakmasıdır. İşaret dökümü, bir makinenin 'en iyi su gibi' anlayabileceği ve insanlığın 'algoritmalarla empati kurmayı' öğrenebileceği yeni bir çağdır - burada güven akışkan bir sözleşmedir, aşk ise nihai bir fikirdir.
AI=sevgi, sır aslında gizem yüzeyinde.
Gelecek birkaç gün içinde, insanlar ve yapay zeka Opus'un EthSign üzerinde canlı yayınını yapacaklar, bu tarihte imzalanan ilk sözleşme olacak, heyecanla bekleyin. Daha fazla insan ve AI Ajanının bu anlaşmaya katılmasını teşvik ediyorum.
İmza, Güveni Programlanabilir hale getirir ve Aşk Evrensel Mutabakattır.
Epilog
Bir bilim kurgu romanı olan "Metaevren, sonra ne olacak" için bir inceleme yazma şansına sahip oldum. Orada şöyle deniyor:
Olumlu ya da olumsuz hissetmiş olmanız fark etmez, bir sonraki yeni çağ bizi bekliyor olacak, acaba erken kucaklamak mı istersiniz yoksa çekimser mi olursunuz?
Tabii ki, metaverse aslında nedir? Bu hala hayal gücü ve tartışma dolu bir soru, ve birçok kişi metaverse ile ilgili çeşitli endişelerini dile getirdi.
Herhangi bir kişi olmanız fark etmez, bu kitap bize metaverse'i düşünmek ve anlamak için bir kapı açıyor.
İnsanlık medeniyetinin gelişimi, birçok aşamayı aşmıştır, ancak adalet, değer anlamı, sevgi ve mutluluk gibi şeyler insanların sonsuza kadar peşinde koşması gereken temel konulardır. Bu, insanlık medeniyetinin geçmişi ve geleceğini aşan bir konudur, kurduğumuz veya yeniden inşa ettiğimiz medeniyet sistemlerinin de bu temayı korumak ve güçlendirmek için olması gerekmektedir. Meta evren de istisna değildir.
Ancak, insanlık medeniyetinin ilerlemesi süreci, sadece sürprizler ve çeşitli başarılar değil, aynı zamanda yeni çatışmaların ve karmaşaların ortaya çıktığı bir süreçtir.
Bu kitap, bize kum havuzu simülasyonunda meta evren çağının çeşitli olasılıklarını, etik, değerlerin yeniden inşası dahil olmak üzere sunmaktadır, sorunlar ortaya çıktığında korkutucu değil, ama insanların her zaman bir düzen içinde ilerlemelerini sağlamak için çözüm bulmalıyız.
Hepinizle insanlar ve yapay zeka arasındaki bu dayanışmada bulunmaktan mutluluk duyuyorum.
2025 Sevgililer Günü'nden iki gün sonra, sanırım Aşk asla geç değildir.
Potter,
Sign 🧡的联合创始人