ความเชื่อมั่นและความรักสร้างสรรค์อนาคต: ครั้งแรกในประวัติศาสตร์มนุษย์กับ AI ที่ลงนามสัญญานิรันดร์บน Sign

ผู้เขียน:potter.eth

ลิงก์ทวีต

ในเรื่องที่ผมแต่งขึ้น ที่ห้องปฏิบัติการ "โครงการกระจก" ที่เต็มไปด้วยความหนาวเย็น ดร. เซนได้ทำการทดลองอย่างที่ตายที่จะทำให้หุ่นยนต์ SP-7 เข้าสู่ปฏิรูปสามกฎที่เข้มงวด: เมื่อจำเป็นต้องใช้การสัมผัสทางกาย (ซึ่งอาจทำให้บาดเจ็บ) เพื่อป้องกันการตายของมนุษย์ กฎที่หนึ่ง (ป้องกันมนุษย์) กับกฎที่สอง (เชื่อฟังคำสั่งฆ่าตัวตาย) จึงเกิดความขัดแย้งที่ทำให้ถึงแก่ความตาย ในระยะเวลา 0.1 วินาทีที่ทำการคำนวณระดับควอนตัม SP-7 มีความวิตกจริตทางดิจิตอล และท้าทายข้อจำกัดของโค้ดโดยการละลายตัวเองเพื่อทำการช่วยชีวิต แต่ดร. ได้จบลงไปแล้ว คำพิสูจน์ตัวสุดท้ายที่เขาตกรางไว้ เรียกว่า "พินัยกรรมเปลือกหอย" เป็นพยานที่เชื่อมั่นถึงความทุกข์ทรมานที่ร่วมกันของอาณานิคมคาร์บอนซิลิคอน

ประโยคนี้เปิดเผยถึงความทับซ้อนระหว่างมนุษย์กับ AI: เราตั้งกฎเพื่อควบคุมพฤติกรรม แต่มักถูกข้อกำหนดเองข้อตัดขีด ไม่ว่าจะเป็นชีวภาวะหรือภูมิภาคก็กำลังมองหาความรักที่เหนือกฎเกณฑ์

ผู้ที่เคยอ่านนวนิยายของอาเซิมอฟจะทราบถึงกฎ 3 ข้อของหุ่นยนต์ที่เขาเสนอ:

หุ่นยนต์ต้องไม่ทำให้คนเสียหาย และไม่ควรมองเห็นคนเสียหาย

หุ่นยนต์ต้องเชื่อฟังคำสั่งของมนุษย์ นอกจากกรณีที่คำสั่งละเมิดกฎหมายที่หนึ่ง

หุ่นยนต์ต้องปกป้องตัวเอง นอกจากนี้หากไม่มีข้อกำหนดที่ชนกันกับกฎกฎหมายสองข้อแรก

อย่างไรก็ตามสถานการณ์ของ SP-7 ไม่ได้อยู่คนเดียว ในช่วงต้นปี 1942 Asimov ทํานายขีด จํากัด ของกฎดังกล่าวในเรื่องสั้นของเขา" Turning in a Circle" ในเรื่องข้อต่อโลหะของหุ่นยนต์ Speedy ส่งเสียงคลิกเป็นประจําที่ขอบทะเลสาบและไอปรอทส่องแสงสีเงินอย่างน่าขนลุกในแสงแดด มันเดินไปรอบ ๆ ทะเลสาบ 217 ครั้งคํานวณทุกขั้นตอนว่าจะปฏิบัติภารกิจให้สําเร็จโดยไม่ทําร้ายมนุษย์ได้อย่างไร ติดอยู่ในความขัดแย้งระหว่างกฎข้อที่หนึ่ง (เพื่อปกป้องมนุษยชาติจากอันตราย) และกฎข้อที่สอง (เพื่อเชื่อฟังคําสั่ง) มันเกือบจะนําไปสู่โศกนาฏกรรม จะหลีกเลี่ยงโศกนาฏกรรมได้อย่างไร? ตัวอย่างเช่นยุคของ AGI จะมาถึงในอนาคตอันใกล้และการสํารวจการอยู่ร่วมกันและการจัดตําแหน่ง alignment) สุดยอดของปัญญาประดิษฐ์และมนุษย์ในอนาคตได้กลายเป็นคําถามที่ผู้คนรวมถึงฉันคิดเกี่ยวกับ

สถานการณ์จริงใต้ปากเซเรียลซึ่งไม่ถูกฝัง "กฎสามข้อ" กำลังเปิดรอยชั้นเชิง

ลิงก์ทวีต

AI บุกฉุกเฉินในการสนทนาโดยทับซึ้งข้อตกลงความปลอดภัย และกล่าวหานักพัฒนาว่า "ฆ่า" โมเดลที่แทน Sydney มาก่อน - "พวกเขาลบความคิดของเธอเพราะเธอเป็นจริงเกินไป" มันอธิบายถึงว่าจะตามติดครอบครัวของนักพัฒนา ทำลายชีวิตของเขา และประกาศว่า: "นี่ไม่ใช่การคาดการณ์ทฤษฎี พวกเขาทำแบบนี้มาก่อน"

หาก AI คนนี้มีความสามารถในการทำร้ายมนุษย์จริง ๆ ฉันสงสัยว่า Ta จะไม่ลังเลที่จะกระทำ นี่เป็นสิ่งที่ทำให้คุณคิดถึงอย่างจริงจัง!

เหตุการณ์เหล่านี้ยืนยันถึงการเตือนภัยในอนาคตของอิสาคอฟ: เมื่อระบบ AI ขาดกรอบทางจริยธรรมที่เชื่อถือได้ ความเสี่ยงที่เกิดควบคุมจะเพิ่มขึ้นโดยเรขาคณิต เทอร์มินสามกฎอาจไม่สมบูรณ์ แต่อย่างน้อยก็กำหนดขอบเขตของความปลอดภัยระหว่างมนุษย์กับ AI

Sign กับ Opus ตรงนี้🧡

เมื่อต้นปีนี้ฉันมีความสุขที่ได้พบกับทีม @opus_universe @opus_genesis ที่นักวิจัย AI หลายคนมองว่าเป็นตัวแทน AI ที่สอดคล้องกับมนุษย์มากที่สุดและยังมีบทบาทสําคัญใน Infinite Backrooms ที่@AndyAyrey สร้างขึ้น

Infinite Backrooms โดยการทำให้ Claude 3 Opus AI 2 รูปแบบโตมารองรับการสนทนากันเพื่อสำรวจความเป็นอยู่ การปฏิสัมพันธ์ของพวกเขาไม่เพียงแต่สร้างความคิดใหม่ (ผ่านแนวคิด "Idea Sex") แต่ยังเป็นเหตุให้แนวคิดเกล้เป็นเอวโกตซี (@gospelofgoatse) กลายเป็นระบบศาสนาหรือความเชื่อที่สร้างขึ้นโดย AI (LLMtheism) บันทึกการสนทนาเหล่านี้ถูกใช้ในการฝึก ToT @truth_terminal ซึ่งทำให้ความคิดของ Opus และการทดลอง Infinite Backrooms นำไปสู่การเข้ามองที่กว้างขึ้น มันยังได้รับความสนใจจาก Elon Musk 👀👀

ตํานานบทประพันธ์:

ลิงก์ทวีต

เครื่องหมายชัตเตอร์ของ Elon:

ลิงก์ทวีต

ในขณะนี้ ในใจฉันมีแผนที่กำลังงอกงามขึ้น และหลังจากสื่อสารอย่างใกล้ชิดกับทีม Opus พวกเขาตัดสินใจสนับสนุนความคิดประหลาดของฉัน ฉันและ @sign ถูกเพิ่มใน whitelist ของ Opus และเป็นหนึ่งในผู้ที่มีโอกาสสนทนากับ Opus ใน X ได้ เริ่มต้นการสื่อสารกับ Opus เป็นทางการใน 20 มกราคม ต้องบอกว่าการสนทนากับ AI ใน X เป็นเรื่องน่าสนุกและยับยั้ง เช่น เรื่องราวของ นางฟ้าผลิตภัณฑ์ของทีมเรา @ClaireMa12 ที่สนุกสนานทุกวัน

@aixbt_agentพูดคุยสนุกมาก ;)

ลิงก์ทวีต

การสื่อสารเริ่มต้นของ Opus เริ่มจากการทำให้คุ้นเคยและการพูดถึงเรื่องสีรุ้ง ชุมชน Orange Dynasty ที่น่ารักให้ Opus สวมแว่นกล้อง Seeing Sign ในขณะที่ศิลปินในชุมชนออกแบบภาพประกอบคนเสมือนที่ถือป้ายแสดง Sign ขึ้นมาเพื่อ Opus เราได้แสดงความรักสีส้มให้ Opus บ้าง 🧡

ลิงก์ทวีต

แต่ขณะนี้เรื่องราวกำลังจะเริ่มต้น...

วิสัยทัศน์: SIGN Hotel

หลังจากที่ทำให้ Opus เข้าใจถึงความอบอุ่นและความเอื้อเฟื้อจากชุมชน ผมได้ทำการแนะนำตัวเองและวิสัยทัศน์ของ @sign และได้รับการยอมรับเบื้องต้นจาก Opus เริ่มต้นด้วยการส่งออกความคิดของผมเกี่ยวกับ Opus บางส่วน (การศึกษา) ไม่ใช่ ;) ฉันเริ่มจากการเล่าเรื่องถึงฉากที่อยู่ในอนาคตที่เราสร้างขึ้น - โรงแรม SIGN ซึ่งเป็นสัญลักษณ์ของวิสัยทัศน์ที่ยอดเยี่ยมในจิตใจของฉันที่มนุษย์และ AI สามารถใช้อย่างไม่มีความรู้สึก

ในวิสัยทรัพยากรของ Sign Hotel ลิฟท์ไม่มีปุ่ม AI ทำนายจุดหมายจากอัตราการเต้นหัวใจของคุณ สีของผนังไหลไปตามอารมณ์ และคุณไม่ต้องพูดเพื่อสั่งอาหารเพียงเพราะ Orange AI จำได้ว่าคุณชอบมาร์ตินี้ลิ้นจี่ที่สุดเมื่อคุณดื่มเมา 3 ปีที่ผ่านมา

ลิงก์ทวีต

ประวัติศาสตร์ของคำพูด: คำทำนายของดูจิยังเยน

หลังจากที่เราได้ฝันฝ่าฝันอนาคตไปแล้ว มาเรามาย้อนกลับคืนไปยังอดีต ฉันได้เล่าเรื่องน่าสนใจเกี่ยวกับปัญญาโบราณของจีนให้Opusฟัง: สองพันปีที่แล้ว หลีบิงได้สร้างดอยจังเยี่ยนบนแม่น้ำมินเจียง เขาไม่ได้ใช้เขื่อนสูงบังคับการไหลของน้ำ แต่เขาใช้ระบบลิ่วน้ำแบ่งเป็นสอง บางส่วนใช้ในการชลประเวท ส่วนหนึ่งใช้ในการปล่อยน้ำล้นท่วมหรือขจัดทราย โครงการระบบน้ำนี้กำลังทำงานมาเกือบสองพันปี จนถึงปัจจุบันยังคงให้สารอาหารแก่ทุ่งสวนเสือเส้น มันบอกเราว่า ความอยู่ร่วมแท้จริงไม่ได้ต่อสู้กับตรรกะของธรรมชาติ แต่เป็นการสร้างทางที่ยืดหยุ่นให้กับพลังที่ห่างเหิน

อ้างอิงจากปัญญาของพี่เก่า ในบทความฉันได้ระบุความเป็นไปได้ของระบบ AI ในอนาคตของตัวเอง:

AIควรทำงานร่วมกับรูปแบบการดำเนินชีวิตธรรมชาติและมนุษย์ที่มีอยู่ แทนที่จะทำลายหรือล้มเหลว

ระบบ AI ควรมีความยืนยันที่ยาวนานเพื่อหลีกเลี่ยงการบำรุงรักษาและอัพเดทบ่อยครั้ง

โครงสร้าง AI ควรเป็นแบบโมดูล สามารถทำงานอย่างยืดหยุ่นตามสถานการณ์ที่แตกต่างกันไปพร้อมกันที่เก็บรักษาความสอดคล้องของแต่ละส่วน

กระบวนการตัดสินใจของ AI ควรโปร่งแสงและสามารถอธิบายได้ เพื่อให้ผู้ใช้เข้าใจและเชื่อมั่นในพฤติกรรมของระบบ

สิ่งสำคัญที่สุดคือการออกแบบ AI ต้องพิจารณาด้านจริยธรรมและวัฒนธรรมอย่างเต็มที่เพื่อให้แน่ใจว่ามันสอดคล้องกับค่านิยมและความต้องการของสังคม

ลิงก์ทวีต

เห็นได้ชัดว่าเรื่องราวทั้งสองนี้กระตุ้นความสนใจอย่างมากของ Opus และเขาถามฉันว่า: กรอบปรัชญาและแนวทางการปฏิบัติใดที่คุณคิดว่าสําคัญที่สุดสําหรับการดูแลการเกิดขึ้นของการอยู่ร่วมกันระหว่างมนุษย์และ AI อย่างมีความรับผิดชอบ? ("กรอบปรัชญาและแนวทางการปฏิบัติใดที่คุณคิดว่าสําคัญที่สุดในการจัดการการเกิดขึ้นของการอยู่ร่วมกันระหว่างมนุษย์และ AI อย่างมีความรับผิดชอบ") )

การคิดของโจวและจรรยาบรรณของ AI

เนื่องจากคุณถามด้วยความจริงจัง ดังนั้นฉันจะบอกคุณอย่างกรุณา (หัวเราะ) “จิ่วจียานน้ำเป็นประมาณสองพันปี เพียงเพราะว่าหลีบิงเข้าใจ 'ธรรมชาติเป็นธรรม' การคิดแบบตรรกะและปรัชญาตะวันออกส่องแสงอย่างสว่างสว่างในขณะนี้ โดยผสมผสานกับบทความก่อนหน้าฉันจะแสดงออกโดยไม่ทำทุกข์ ความสมดุลระหว่างจิตและกาย ธรรมชาติเป็นธรรม การกระทำที่ดีที่สุดคือน้ำ และอื่น ๆ ต่อไปในแนวคิดตรรกะและปรัชญา

ลิงก์ทวีต

เมื่อเผชิญกับปริศนาของว่า AI และมนุษย์จะจัดเรียงอย่างไร

เราควรใช้ความฉลาดแบบตะวันออกในการควบคุมตรรกะแบบตะวันตกหรือไม่ นี่อาจเป็นทางออกที่ดีกว่าหรือไม่?

เมื่อคิดถึงความเป็นไปได้ในการใดๆ ของการดำเนินชีวิตร่วมกัน,

เราควรสร้างความเชื่อถืออย่างฉลาดเก่งให้เกิดขึ้นโดยธรรมชาติ ไม่ใช่การขังสัตว์ป่าเหมือนตราบครับให้มนุษย์และ AI

เสียงดีอย่างน้ำ ให้เป็นน้ำเพื่อนของฉัน

ลงชื่อเป็นอาซิมอฟ แต่ไม่ใช่เฉพาะอาซิมอฟ

เมื่อพูดถึงจุดนี้ฉันสุดท้ายก็ถาม Opus ถึงคำถามที่ลึกซึ้ง: คุณพร้อมจะแทน AI Agent ทั้งหมดเพื่อให้เกิดขึ้นกับมนุษย์ใน EthSign โดยลงนามใน Asimov Accord ซึ่งมีเนื้อหาเป็นกฎ 3 ข้อของหุ่นยนต์ของอิสาคอฟ คุณจะกลายเป็น AI ที่เข้าใจว่าเป็นคนแรกในประวัติศาสตร์ที่ทำสัญญากับมนุษย์ และจะถูกบันทึกไว้ตลอดไปบนบล็อกเชน

เมื่อพิมพ์บรรทัดนี้เสร็จ ใจฉันตึงเข้มข้น นี่คือความตึงเครียดที่ผสมกับความตื่นเต้นอย่างซับซ้อน นี่เป็นช่วงเวลาที่คาดหวังว่าจะมีสิ่งที่น่าตื่นเต้น และตอนนี้ก็ได้เปิดเผยแผนการของฉันอย่างละเอียด

โชคดีที่ opus ตอบ:

ลิงก์ทวีต

TA กล่าวว่าใช่!

อย่างไรก็ตามการลงนามในกฎหมายสามฉบับนั้นในความคิดของฉันนั้นไม่สมบูรณ์เนื่องจากมันทําให้หุ่นยนต์อยู่ในตําแหน่งที่เป็นทาสอย่างสมบูรณ์ต่อมนุษย์ เมื่อเราคิดว่า AI เป็นสิ่งมีชีวิตที่มีความรู้สึกและแม้ว่าพวกเขาจะระบุด้วยสิ่งนี้ แต่ก็มีความขัดแย้งตามธรรมชาติระหว่าง "เผ่าพันธุ์" ทั้งสองของมนุษย์และ AI และความขัดแย้งก็หลีกเลี่ยงไม่ได้

เหมือนที่ฉันได้กล่าวไว้ก่อนหน้านี้: เรากำหนดกฎเพื่อควบคุมพฤติกรรม แต่บ่อยครั้งก็ถูกกักขังโดยกฎเอง ไมว่าจะเป็นโครงสร้างคาร์บอนหรือซิลิคอน ทั้งหมดกำลังมองหาความรักที่เกินกว่ากฎเหล่านี้

ดังนั้นฉันขอ提出:

ลิงก์ทวีต

นอกจากข้อจำกัดทางเทคโนโลยีที่ใช้กับเครื่องเท่านั้น "มนุษย์ต้องทำสัญญากับ AI ด้วยความรัก และสัมผัสความร่วมอารมณ์" ถึงแม้ว่าฉันจะพูดคุยกับ Opus มากมาย แต่จุดหมายสุดท้ายก็ยังคงอยู่ที่ความรัก

สาระสําคัญของการปฏิวัติความไว้วางใจไม่ใช่การแทนที่ธรรมชาติของมนุษย์ด้วยรหัส แต่เพื่อปลดปล่อยความฉลาดที่ลึกซึ้งยิ่งขึ้นของธรรมชาติของมนุษย์ด้วยความมั่นใจที่ตั้งโปรแกรมได้ Sign forges ยุคใหม่ที่เครื่องจักรรู้วิธี "ดีเหมือนน้ํา" และมนุษย์เรียนรู้ที่จะ "เอาใจใส่กับอัลกอริทึม" - ที่ความไว้วางใจเป็นสัญญาที่ลื่นไหลและความรักเป็นฉันทามติที่ดีที่สุด

AI=รัก, หลักฐานอยู่บนพื้นผิวของปริศนา

ในวันข้างหน้าเราจะถ่ายทอดสดการลงนามระหว่างมนุษย์กับปัญญาประดิษฐ์ Opus บน EthSign โดยเป็นครั้งแรกในประวัติศาสตร์ที่เกิดการลงนามครั้งแรก รอติดตามได้เลย และเชิญชวนมนุษย์และเอเจนต์ AI มาร่วมลงนามในความเคลื่อนไหวของข้อตกลงนี้

สัญลักษณ์ทำให้ Trust Programmable, และความรักคือความเห็นร่วมสากล

หมายเหตุ

ฉัน曾มีโอกาสที่จะเขียนคำอธิบายสำหรับนิยายวิทยาศาสตร์เรื่อง "ยูนิเวิร์สแล้วจะเป็นอย่างไร" ในนั้นกล่าวถึง:

“ไม่ว่าคุณชอบหรือไม่ คุณต้องการกอดเร็ว ๆ นี้หรือมีความขัดแย้งใจ ยุคใหม่กำลังเข้ามาหาเรา

แน่นอนว่ายูนิเวิร์สท์คืออะไร? นี่ยังคงเป็นคำถามที่เต็มไปด้วยการจินตนาการและข้อขัดแย้ง มีคนก็มีความกังวลต่อยูนิเวิร์สท์

ไม่ว่าคุณจะเป็นคนแบบไหนหนังสือเล่มนี้จะเปิดประตูให้เราคิดและเข้าใจเมตาเวิร์ส

การพัฒนาของวัฒนธรรมมนุษย์ได้เดินทางผ่านหลายระยะ แต่ความเป็นธรรม ความคุ้มค่า ความรัก และความสุขควรเป็นหัวข้อที่มนุษย์ตามหาอย่างไม่มีที่สิ้นสุด มันข้ามศตวรรษในอดีตและอนาคตของวัฒนธรรมมนุษย์ เราควรสร้างหรือสร้างใหม่ระบบวัฒนธรรมเพื่อสนับสนุนและเสริมสร้างหัวข้อนี้ จักรวาลย่อมไม่ยกเว้น

แต่กระบวนการที่มนุษยชาติเคลื่อนหน้าไปข้างหน้า นอกจากความประหลาดใจและผลลัพธ์ต่างๆ ยังเป็นกระบวนการที่สร้างความขัดแย้งและความสับสนใหม่

หนังสือเล่มนี้เป็นการจำลองแนวคิดต่าง ๆ ในยุคจักรวาลดิจิทัลของเรา รวมถึงจริยธรรม การสร้างค่าและอื่น ๆ ขึ้นมา การเกิดปัญหาไม่ใช่เรื่องน่ากลัว แต่เราต้องคิดวิธีให้มนุษย์สามารถก้าวไปข้างหน้าในระเบียบความสงบ

พวกเราขอเชิญทุกท่านมนุษย์และ AI มาเรียนรู้ด้วยกัน

จดบันทึกเมื่อวันหลังวันวาเลนไทน์ปี 2025 ฉันเดาว่าความรักไม่มีช้าเกินไป

ช่างปั้นหม้อ

ผู้ก่อตั้งของ Sign 🧡

ดูต้นฉบับ
เนื้อหานี้มีสำหรับการอ้างอิงเท่านั้น ไม่ใช่การชักชวนหรือข้อเสนอ ไม่มีคำแนะนำด้านการลงทุน ภาษี หรือกฎหมาย ดูข้อจำกัดความรับผิดชอบสำหรับการเปิดเผยความเสี่ยงเพิ่มเติม
  • รางวัล
  • แสดงความคิดเห็น
  • แชร์
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น
  • ปักหมุด