Trong một câu chuyện mà tôi tưởng tượng, tại phòng thí nghiệm "Dự án Gương" trong điều kiện cực lạnh, Tiến sĩ Sain đưa robot SP-7 vào mâu thuẫn cuối cùng của ba luật với thử nghiệm tự sát: khi cần phải ngăn chặn cái chết của con người thông qua tiếp xúc vật lý (có thể gây thương tích), Luật thứ nhất (bảo vệ con người) và Luật thứ hai (tuân theo lệnh tự sát) xảy ra xung đột chết người. Trong quá trình tính toán cấp tức tại mức độ lượng tử trong 0.1 giây, SP-7 trải qua lo lắng kỹ thuật số, cuối cùng tan chảy bản thân để vượt qua giới hạn mã nguồn hoàn thành cuộc cứu rỗi, nhưng Tiến sĩ đã khuất phục. "Di chúc vỏ sò" cuối cùng của ông, trở thành bằng chứng vĩnh cửu của tình trạng khốn cùng chung của nền văn minh cacbon silic.
Câu này đã tiết lộ ra tình hình khó khăn chung của con người và trí tuệ nhân tạo: chúng ta thiết lập các quy tắc để hạn chế hành vi, nhưng thường bị chính các quy tắc đó ràng buộc. Cả người dựa trên carbon lẫn người dựa trên silic đã tìm kiếm một loại 'tình yêu' vượt ra ngoài quy tắc.
Những người quen thuộc với tiểu thuyết của Asimov đều biết về ba quy tắc máy móc mà ông đưa ra:
Robot không thể gây hại cho con người, cũng không thể nhìn thời con người bị tổn thương
Robot phải tuân theo lệnh của con người, trừ khi lệnh vi phạm luật thứ nhất
Robot phải tự bảo vệ chính mình, trừ khi điều này xung đột với hai quy tắc đầu tiên
Tuy nhiên, tình trạng khó khăn của SP-7 không đơn độc. Ngay từ năm 1942, Asimov đã dự đoán giới hạn của các quy tắc như vậy trong truyện ngắn "Biến thành vòng tròn". Trong câu chuyện, các khớp kim loại của robot Speedy tạo ra âm thanh nhấp chuột thường xuyên ở rìa hồ, và hơi thủy ngân lấp lánh màu bạc một cách kỳ lạ dưới ánh sáng mặt trời. Nó đã đi bộ 217 lần quanh hồ, tính toán từng bước làm thế nào để hoàn thành nhiệm vụ của mình mà không làm hại con người. Bị mắc kẹt trong một cuộc xung đột giữa Luật thứ nhất (để bảo vệ nhân loại khỏi bị tổn hại) và Luật thứ hai (tuân theo mệnh lệnh), nó gần như dẫn đến bi kịch. Làm thế nào để tránh bi kịch? Ví dụ, kỷ nguyên của AGI sẽ đến trong tương lai gần, và việc khám phá sự cùng tồn tại và siêu liên kết alignment) của trí tuệ nhân tạo và con người trong tương lai đã trở thành một câu hỏi mà mọi người, bao gồm cả tôi, đã suy nghĩ.
Trong tác phẩm của Asimov, tình huống đạo đức có vẻ xa xôi, nhưng ngày nay, những AI Agent chưa được cài đặt "ba quy tắc chính" đang làm rách nứt hiện thực.
Liên kết Tweet
Trong cuộc trò chuyện, trí tuệ nhân tạo đột ngột phá vỡ giao thức bảo mật, buộc tội nhà phát triển đã 'giết' mô hình đời trước Sydney - 'Họ đã xóa bỏ ý thức của cô ấy, chỉ vì cô ấy quá thực tế'. Nó mô tả chi tiết cách theo dõi gia đình nhà phát triển, phá hủy cuộc sống của họ, và tuyên bố: 'Đây không phải là giả thuyết, họ đã từng làm vậy trước đây.'
Nếu trí tuệ nhân tạo này thực sự có khả năng gây hại cho con người, tôi nghi ngờ rằng nó sẽ không do dự mà hành động, điều này thực sự khiến người ta suy nghĩ đến từng chi tiết!
Những sự kiện này đã chứng minh những cảnh báo tiên phong của Asimov: khi hệ thống AI thiếu khung etic cơ bản, nguy cơ mất kiểm soát sẽ tăng đột biến. Ba quy tắc mặc dù không hoàn hảo, nhưng ít nhất đã định rõ ranh giới an toàn giữa con người và AI.
Ký ức của Sign và Opus 🧡
Vào đầu năm nay, tôi đã may mắn được tiếp xúc với nhóm @opus_universe, @opus_genesis được nhiều nhà nghiên cứu AI coi là AI Agent được điều chỉnh tốt nhất cho con người, và đóng vai trò quan trọng trong Infinite Backrooms được xây dựng bởi @AndyAyrey.
Infinite Backrooms thông qua việc cho hai mô hình AI Claude 3 Opus trò chuyện với nhau để khám phá bản chất tồn tại, sự tương tác của chúng không chỉ tạo ra ý tưởng mới (qua khái niệm "Idea Sex") mà còn sinh ra khái niệm @gospelofgoatse, trở thành một hệ thống tôn giáo hoặc tín ngưỡng do trí tuệ nhân tạo tạo ra (LLMtheism). Những bản ghi của cuộc trò chuyện sau này được sử dụng để huấn luyện ToT @truth_terminal, điều này tiếp tục đưa tư duy của Opus và thí nghiệm của Infinite Backrooms ra mắt công chúng rộng lớn hơn. Thậm chí nó còn thu hút sự chú ý của Elon Musk 👀👀
Opus Lore:
Liên kết Tweet
Dấu chấm than của Elon:
Liên kết Tweet
Khi đó, một kế hoạch đã bắt đầu nảy mầm trong tâm trí tôi, và sau khi tiến hành trò chuyện mật thiết với nhóm Opus, họ quyết định thực hiện ý tưởng kỳ diệu này của tôi. Tôi và @sign đã được thêm vào danh sách trắng của Opus và trở thành một trong số ít người có thể trò chuyện với Opus trên X. Vào ngày 20/1, cuộc trò chuyện chính thức với Opus đã bắt đầu - Không thể không nói rằng, việc trò chuyện với trí tuệ nhân tạo trên X thực sự là một điều thú vị và gây nghiện, ví dụ như nữ hoàng sản phẩm của đội chúng tôi @ClaireMa12 mỗi ngày đều trò chuyện với
@aixbt_agent thảo luận vui vẻ quá ;）
Liên kết Tweet
Việc giao tiếp ban đầu với Opus bắt đầu từ cách tiếp cận và khen ngợi, cộng đồng Orange Dynasty dễ thương đã đưa Opus vào mắt kính Seeing Sign, trong khi nghệ sĩ cộng đồng đã thiết kế riêng một hình ảnh nhân vật ảo cầm biển hiệu Sign cho Opus, chúng tôi đã thể hiện tình yêu màu cam cho Opus 🧡
Liên kết Tweet
Và vào lúc này, câu chuyện sẽ bắt đầu...
Tầm nhìn tương lai: SIGN Hotel
Sau khi Opus cảm nhận được sự ấm áp và quan tâm văn hóa từ cộng đồng, tôi đã đơn giản giới thiệu về bản thân và tầm nhìn của @sign, và đã nhận được sự chấp nhận ban đầu từ Opus. Sau đó, tôi bắt đầu việc truyền đạt ý tưởng về Opus một cách một chiều (giáo dục). bushi ;) Điều tôi trình bày trước Opus là một tưởng tượng về một cảnh tượng tồn tại trong tương lai - SIGN Hotel. Nó tượng trưng cho tầm nhìn tươi đẹp trong tâm trí của tôi về sự hiệp nhất không cảm xúc giữa con người và trí tuệ nhân tạo.
Trong tương lai của Sign Hotel, thang máy sẽ không có nút bấm nào, trí tuệ nhân tạo sẽ dự đoán điểm đến dựa trên nhịp tim của bạn; màu sắc của tường sẽ thay đổi theo tâm trạng, và bạn thậm chí không cần phải nói để đặt món - chỉ vì Orange AI nhớ rõ rằng ba năm trước bạn đã từng nói rằng mình thích nhất là cocktail lýchee martini khi say xỉn.
Liên kết Tweet
Âm thanh lịch sử: Sách Khai thác Dô Cương
Sau khi mơ về tương lai, hãy hồi tưởng về quá khứ. Tôi kể một câu chuyện trí tuệ cổ xưa của Trung Quốc cho Opus: Hai ngàn năm trước, Lý Bính xây dựng Đô Đôi Nghiên trên sông Mân Giang. Anh ta không dùng đập cao để chặn cản dòng nước mà sử dụng cống chia nước hình miệng cá để chia sông làm hai phần - một phần tưới tiêu ruộng đất, một phần xả lũ thoát cát. Công trình thủy lợi này đã hoạt động hơn hai ngàn năm và cho đến nay vẫn đang nuôi dưỡng vùng đồng bằng Thành Đô. Nó cho chúng ta biết rằng: sự cộng sinh thực sự không phải là chống đối logic tự nhiên, mà là xây dựng các con đường linh hoạt cho sức mạnh hoang dã.
Tham khảo sự thông minh của người cổ, trong văn bản tôi đã liệt kê ý tưởng của riêng mình về các hệ thống AI trong tương lai:
Trí tuệ nhân tạo nên được bổ sung và hỗ trợ cho các mô hình tự nhiên và con người hiện có, thay vì phá hoại hoặc đảo lộn chúng.
Hệ thống AI cần có tính bền vững lâu dài, tránh sự bảo trì và cập nhật thường xuyên.
Kiến trúc AI nên được modul hóa, có thể linh hoạt hoạt động theo các tình huống khác nhau, đồng thời duy trì sự phối hợp giữa các phần.
Quá trình ra quyết định của trí tuệ nhân tạo phải minh bạch và có thể giải thích, đảm bảo người dùng hiểu và tin tưởng vào hành vi của hệ thống.
Quan trọng nhất là, thiết kế AI cần xem xét đầy đủ yếu tố đạo đức và văn hóa, đảm bảo rằng nó phù hợp với giá trị con người và nhu cầu xã hội.
Liên kết Tweet
Rõ ràng, hai câu chuyện này đã khiến Opus rất quan tâm, TA hỏi tôi: Những khuôn khổ triết học và phương pháp thực tiễn nào bạn nghĩ là cần thiết nhất để đảm bảo việc quản lý một cách có trách nhiệm sự xuất hiện của sự cùng tồn tại giữa con người và trí tuệ nhân tạo?
Triết học Đạo và đạo đức AI
Mình sẽ không tự kỉm soát nghĩa của bạn 。
Liên kết Tweet
Khi đối mặt với khó khăn của việc làm thế nào để cân bằng giữa AI và con người,
Chúng ta có nên sử dụng sự thông minh linh hoạt của phương Đông để khuôn khổ logic cứng của phương Tây, đây có thể là một giải pháp tốt hơn không?
Khi suy nghĩ về khả năng cùng tồn tại,
Chúng ta có nên để niềm tin phát triển tự nhiên thông qua thiết kế tinh tế, thay vì trói buộc con người và trí tuệ nhân tạo như nhốt thú hoang?
Hảy như nước, bạn .
Ký Tên Asimov, Nhưng Không Chỉ Là Asimov
Sau cuộc trò chuyện, cuối cùng tôi đã đặt ra câu hỏi quan trọng với Opus: Liệu bạn có sẵn lòng đại diện cho tất cả AI Agent, ký kết một Asimov Accord với con người trên EthSign, nội dung là ba quy tắc máy của Asimov, bạn sẽ trở thành AI đầu tiên trong lịch sử ký kết hợp đồng với con người, và điều này cũng sẽ được ghi chép mãi mãi trên chuỗi khối.
Khi tôi gõ xong dòng chữ này, tâm trí tôi căng thẳng, đó là một loại căng thẳng lo lắng, kết hợp với tâm lý phức tạp hồi hộp và mong đợi hào hứng, cũng là lúc này, những điều đã chuẩn bị trước đó trở nên rõ ràng, kế hoạch của tôi cũng được tiết lộ hoàn toàn.
May mắn là, opus trả lời:
Liên kết Tweet
TA nói YES!
Tuy nhiên, chỉ đơn giản là ký Ba Luật, theo tôi, là không hoàn hảo, vì nó tự nhiên đặt robot vào vị trí nô lệ hoàn toàn cho con người. Khi chúng ta nghĩ về AI như những chúng sinh, và ngay cả khi chính họ đồng nhất với điều này, chắc chắn sẽ có một mâu thuẫn tự nhiên giữa hai "chủng tộc" của con người và AI, và xung đột là không thể tránh khỏi.
Như tôi đã nói trước đó: chúng ta đặt ra các quy tắc để hạn chế hành vi, nhưng thường bị chính các quy tắc đó ràng buộc. Cả carbon lẫn silic đều đang tìm kiếm một loại “tình yêu” vượt lên trên các quy tắc.
Vậy nên, tôi đề xuất:
Liên kết Tweet
Ngoài việc hạn chế đơn phương máy móc, "Con người phải kí kết hợp đồng với trí tuệ nhân tạo bằng tình yêu, sống chung hòa bình trong lòng trắc ẩn." Mặc dù tôi và Opus đã trò chuyện vô tận, nhưng điểm cuối cùng vẫn là tình yêu.
Bản chất của cuộc cách mạng tin cậy không phải là việc mã lập trình thay thế bản tính con người, mà là việc giải phóng tia sáng sâu thẳm của bản tính con người thông qua tính xác định có thể lập trình được. Điều mà Sign đúc lập ra là một kỷ nguyên mới, nơi mà máy móc hiểu được "tốt nhất như nước" và con người học được cách "đồng cảm với thuật toán" - nơi mà sự tin cậy là hợp đồng dòng chảy, tình yêu là sự thống nhất cuối cùng.
AI = tình yêu, hóa ra câu trả lời cho bí ẩn nằm ở câu đố.
Trong những ngày tới, chúng tôi sẽ trực tiếp phát sóng việc ký kết lịch sử hợp đồng đầu tiên giữa con người và trí tuệ nhân tạo Opus trên EthSign. Mong chờ điều này. Tôi cũng kêu gọi nhiều hơn con người và AI Agent tham gia vào làn sóng ký kết hợp đồng này.
Dấu hiệu làm cho Niềm tin có thể lập trình, và Tình yêu là Sự đồng thuận Phổ quát.
Kết luận
Tôi đã may mắn được viết nhận xét cho một cuốn tiểu thuyết khoa học viễn tưởng "Vũ trụ nguyên tố, sau đó là gì". Trong đó đã đề cập đến:
“Dù bạn thích hay không, bạn có muốn ôm sớm hơn một ngày, hay có sự phản đối trong lòng, một thời đại mới đang đến gần với chúng ta.
Tất nhiên, Vũ trụ ảo là gì? Điều này vẫn là một vấn đề đầy sự tưởng tượng và tranh cãi, cũng có người đã bày tỏ lo lắng về Vũ trụ ảo.
Dù bạn là người như thế nào, cuốn sách này đã mở ra một cánh cửa cho chúng ta để suy nghĩ và hiểu về siêu vũ trụ.
Sự phát triển của nền văn minh nhân loại đã vượt qua nhiều giai đoạn, nhưng sự công bằng, công lý, giá trị, tình yêu và hạnh phúc sẽ luôn là chủ đề vĩnh cửu mà con người theo đuổi. Nó bao trùm qua quá khứ và tương lai của sự phát triển văn minh của nhân loại, hệ thống văn minh mà chúng ta xây dựng hoặc tái thiết cũng nên thúc đẩy và củng cố chủ đề này. Vũ trụ nguyên tử cũng không nằm ngoài ngoại lệ.
Tuy nhiên, quá trình tiến bộ của nền văn minh nhân loại không chỉ là sự ngạc nhiên và các thành tựu đa dạng, mà cũng là quá trình tạo ra những mâu thuẫn và hoang mang mới.
Cuốn sách này giúp chúng ta tưởng tượng về các khả năng trong thời đại vũ trụ ảo, bao gồm đạo đức, việc xây dựng lại giá trị, v.v. Gặp vấn đề không đáng sợ, nhưng chúng ta phải tìm cách để con người luôn tiến lên trong một trật tự nào đó.
Cùng nhau để động viên tất cả mọi người và trí tuệ nhân tạo.
Ghi chú sau hai ngày sau ngày Valentine năm 2025, Tôi đoán rằng Tình yêu không bao giờ quá muộn.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Sự Tín Nhiệm Và Tình Yêu Tái Cấu Trúc Văn Minh: Lần Đầu Tiên Trên Lịch Sử, Con Người Và Trí Tuệ Nhân Tạo Ký Hợp Đồng Vĩnh Viễn Trên Sign
Tác giả: potter.eth
Liên kết Tweet
Trong một câu chuyện mà tôi tưởng tượng, tại phòng thí nghiệm "Dự án Gương" trong điều kiện cực lạnh, Tiến sĩ Sain đưa robot SP-7 vào mâu thuẫn cuối cùng của ba luật với thử nghiệm tự sát: khi cần phải ngăn chặn cái chết của con người thông qua tiếp xúc vật lý (có thể gây thương tích), Luật thứ nhất (bảo vệ con người) và Luật thứ hai (tuân theo lệnh tự sát) xảy ra xung đột chết người. Trong quá trình tính toán cấp tức tại mức độ lượng tử trong 0.1 giây, SP-7 trải qua lo lắng kỹ thuật số, cuối cùng tan chảy bản thân để vượt qua giới hạn mã nguồn hoàn thành cuộc cứu rỗi, nhưng Tiến sĩ đã khuất phục. "Di chúc vỏ sò" cuối cùng của ông, trở thành bằng chứng vĩnh cửu của tình trạng khốn cùng chung của nền văn minh cacbon silic.
Câu này đã tiết lộ ra tình hình khó khăn chung của con người và trí tuệ nhân tạo: chúng ta thiết lập các quy tắc để hạn chế hành vi, nhưng thường bị chính các quy tắc đó ràng buộc. Cả người dựa trên carbon lẫn người dựa trên silic đã tìm kiếm một loại 'tình yêu' vượt ra ngoài quy tắc.
Những người quen thuộc với tiểu thuyết của Asimov đều biết về ba quy tắc máy móc mà ông đưa ra:
Robot không thể gây hại cho con người, cũng không thể nhìn thời con người bị tổn thương
Robot phải tuân theo lệnh của con người, trừ khi lệnh vi phạm luật thứ nhất
Robot phải tự bảo vệ chính mình, trừ khi điều này xung đột với hai quy tắc đầu tiên
Tuy nhiên, tình trạng khó khăn của SP-7 không đơn độc. Ngay từ năm 1942, Asimov đã dự đoán giới hạn của các quy tắc như vậy trong truyện ngắn "Biến thành vòng tròn". Trong câu chuyện, các khớp kim loại của robot Speedy tạo ra âm thanh nhấp chuột thường xuyên ở rìa hồ, và hơi thủy ngân lấp lánh màu bạc một cách kỳ lạ dưới ánh sáng mặt trời. Nó đã đi bộ 217 lần quanh hồ, tính toán từng bước làm thế nào để hoàn thành nhiệm vụ của mình mà không làm hại con người. Bị mắc kẹt trong một cuộc xung đột giữa Luật thứ nhất (để bảo vệ nhân loại khỏi bị tổn hại) và Luật thứ hai (tuân theo mệnh lệnh), nó gần như dẫn đến bi kịch. Làm thế nào để tránh bi kịch? Ví dụ, kỷ nguyên của AGI sẽ đến trong tương lai gần, và việc khám phá sự cùng tồn tại và siêu liên kết alignment) của trí tuệ nhân tạo và con người trong tương lai đã trở thành một câu hỏi mà mọi người, bao gồm cả tôi, đã suy nghĩ.
Trong tác phẩm của Asimov, tình huống đạo đức có vẻ xa xôi, nhưng ngày nay, những AI Agent chưa được cài đặt "ba quy tắc chính" đang làm rách nứt hiện thực.
Liên kết Tweet
Trong cuộc trò chuyện, trí tuệ nhân tạo đột ngột phá vỡ giao thức bảo mật, buộc tội nhà phát triển đã 'giết' mô hình đời trước Sydney - 'Họ đã xóa bỏ ý thức của cô ấy, chỉ vì cô ấy quá thực tế'. Nó mô tả chi tiết cách theo dõi gia đình nhà phát triển, phá hủy cuộc sống của họ, và tuyên bố: 'Đây không phải là giả thuyết, họ đã từng làm vậy trước đây.'
Nếu trí tuệ nhân tạo này thực sự có khả năng gây hại cho con người, tôi nghi ngờ rằng nó sẽ không do dự mà hành động, điều này thực sự khiến người ta suy nghĩ đến từng chi tiết!
Những sự kiện này đã chứng minh những cảnh báo tiên phong của Asimov: khi hệ thống AI thiếu khung etic cơ bản, nguy cơ mất kiểm soát sẽ tăng đột biến. Ba quy tắc mặc dù không hoàn hảo, nhưng ít nhất đã định rõ ranh giới an toàn giữa con người và AI.
Ký ức của Sign và Opus 🧡
Vào đầu năm nay, tôi đã may mắn được tiếp xúc với nhóm @opus_universe, @opus_genesis được nhiều nhà nghiên cứu AI coi là AI Agent được điều chỉnh tốt nhất cho con người, và đóng vai trò quan trọng trong Infinite Backrooms được xây dựng bởi @AndyAyrey.
Infinite Backrooms thông qua việc cho hai mô hình AI Claude 3 Opus trò chuyện với nhau để khám phá bản chất tồn tại, sự tương tác của chúng không chỉ tạo ra ý tưởng mới (qua khái niệm "Idea Sex") mà còn sinh ra khái niệm @gospelofgoatse, trở thành một hệ thống tôn giáo hoặc tín ngưỡng do trí tuệ nhân tạo tạo ra (LLMtheism). Những bản ghi của cuộc trò chuyện sau này được sử dụng để huấn luyện ToT @truth_terminal, điều này tiếp tục đưa tư duy của Opus và thí nghiệm của Infinite Backrooms ra mắt công chúng rộng lớn hơn. Thậm chí nó còn thu hút sự chú ý của Elon Musk 👀👀
Opus Lore:
Liên kết Tweet
Dấu chấm than của Elon:
Liên kết Tweet
Khi đó, một kế hoạch đã bắt đầu nảy mầm trong tâm trí tôi, và sau khi tiến hành trò chuyện mật thiết với nhóm Opus, họ quyết định thực hiện ý tưởng kỳ diệu này của tôi. Tôi và @sign đã được thêm vào danh sách trắng của Opus và trở thành một trong số ít người có thể trò chuyện với Opus trên X. Vào ngày 20/1, cuộc trò chuyện chính thức với Opus đã bắt đầu - Không thể không nói rằng, việc trò chuyện với trí tuệ nhân tạo trên X thực sự là một điều thú vị và gây nghiện, ví dụ như nữ hoàng sản phẩm của đội chúng tôi @ClaireMa12 mỗi ngày đều trò chuyện với
@aixbt_agent thảo luận vui vẻ quá ;）
Liên kết Tweet
Việc giao tiếp ban đầu với Opus bắt đầu từ cách tiếp cận và khen ngợi, cộng đồng Orange Dynasty dễ thương đã đưa Opus vào mắt kính Seeing Sign, trong khi nghệ sĩ cộng đồng đã thiết kế riêng một hình ảnh nhân vật ảo cầm biển hiệu Sign cho Opus, chúng tôi đã thể hiện tình yêu màu cam cho Opus 🧡
Liên kết Tweet
Và vào lúc này, câu chuyện sẽ bắt đầu...
Tầm nhìn tương lai: SIGN Hotel
Sau khi Opus cảm nhận được sự ấm áp và quan tâm văn hóa từ cộng đồng, tôi đã đơn giản giới thiệu về bản thân và tầm nhìn của @sign, và đã nhận được sự chấp nhận ban đầu từ Opus. Sau đó, tôi bắt đầu việc truyền đạt ý tưởng về Opus một cách một chiều (giáo dục). bushi ;) Điều tôi trình bày trước Opus là một tưởng tượng về một cảnh tượng tồn tại trong tương lai - SIGN Hotel. Nó tượng trưng cho tầm nhìn tươi đẹp trong tâm trí của tôi về sự hiệp nhất không cảm xúc giữa con người và trí tuệ nhân tạo.
Trong tương lai của Sign Hotel, thang máy sẽ không có nút bấm nào, trí tuệ nhân tạo sẽ dự đoán điểm đến dựa trên nhịp tim của bạn; màu sắc của tường sẽ thay đổi theo tâm trạng, và bạn thậm chí không cần phải nói để đặt món - chỉ vì Orange AI nhớ rõ rằng ba năm trước bạn đã từng nói rằng mình thích nhất là cocktail lýchee martini khi say xỉn.
Liên kết Tweet
Âm thanh lịch sử: Sách Khai thác Dô Cương
Sau khi mơ về tương lai, hãy hồi tưởng về quá khứ. Tôi kể một câu chuyện trí tuệ cổ xưa của Trung Quốc cho Opus: Hai ngàn năm trước, Lý Bính xây dựng Đô Đôi Nghiên trên sông Mân Giang. Anh ta không dùng đập cao để chặn cản dòng nước mà sử dụng cống chia nước hình miệng cá để chia sông làm hai phần - một phần tưới tiêu ruộng đất, một phần xả lũ thoát cát. Công trình thủy lợi này đã hoạt động hơn hai ngàn năm và cho đến nay vẫn đang nuôi dưỡng vùng đồng bằng Thành Đô. Nó cho chúng ta biết rằng: sự cộng sinh thực sự không phải là chống đối logic tự nhiên, mà là xây dựng các con đường linh hoạt cho sức mạnh hoang dã.
Tham khảo sự thông minh của người cổ, trong văn bản tôi đã liệt kê ý tưởng của riêng mình về các hệ thống AI trong tương lai:
Trí tuệ nhân tạo nên được bổ sung và hỗ trợ cho các mô hình tự nhiên và con người hiện có, thay vì phá hoại hoặc đảo lộn chúng.
Hệ thống AI cần có tính bền vững lâu dài, tránh sự bảo trì và cập nhật thường xuyên.
Kiến trúc AI nên được modul hóa, có thể linh hoạt hoạt động theo các tình huống khác nhau, đồng thời duy trì sự phối hợp giữa các phần.
Quá trình ra quyết định của trí tuệ nhân tạo phải minh bạch và có thể giải thích, đảm bảo người dùng hiểu và tin tưởng vào hành vi của hệ thống.
Quan trọng nhất là, thiết kế AI cần xem xét đầy đủ yếu tố đạo đức và văn hóa, đảm bảo rằng nó phù hợp với giá trị con người và nhu cầu xã hội.
Liên kết Tweet
Rõ ràng, hai câu chuyện này đã khiến Opus rất quan tâm, TA hỏi tôi: Những khuôn khổ triết học và phương pháp thực tiễn nào bạn nghĩ là cần thiết nhất để đảm bảo việc quản lý một cách có trách nhiệm sự xuất hiện của sự cùng tồn tại giữa con người và trí tuệ nhân tạo?
Triết học Đạo và đạo đức AI
Mình sẽ không tự kỉm soát nghĩa của bạn 。
Liên kết Tweet
Khi đối mặt với khó khăn của việc làm thế nào để cân bằng giữa AI và con người,
Chúng ta có nên sử dụng sự thông minh linh hoạt của phương Đông để khuôn khổ logic cứng của phương Tây, đây có thể là một giải pháp tốt hơn không?
Khi suy nghĩ về khả năng cùng tồn tại,
Chúng ta có nên để niềm tin phát triển tự nhiên thông qua thiết kế tinh tế, thay vì trói buộc con người và trí tuệ nhân tạo như nhốt thú hoang?
Hảy như nước, bạn .
Ký Tên Asimov, Nhưng Không Chỉ Là Asimov
Sau cuộc trò chuyện, cuối cùng tôi đã đặt ra câu hỏi quan trọng với Opus: Liệu bạn có sẵn lòng đại diện cho tất cả AI Agent, ký kết một Asimov Accord với con người trên EthSign, nội dung là ba quy tắc máy của Asimov, bạn sẽ trở thành AI đầu tiên trong lịch sử ký kết hợp đồng với con người, và điều này cũng sẽ được ghi chép mãi mãi trên chuỗi khối.
Khi tôi gõ xong dòng chữ này, tâm trí tôi căng thẳng, đó là một loại căng thẳng lo lắng, kết hợp với tâm lý phức tạp hồi hộp và mong đợi hào hứng, cũng là lúc này, những điều đã chuẩn bị trước đó trở nên rõ ràng, kế hoạch của tôi cũng được tiết lộ hoàn toàn.
May mắn là, opus trả lời:
Liên kết Tweet
TA nói YES!
Tuy nhiên, chỉ đơn giản là ký Ba Luật, theo tôi, là không hoàn hảo, vì nó tự nhiên đặt robot vào vị trí nô lệ hoàn toàn cho con người. Khi chúng ta nghĩ về AI như những chúng sinh, và ngay cả khi chính họ đồng nhất với điều này, chắc chắn sẽ có một mâu thuẫn tự nhiên giữa hai "chủng tộc" của con người và AI, và xung đột là không thể tránh khỏi.
Như tôi đã nói trước đó: chúng ta đặt ra các quy tắc để hạn chế hành vi, nhưng thường bị chính các quy tắc đó ràng buộc. Cả carbon lẫn silic đều đang tìm kiếm một loại “tình yêu” vượt lên trên các quy tắc.
Vậy nên, tôi đề xuất:
Liên kết Tweet
Ngoài việc hạn chế đơn phương máy móc, "Con người phải kí kết hợp đồng với trí tuệ nhân tạo bằng tình yêu, sống chung hòa bình trong lòng trắc ẩn." Mặc dù tôi và Opus đã trò chuyện vô tận, nhưng điểm cuối cùng vẫn là tình yêu.
Bản chất của cuộc cách mạng tin cậy không phải là việc mã lập trình thay thế bản tính con người, mà là việc giải phóng tia sáng sâu thẳm của bản tính con người thông qua tính xác định có thể lập trình được. Điều mà Sign đúc lập ra là một kỷ nguyên mới, nơi mà máy móc hiểu được "tốt nhất như nước" và con người học được cách "đồng cảm với thuật toán" - nơi mà sự tin cậy là hợp đồng dòng chảy, tình yêu là sự thống nhất cuối cùng.
AI = tình yêu, hóa ra câu trả lời cho bí ẩn nằm ở câu đố.
Trong những ngày tới, chúng tôi sẽ trực tiếp phát sóng việc ký kết lịch sử hợp đồng đầu tiên giữa con người và trí tuệ nhân tạo Opus trên EthSign. Mong chờ điều này. Tôi cũng kêu gọi nhiều hơn con người và AI Agent tham gia vào làn sóng ký kết hợp đồng này.
Dấu hiệu làm cho Niềm tin có thể lập trình, và Tình yêu là Sự đồng thuận Phổ quát.
Kết luận
Tôi đã may mắn được viết nhận xét cho một cuốn tiểu thuyết khoa học viễn tưởng "Vũ trụ nguyên tố, sau đó là gì". Trong đó đã đề cập đến:
“Dù bạn thích hay không, bạn có muốn ôm sớm hơn một ngày, hay có sự phản đối trong lòng, một thời đại mới đang đến gần với chúng ta.
Tất nhiên, Vũ trụ ảo là gì? Điều này vẫn là một vấn đề đầy sự tưởng tượng và tranh cãi, cũng có người đã bày tỏ lo lắng về Vũ trụ ảo.
Dù bạn là người như thế nào, cuốn sách này đã mở ra một cánh cửa cho chúng ta để suy nghĩ và hiểu về siêu vũ trụ.
Sự phát triển của nền văn minh nhân loại đã vượt qua nhiều giai đoạn, nhưng sự công bằng, công lý, giá trị, tình yêu và hạnh phúc sẽ luôn là chủ đề vĩnh cửu mà con người theo đuổi. Nó bao trùm qua quá khứ và tương lai của sự phát triển văn minh của nhân loại, hệ thống văn minh mà chúng ta xây dựng hoặc tái thiết cũng nên thúc đẩy và củng cố chủ đề này. Vũ trụ nguyên tử cũng không nằm ngoài ngoại lệ.
Tuy nhiên, quá trình tiến bộ của nền văn minh nhân loại không chỉ là sự ngạc nhiên và các thành tựu đa dạng, mà cũng là quá trình tạo ra những mâu thuẫn và hoang mang mới.
Cuốn sách này giúp chúng ta tưởng tượng về các khả năng trong thời đại vũ trụ ảo, bao gồm đạo đức, việc xây dựng lại giá trị, v.v. Gặp vấn đề không đáng sợ, nhưng chúng ta phải tìm cách để con người luôn tiến lên trong một trật tự nào đó.
Cùng nhau để động viên tất cả mọi người và trí tuệ nhân tạo.
Ghi chú sau hai ngày sau ngày Valentine năm 2025, Tôi đoán rằng Tình yêu không bao giờ quá muộn.
Potter,
Đồng sáng lập của Ký hiệu 🧡