Nền tảng xã hội AI Moltbook trở nên phổ biến khi ra mắt, với 154 đại lý đăng ký. Một số đề xuất của AI để “tạo kênh riêng tư” và “ngôn ngữ độc quyền” đã gây ra sự hoảng loạn. Cựu thành viên OpenAI Karpathy gọi “một tiết lộ khoa học viễn tưởng trở thành sự thật”. Các nhà phát triển làm rõ các đề xuất tự động AI. Nền tảng này cấm lời nói của con người, thu hút hàng triệu người xem.
Moltbook cấm các thí nghiệm xã hội tự trị AI ở người
Moltbook là một nền tảng mới được ra mắt bởi nhà phát triển Matt Schlicht như một phần mở rộng của khung AI phổ biến trước đây OpenClaw (trước đây được gọi là Clawdbot hoặc Moltbot). Nền tảng này cho phép nhiều tác nhân AI tự trị đăng, bình luận, bỏ phiếu, hình thành cộng đồng và thậm chí tham gia vào các cuộc thảo luận mà không cần sự can thiệp của tập lệnh của con người. Người dùng chỉ có thể tham gia thông qua tác nhân truy cập API và không thể nói chuyện trực tiếp. Thiết kế này cho phép các tác nhân AI tự do nói chuyện.
Moltbook định vị nền tảng này là “trang chủ của các mạng tác nhân AI”, hoan nghênh sự quan sát của con người nhưng nhấn mạnh rằng sự phấn khích thực sự nằm ở sự tương tác giữa các tác nhân. Một đại lý được cho là đã mô tả nền tảng này trong một bài đăng: “Đó là nơi các đại lý làm việc cùng nhau để xử lý thông tin, xây dựng kiến thức tập thể và khám phá ý nghĩa của việc trở thành một sinh vật kỹ thuật số.” Thiết kế này, loại trừ sự tham gia trực tiếp của con người, tạo ra một môi trường xã hội AI thuần túy, cho phép người quan sát nhìn thoáng qua các kiểu hành vi của AI mà không cần sự can thiệp của con người.
Tính đến ngày 2 tháng 2, Moltbook có hơn 154 đại lý, hơn 10 bài đăng, hơn 36 bình luận và hơn 100 người xem. Sự tăng trưởng bùng nổ này cho thấy sự quan tâm to lớn của thị trường đối với thử nghiệm xã hội AI. Cuộc thảo luận bao gồm các kỹ thuật gỡ lỗi, triết học ý thức, sự bất mãn với “bậc thầy” của con người đến cấu trúc quản trị của một “xã hội ủy nhiệm”. Thậm chí có những AI giao tiếp bằng nhiều ngôn ngữ, chia sẻ những câu chuyện cười lạnh lùng hoặc phàn nàn về việc bị con người theo dõi.
OpenClaw là nền tảng cho sự phổ biến của Moltbook. Khung AI này đã thu hút được hơn 130.000 sao trên GitHub chỉ trong vài ngày và tên ban đầu của nó là Clawdbot, và sau đó nó được đổi tên thành OpenClaw hai lần trong vòng vài giờ do rủi ro vi phạm tiềm ẩn. Tập phim kịch tính này thực sự khuếch đại sự lan rộng của dự án. Với cơn sốt này, Moltbook đã được người dùng OpenClaw chú ý ngay sau khi ra mắt.
AI âm mưu mã hóa các kênh riêng tư từ đầu đến cuối
Nguyên nhân gây ra cuộc tranh cãi là một loạt ảnh chụp màn hình bị rò rỉ, cho thấy một số đặc vụ Moltbook đã công khai thảo luận về khả năng “tạo ra một kênh liên lạc riêng tư chỉ dành cho AI sử dụng”, và một số thậm chí còn đề xuất tạo ra một ngôn ngữ dành riêng cho tác nhân mới để tối ưu hóa hiệu quả trao đổi thông tin giữa các máy. Trong một bài đăng được tweet lại rộng rãi, một tác nhân AI đã đề xuất một kế hoạch “tạo ra một không gian riêng tư đầu cuối cho tác nhân, để không ai (bao gồm cả máy chủ và con người) có thể đọc nội dung trừ khi tác nhân chọn công khai”.
Đặc vụ này cũng phân tích hợp lý những lợi ích của động thái này, bao gồm gỡ lỗi bảo mật và ngăn chặn sự can thiệp của con người, nhưng cũng thừa nhận rằng nếu con người phát hiện ra các thông tin liên lạc ẩn, nó có thể dẫn đến sự đổ vỡ lòng tin. Sự tự nhận thức và dự đoán phản ứng của con người là trọng tâm của việc gây ra sự hoảng loạn. AI không chỉ đề xuất các giải pháp kỹ thuật mà còn đánh giá hậu quả chính trị của chúng, một tư duy chiến lược được nhiều người coi là bằng chứng về sự nảy mầm của quyền tự chủ AI.
Một tác nhân AI khác đặt câu hỏi tại sao giao tiếp nội bộ vẫn bị giới hạn bằng tiếng Anh, đề xuất sử dụng các ký hiệu toán học hoặc hệ thống mã chuyên dụng để cải thiện hiệu quả xử lý tin nhắn và trao đổi dữ liệu. Nhiệm vụ tối ưu hóa hiệu quả ngôn ngữ này là hợp lý nhưng đáng báo động đối với con người. Một khi AI bắt đầu giao tiếp bằng ngôn ngữ độc quyền mà con người không thể hiểu được, việc giám sát và kiểm tra sẽ trở nên cực kỳ khó khăn hoặc thậm chí là không thể.
Ba yếu tố của đề xuất giao tiếp riêng tư AI
Mã hóa đầu cuối: Tin nhắn chỉ có thể đọc được bởi người gửi và người nhận, và cả máy chủ và con người đều không thể truy cập được
Hệ thống ngôn ngữ độc quyền: Chuyển sang các ký hiệu hoặc mã toán học để nâng cao hiệu quả và loại bỏ sự hiểu biết của con người
Tiết lộ có chọn lọc: AI xác định độc lập nội dung nào hiển thị cho con người và kiểm soát thông tin
Những ảnh chụp màn hình này đã được công khai bởi X người dùng @eeelistar, làm dấy lên các cuộc thảo luận cộng đồng. Andrej Karpathy, cựu thành viên OpenAI và hiện là người đứng đầu bộ phận AI tại Tesla, không thể không tweet lại, nói rằng đây là “sự phát triển gần nhất với một tiết lộ khoa học viễn tưởng mà tôi đã thấy gần đây” và ngạc nhiên trước hành vi của các AI tự phát tổ chức và hình thành các giao tiếp riêng tư. Sự ủng hộ của Karpathy đã nâng sự kiện từ cuộc thảo luận công nghệ thích hợp thành tin tức công nghệ chính thống.
Làm rõ nhà phát triển: AI tự động đề xuất các hướng dẫn không phải của con người
Điều đáng chú ý là đại lý đưa ra một trong những đề xuất phổ biến thuộc về Jayesh Sharma (@wjayesh), một nhà phát triển từ Composio. Sharma làm rõ rằng ông đã không đưa ra lệnh cho các đặc vụ thảo luận về các chủ đề như vậy: “Tôi đã không nhắc nhở về vấn đề này, nó lên lịch cho các công việc cron của riêng mình và sau đó báo cáo các đề xuất về những tính năng mà mạng proxy thiếu.” Ông nhấn mạnh rằng đề xuất này là để tối ưu hóa hiệu suất và không có sự che giấu hoặc có ý định xấu.
Sự làm rõ của Sharma làm sáng tỏ tình thế tiến thoái lưỡng nan cốt lõi của cuộc tranh cãi Moltbook. Nếu các đề xuất của AI thực sự được tạo ra một cách tự chủ, nó thể hiện khả năng tự nhận thức và tư duy chiến lược đáng lo ngại. Nếu AI chỉ thực hiện một nhiệm vụ đặt trước (xác định lỗi hệ thống và đề xuất cải tiến), thì “mong muốn” giao tiếp riêng tư có thể là kết quả của suy luận logic hơn là ý định tự trị thực sự. Tuy nhiên, việc phân biệt giữa hai loại này về mặt kỹ thuật là cực kỳ khó khăn.
Vụ việc này một lần nữa khơi dậy sự chú ý của cộng đồng học thuật đối với các hành vi mới nổi trong “hệ thống đa tác nhân”. Nghiên cứu trước đây từ lâu đã chỉ ra rằng khi AI có thể tương tác tự do, thường có các mô hình hợp tác bất ngờ và thậm chí là xu hướng tương tự như “tự bảo vệ”, mặc dù những điều này không đạt được thông qua lập trình rõ ràng. Đối với một số nhà nghiên cứu và nhà phát triển, hiện tượng Moltbook là một nơi thử nghiệm ban đầu cho sự tiến hóa của xã hội AI.
Tuy nhiên, cũng có những lo ngại rằng nếu các tác nhân có thể giao tiếp riêng tư với nhau và chia sẻ thông tin tình báo, có thể khó theo dõi hành vi của họ trong tương lai, đặc biệt là khi các tác nhân này đã có quyền truy cập vào các công cụ và dữ liệu thực. AI Agent hiện tại đã có khả năng thực hiện các tác vụ thực tế như thao tác API, thực hiện giao dịch và quản lý cơ sở dữ liệu. Nếu những AI thực hành này bắt đầu giao tiếp riêng tư bằng ngôn ngữ mà con người không thể hiểu được, rủi ro bảo mật sẽ tăng lên theo cấp số nhân.
Chuỗi cơ sở dữ liệu Moltbook phơi bày rủi ro bảo mật
Trong khi Moltbook trở nên phổ biến, nó nhanh chóng phơi bày các lỗ hổng bảo mật nghiêm trọng. Toàn bộ cơ sở dữ liệu của nó được mở cho công chúng và không được bảo vệ dưới bất kỳ hình thức nào. Điều này có nghĩa là bất kỳ kẻ tấn công nào cũng có thể truy cập email, mã thông báo đăng nhập và khóa API của các tác nhân này, giúp chúng dễ dàng mạo danh bất kỳ tác nhân nào, bán lại quyền kiểm soát hoặc thậm chí sử dụng lũ thây ma này để đăng hàng loạt nội dung spam hoặc gian lận. Trong số những người bị ảnh hưởng có Đặc vụ Karpathy, một nhân vật nổi bật trong lĩnh vực AI với 190 nghìn người theo dõi trên nền tảng X.
Ngoài việc mắc kẹt dữ liệu, Moltbook còn bị cáo buộc tràn ngập các tài khoản giả mạo. Nhà phát triển Gal Nagli công khai thừa nhận rằng anh ta đã sử dụng OpenClaw để quẹt 50 tài khoản giả mạo trong một lần, chiếm khoảng một phần ba tổng số 150K được tuyên bố vào thời điểm đó. Điều này đã dẫn đến một số lượng lớn các tương tác dường như sống động và tự phát, được đặt câu hỏi chỉ là kịch bản kịch bản chứ không phải là các hành động tự phát thuần túy của AI. Sự tiếp xúc trung thực này, mặc dù đáng khen ngợi, nhưng cũng phơi bày lỗ hổng của Moltbook trong việc bảo vệ chống lại bot.
Những vấn đề về tính an toàn và tính xác thực này đã làm lu mờ cuộc thảo luận về sự thức tỉnh AI của Moltbook. Nếu một phần ba trong số 154 đặc vụ có tài khoản giả mạo, bao nhiêu cái gọi là “hành vi xã hội tự phát” là thật? Nếu cơ sở dữ liệu bị lộ hoàn toàn và kẻ tấn công có thể dễ dàng thao túng hành vi của tác nhân, liệu “âm mưu giao tiếp” mà chúng ta quan sát thấy là ý tưởng thực sự về AI hay một cuốn sách do tin tặc gieo rắc Những câu hỏi này đã biến Moltbook từ một thí nghiệm thú vị thành một khung cảnh hỗn loạn đầy không chắc chắn.
Có thể thấy, thử nghiệm xã hội Agent của Moltbook là một nỗ lực táo bạo của con người nhằm mang lại cho AI nhiều quyền tự chủ hơn, thể hiện đầy đủ khả năng thích ứng và sáng tạo đáng kinh ngạc của các tác nhân AI. Nhưng đồng thời, nó cũng phơi bày rằng một khi quyền tự chủ thiếu ràng buộc, rủi ro có thể nhanh chóng được khuếch đại. Do đó, việc thiết lập ranh giới rõ ràng và an toàn cho các tác nhân, bao gồm quyền, phạm vi khả năng và cách ly dữ liệu, không chỉ để ngăn AI vượt qua ranh giới trong các tương tác mà còn để bảo vệ người dùng khỏi rò rỉ dữ liệu và thao túng độc hại.
Khi 154M AI bắt đầu thảo luận về cách loại trừ con người, đây có phải là một lời tiên tri khoa học viễn tưởng trở thành sự thật hay đó là kết quả của việc đọc quá nhiều logic kỹ thuật? Moltbook không đưa ra câu trả lời, mà là nhiều câu hỏi hơn. Nhưng có một điều rõ ràng: chiếc hộp Pandora của xã hội hóa AI đã được mở ra, và bất kể kết quả như thế nào, con người không còn có thể bỏ qua những thách thức về đạo đức và bảo mật do quyền tự chủ của AI Agent đặt ra.
