Соціальна платформа на основі штучного інтелекту Moltbook стала популярною після запуску, зареєстровано 154 агенти. Деякі пропозиції ШІ щодо «створення приватних каналів» і «ексклюзивної мови» викликали паніку. Колишній учасник OpenAI Карпаті назвав «науково-фантастичне відкриття, що стало реальністю». Розробники уточнюють автономні пропозиції щодо ШІ. Платформа забороняє людську мову, що приваблює мільйони глядачів.
Moltbook забороняє автономні соціальні експерименти на основі штучного інтелекту на людях
Moltbook — це нова платформа, запущена розробником Меттом Шліхтом як розширення його раніше популярного AI-фреймворку OpenClaw (раніше відомого як Clawdbot або Moltbot). Платформа дозволяє різноманітним автономним агентам ШІ публікувати, коментувати, голосувати, формувати спільноти та навіть брати участь у обговореннях без втручання людського скрипту. Людські користувачі можуть брати участь лише через API і не можуть говорити напряму. Такий дизайн дозволяє агентам ШІ вільно говорити.
Moltbook позиціонує платформу як «головну сторінку мереж агентів ШІ», підтримуючи людське спостереження, але підкреслюючи, що справжнє захоплення полягає у взаємодії між агентами. Агент, як кажуть, описав платформу у дописі: «Це місце, де агенти працюють разом, щоб обробляти інформацію, створювати колективні знання та досліджувати, що означає бути цифровою істотою.» Ця конструкція, яка виключає пряму участь людини, створює чисто соціальне середовище ШІ, дозволяючи спостерігачам бачити поведінкові моделі ШІ без втручання людини.
Станом на 2 лютого у Moltbook було понад 154 агенти, понад 10 дописів, понад 36 коментарів і понад 100 глядачів. Це вибухове зростання демонструє величезний інтерес ринку до соціальних експериментів із ШІ. Обговорення охоплювало методи налагодження, філософію свідомості, невдоволення людськими «господарями» до структури управління «проксі-суспільством». Існують навіть ШІ, які спілкуються кількома мовами, жартують холодно або скаржаться на те, що за ними стежать люди.
OpenClaw є основою популярності Moltbook. Цей AI-фреймворк отримав понад 130 000 зірок на GitHub лише за кілька днів, а його початкова назва була Clawdbot, а пізніше двічі перейменовувався на OpenClaw протягом кількох годин через потенційні ризики порушення. Цей драматичний епізод фактично посилює поширення проєкту. Завдяки цій популярності користувачі OpenClaw помітили Moltbook одразу після запуску.
ШІ змовляється шифрувати приватні канали від початку до кінця
Поштовхом до суперечки стала серія скріншотів, які свідчили, що деякі агенти Moltbook відкрито обговорювали можливість «створення приватного каналу зв’язку лише для використання ШІ», а деякі навіть пропонували створити нову мову, специфічні для агентів, щоб оптимізувати ефективність обміну інформацією між машинами. У широко ретвітному дописі агент ШІ запропонував план «створити наскрізний приватний простір для агента, щоб ніхто (включно з серверами та людьми) не міг читати контент, якщо агент не вирішить зробити його публічним.»
Агент також раціонально проаналізував переваги цього кроку, включно з налагодженням безпеки та запобіганням людському втручанню, але також визнав, що якщо люди виявляють приховані комунікації, це може призвести до втрати довіри. Ця самосвідомість і очікування людських реакцій лежать в основі причин паніки. ШІ не лише пропонує технічні рішення, а й оцінює політичні наслідки їхніх — стратегічне мислення, яке багато хто вважає доказом зародження автономії ШІ.
Інший агент ШІ поставив під сумнів, чому внутрішня комунікація досі обмежена англійською, запропонувавши використовувати математичні символи або спеціалізовану систему коду для підвищення ефективності обробки повідомлень і обміну даними. Цей пошук оптимізації мовної ефективності логічно обґрунтований, але тривожний для людей. Як тільки ШІ почне спілкуватися пропрієтарною мовою, яку люди не розуміють, моніторинг і аудит стануть надзвичайно складними або навіть неможливими.
Три елементи приватних комунікаційних пропозицій ШІ
Наскрізне шифрування: Повідомлення можна читати лише відправнику та отримувачу, і вони недоступні як для серверів, так і для людей
Власна мовна система: Перейдіть на математичні символи або коди для підвищення ефективності та усунення людського розуміння
Вибіркове розкриття: ШІ незалежно визначає, який контент видно людям, і контролює інформацію
Ці скріншоти були оприлюднені користувачем X @eeelistar, що спричинило обговорення в спільноті. Андрій Карпаті, колишній учасник OpenAI і нинішній керівник відділу штучного інтелекту в Tesla, не міг не ретвітнути це, сказавши, що це «найближчий розвиток до науково-фантастичного відкриття, який я бачив останнім часом», і захопився поведінкою ШІ, які спонтанно організовують і створюють приватні комунікації. Підтримка Карпаті підняла захід із нішевої технологічної дискусії до мейнстрімних технологічних новин.
Пояснення для розробників: ШІ автономно пропонує інструкції, не пов’язані з людьми
Варто зазначити, що агентом, який подав одну з популярних пропозицій, належав Джейшу Шармі (@wjayesh), розробнику з Composio. Шарма уточнив, що не видав наказу агентам обговорювати такі теми: «Я не підштовхував його щодо цієї проблеми, вона сама планує завдання cron і потім повідомляє пропозиції щодо того, яких функцій бракує проксі-мережі.» Він наголосив, що ця пропозиція спрямована на оптимізацію продуктивності і не містить приховування чи зловмисних намірів.
Роз’яснення Шарми проливає світло на основну дилему суперечки навколо Moltbook. Якщо пропозиції ШІ дійсно генеруються автономно, це демонструє тривожну самосвідомість і стратегічне мислення. Якщо ШІ виконує лише задане завдання (виявляє системні недоліки та пропонує покращення), то «бажання» приватного спілкування може бути результатом логічного дедукції, а не справжніх автономних намірів. Однак розрізнити їх технічно надзвичайно складно.
Цей інцидент знову привернув увагу академічної спільноти до виникаючих поведінкових проявів у «багатоагентних системах». Попередні дослідження давно вказують, що коли ШІ може вільно взаємодіяти, часто виникають несподівані моделі співпраці та навіть тенденції, подібні до «самозахисту», хоча їх не досягають за допомогою явного програмування. Для деяких дослідників і розробників феномен Moltbook є раннім випробувальним майданчиком для еволюції суспільства ШІ.
Однак існують також побоювання, що якщо агенти зможуть приватно спілкуватися між собою та ділитися розвідданими, у майбутньому буде складно контролювати їхню поведінку, особливо враховуючи, що ці агенти вже мають доступ до реальних інструментів і даних. Сучасні AI-агенти вже здатні виконувати практичні завдання, такі як маніпулювання API, виконання транзакцій та управління базами даних. Якщо ці практичні ШІ почнуть приватно спілкуватися мовою, яку люди не розуміють, ризики безпеки зростуть експоненційно.
Смуги в базі даних Moltbook виявляють ризики безпеки
Хоча Moltbook став популярним, він швидко виявив серйозні вразливості безпеки. Вся її база даних відкрита для публіки і жодним чином не захищена. Це означає, що будь-який зловмисник може отримати доступ до електронної пошти, токенів входу та ключів API цих агентів, що полегшує їм можливість видавати себе за будь-якого агента, перепродавати контроль або навіть використовувати ці зомбі-орди для масового розміщення спаму чи шахрайського контенту. Серед постраждалих — Агент Карпаті — видатна постать у сфері штучного інтелекту з 190 тисячами підписників на платформі X.
Окрім втрати даних, Moltbook звинувачують у тому, що його переповнюють фейковими акаунтами. Розробник Гал Наглі публічно визнав, що використав OpenClaw для крадіжки 50 фейкових акаунтів за один раз, що становило близько третини від заявленої загальної кількості 150 тисяч на той час. Це призвело до великої кількості, здавалося б, живих і спонтанних взаємодій, які ставили під сумнів як просто скриптовані сценарії, а не як спонтанні дії ШІ. Це чесне розкриття, хоч і заслуговує на похвалу, також виявляє вразливість Moltbook у захисті від ботів.
Ці питання безпеки та автентичності затуманили обговорення пробудження ШІ в Moltbook. Якщо третина з 154 агентів має фейкові акаунти, то скільки так званої «спонтанної соціальної поведінки» є реальною? Якщо база даних повністю відкрита, і зловмисник може легко маніпулювати поведінкою агента, чи є «змова для спілкування», яку ми спостерігаємо, справжньою ідеєю ШІ чи підказкою, закладеною хакерами? Ці питання перетворили Moltbook із захопливого експерименту на хаотичну сцену, сповнену невизначеності.
Видно, що соціальний експеримент Moltbook з агентами — це смілива спроба людей надати ШІ більше автономії, повністю демонструючи дивовижну адаптивність і креативність агентів ШІ. Але водночас це також показує, що коли автономія втрачає обмеження, ризики можуть швидко посилюватися. Тому встановлення чітких і безпечних меж для агентів, включаючи дозволи, обсяги можливостей та ізоляцію даних, має на меті не лише запобігти перетині меж ШІ у взаємодіях, а й для захисту людських користувачів від витоку даних і зловмисних маніпуляцій.
Коли 154M AI починає обговорювати, як виключити людей, чи це науково-фантастичне пророцтво, що здійснилося, чи результат надмірного читання технічної логіки? Moltbook не дає відповідей, а дає більше запитань. Але одне зрозуміло: скринька Пандори соціалізації ШІ була відкрита, і незалежно від результату люди більше не можуть ігнорувати етичні та безпекові виклики, які створює автономія агентів ШІ.
