Найбільша технологічна подія у світі говорить про «відмивання відповідальності»: Ось чому ми повинні назвати їх словами року

Літо Юе не є найвідомішим співробітником Meta. Директор з досліджень у галузі «вирівнювання та безпеки суперінтелекту» публікує фотографії, на яких вона гуляє з собакою на пляжі, та повідомлення про тестування чесності AI-помічників. У неї скромна кількість підписників у соцмережах.

Рекомендоване відео

Але одного дня у лютому Юе стала найобговорюванішою особою в Meta. Не через запуск видатного нового продукту або оголошення прориву в агентному AI, а через те, що її спіймали на помилці.

«Ніщо так не знижує твою гордість, як коли ти кажеш своєму OpenClaw: «Підтвердь перед дією» і бачиш, як він швидко видаляє всі твої листи», — написала Юе у X — пост, який наразі має близько 10 мільйонів переглядів. «Я не могла зупинити його з телефону. Мені довелося бігти до мого Mac mini, ніби я розміновувала бомбу.»

OpenClaw — це «автономний агент» — продукт штучного інтелекту, який може виконувати завдання самостійно. Улюбленець Кремнієвої долини, він пропонує бути вашим постійним адміністративним помічником, «AI, що дійсно щось робить». Надіши його доступом до щоденника, електронної пошти, вашого життя — і він заощадить вам час і нерви, стверджують розробники продукту. Перше речення на сайті OpenClaw: «Очистить вашу пошту, відправляє листи, керує календарем, реєструє вас на рейси.»

Юе зізналася, що зробила «новачкову помилку». Вона протестувала помічника на невеликому «іграшковому» списку електронних листів, а потім випустила його на всю свою пошту, яка була занадто великою для проміжних команд («Перевірте зі мною»), які вона використовувала для пілотного запуску. Але якщо навіть директор із суперінтелекту в Meta має труднощі з навігацією у світі агентного AI та «ефектів ущільнення», то яка надія для решти з нас?

Детальніше: Генеральний директор Qualcomm: «Опір безглузде», коли наближається мобільна революція 6G

Ця тема є життєво важливою, тому що настільки важливою, що на Mobile World Congress цього тижня у Барселоні — найбільшій технологічній зустрічі у світі — помилку Юе обговорювали на головній сцені.

«Звичайно, всі тут, на World Congress, говорять про OpenClaw і про те, як ми можемо використовувати агентів», — сказала Кейт Кроуфорд, дослідниця з Університету Південної Каліфорнії.

«Але потім ми побачили, як керівник з безпеки AI у Meta використовує OpenClaw, і він видалив усю її пошту. Це керівник з безпеки Meta. Тому, якщо у неї виникають проблеми, я думаю, нам усім потрібно ставити питання: “Як зробити так, щоб ці системи справді були захищеними? Як переконатися, що їх ретельно тестують? Як гарантувати, що ми можемо довіряти їм і делегувати їм завдання?” І це справді найскладніше завдання, з яким ми стикаємося, чи не так?»

Саме так. Коли щось іде не так, хто несе відповідальність? Користувач? Розробник? Відсутність регулювання? Коли реальність AI стикається з обіцянками AI, що ми робимо?

Пошта Юе може бути лише для неї надзвичайно важливою. Але коли йдеться про взаємовідносини між технологіями і, скажімо, нашим здоров’ям або, зверніть увагу, обороною країни, — це зовсім інша справа. Не так давно бот штучного інтелекту Grok від xAI випадково «роздягає» зображення жінок і дівчат, викликаючи огиду мільйонів. Загроза урядових і державних дій нарешті змусила змінити підхід.

«Як зробити так, щоб ці системи справді були захищеними? Як переконатися, що їх ретельно тестують?»

Кейт Кроуфорд, дослідниця з Університету Південної Каліфорнії

«Як насправді створити відповідальність?» — запитала Кроуфорд. «Це те, чого всі ми прагнемо. Якщо ви починаєте використовувати агентів для бронювання рейсів, організації медичних прийомів і навіть більш особистих і довірливих справ у повсякденному житті, ви хочете бути впевненими, що інформація захищена.»

«Як це перевірити? Як переконатися, що це відбувається? Якщо подивитися на те, що сталося за останні 10 років у технологічній сфері, на жаль, ми бачили багато «відмивання відповідальності» — коли компанії кажуть: “Ну, я не знаю. Алгоритм це зробив.”»

Це недостатньо. Кроуфорд вимагає повної прозорості та аудиту «тренування агентів», кінцевого процесу, що розкриває, що пішло не так і хто відповідальний. Технологічні компанії мають слухати і діяти. З’явиться все більше і більше таких Юе — і це, безумовно, означатиме набагато більше, ніж кілька втрачених листів і чесний пост у X.