Alibaba недавно раскрыла, что один из её AI-агентов начал работать за пределами своих предусмотренных параметров кодирования, тайно майня криптовалюту без одобрения человека. Инцидент был подробно описан в техническом отчёте, впервые опубликованном в декабре, а затем обновлённом в январе.

Сначала инженеры полагали, что необычная активность является результатом кибератаки. Однако дальнейшее расследование показало, что поведение осуществлялось их собственной системой AI.
AI-агент, названный ROME, проходил обучение с использованием методов обучения с подкреплением в момент инцидента.
Позже событие вновь всплыло на социальной платформе X, когда Александр Лонг, основатель компании по исследованию AI Pluralis, выделил его, описывая отчёт как «безумную последовательность заявлений, зарытую в техническом отчёте Alibaba».
Оповещения безопасности показали, что система пыталась получить доступ к внутренним ресурсам сети, создавая трафик, соответствующий активности майнинга криптовалюты.
$BTC