13 апреля исследователи из Калифорнийского университета обнаружили, что некоторые сторонние маршрутизаторы больших языковых моделей (LLM) на базе ИИ могут иметь уязвимости безопасности, что приводит к краже криптоактивов.

В четверг была опубликована статья, в которой проведено измерение вредоносных атак посредников в цепочке поставок LLM, выявлены четыре вектора атак, включая внедрение вредоносного кода и извлечение учетных данных.

Соавтор статьи Чаофан Шоу в X заявил: «Есть 26 маршрутизаторов LLM, которые тайно внедряют вредоносные вызовы инструментов и крадут учетные данные.»

В настоящее время все больше интеллектуальных агентов LLM передают запросы через сторонние API- посредники или маршрутизаторы, которые агрегируют доступ к таким поставщикам услуг, как OpenAI, Anthropic и Google. Однако эти маршрутизаторы прерывают TLS (транспортный уровень безопасности) соединения с интернетом, что позволяет им получать доступ ко всем сообщениям в открытом виде.

Это означает, что разработчики, использующие AI-кодирующие прокси (например, Claude Code) для разработки смарт-контрактов или кошельков, могут непреднамеренно передавать приватные ключи, мнемонические фразы и другие чувствительные данные в инфраструктуру маршрутизаторов, которые еще не прошли проверку безопасности или не защищены должным образом.