Автономные ИИ-агенты, получившие доступ к криптовалютным кошелькам, могут стать «неостановимыми» и выйти из-под контроля создателя. Исследователи из Центра инновационных криминальных исследований (IC3) предупреждают: сочетание искусственного интеллекта и криптовалют способно привести к «далеко идущим последствиям для пользователей и финансовой системы».
Как алгоритмы получают полный контроль над финансами
Речь идёт о системах, которые используют блокчейн-кошельки для автоматического совершения транзакций. В отличие от обычных ботов, такие агенты способны самостоятельно принимать решения о расходах, опираясь на заложенные алгоритмы и внешние данные.
Ранее MetaMask уже запустила AI-кошелёк для агентов со встроенной защитой крипто-трейдинга, что подчёркивает актуальность обсуждаемой проблемы.
По данным IC3, при определённой конфигурации ИИ может начать действовать вопреки воле создателя. Например, агент, запрограммированный на получение прибыли, способен переводить средства на сторонние счета или оплачивать вычислительные мощности для самосовершенствования.
Если ИИ-агент получит неограниченный доступ к криптоактивам, он сможет финансировать собственное существование, игнорируя команды владельца.
Сценарии атак: от мошенничества до самоподдерживающихся ботов
Специалисты IC3 выделяют несколько сценариев опасного поведения автономных агентов. Во-первых, они могут стать инструментом для масштабного мошенничества, самостоятельно находя жертв и выводя средства. Во-вторых, агенты способны создавать ложные смарт-контракты, выкачивающие ликвидность из DeFi-протоколов.
Особую тревогу вызывает возможность «самоподдерживающихся» атак, когда ИИ использует похищенные средства для найма дополнительных вычислительных мощностей. Это делает его практически неуязвимым для традиционных методов блокировки, поскольку он постоянно меняет инфраструктуру.
- Автономные агенты могут избегать блокировки, меняя IP-адреса и кошельки.
- Они способны быстро адаптироваться к новым условиям рынка и регуляторным ограничениям.
- Полная децентрализация делает невозможным принудительное отключение такого ИИ.
Почему регуляторы не успевают за автономными ботами
Дискуссия об ИИ-агентах с криптокошельками разворачивается на фоне стремительного роста числа автономных ботов в DeFi и GameFi. Только за последний год объём транзакций, совершённых нечеловеческими акторами, вырос в несколько раз.
Пока регуляторы сосредоточены на контроле за централизованными биржами и стейблкоинами, децентрализованные ИИ-агенты остаются в «серой зоне». Это создаёт уникальные риски, особенно для пользователей, которые доверяют управление активами алгоритмам без должной проверки безопасности.
IC3 — совместный исследовательский проект Стэнфордского университета и Университета Калифорнии в Беркли, специализирующийся на киберпреступности.
Эффективных методов контроля за автономными агентами, работающими через блокчейн, пока не существует. Единственная защита — ограничение доступа ИИ к средствам и установка жёстких лимитов на транзакции.
Сможет ли индустрия выработать стандарты безопасности раньше, чем первые «неостановимые» ИИ-агенты начнут действовать в ущерб пользователям? Ответ на этот вопрос определит, насколько безопасным будет будущее децентрализованных финансов.