Специалисты Ethereum Foundation организовали скоординированную атаку искусственного интеллекта на программное обеспечение валидаторов сети и получили удаленно вызываемый сбой, который мог бы остановить их работу. Однако вместе с реальной уязвимостью ИИ выдал множество уверенных, хорошо написанных отчётов, которые не были багами вовсе.
Как ИИ атаковал валидаторы Эфириума
В рамках исследования команда Ethereum Foundation направила несколько ИИ-агентов на клиентское программное обеспечение, которое запускают валидаторы Эфириума. Целью было выяснить, способен ли искусственный интеллект автономно находить критические уязвимости в коде сети. В результате теста ИИ успешно обнаружил баг, который можно было активировать удалённо.
Ранее мы писали, что ИИ сокращает срок годности аудитов безопасности криптопроектов, и этот случай — яркое тому подтверждение.
Эта уязвимость приводила к аварийному завершению работы валидатора — узла, отвечающего за подтверждение транзакций и безопасность блокчейна. Если бы такой баг остался незамеченным или был использован злоумышленниками, часть сети Ethereum
ETH$1,823.98+1.94% могла бы временно выйти из строя.
Почему ложные срабатывания опаснее реальных багов
Несмотря на успех, эксперимент вскрыл серьёзный недостаток текущих ИИ-систем. Искусственный интеллект сгенерировал большое количество отчётов, которые выглядели убедительно, грамотно и технически обоснованно, но на деле не содержали реальных ошибок. Каждую такую находку пришлось вручную проверять инженерам, чтобы отсеять ложные срабатывания.
Напомним, что ранее Vitalik Buterin подтвердил: ИИ раскрыл его анонимное предложение по Ethereum, что подчёркивает растущую роль нейросетей в экосистеме.
ИИ способен находить реальные уязвимости, но его отчёты требуют обязательной верификации специалистом.
Это означает, что на данном этапе развития ИИ не может полностью заменить человека в аудите безопасности блокчейнов — он скорее выступает в роли помощника, который генерирует гипотезы, а не окончательные выводы.
Что изменится в безопасности блокчейнов
Использование искусственного интеллекта для поиска багов в блокчейн-протоколах — относительно новое направление. Ранее такие задачи решались исключительно через конкурсы белых хакеров и платные аудиты кода. Если технология сможет сократить количество ложных срабатываний, это серьёзно ускорит и удешевит проверку безопасности смарт-контрактов и клиентского ПО.
Для сети Ethereum, где работают тысячи независимых валидаторов, удалённо вызываемый сбой особенно опасен. Он может затронуть не один сервер, а сразу множество узлов, что приведёт к задержкам в обработке транзакций или временной потере консенсуса. Поэтому автоматизация поиска таких уязвимостей — критически важная задача.
Пока что Ethereum Foundation не называет сроков внедрения ИИ-агентов в регулярный процесс аудита. Сможет ли технология избавиться от «уверенной лжи» нейросетей до того, как злоумышленники научатся использовать её слабости?