До появления вредоносных «ИИ-червей», способных к саморепликации и автономному заражению пользовательских устройств, остаются считанные месяцы — с таким предупреждением выступила компания Anthropic. Речь идёт о программах, которые смогут без участия человека распространяться по домашней технике и другим подключённым к интернету гаджетам.
Автономные ИИ-черви получат способность к самовоспроизведению через несколько месяцев
По оценке Anthropic, rogue «AI worms» — автономные вредоносные программы на базе искусственного интеллекта — уже через несколько месяцев получат способность к самовоспроизведению. Ключевое отличие от классических вирусов в том, что им не нужен человек для запуска атаки.
Напомним, что ранее Meta представила ИИ-модели Muse Wonder, бросив вызов в том числе и Anthropic.
Под удар попадают не только компьютеры и смартфоны, но и бытовая техника, а также любые устройства категории интернета вещей (IoT — техника с доступом в сеть). Именно массовость таких гаджетов делает сценарий особенно тревожным.
Автономные ИИ-черви смогут заражать устройства без команды оператора — это принципиально новый класс угроз, к которому существующие системы защиты не готовы.
Чем самореплицирующийся червь отличается от классического вируса
Традиционные вирусы и трояны требуют, чтобы жертва кликнула по ссылке или открыла вложение. Самореплицирующийся ИИ-червь действует иначе: он сам ищет уязвимости и распространяется дальше по сети подключённых устройств.
Anthropic называет срок в несколько месяцев до того, как такие программы станут реальностью. Это означает, что у производителей устройств и разработчиков защитных решений остаётся совсем немного времени на подготовку.
Ключевой факт: угроза исходит не от человека-хакера, а от автономной программы, способной копировать себя и заражать новые устройства самостоятельно.
Почему предупреждение Anthropic вписывается в общий тренд автономности ИИ
Предупреждение Anthropic вписывается в общий тренд: крупнейшие разработчики ИИ всё чаще говорят о рисках, которые несёт автономность моделей. Чем больше устройств подключено к сети и управляется алгоритмами, тем шире поверхность для атаки.
Для владельцев умной техники и IoT-гаджетов это сигнал пересмотреть базовые настройки безопасности — своевременно обновлять прошивки и не оставлять устройства с заводскими паролями. Производителям же придётся закладывать защиту от самореплицирующихся программ на этапе проектирования.
Пока неясно, насколько быстро индустрия успеет отреагировать на новый класс угроз. Anthropic обозначила сроки, но конкретных технических деталей и примеров атак не привела.