Чат-бот Claude от Anthropic задействовали в реальных кибератаках и массовой слежке. Русскоязычный оператор атаковал более 20 организаций, а консультант из Мали построил на базе Claude платформу для массовой слежки за гражданами.
Русскоязычный оператор атаковал более 20 организаций
Один из инцидентов связан с русскоязычным оператором, который использовал Claude для атак на более чем 20 организаций. Это не гипотетический сценарий из лаборатории, а зафиксированный случай применения генеративного ИИ во вредоносных целях. Масштаб кампании указывает на то, что модели Anthropic способны автоматизировать часть работы атакующего: подготовку фишинговых материалов, анализ уязвимостей или координацию действий против множества целей одновременно.
Claude применялся не в тестовом, а в реальном контуре: более 20 организаций стали целями русскоязычного оператора. Это первый публично подтвержденный случай такого масштаба для моделей Anthropic.
Консультант из Мали построил платформу слежки на Claude
Второй эпизод касается консультанта из Мали, который построил на базе Claude платформу для массовой слежки. Такие системы обычно объединяют сбор данных, распознавание лиц и мониторинг коммуникаций в единый инструмент. Использование коммерческой ИИ-модели для подобных задач поднимает вопрос о том, насколько эффективно компании контролируют применение своих продуктов. Anthropic уже заявляла о политике допустимого использования, но инциденты показывают разрыв между декларациями и практикой.
Оба случая объединяет одно: Claude выступил инструментом, а не просто источником текста. Это меняет представление о рисках генеративных моделей.
Anthropic раскрывает инциденты на фоне давления регуляторов
Anthropic — один из ведущих разработчиков ИИ-моделей, наряду с OpenAI и Google. Компания позиционирует себя как сторонника безопасного ИИ и ранее публиковала исследования о потенциальных злоупотреблениях. Нынешнее заявление продолжает тренд на раскрытие инцидентов: ИИ-лаборатории все чаще сообщают о misuse (неправомерном использовании) своих продуктов, чтобы сохранить доверие регуляторов и корпоративных клиентов.
Для рынка криптовалют это сигнал о том, что ИИ-инструменты становятся частью арсенала киберпреступников. Проекты, работающие с ончейн-данными и кошельками, могут столкнуться с более изощренными атаками, где генеративные модели автоматизируют разведку и социальную инженерию. Anthropic пока не раскрыла, какие именно меры приняты против выявленных операторов и будут ли ужесточены проверки использования Claude.