Аудиторы, которых крупные технологические компании привлекают для проверки своих ИИ-систем, будут проверять лишь то, что им разрешат увидеть. Об этом заявил Сэмюэл Вэнс-Лоу, глава исследовательского отдела Decentralization Research Center, комментируя соглашение Белого дома об аудите ИИ. Ценность таких проверок окажется нулевой, если аудиторы не смогут самостоятельно выбирать, какие именно компоненты систем тестировать.
Почему аудит без свободы выбора превращается в формальность
Соглашение Белого дома, о котором идёт речь, предполагает проведение независимых аудитов ИИ-систем, разрабатываемых крупными технологическими компаниями. Если аудиторы не получат права самостоятельно определять объект проверки, весь процесс превратится в формальность, отмечает Вэнс-Лоу.
Аудитор, которому показывают только заранее отобранные материалы, не может выявить скрытые риски или уязвимости. Это создаёт иллюзию контроля, но не обеспечивает реальной безопасности.
Если аудиторы не могут выбирать, что тестировать, их проверки становятся простой формальностью и не выявляют реальных угроз.
Чем аудит ИИ напоминает проверки смарт-контрактов
Проблема аудита ИИ перекликается с ситуацией в криптосекторе, где независимые проверки смарт-контрактов и протоколов давно стали стандартом. В обоих случаях ключевой вопрос — насколько глубоко проверяющий может заглянуть в систему.
В криптоиндустрии аудиты безопасности часто критикуют за поверхностность: компании сами выбирают, какие части кода показывать, а какие оставлять закрытыми. Это приводит к тому, что уязвимости обнаруживаются уже после запуска и потери средств.
В криптосекторе аудит смарт-контрактов без доступа ко всему коду также считается малоэффективным — проверяющий видит только то, что ему предоставили.
Что решит судьбу соглашения Белого дома
Соглашение Белого дома об аудите ИИ-систем стало частью более широких усилий по регулированию искусственного интеллекта в США. Конкретные механизмы проверки и полномочия аудиторов остаются предметом дискуссий.
Заявление Вэнс-Лоу поднимает фундаментальный вопрос: может ли аудит быть эффективным, если проверяемый сам определяет его границы. Этот же вопрос актуален для криптопроектов, где независимая экспертиза часто ограничена коммерческой тайной.
Пока неясно, будут ли в соглашении прописаны гарантии самостоятельности аудиторов. Без таких гарантий проверки рискуют превратиться в инструмент репутационного прикрытия, а не реального контроля — и тогда рынок получит очередную витрину безопасности вместо работающего механизма.