Госдума готовит правила для ИИ-агентов и роботов: кто ответит за сбои

Кто ответит за ошибку робота-курьера, сбившего пешехода, и за убытки от автономного ИИ-агента, торгующего на DeFi-протоколе? В Госдуме взялись за регулирование ИИ-агентов и роботов с искусственным интеллектом. Депутатам предстоит решить, кто будет отвечать за ошибки таких систем и как защитить людей от возможного вреда.

Об этом на XII Международном парламентском форуме БРИКС в Индии рассказал Александр Сидякин, председатель комитета Госдумы по цифровому развитию и искусственному интеллекту. По его словам, новые нормы потребуются сразу в трех направлениях.

Напомним, что ранее спикер Госдумы Вячеслав Володин призывал страны БРИКС создать общий закон об ИИ, чтобы не допустить контроля искусственного интеллекта над человечеством.

Роботы на улицах, автономные агенты и данные для обучения

Сидякин назвал сферы, где, по его мнению, нужны отдельные правовые режимы. Речь идет не об одной поправке, а о наборе актов, которые затронут и физический мир, и рынок программного обеспечения.

  • Искусственный интеллект в физическом мире — роботизированные платформы, которые ездят по улицам и летают.
  • Рынок ИИ-агентов — программ, которые сами принимают решения, не спрашивая человека.
  • Авторское право на материалы и данные, на которых обучают ИИ.

Для первого направления, по словам депутата, понадобится не одна норма, а целый набор правил. Роботы, которые передвигаются по дорогам или в воздухе, способны навредить здоровью людей. Поэтому заранее нужно понять, как страховаться от таких рисков и кто будет нести ответственность.

Это продолжает дискуссию о инфраструктуре для ИИ: ранее в Госдуме предлагали стимулировать строительство ЦОД через оптовый рынок энергии, поскольку высокая цена электричества тормозит проекты.

Разработчик, владелец или пользователь: на кого ляжет вина за решение агента

Отдельная проблема — ИИ-агенты, то есть программы, которые принимают решения автономно. Здесь ключевой вопрос упирается в распределение ответственности между разработчиком, владельцем и пользователем. Пока единого подхода нет ни в одной юрисдикции.

Сидякин выделил три темы для новых норм: роботы в физическом мире, рынок автономных ИИ-агентов и авторское право на данные для обучения моделей.

Третье направление касается авторского права на материалы и данные, на которых обучают ИИ. Этот вопрос уже стал предметом судебных разбирательств в США и Европе, где правообладатели требуют компенсаций от разработчиков моделей.

AI Act в Европе и точечные акты в США: с чем сверяется Госдума

Инициатива Госдумы вписывается в мировой тренд на регулирование ИИ. В Евросоюзе действует AI Act — первый в мире комплексный закон об искусственном интеллекте, который вводит уровни риска для разных систем. В США регуляторы пока действуют точечно, через отраслевые акты.

Для крипторынка тема тоже актуальна: автономные ИИ-агенты все чаще используются в DeFi-протоколах для управления ликвидностью и торговли. Если такие агенты ошибаются, убытки несут пользователи, и вопрос ответственности выходит на первый план.

Пока речь идет только о выработке подходов. Конкретных законопроектов Сидякин не представил, а сроки принятия норм остаются открытыми. Дальнейшая судьба инициативы зависит от того, как быстро комитет сформулирует правовые механизмы — и успеет ли раньше, чем первый автономный агент выведет чужую ликвидность в минус.

Поделиться:
Зарабатываю на крипте и описываю свой опыт Следите за активностями в Telegram-канале mmguru 💎
Подписаться