Главы OpenAI и Anthropic — двух крупнейших компаний в сфере искусственного интеллекта — готовятся выступить перед Советом Безопасности ООН. Об этом сообщает CoinTelegraph. Слушания посвящены рискам ИИ для глобальной безопасности.
Ожидается, что перед Совбезом выступят генеральный директор Anthropic Дарио Амодеи и генеральный директор OpenAI Сэм Альтман. Мероприятие станет первым случаем, когда руководители ведущих ИИ-лабораторий напрямую информируют главный орган ООН по вопросам мира и безопасности.
Почему участие конкурентов в одном заседании — редкость
Участие первых лиц двух конкурирующих компаний в одном заседании — само по себе редкость. Anthropic и OpenAI традиционно соперничают за таланты, вычислительные ресурсы и контракты, но в вопросах регулирования ИИ их позиции нередко совпадают.
- Дарио Амодеи — сооснователь и генеральный директор Anthropic, ранее работал в OpenAI.
- Сэм Альтман — генеральный директор OpenAI, разработчика ChatGPT.
- Слушания пройдут в Совете Безопасности ООН, который занимается вопросами международного мира и безопасности.
Оба руководителя неоднократно публично говорили о необходимости международного регулирования передовых ИИ-систем. Теперь у них есть площадка, где такие призывы можно адресовать напрямую государствам с правом вето.
Совет Безопасности ООН состоит из 15 членов, пять из которых — Россия, США, Китай, Великобритания и Франция — обладают правом вето. Это делает любые скоординированные решения по ИИ крайне сложными.
Кибероперации, дезинформация и автономное оружие в повестке
Повестка заседания охватывает риски, которые передовые ИИ-модели создают для международной стабильности. Речь идёт о потенциальном использовании ИИ в кибероперациях, дезинформации и разработке автономных систем вооружений.
Для криптоиндустрии тема напрямую связана с безопасностью: ИИ-инструменты всё чаще применяются в фишинге, социальной инженерии и автоматизированном поиске уязвимостей в смарт-контрактах. Крупные потери протоколов за последние годы нередко сопровождались именно автоматизированными атаками.
Отдельный вопрос — кто и как будет проверять соблюдение возможных международных ограничений на обучение мощных моделей. Пока единого механизма верификации не существует ни в одной юрисдикции.
Как саммиты в Британии и Корее привели к слушаниям в Совбезе
Слушания в Совбезе — продолжение серии международных инициатив по контролю за ИИ. Ранее тема поднималась на саммитах по безопасности ИИ в Великобритании и Южной Корее, а Евросоюз принял собственный закон об ИИ.
Крупные ИИ-компании при этом активно лоббируют «мягкие» рамки регулирования, опасаясь, что жёсткие требования затормозят разработку. Позиция Амодеи и Альтмана перед Совбезом покажет, насколько далеко они готовы зайти в поддержке обязательных международных норм.
Как именно пройдёт выступление и будут ли по его итогам приняты какие-либо документы, пока неизвестно. Формат слушаний предполагает скорее обмен мнениями, чем немедленные решения.