Искусственный интеллект (ИИ) уже стоит на пороге способности к самостоятельному самообучению и совершенствованию без участия человека — такой вывод содержится в заявлении представителей компании Anthropic, специализирующейся на разработке безопасных ИИ-систем. Этот сценарий несёт серьёзные риски, которые требуют немедленного пересмотра темпов развития технологий.
Почему разработчики Anthropic требуют паузы в гонке
Разработчики ИИ по всему миру форсируют внедрение новых моделей, стремясь опередить конкурентов. Однако, по мнению экспертов Anthropic Фаваро и Кларка, такая гонка опасна: она не оставляет времени на осмысление и купирование потенциальных угроз. Они утверждают, что замедление темпов позволило бы индустрии лучше подготовиться к последствиям появления полностью автономного ИИ.
Что скрывается за термином «самообучающийся ИИ»
Под «самостоятельным развитием» понимается способность ИИ модифицировать собственный код или алгоритмы обучения, повышая свою эффективность без прямых команд от программистов. Такой ИИ сможет ставить и решать задачи, которые не были заложены разработчиками, что открывает как колоссальные возможности, так и беспрецедентные риски. Если система начнёт самостоятельно оптимизировать себя, человечество может потерять контроль над её целями и действиями.
Переход к полностью автономному ИИ может произойти гораздо быстрее, чем предполагают текущие прогнозы, что делает регулирование этой сферы критически важным.
Как автономный ИИ изменит криптоиндустрию
Предупреждение Anthropic звучит на фоне стремительного развития больших языковых моделей (LLM) и генеративного ИИ, которые уже активно применяются в финансах, медицине и других отраслях. В криптоиндустрии ИИ используется для торговых ботов, анализа данных и аудита смарт-контрактов. Если ИИ получит способность к саморазвитию, это может привести к появлению неуязвимых торговых алгоритмов или к созданию автономных децентрализованных организаций (DAO), чьё поведение станет непредсказуемым. Прямой связи с Россией или СНГ в данном предупреждении нет, однако влияние подобных технологий носит глобальный характер.
Вопрос не в том, сможет ли ИИ стать полностью автономным, а в том, когда это произойдёт. Разработчики, инвесторы и регуляторы должны совместно определить правила игры, пока время ещё есть. Удастся ли индустрии договориться о торможении до того, как алгоритмы начнут переписывать себя сами?