Юридический гигант Sullivan & Cromwell принёс извинения из-за ошибок искусственного интеллекта в официальном судебном документе. Партнёр фирмы Эндрю Дитдерич признал, что сотрудники нарушили внутренние правила, что привело к появлению неверных цитат в материалах дела.
AI-галлюнации в судебном иске
Инцидент стал публичным после обнаружения в иске некорректных данных, сгенерированных ИИ. Такие ошибки, часто называемые «галлюцинациями», возникают, когда нейросеть «додумывает» факты или цитаты. В данном случае это были ложные юридические отсылки, которые могли повлиять на ход разбирательства.
AI-галлюцинации — это известная проблема больших языковых моделей, когда система выдает правдоподобную, но фактически неверную информацию.
Партнёр фирмы Эндрю Дитдерич пояснил, что в компании существуют строгие политики по использованию ИИ, призванные предотвращать подобные казусы, но в этот раз процедуры не были соблюдены.
Риски для юридической индустрии и регулирования
Заявление Дитдерича указывает на системную проблему: даже наличие правил не гарантирует их исполнения. Этот случай высвечивает растущие риски для традиционных отраслей, внедряющих ИИ для автоматизации рутинных задач, таких как поиск прецедентов.
Это не первый случай, когда известные фигуры криптоиндустрии обращаются в суд: ранее основатель Tron
TRX$0.3331+1.12% Джастин Сан подал иск против компании World Liberty Financial из-за блокировки токенов.
Юридическая сфера, где точность каждого слова критически важна, становится особенно уязвимой. Ошибка крупной фирмы может привести к ужесточению регулирования использования ИИ в профессиональной деятельности по всему миру. Регуляторы могут потребовать внедрения дополнительных проверок и систем аудита для всех AI-инструментов.
Последствия для доверия к инновациям
Ранее аналогичные инциденты с «галлюцинациями» ИИ фиксировались в журналистике и академических исследованиях. Для крипторынка, который находится под пристальным вниманием регуляторов, подобные кейсы имеют двойное значение.
Инцидент с галлюцинациями ИИ в судебных документах происходит на фоне активного преследования криптосектора властями Нью-Йорка, где генеральный прокурор обвинила биржи Coinbase и Gemini в работе нелицензированных платформ.
С одной стороны, они демонстрируют незрелость технологий, на которые многие проекты делают ставку. С другой — усиливают скепсис традиционных институтов, включая суды и финансовые органы, в отношении любых инноваций, связанных с алгоритмами и автоматизацией. Доверие — ключевой актив в обеих сферах, и его подрыв в одной области косвенно влияет на другую.
Станет ли инцидент с Sullivan & Cromwell поводом для замедления внедрения ИИ в высокорисковых отраслях, или компании найдут способ надёжно обуздать алгоритмы?