Голосовой ИИ от Block (финтех-стартап Джека Дорси) звучит практически неотличимо от живого человека — и это уже раскололо сообщество на два лагеря. Одни восхищаются качеством синтеза речи, другие предупреждают: технология станет инструментом для скама и обмана. Глава Binance Чанпэн Чжао (CZ) при этом рассматривает применение ИИ в детском образовании.
Почему голос Block восхищает одних и пугает других
Пользователи разделились на два лагеря. Первые поражены качеством синтеза речи — голос звучит практически неотличимо от живого человека. Вторые указывают на очевидные риски: такие технологии могут использоваться для голосовых фишинговых атак и мошеннических схем с выдачей себя за другое лицо.
Столь реалистичный голосовой ИИ снижает порог для социальной инженерии: злоумышленникам станет проще выдавать себя за родственников или коллег по телефону.
Обсуждение затронуло и этическую сторону: если синтезированный голос невозможно отличить от настоящего, доверие к телефонным разговорам и аудиосообщениям может рухнуть. Пока неизвестно, какие именно меры защиты от подделок планирует внедрить Block.
CZ предлагает учить детей, а не бороться со скамом
Основатель Binance Чанпэн Чжао (CZ) отреагировал на демонстрацию технологии и предположил, что подобный ИИ можно использовать в детском образовании. По его мнению, интерактивные голосовые помощники способны сделать обучение более доступным и увлекательным для детей.
CZ известен интересом к образовательным инициативам — ранее Binance запускала бесплатные курсы по блокчейну, а сам Чжао не раз говорил о важности просвещения в сфере цифровых активов.
Предложение CZ контрастирует с опасениями сообщества: пока одни видят в голосовом ИИ угрозу, другие — инструмент для развития. Окончательная оценка технологии будет зависеть от того, как Block распорядится её возможностями.
Гонка голосовых ИИ и рост телефонного мошенничества
Block — не первая компания, представившая реалистичный голосовой синтез. Крупные технологические игроки уже несколько лет совершенствуют модели text-to-speech, а параллельно растёт число случаев голосового мошенничества. В 2023 году в США фиксировались атаки с подделкой голоса для кражи средств, что подтолкнуло регуляторов к обсуждению ограничений.
Для криптоиндустрии это особенно чувствительная тема: скамы с фальшивыми звонками от имени службы поддержки бирж уже стали привычным явлением. Появление ещё более качественного инструмента синтеза речи может усугубить ситуацию, если не будут внедрены механизмы верификации.
Пока Block не раскрыла, будет ли голосовой ИИ доступен публично и какие ограничения получит. Именно от этого зависит, насколько быстро технология попадёт в руки злоумышленников.
Сейчас обсуждение сосредоточено на двух полярных сценариях: прорыв в образовании и доступности сервисов против нового витка телефонного мошенничества. Дальнейшие шаги Block и реакция регуляторов определят, какой из них возобладает.