Вам звонит близкий друг. Его голос, манера речи, даже особенности произношения — всё до боли знакомо. Он рассказывает о недавних событиях, упоминает общих знакомых, вспоминает ваши совместные приключения. А потом просит о помощи — срочно нужны деньги. Вы, конечно, хотите помочь, но что-то вас настораживает… И правильно! Потому что на другом конце провода может оказаться не ваш друг, а искусственный интеллект, управляемый мошенниками.
Нейросетевая революция как-то ну очень внезапно ворвалась в реальность, щедро даря не только удивительные возможности, но и новые угрозы.
Как же работает этот новый вид мошенничества и можно ли от него защититься? Разберу, а затем расскажу на личном примере. Спойлер: защититься можно, но это потребует бдительности и некоторых (немалых) усилий с вашей стороны.
Первый шаг злоумышленников: взлом мессенджера
Всё начинается с того, что злоумышленники получают доступ к аккаунту вашего друга в мессенджере. Чаще всего их целью становится Telegram — популярная платформа, где многие хранят огромные объёмы личной переписки. Получив контроль над аккаунтом, мошенники приступают к сбору информации.
Их главная добыча — это полный дамп текстового чата и, что особенно ценно, аудиосообщения. Эти данные становятся основой для создания убедительной имитации личности вашего друга. Интересно, что если у взломанного человека с вами короткая история общения в текстовом формате, вы окажетесь в конце списка потенциальных жертв. Мошенники предпочитают «работать» с теми контактами, где переписка богата деталями и эмоциями.
Но что если владелец взломанного аккаунта никогда не отправлял голосовые сообщения? В этом случае ценность такого аккаунта для мошенников резко падает. Скорее всего, они просто перепродадут его другим злоумышленникам, которые найдут ему применение в иных схемах обмана.
Воссоздать личность: от текста к психологическому портрету
Получив доступ к переписке, мошенники не останавливаются на простом прочтении сообщений. Они используют передовые технологии искусственного интеллекта, чтобы создать детальный психологический портрет человека, которого собираются имитировать.
Все текстовые сообщения и расшифровки голосовых (для этого используются специальные сервисы наподобие Silero) загружаются в большую языковую модель (LLM). Эта модель анализирует данные и создаёт набор аналитических справок: определяет психотип человека, выявляет ключевые знания, предполагает профессию и другие важные детали.
Но на этом работа LLM не заканчивается. Мошенники «натравливают» её на историю переписки взломанного аккаунта конкретно с потенциальной жертвой. Это позволяет понять, о чём вы обычно общаетесь, и — что особенно важно — какие вопросы вы можете задать, чтобы проверить подлинность собеседника.
Воссоздать голос: нейросеть учится говорить за другого
Следующий этап в подготовке мошенничества — это создание убедительной голосовой имитации. Здесь в игру вступает технология RVC (Real-time Voice Conversion — конверсия голоса в реальном времени).
Мошенники «скармливают» RVC-модели все доступные голосовые сообщения взломанного аккаунта. Модель анализирует особенности голоса, интонации, темп речи и другие характеристики. После этого она способна преобразовывать любой голос в голос вашего друга практически неотличимо от оригинала.
Таким образом, у злоумышленников оказываются все козыри на руках: они знают то же, что и настоящий владелец аккаунта, и могут говорить его голосом. И всё это достигается с минимальными затратами времени и усилий, что делает такой вид мошенничества особенно привлекательным для технически подкованных преступников.
Звонок «друга»: как разворачивается обман
Итак, подготовка завершена, и наступает кульминационный момент — звонок жертве. Он может быть неожиданным или, наоборот, вполне ожидаемым, если мошенники успели подготовить почву через переписку.
На другом конце провода — не робот, а живой человек. Чаще всего это актёр, причём не обязательно профессиональный. Есть основания полагать, что на эту роль нанимают студентов театральных вузов. И, честно говоря, их можно понять — работы в сфере искусства не так много, особенно для начинающих артистов.
Задача этого человека — максимально убедительно сыграть роль вашего друга, опираясь на все данные, собранные ранее. Он будет использовать характерные для вашего знакомого выражения, упоминать общие темы и события из прошлого, может даже пошутить так, как это делает настоящий друг.
Конечная цель разговора, конечно же, деньги. Чаще всего мошенники просят перевести средства в криптовалюте. Это не случайно: такие транзакции сложнее отследить, а значит, шансы преступников остаться безнаказанными возрастают.
Главное отличие этой схемы от классического «развода» на тему «друг в беде, срочно нужны деньги» заключается в невероятной достоверности. Когда вы слышите знакомый голос, который рассказывает о вещах, известных только вам двоим, сопротивляться обману становится намного сложнее. Причём эта схема вдвойне опасна для тех, кто не следит пристально за развитием технологий искусственного интеллекта.
Вычисляем доппельгангера
Как ни странно, сталкиваясь с этим ультрасовременным видом мошенничества, мы неожиданно оказываемся в мире, напоминающем средневековые легенды о доппельгангерах — таинственных двойниках, способных полностью копировать внешность и поведение человека. Нейромошенники — это современные доппельгангеры, цифровые имитаторы, способные почти идеально воспроизводить голос и манеру общения вашего друга.
Однако у этих цифровых двойников есть свои слабости. Во-первых, несмотря на все ухищрения, их знания о том, кого они имитируют, ограничены. Они могут знать много, но не всё. Если точнее, им известно только то, что было во взломанных логах переписки с вами или кем-то ещё, за редкими исключениями, но не содержание голосовых разговоров или иная информация. Во-вторых, и это ключевой момент, мошенники вынуждены действовать быстро. У них нет времени на долгие разговоры — им нужно обзвонить как можно больше контактов из базы взломанного аккаунта, пока жертва взлома не спохватилась и не вернула контроль над своим профилем.
Итак, как же распознать, что вам звонит не настоящий друг, а его цифровой имитатор? Я предлагаю разделить методы защиты на три класса, по возрастанию их надёжности.
- Первый и самый простой способ — задавать вопросы, ответы на которые не могут содержаться в логах переписки, но которые известны настоящему другу. Это могут быть какие-то личные подробности, детали недавних событий, о которых вы общались не в мессенджере, а лично или по телефону. Например, спросите о том, что друг собирался сделать на выходных, если вы обсуждали это при личной встрече. Или поинтересуйтесь здоровьем его питомца, если знаете, что недавно у него были проблемы. Слабое место — жертва уже могла написать об этом кому-то ещё, или мошенники взломали весь компьютер/телефон, включая, скажем, приложение с записками, а не только мессенджер.
- Второй способ более надёжен, но может показаться грубым — попросите включить видеосвязь. Скорее всего, во взломанном аккаунте не было достаточно фото и видеоматериалов для создания убедительного видеодипфейка в реальном времени. Технологии, конечно, развиваются стремительно, но пока что создание качественного видеодипфейка «на лету», в отличие от маскировки голоса — задача инфоёмкая, по одному мыльному селфи и паре «кружков» модель не дообучить. Если ваш собеседник начнёт искать отговорки, почему он не может включить камеру, это должно насторожить. Сильно насторожить.
- И, наконец, третий, самый эффективный способ — тяните время. Помните, у мошенников его катастрофически мало. Они не готовы ни перезванивать, если вы сбросите звонок, ни долго держать трубку, если вы не проявляете готовности немедленно перевести деньги. Заведите долгий разговор, расспрашивайте о деталях, предлагайте альтернативные способы помощи — всё это поможет вывести мошенника на чистую воду.
Но самый простой и надёжный способ защиты — это договориться с друзьями «на берегу», что вы никогда не будете просить друг у друга деньги, особенно если речь идёт о крупных суммах. Такое правило не только защитит вас от мошенников, но и поможет избежать неловких ситуаций с невозвращенными долгами, которые, увы, порой разрушают даже крепкую дружбу. Или, как минимум, если знаете, что у кого-то всё же могут возникнуть проблемы, обговорить (можно в том же TG, главное — звонком, а не сообщением) какое-то кодовое слово, которое НЕ будет записано текстом нигде, никак и никогда, кроме как на бумажке.
Важно понимать, что мошенники тоже будут «апгрейдить» свои методы. То, что работает сегодня, может оказаться бесполезным завтра — например, LLM нового поколения могут научить более-менее достоверно экстраполировать новое из известного и/или сказанного вами самими на лету, и тогда «доппельгангера» вычислить без использования кодового слова или запрета переводов друг другу «с колёс» будет и того сложнее.
Личный опыт встречи с нейромошенниками. Заключение
Теория теорией, но ничто не сравнится с личным опытом. Примерно месяц назад я сам оказался мишенью для подобной атаки, и это было… Впечатляще, если не сказать больше. Что, собственно, и послужило мотиватором для моей попытки понять «как это работает» и, в конечном счете, написанного текста. Всё началось с обычного телефонного звонка. На другом конце провода был голос моего довольно близкого друга, который эмигрировал в ближнее зарубежье из соседней страны после начала событий 2022 года.
Разговор начался как обычно — обмен приветствиями, немного шуток, расспросы о жизни. Мой собеседник говорил именно так, как говорил бы мой настоящий друг — те же интонации, тот же юмор, даже характерные словечки и паузы. Мы проговорили более пятнадцати минут, обсуждая общих знакомых, последние новости, даже затронули несколько условно-личных тем.
Признаюсь честно, у меня не возникло ни малейшего подозрения. Но тут разговор повернул в неожиданное русло — мой собеседник попросил одолжить ему пять тысяч USDT (стейблкоин, привязанный к доллару США, если кто не знает). И вот тут что-то в моей голове щёлкнуло.
Дело в том, что мой настоящий друг, в отличие от меня, всегда скептически относился к криптовалюте. Он неоднократно называл весь крипторынок, включая стейблкоины, очередным финансовым пузырём. И если бы ему действительно понадобились деньги, он бы скорее попросил перевод через более традиционные системы, например, ту же «Золотую корону» или самый банальный банковский перевод (хотя в наше время это и сопряжено с понятными трудностями, особенно с учетом его изначального гражданства).
Это несоответствие заставило меня задать несколько личных вопросов, на которые мог ответить только настоящий друг. И тут фасад начал рушиться. Нормальность, та-сзать, отклеилась. «Друг» начал путаться в ответах, а потом и вовсе попытался перевести разговор обратно к теме денег. Если бы не эта маленькая деталь с отношением к криптовалюте, я мог бы действительно перевести деньги, думая, что помогаю старому знакомому. Да, всё было настолько «на тоненького».
Через пару недель после этого инцидента я получил настоящий звонок от своего друга — и, само собой, никаких денег он не просил. Выводы? Не будет их. Знайте о том, что и такое теперь тоже возможно, лелейте свою паранойю, и, может быть, вас не удастся обмануть. Возможно. Это было близко, стоит отметить.