Премия Рунета-2020
Екатеринбург
+25°
Boom metrics
Общество14 февраля 2024 12:18

Записали альбом голосом рэпера и продали: эксперт раскрыл, как мошенники используют нейросеть для обмана

Эксперт раскрыл, как телефонные мошенники подделывают голоса нейросетью
О том, как обезопасить себя от мошенников, эксперты рассказали в рамках форума «Кибербезопасность в финансах»

О том, как обезопасить себя от мошенников, эксперты рассказали в рамках форума «Кибербезопасность в финансах»

Фото: Алексей БУЛАТОВ. Перейти в Фотобанк КП

В Екатеринбурге начал работу форум «Кибербезопасность в финансах». Один из главных вопросов, который обсуждают на площадке, – как защитить себя от мошенников, которые осваивают все новые и новые технологические чудеса.

Если раньше они просто звонили и пытались выдать себя за «службу безопасности банка», то теперь в ход идут нейросети, при помощи которых злоумышленники могут сделать свой голос похожим на голос близкого человека жертвы. О том, на что теперь способны кибермошенники, в рамках форума рассказал эксперт по информационной безопасности Алексей Дрозд.

НЕЙРОСЕТЬ - ИНСТРУМЕНТ ЭКЗОТИЧЕСКИЙ

По словам эксперта, сейчас технология deepfake позволяет мошенникам обманывать людей двумя способами. Первый – при помощи нейросетей они клонируют голос какого-то человека. Второй – нейросеть целиком создает некую виртуальную личность или событие, которых никогда не было, и обманывают своих жертв с их помощью.

Эксперт по информационной безопасности Алексей Дрозд объяснил, как мошенникам удается менять свой голос нейросетью

Эксперт по информационной безопасности Алексей Дрозд объяснил, как мошенникам удается менять свой голос нейросетью

Фото: Алексей БУЛАТОВ. Перейти в Фотобанк КП

- Был случай – нейронную сеть, которая умеет рисовать картинки, мошенники попросили сгенерировать фотографии города после урагана, - рассказывает Алексей Дрозд. – Эти синтезированные фотографии, будто сделанные очевидцем, мошенник использовал, чтобы открыть «благотворительный сбор средств» для помощи пострадавшим жителям.

Другой пример использования нейросетей – из мира музыки. По словам эксперта, однажды мошенники клонировали голос известного рэпера и напели им несколько стихотворений.

- Получилось корявенько, но они выставили эти песни на продажу как демозапись последнего альбома рэпера, украденную хакерами со студии, и смогли обмануть людей на 13 тысяч долларов, - говорит Алексей Дрозд.

Впрочем, пока нейросети в руках мошенников - инструмент скорее экзотический. С ними пока слишком сложно работать, чтобы получался убедительный результат. Например, достаточно сложно сделать так, чтобы нейросеть на ходу во время телефонного разговора превращала голос мошенника в голос другого человека.

- Чтобы клонировать голос человека в онлайн-режиме, надо мощное оборудование, которое будет успевать подменять голос, - объясняет эксперт. – В Нижнем Новгороде, конечно, был случай, когда мошенник позвонил бухгалтеру предприятия и голосом директора сказал передать миллион курьеру, который сейчас придет. Но я склонен думать, что в той атаке мошенники нашли человека с похожим голосом и просто потом на компьютере сделали тюнинг голоса, докрутили его, чтобы стал очень похож.

ВОЛШЕБНОГО СПОСОБА ВЫЧИСЛИТЬ МОШЕННИКА НЕТ

Тем не менее нейросети, делающие голос мошенников похожим на голос близкого жертвы, используются. Но гораздо чаще мошенники записывают с его помощью голосовые сообщения и бросают их жертве в мессенджер.

- В России массово используют «дешевые дипфейки», которые легко воспроизводить, - говорит Алексей Дрозд. - Последняя волна - это генерация голосовых сообщений. Сценарий старый: в голосовом сообщении близкий родственник говорит, что попал в ДТП, и просит перевести деньги, чтобы его не привлекли к ответственности. Звонит с чужого номера, якобы потому что свой телефон потерял или сломал. На звонки сам не отвечает. Образцы голоса мошенники в таких случаях берут из открытых источников. Они пишут текст, нейросеть их начитывает голосом жертвы. Потом это сообщение вбрасывается в мессенджер жертвы.

К сожалению, волшебного способа, как распознать, что голосовое сообщение вам отправил близкий человек, а не кибермошенник, не существует. Тут важно просто сохранять бдительность и не принимать поспешных решений. Для этого, например, банки вводят дополнительные меры безопасности. Так, один из крупнейших банков России включил так называемый «период охлаждения».

- Для подозрительных кредитов «период охлаждения» длится 24 часа. Этого достаточно, чтобы человек (которого убедили взять кредит мошенники. - Прим. ред.) подумал, а что же он делает, - объясняет глава Ассоциации развития финансовой грамотности Вениамин Каганов.

Глава Центрального банка Российской Федерации Эльвира Набиуллина в Екатеринбурге отметила, что переломного момента в борьбе с кибермошенниками не произошло

Глава Центрального банка Российской Федерации Эльвира Набиуллина в Екатеринбурге отметила, что переломного момента в борьбе с кибермошенниками не произошло

Фото: Алексей БУЛАТОВ. Перейти в Фотобанк КП

КАК МОШЕННИКИ ЗВОНЯТ С НОМЕРА БАНКА

Часто люди, которым позвонили мошенники, пытаются ради шутки перехитрить их – продолжают с ними разговор, чтобы разозлить злоумышленника. Эксперт объясняет, что подобное продолжение разговора тоже может быть чревато.

- Если разозлить мошенника, то есть два сценария, - говорит Алексей Дрозд. - Они могут подключить на номер этого человека приложение, которое будет заваливать его телефон СМС-сообщениями. И это может продолжаться от 5 минут до 2 суток. Телефон просто не умолкает. Это ничем не грозит, но и позвонить по телефону ты в итоге не можешь. Такая вот месть. Второй сценарий – подмена параметра Caller ID. Это идентификационный номер звонящего. С его помощью вы видите номер, который вам звонит. И его можно подменять. Это глобальная проблема для всего мира. Она появилась, потому что Caller ID сначала сделали, а потом уже стали думать о кибербезопасности. Смысл в том, что мошенники будут звонить другим своим жертвам, а на экране телефона у них будет высвечиваться ваш номер и перезванивать жертвы мошенников потом будут вам.

К слову, похожим образом, с помощью замены Caller ID, мошенники и делают так, что на смартфоне поступающий звонок выглядит так, будто это звонок с номера известного банка.

- Банки совместно с операторами сотовой связи заявляли, что победили это. Грубо говоря, когда абоненту от имени банка совершается звонок, то есть кто-то передает в Сеть параметр Caller ID, то автоматически оператор сотовой связи должен сделать запрос в автоматическую информационную систему банка и спросить, а действительно ли банк сейчас звонит. Если нет, звонок не доходит, - говорит эксперт. - Я только предположить могу, почему до сих пор такие звонки от мошенников поступают. Этот параметр Caller ID действует на операторов, но есть в России и виртуальные сотовые операторы, которые непонятно, сделали они эту защиту или нет. А есть еще роуминг, и тот оператор, возможно, не предоставляет такие данные. Возможно, это идет звонок от оператора не российского, а из другой страны с подменными параметрами.

ЧИТАЙТЕ ТАКЖЕ

Набиуллина: переломного момента в борьбе с кибермошенниками не произошло

Глава ЦБ РФ выступила в Екатеринбурге (Подробнее) «Пишет как двоечник»: уральский филолог дала низкую оценку нейросети, которая за час сдала ЕГЭ

В Екатеринбурге нейросети понадобился час, чтобы написать ЕГЭ по русскому, но в вуз она не поступит (Подробнее)