При взломе аккаунта в мессенджере WhatsApp или Telegramмошенники могут использовать образец голоса для создание фейковых сообщений в нейросетях. Об этом сообщили в Управлении по борьбе с противоправным использованием информационно-коммуникационных технологий (УБК) МВД РФ.
При взломе аккаунта кибермошенники могут взять за образец запись голоса и с помощью нейросетей «наговорить» любой текст, который будет отправлен знакомым и родственникам потерпевшего.
Использование нейросетей для генерации фейковых голосовых сообщений и дипфейков на основе взломанных аккаунтов — тревожный тренд в сфере кибермошенничества, отмечает член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«С появлением доступных технологий синтеза речи и видео мошенники получают мощные инструменты для обмана, особенно в ситуациях, где доверие играет ключевую роль — например, при обращении от лица близкого человека. Это усиливает эффект и значительно усложняет распознавание обмана на раннем этапе», - сказал депутат.
Взлом мессенджеров становится не просто способом получения доступа к переписке, но и каналом распространения фальсифицированной информации от имени жертвы. «Даже короткие голосовые сообщения, оставленные в чатах, могут быть использованы для создания реалистичных аудиообращений. Технологии настолько продвинулись, что имитация интонации, тембра и манеры речи не вызывает подозрений даже у близких людей, что делает такие схемы особенно опасными», - подчеркнул Немкин.
Фейковые видеосообщения и дипфейки становятся ещё одной формой давления. Их могут использовать для шантажа, мошенничества или дискредитации. В корпоративной среде особенно популярна среди мошенников схема Fake Boss, при которой злоумышленник обращается к подчинённому от лица руководителя с просьбой, например, о срочном переводе средств. Здесь решающим фактором становится отсутствие проверки — неловкость подчинённого и стремление не подвести «начальство».
«В условиях стремительного развития ИИ важно усиливать цифровую гигиену: использовать двухфакторную аутентификацию, не оставлять голосовые сообщения в публичном доступе, ограничивать доступ приложений к камере и микрофону, а также регулярно проверять настройки конфиденциальности. Кроме того, внутри организаций необходимо внедрять протоколы верификации запросов, особенно финансовых, вне зависимости от ранга отправителя», - заключил парламентарий.
При взломе аккаунта кибермошенники могут взять за образец запись голоса и с помощью нейросетей «наговорить» любой текст, который будет отправлен знакомым и родственникам потерпевшего.
Использование нейросетей для генерации фейковых голосовых сообщений и дипфейков на основе взломанных аккаунтов — тревожный тренд в сфере кибермошенничества, отмечает член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«С появлением доступных технологий синтеза речи и видео мошенники получают мощные инструменты для обмана, особенно в ситуациях, где доверие играет ключевую роль — например, при обращении от лица близкого человека. Это усиливает эффект и значительно усложняет распознавание обмана на раннем этапе», - сказал депутат.
Взлом мессенджеров становится не просто способом получения доступа к переписке, но и каналом распространения фальсифицированной информации от имени жертвы. «Даже короткие голосовые сообщения, оставленные в чатах, могут быть использованы для создания реалистичных аудиообращений. Технологии настолько продвинулись, что имитация интонации, тембра и манеры речи не вызывает подозрений даже у близких людей, что делает такие схемы особенно опасными», - подчеркнул Немкин.
Фейковые видеосообщения и дипфейки становятся ещё одной формой давления. Их могут использовать для шантажа, мошенничества или дискредитации. В корпоративной среде особенно популярна среди мошенников схема Fake Boss, при которой злоумышленник обращается к подчинённому от лица руководителя с просьбой, например, о срочном переводе средств. Здесь решающим фактором становится отсутствие проверки — неловкость подчинённого и стремление не подвести «начальство».
«В условиях стремительного развития ИИ важно усиливать цифровую гигиену: использовать двухфакторную аутентификацию, не оставлять голосовые сообщения в публичном доступе, ограничивать доступ приложений к камере и микрофону, а также регулярно проверять настройки конфиденциальности. Кроме того, внутри организаций необходимо внедрять протоколы верификации запросов, особенно финансовых, вне зависимости от ранга отправителя», - заключил парламентарий.