ИИ на службе мошенников: как не стать жертвой нейросетей

С момента появления публично доступных генеративных ИИ-моделей в 2022 году они массово стали внедряться во все отрасли человеческой деятельности. Тренд не нейросети не обошел стороной и мошенников, которые значительно расширили свой инструментарий благодаря новой технологии. GetBlock AML Research объясняет, для каких целей злоумышленники используют ИИ, и как в этих условиях защитить свои активы от похитителей.

По обе стороны

С момента появления ИИ-технологии стали использоваться по обе стороны баррикад. Нейросети помогают не только мошенникам, а и специалистам, которые им противодействуют. Правоохранительные органы и аналитические компании также внедряют в свою работу ИИ, чтобы увеличить эффективность. Инструменты на базе нейросетей позволяют значительно увеличить скорость и эффективность обработки данных. На основе нейросетей создаются продвинутые системы обнаружения, которые способны в реальном времени сканировать блокчейн на предмет подозрительных и незаконных транзакций.

Популярные способы использования ИИ мошенниками

• Дипфейки. Злоумышленники создают фальшивые аудиозаписи и видеоролики с известными публичными персонами, в которых призывают инвестировать в сомнительные проекты. Наиболее часто встречаются дипфейки с Илоном Маском, Дональдом Трампом и другими медийными лицами. Опасность таких дипфейков заключается в том, что они практически неотличимы от реальных видеозаписей, поэтому многие пользователи могут поверить в информацию, распространяемую дипфейками;
• ИИ для фишинга. Нейросети массово используют для создания поддельных личностей и искусной маскировки. С помощью ИИ мошенники создают весьма правдоподобные emal-письма, поддельные сайты, а также чат-ботов, которые убеждают потенциальных жертв выполнять опасные действия;
• Обход KYC. При помощи нейросетей злоумышленники могут создавать поддельные сканы документов для верификации личности на крупных торговых платформах;
• В реальном времени. ИИ позволяют мошенникам подменять голоса и лица в реальном времени при аудио- или видеозвонках. Такую тактику использовали северокорейские хакеры Lazarus Group, чтобы проходить собеседования в крупных финансовых компаниях.

Как специалисты раскрывают использование ИИ мошенниками

Помимо стандартных методов исследовательской работы теперь аналитики используют следующие методы:

• Глубокое распознавание образов, при помощи которого можно определить подлинность видеозаписи;
• Лингвистический анализ распознает аудио дорожки и выявляет нетипичные артефакты, например, необычное произношение слов и странные ударения;
• Стилистические особенности: специалисты сравнивают стиль речи человека с дипфейком и выявляют несоответствия.

Все эти данные в совокупности с цепочками транзакций в блокчейне могут дать полную картину о том, как действуют мошенники, какой используют инструментарий и каких достигают результатов.

Сравнение оригинальной видеозаписи Илона Маска с дипфейком

Как защититься от ИИ, используемого в преступных действиях

Перечисленные ниже способы помогут выявить потенциально опасные предложения от мошенников, которые часто полагаются на быструю реакцию потенциальной жертвы. Поэтому злоумышленники пренебрегают качеством дипфейков.

• На видеозаписях, созданных ИИ, следует обращать внимание на неестественную мимику, моргания и несоответствие движения губ произношению слов;
• Также следует изучить освещение и тени, поскольку нейросети часто ошибочно размещают теневые артефакты, которые не соответствуют освещению;
• При получении фишинговых рассылок, созданных ИИ, следует тщательно проверять ссылки и доменные имена, поскольку они содержат умышленные измененные, которые направляют жертву на вредоносные сайты;
• Финансовым компаниям следует обучить своих сотрудников базовым навыкам противодействия социальной инженерии.