Консультант Microsoft розповів про використання шахраями технологій ШІ

Сила штучного інтелекту відкриває нові обрії. Від автоматизації процесів до функцій, які раніше вважалися неможливими, весь сектор технологій отримує вигоду з ШІ. Проте доступність мовних моделей призвела до їх використання шахраями. Нещодавно користувачі Gmail стали свідками високо реалістичних шахрайських схем, створених на базі ШІ, які можуть ошукати менш досвідчених користувачів.

Що ще відомо

З розвитком методів захисту від фішингу зловмисникам доводиться вдаватися до складніших підходів. Один із найсучасніших випадків фішингу торкнувся Сема Мітровича, консультанта Microsoft, який поділився своїм досвідом, закликаючи до пильності. Як користувач Gmail, Митрович отримував тривожні повідомлення про спроби відновити обліковий запис і дзвінки, які нібито походять від Google. Він ігнорував їх, як і слід робити в подібних випадках. Однак, щоб зрозуміти суть ситуації, він зрештою відповів на один із дзвінків. Цікаво, що співрозмовник говорив із явним американським акцентом, хоча дзвінок надійшов із Австралії.

Передбачуваний «агент Google» звернувся до Мітровича з питанням про його поїздки Німеччиною, згадавши, що тиждень тому хтось отримав доступ до його облікового запису Gmail та його особистих даних. Такі звернення часто зустрічаються у фішингових схемах, оскільки вони спрямовані на залякування жертви та примус її до виконання вимог шахрая. Під час розмови Мітрович шукав номер телефону в інтернеті, і виявилося, що це справді номер Google Australia.

На цьому етапі багато людей можуть легко погодитися на все, що їм кажуть. Переконавшись, що дзвінок надійшов із, здавалося б, «законного» номера, вони можуть прийняти інформацію від «агента» за правду. Однак шахраї вміють маскувати свої номери, створюючи видимість законності. Щоб зрозуміти схему шахрайства, Мітрович попросив “агента Google” надіслати йому електронного листа для перевірки. Він хотів переконатися у законності адреси відправника. У цей момент він зауважив, що одна з адрес у полі «кому» виявилася підробленою, що підтвердило його підозри.

До того ж Мітрович усвідомив, що гаданий агент Google насправді використав голос, створений за допомогою штучного інтелекту. Спостерігаючи, як розгортається схема шахрайства, Митрович вирішив завершити розмову. Якби вони не зупинилися, наступним кроком, ймовірно, була б пропозиція йому виконати дії щодо відновлення Gmail, що надало б зловмиснику доступ до його облікового запису.

Ця шахрайська схема, що використовує штучний інтелект для атаки на облікові записи Gmail, має високий ступінь складності. Від синтетичного голосу до телефонних номерів, які видаються легітимними від Google, все це діють у тандемі для підвищення ефективності фішингу.