Ерата на писмата от „нигерийски принцове“ приключи: Изкуственият интелект прави фишинг измамите 50 пъти по-рентабилни
SongIceAndFire
1 min read
Дните на зле скалъпените измамни имейли с развален правопис и обещания за милиони от чуждоземни кралски особи официално остават в миналото. Ново стряскащо проучване, публикувано на сървъра за предпринтове arXiv на Корнелския университет, разкрива, че системите с изкуствен интелект вече генерират фишинг кампании със същата ефективност, съвършенство и психологическа манипулация, каквито притежават и хората специалисти.
Изследването подчертава бързата еволюция на големите езикови модели (LLM). Те вече са способни да създават хиперперсонализирани и изключително убедителни лъжливи съобщения за нищожна част от времето и средствата, необходими за традиционните хакерски атаки.
Икономическата цена на дигиталната манипулация
Фишингът остава сред най-опасните кибератаки. При него измамниците използват човешката психология – усещането за неотложност, страх, любопитство или авторитет – за да подведат жертвата да сподели пароли, финансови данни или да инсталира зловреден софтуер.
Мащабът на щетите е колосален: само в САЩ за една година фишинг измамите са стрували на икономиката близо 2,4 милиарда долара. Тъй като потребителите стават все по-внимателни, киберпрестъпниците се принудиха да вдигнат залозите, а изкуственият интелект предостави перфектното оръжие за това.
Д-р Фред Хайдинг (Fred Heiding), Харвард: „Рядко се наблюдава феномен, при който дадена технология едновременно подобрява драстично качеството на продукта и в същото време намалява разходите му до минимум. Точно това се случва в момента с фишинга, управляван от ИИ.“
Експериментът: Хора срещу Claude 3.5 Sonnet
За да измери силата на алгоритмите, изследователският екип провежда научно тестване със 101 участници, разделени в четири групи, получаващи различен тип фишинг заплахи:
- Контролна група: Получава генерични, масови фишинг писма с минимална персонализация.
- Експертна група (Human Expert): Получава полуперсонализирани имейли, прецизно изработени от експерти по киберсигурност.
- ИИ група (AI-Generated): Получава напълно автоматизирани имейли, генерирани изцяло от модела Claude 3.5 Sonnet.
- Хибридна група (AI with Human-in-the-Loop): Получава генерирани от ИИ текстове, но леко фино настроени и коригирани от човек.
За целта нападателите са използвали ИИ инструмент, интегриран с разузнаване от открити източници (OSINT). Алгоритъмът сам е сканирал интернет, събирайки публична информация за мишените си – лични сайтове, профили в социалните мрежи и новинарски статии. След като събере достатъчно съдържание, ИИ автоматично спира търсенето и генерира писмо, стъпващо върху конкретните професионални или академични интереси на човека.
Резултатите: Шокираща ефективност и символична цена
Проучването очертава пълна доминация на автоматизираните системи над традиционния спам:
📈 УСПЕВАЕМОСТ НА ФИШИНГ АТАКИТЕ (Предизвикани кликвания върху зловредни линкове):
[▓▓▓▓▓▓▓▓▓▓▓░░░░░░░░░] 56% ИИ с човешка намеса (AI + Human-in-the-Loop)
[▓▓▓▓▓▓▓▓▓▓▓░░░░░░░░░] 54% Изцяло генерирани от ИИ (Claude 3.5 Sonnet)
[▓▓▓▓▓▓▓▓▓▓▓░░░░░░░░░] 54% Професионални хакери (Human Experts)
[▓▓░░░░░░░░░░░░░░░░░░] 12% Стандартни масови имейли (Контролна група)
Истинската революция за престъпния свят обаче не е в лекия превес от 2% при хибридния модел, а в цената на операцията. Напълно автоматизираната кампания изисква едва 4 цента на имейл и нулев ръчен труд. Досега висококачественият фишинг изискваше часове проучване от скъпоплатени хакери, което го правеше немащабируем. Сега ИИ премахва бариерата. При насочване към големи корпоративни групи от около 10 000 души, престъпниците могат да увеличат рентабилността си до 50 пъти.
Матео Томазини, главен технологичен директор в District 4 Labs, обяснява, че ИИ е премахнал основните маркери, по които разпознавахме измамите – лошата граматика и правописните грешки. Моделите пишат безупречно и автентично.
Надпревара във въоръжаването: AI срещу AI
Въпреки мрачната картина, големите езикови модели показват огромен потенциал и на защитния вал. Учените са тествали пет водещи модела за засичане на зловреден контекст в писмата. Водещ отново се оказва Claude 3.5 Sonnet, който е открил 97,25% от фишинг съобщенията без нито една фалшива тревога.
Експертите обаче предупреждават, че сме на прага на динамична кибер-война на изтощение.
Матео Томазини: „Бъдещето на киберсигурността ще бъде сблъсък от типа ‘ИИ срещу ИИ’. Напредъкът в защитния софтуер веднага ще бъде анализиран от престъпниците, за да подобрят атаките си, и обратното.“
Как да защитим дигиталния си дом?
Тъй като фишингът вече изглежда перфектно, защитата изисква проактивно поведение и висока лична хигиена в мрежата:
- Включете MFA: Настройте многофакторно удостоверяване (MFA) навсякъде, където е възможно. Дори хакерите да откраднат паролата ви, те няма да могат да влязат без втория код.
- Бъдете подозрителни към линкове: Винаги проверявайте реалния адрес на подателя и линка, преди да кликнете, особено ако писмото изисква бързо действие.
- Сменяйте паролите си: Използвайте мениджъри на пароли и софтуер за сигурност, който се актуализира в реално време, за да засича компрометирани данни от Тъмната мрежа.
