Ново проучване разкрива, че системите с изкуствен интелект вече могат да създават фишинг имейли толкова ефективно, колкото и хората, което създава силно безпокойство.
Публикувано на сървъра arXiv на Корнел, проучването подчертава нарастващата сложност на моделите за големи езици (LLM - large language models). Тези модели могат да създават хиперперсонализирани, убедителни фишинг кампании за част от разходите и времето, необходими за традиционните методи.
Фишингът е често срещана кибератака, при която злонамерени лица изпращат измамни имейли или текстови съобщения, предназначени да подведат получателите да разкрият чувствителна информация, като пароли или финансови данни, или да кликнат върху връзки, които инсталират зловреден софтуер.
Те причиняват и много икономически щети. Само през 2023 г. фишинг измамите са стрували на американската икономика около 2,4 милиарда долара.
За да работят фишинг атаките, те трябва да използват човешката психология, да се възползват от доверието, неотложността или любопитството и да манипулират жертвите. Добрите фишинг измами трябва да изглеждат автентични, но тъй като все повече от тези атаки се промъкват в нашите лични съобщения, ние, жертвите, ставаме все по-умни. Това принуждава измамниците да се усъвършенстват в тази игра, а изкуственият интелект е довел тези схеми до безпрецедентна сложност.
"Това значително повишава риска от заплахи", коментира пред The Debrief д-р Фред Хайдинг (Fred Heiding) от Харвардското училище "Кенеди" и автор на изследването . "Рядко се наблюдава феномен, при който технологиите едновременно подобряват качеството и намаляват разходите, както се случва тук."
Изследователският екип провежда експеримент със 101 участници, за да оцени ефективността на генерираните от изкуствен интелект фишинг имейли в сравнение с тези, създадени от хора специалисти. Участниците са разделени на четири групи, всяка от които получава различен тип имейл.
- Контролната група е получавала генерични фишинг имейли с минимална персонализация;
- Втората група, наречена "Human Expert Group" е получавала полуперсонализирани фишинг имейли, създадени от специалисти по киберсигурност;
- Третата група, "AI-Generated Email Group", е получавала напълно автоматизирани имейли, генерирани от програмата Claude 3.5 Sonnet LLM;
- Четвъртата група, генерирана от изкуствен интелект с "човек в цикъла" или "AI with Human-in-the-Loop Email Group", е получавала имейли, генерирани от изкуствен интелект, прецизирани от хора.
Генерираните от изкуствен интелект имейли са създадени с помощта на специално разработен инструмент, който автоматизира целия процес на фишинг. Нещата стават още по-плашещи като изкуственият интелект провежда проучване на своите цели, използвайки разузнаване с отворен код (OSINT).
"Нашият персонализиран инструмент автоматизира процеса на фишинг, като събира публично достъпна информация за целите чрез публично достъпна информация като лични уебсайтове, страници в социалните медии и новинарски статии", обяснява Хайдинг. "Изкуственият интелект автоматично се насища, когато прецени, че е намерил достатъчно съдържание, и след това използва информацията, за да създаде персонализирани фишинг имейли."
Проучването установява, че генерираните от изкуствен интелект фишинг имейли се представят наравно с тези, създадени от хора експерти, постигайки 54% успеваемост при предизвикване на кликвания върху вградени връзки. Когато се намесят хората, за да прецизират генерираните от изкуствен интелект имейли, процентът на успех се увеличава леко до 56%. За разлика от това, имейлите от контролната група с общ характер имат много по-нисък процент на успех от 12%, което подчертава значението на персонализацията във фишинг кампаниите.
Участниците са заявили, че персонализираното съдържание е ключов фактор за доверието в имейлите. Например, хиперперсонализираните съобщения, отнасящи се до конкретни академични интереси или професионални принадлежности, са били далеч по-убедителни от общите обръщения.
Това е логично, според Матео Томазини (Matteo Tomasini), главен технологичен директор в District 4 Labs, компания, специализирана в изграждането на инструменти за сигурност, които наблюдават тъмната мрежа.
"В миналото изпращането на толкова много персонализирани и подробни имейли би било прекалено много работа", обяснява Томазини пред The Debrief. "Отличителните белези на фишинг имейлите от миналото, т.е. неправилен правопис и неправилна граматика, са по-малко разпространени при фишинг имейлите, подобрени с изкуствен интелект, и в резултат на това хората трябва да бъдат значително по-бдителни и предпазливи, когато става въпрос за входящата си поща."
С ефикасността на OSINT проучванията и писането, която е с малко над 50% успеваемост, реалните щети идват от цената. Напълно автоматизираните кампании изискват само четири цента на имейл и никакъв ръчен труд. Освен това, традиционните фишинг методи често са нерентабилни поради високите разходи за труд и ограничената мащабируемост. Има множество цели и ако нападателите не отделят време, за да свършат добра работа и проучване, обикновено не печелят накрая. Тези атаки в крайна сметка биват изтрити.
Изглежда, че изкуственият интелект е променил всичко това.
"Нападателите вече могат да персонализирано съдържание, увеличавайки мащаба и рентабилността на операциите за кражба на данни и самоличност", подчертава Хайдинг.
Работещите в областта на киберсигурността са единодушни, че изкуственият интелект улеснява фишинга.
"Използването на инструменти с изкуствен интелект, които могат да бъдат обучени върху компрометирани данни от тъмната мрежа и съдържанието в социалните медии, доведе до разпространението на невероятно убедителни имейли за фишинг", коментира Томазини.
Изследователите са изчислили, че нападателите биха могли да увеличат рентабилността си до 50 пъти, когато са насочени към големи групи, около 10 000 души, използвайки инструменти с изкуствен интелект.
И така, как можем да се защитим?
Въпреки че LLM могат да се използват за атака за фишинг, те показват потенциал и като защитни инструменти. Проучването тества пет LLM за способността им да откриват подозрителни намерения в имейли. Claude 3.5 Sonnet се очертава като най-ефективния модел, постигайки 97,25% процент на откриване на фишинг имейли без фалшиво положителни резултати при подозрение. Въпреки това, дори този висок процент на откриване подчертава тревожна асиметрия: докато защитните приложения се подобряват, възможностите на кибер престъпниците се развиват с още по-бързи темпове.
Хайдинг и Томазини смятат, че изкуственият интелект ще играе "двойна роля", като подобрява атаките и защитата.
Това ще бъде "цикъл, при който напредъкът в защитата ще информира напредъка в атаките и обратно", подозира Томазини.
Накратко, надпревара във въоръжаването.
"Бъдещето вероятно ще включва динамика "AI срещу AI", където както нападателите, така и защитниците използват AI, за да се надхитряват взаимно", прогнозира Хайдинг. "Тъй като генерираният от AI фишинг става все по-разпространен, разработването на усъвършенствани механизми за откриване и предотвратяване, основани на AI, ще бъде от решаващо значение, за да се запази водеща роля в този развиващ се пейзаж на киберсигурността."
Така че за всеки имейл или текстово съобщение, което се появява и чука на вашата дигитална врата, осведомеността се превръща в ключов приоритет.
Томазини отбелязва, че хората трябва да бъдат проактивни. Той предлага да се настрои многофакторно удостоверяване (MFA) за всички възможни акаунти, да се уверите, че софтуерът ви за сигурност е актуален, и редовно да сменяте паролите си. Освен това, потребителите трябва да бъдат бдителни и да се уверят, че преглеждат текста или имейла, преди да кликнат върху връзката или да споделят лична информация.
Накратко, изглежда, че дните на неловко формулираните измамни съобщения от руски модели и кралски особи от чужди държави с големи суми пари, които се надяват да ви изпратят, най-накрая приключват.
Справка: Evaluating Large Language Models' Capability to Launch Fully Automated Spear Phishing Campaigns: Validated on Human Subjects; Fred Heiding, Simon Lermen, Andrew Kao, Bruce Schneier, Arun Vishwanath; https://arxiv.org/abs/2412.00586
Източник: AI Phishing Revolution: Study Reveals Bots Now Out-Scheme Humans in Cyber Deception, The Debrief
Още по темата
Технологии
Защо кибервойната на Русия в Украйна не се развива според прогнозите
Технологии
11 карти на кибератаките в реално време
Технологии
Тенденции за малкия и среден бизнес – хибридна мобилна работна сила, сигурност и 5G свързаност
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
Няма коментари към тази новина !
Последни коментари
zlatkov
Учени сканират 74 милиона радиосигнала от междузвезден обект за признаци на извънземни технологии
Джендо Джедев
За срещата на Земята с Халеевата комета през 1910 г. някои са пили "противокометни хапчета"
dolivo
Чифтосали ли са се Хомо еректус и денисовците? Зъбните протеини намекват за древни срещи
Niko Kolev
"Ад" на Данте описва удар на астероид 500 години преди съвременната наука