Генеративният изкуствен интелект като ChatGPT, Dall-E, Vall-E и други модели за обработка на естествен език (NLP) издигнаха лекотата на използване и точността на изкуствения интелект на ново ниво и го отвориха за широката публика.

Въпреки че има безброй ползи от технологията, има и много опасения - включително, че тя може да се използва за разработване на злонамерени и по-ефективни кибератаки, пише Forbes.

Истинският въпрос е: "Какво означава това за киберсигурността и как можете да се защитите срещу генеративни AI кибератаки?"

Неблагоприятни употреби на генеративен изкуствен интелект (AI)

Генеративните AI инструменти имат потенциала да променят начина, по който се разработват и изпълняват кибернетични заплахи. Със способността да генерират човешки текст и реч, тези модели могат да се използват за автоматизиране създаването на фишинг имейли, атаки чрез социално инженерство и други видове злонамерено съдържание.

При достатъчно умно формулирана заявка може да се получи също така генеративен AI като ChatGPT, който буквално да пише злонамерен код. Могат да се автоматизира и разработката на нови методи за атака.

Например генериращ AI модел, обучен върху набор от данни за известни уязвимости, може да се използва за автоматично генериране на нов код, който да се насочи към тези уязвимости. Това не е нова концепция и е правено и преди с други техники, като например fuzzing, които също могат да автоматизират разработването на злонамерен код.

Едно потенциално въздействие на генеративния AI върху киберсигурността е способността на участниците в заплахите бързо да разработват по-сложни и убедителни атаки. Например, генеративен AI модел, обучен върху голям набор от данни за фишинг имейли, може да се използва за автоматично генериране на нови, изключително убедителни фишинг имейли, които са по-трудни за откриване.

Освен това генеративните AI модели могат да се използват за създаване на реалистично звучаща реч за използване при базирани на телефон атаки. Vall-E може да съпостави почти перфектно гласа и маниерите на някого въз основа на само три секунди аудиозапис на гласа му.

Трябва да се подчертае, че генеративните AI модели не са злонамерени по своята същност и могат да се използват и за полезни цели. Например генеративни AI модели могат да се използват за автоматично генериране на нови контроли за сигурност или за идентифициране и приоритизиране на уязвимостите за коригиране.

Откриване на кибератаки от генеративен AI

Важно е да се отбележи, че няма жизнеспособен начин да се каже точно дали дадена атака е разработена от генеративен изкуствен интелект, или не. Крайната цел на генеративния AI модел е да бъде неразличим от реакцията или съдържанието, което човек би създал.

Генеративни AI проекти като ChatGPT и други постижения в създаването на изображения, гласовата мимика и промяната на видео създават уникално предизвикателство от гледна точка на киберсигурността.

Няма значение дали дадена атака е разработена с помощта на генеративен изкуствен интелект, или не. Вредният код си е вреден код, а атаката си е атака, независимо как е създадена.

Определянето на конкретната заплаха, нейните мотиви и крайни цели може да е важно за подобряване на защитата срещу бъдещи атаки, но не е извинение за неуспешното ѝ спиране на първо място. Много организации обичат да отклоняват вината, като твърдят, че нарушенията и атаките са резултат от усъвършенствани механизми и използват това като оправдание за неуспеха си да предотвратят атаки. Работата на киберсигурността обаче е да предотвратява и реагира на атаки, независимо откъде идват.

Екипите по сигурността не могат просто да вдигнат рамене и да признаят поражение само защото атака може да дойде от генеративен изкуствен интелект. Това как е разработена заплахата или скокът в обема на заплахите не променя нищо фундаментално, ако стратегията за киберсигурност е изградена по правилния начин.