Един на всеки шест пробива в киберсигурността включва AI-базирани атаки. Най-често това са AI-генерирани фишинг имейли и deepfake атаки. Изкуственият интелект позволява на атакуващите да създават изключително убедителни имейли, фалшиви гласови съобщения и дори видео съдържание за минути вместо за часове. Според данните от доклада на IBM „Цената на пробивите в сигурността“ за 2025 година, анализирал информация от над 600 организации по света, благодарение на изкуствения интелект времето за създаване на убедителен фишинг имейл е намаляло от 16 часа до едва 5 минути.

В същото време 97% от организациите, претърпели AI-свързан пробив, не са имали адекватен контрол на достъпа до AI системите си. Shadow AI — използването на неоторизирани AI инструменти в организациите — вече добавя средно по 670 хил. долара към цената на един пробив в сигурността.

Кибератаките навлизат в нова ера и това променя фундаментално начина, по който организациите трябва да мислят за защита. В ерата на изкуствения интелект класическите подходи към киберсигурността вече не са достатъчни. Срещу AI можеш да се изправиш само с AI. Ако допреди няколко години изкуственият интелект беше инструмент основно за автоматизация и анализ, днес той вече е активна част както от атаките, така и от защитата.

И точно тук идва ред на положителната статистика. Според данните от доклада организациите, които използват AI и автоматизация в киберсигурността, съкращават жизнения цикъл на пробива средно с 80 дни и намаляват разходите, свързани с инцидентите, с около 1.9 млн. долара.

Как изглежда една AI-базирана атака

Представете си следния сценарий. Служител във финансов отдел на компания получава имейл и последващо обаждане от човек, който звучи точно като финансовия директор. Гласът е познат, тонът — убедителен, а причината — „спешен трансфер“ към партньор заради критично важна сделка. Звучи като част от нормален работен ден, но в действителност не е. Това е deepfake атака, генерирана чрез AI. Атакуващите използват публично достъпни интервюта, видеа и записи, за да обучат модел, който копира гласа и начина на говорене на конкретния човек.

Подобни атаки вече не са нито фантастика, нито сценарий за филм. През последните две години има реални случаи на компании, загубили милиони долари точно вследствие на такъв тип атаки, насочени към финансови отдели.

AI се използва и за автоматизирани фишинг кампании. Вместо масови имейли, написани на лош английски, днешните атаки използват персонализирани съобщения, написани по граматическите правила и адаптирани към конкретния човек, компания или индустрия. Точно затова традиционните системи за сигурност все по-трудно разчитат единствено на предварително дефинирани правила.

Управлението на AI: новото голямо предизвикателство

В допълнение към тези нови атаки се прибавя и фактът, че организациите внедряват AI по-бързо, отколкото могат да го управляват сигурно. Според IBM 63% от организациите или нямат политика за управление на AI, или тепърва разработват такава. А както разбрахме 97% от компаниите, преживели AI-свързан пробив, не са имали адекватен контрол на достъпа до AI системите си.

Тук се появява и феноменът shadow AI — служители използват външни AI инструменти без одобрение от ИТ екипите и екипите по сигурност. Само един неконтролиран AI инструмент може да доведе до изтичане на чувствителни данни или интелектуална собственост.

Защо AI вече е необходим и за защита

Задачата на киберсигурността не е никак лесна и има един начин на решение - да поставим AI от двете страни на уравнението. Срещу атаки, които се развиват в реално време, защитата също трябва да работи в реално време. Днешните AI системи за сигурност анализират огромни обеми от информация: мрежов трафик, потребителско поведение, login активности, API заявки, облачни среди, данни от крайни устройства. Вместо просто да търсят злонамерен код, те откриват аномалии.

Като например служител, който влиза в системата от София и след 2 минути – от Куала Лумпур. Акаунт, който започва да тегли необичайно количество данни или пък приложение, което започва да комуникира с непознати външни услуги.

Това са все сигнали, които системите с изкуствен интелект могат да засекат почти мигновено. След това идва и следващото ниво — автоматизираният отговор. При съмнение за атака изкуственият интелект може автоматично да изолира устройство, да блокира достъпа, да прекрати подозрителната сесия, да задейства процеса за отговор на атаката или да приоритизира сигналите към екипа за сигурност. Именно тук идва и огромната разлика във времето за реакция при традиционния подход и при подхода с изкуствен интелект.

Бъдещето на киберсигурността е AI срещу AI

Киберсигурността вече не е просто битка между добри и лоши хакери. Тя е надпревара между алгоритми. И след като атакуващите действат със скоростта на машината, организациите трябва също да се преориентират. В следващите години най-защитени няма да бъдат компаниите, които разполагат с най-много инструменти, а тези, които успеят да изградят интелигентна, автоматизирана и добре управлявана AI защита.