Тодор Хвойнев, старши инженер “Сигурност” в CLICO България, разказва за модерната киберсигурност и какво е мястото на изкуствения интелект в нея през призмата на SentinelOne XDR и Prompt Security — решение, насочено към сигурното използване на генеративен AI в корпоративна среда.

Как AI променя модерната киберсигурност?

AI променя киберсигурността в две основни посоки. Първата е добре позната — използваме изкуствен интелект, за да откриваме, анализираме и спираме киберзаплахи по-бързо. Втората, която става все по-важна, е защитата на самия AI — как служителите използват ChatGPT, Copilot, Gemini, Claude, Cursor или вътрешни AI приложения, какви данни подават към тях и дали тези инструменти не създават нови рискове за организацията.

Традиционно киберсигурността беше изградена около принципа „виждаме нещо познато и го блокираме“. Това работеше добре при класически вируси, сигнатури и известни индикатори за компрометиране. Днес обаче атаките са много по-динамични. Имаме безфайлови атаки, криптовируси, кражба на идентификационни данни, злоупотреба с потребителски идентичности, грешни настройки в облачна среда, атаки по веригата на доставки и вече AI-native заплахи — тоест заплахи, създадени или усилени чрез изкуствен интелект.

Тук AI внася качествена промяна. Вместо да търсим само конкретен файл, хеш или сигнатура, можем да анализираме поведение, контекст, последователност от действия и отклонения от нормалното. При SentinelOne това се вижда в платформата Singularity, където поведенческият изкуствен интелект, Storyline корелацията, автоматичната реакция и Purple AI помагат на екипите да разберат не само „какво се е случило“, а и „защо това е важно“ и „какво трябва да направим сега“.

С Prompt Security фокусът се разширява още повече — не защитаваме само крайните устройства, облачната среда и идентичностите, а и начина, по който бизнесът използва генеративен AI.

Каква е разликата между традиционната киберзащита и защитата, базирана на изкуствен интелект?

Основната разлика е в подхода. Традиционната защита е до голяма степен базирана на предварително известни правила, сигнатури, статични политики и ръчен анализ. Това не означава, че тя е безполезна — напротив, тя все още има място в киберсигурността. Но нейният проблем е, че често реагира на нещо, което вече е известно.

AI-базираната защита работи по различен начин. Тя анализира поведение, закономерности и контекст. Например, ако даден процес започне да криптира голям брой файлове, да променя системния регистър, да се инжектира в други процеси или да опитва достъп до хранилища с идентификационни данни, AI моделът може да разпознае това като зловредно поведение дори без да има предварително известна сигнатура.

При защитата на генеративен AI разликата е още по-интересна. Традиционните решения за предотвратяване на изтичане на данни, известни като DLP, и решенията за уеб филтриране могат да блокират категории сайтове или чувствителни данни, но често не разбират пълния контекст на запитването към AI системата. Prompt Security добавя слой, който вижда какво реално се изпраща към AI инструментите, какви отговори се връщат, дали има риск от изтичане на чувствителни данни, prompt injection, Shadow AI или несигурно действие на AI агент.

С други думи, традиционната защита казва: „Това приложение разрешено ли е или забранено?“. AI-базираната защита пита: „Какво точно прави потребителят, какъв е рискът, какви данни се споделят и трябва ли да се намесим в реално време?“.

Колко по-ефективен е изкуственият интелект в борбата с кибератаките?

Ефективността идва основно от скоростта, мащаба и контекста. В модерната среда за оперативна киберсигурност, или SOC, проблемът не е само липсата на технологии. Проблемът е, че има твърде много известия за потенциални заплахи, твърде много данни и твърде малко време. Един анализатор може да бъде много добър, но не може ръчно да прегледа милиони събития, да свърже всички процеси, потребителски идентичности, мрежови връзки и облачни събития и едновременно с това да реагира за секунди.

AI променя това. Той помага за по-бързо откриване на реалните инциденти, намаляване на шума, автоматична корелация и по-бърза реакция. При SentinelOne Purple AI например идеята е AI да действа като виртуален анализатор по киберсигурност, който помага с първична оценка, проактивно търсене на заплахи, разследване, обобщения, препоръчани действия и автоматизация.

В практичен план това означава по-малко време за ръчно търсене и повече време за вземане на правилни решения. Ако преди анализаторът трябваше сам да пише сложни заявки, да сравнява телеметрия и да изгражда времева линия на атаката, сега AI може да помогне чрез заявки на естествен език, автоматично обобщение на инцидента и конкретни следващи стъпки.

Но е важно да кажем нещо ясно: AI не е магическо решение. Той е ускорител. Ако организацията няма правилни процеси, политики, видимост и добре дефинирана реакция при инциденти, AI няма сам да реши всички проблеми. Най-голямата стойност идва, когато AI се комбинира с качествена телеметрия, автоматизация и експертен контрол.

В кой от процесите AI намира най-голямо приложение — откриване на заплахи, анализиране, вземане на решения или реакция на киберинциденти?

AI има приложение във всички тези процеси, но според мен най-големият ефект е в анализа и реакцията, защото там традиционно се губи най-много време.

При откриването на заплахи AI вече е критичен. Поведенческият изкуствен интелект може да разпознава необичайно поведение, активности, типични за криптовируси, подозрителни вериги от процеси, странично придвижване в мрежата, опити за достъп до идентификационни данни или действия, които не отговарят на нормалното поведение на системата. Това е особено важно при атаки, които не разчитат на познат зловреден файл.

При анализа AI помага още повече. Едно известие за потенциална заплаха само по себе си рядко е достатъчно. Трябва да разберем кой потребител е засегнат, какъв процес е стартиран, какви файлове са достъпени, има ли връзка с други машини, има ли механизъм за устойчиво присъствие в системата, има ли изнасяне на данни, има ли компрометиране на идентичност. Тук SentinelOne Storyline и Purple AI са много силни, защото помагат да се събере цялата история на атаката в разбираем контекст.

При вземането на решения AI може да даде препоръки: дали даден сигнал изглежда като реална заплаха, каква е вероятната техника по MITRE ATT&CK, кои активи са засегнати и какви действия са подходящи. Въпреки това крайното решение в критични среди трябва да остане под контрола на експертите.

При реакцията AI и автоматизацията дават най-голяма оперативна стойност. Например изолиране на крайно устройство, спиране на зловреден процес, поставяне на файл под карантина, връщане към предходно състояние при сценарий с криптовирус, стартиране на предварително дефиниран сценарий за реакция, уведомяване на екип или създаване на доклад за инцидент. В SentinelOne това се допълва от Singularity Hyperautomation, където могат да се изграждат автоматизирани работни процеси.

Prompt Security добавя още един много важен процес — управление на риска при използване на AI. Там AI сигурността не означава просто „да спрем зловреден софтуер“, а да видим и контролираме как служителите използват AI инструменти. Например:

• Откриване на Shadow AI — неразрешени AI приложения, които служителите използват без знанието на IT екипа;
• Предотвратяване на изтичане на чувствителни данни към публични AI модели;
• Защита от prompt injection;
• Контрол върху AI агенти и MCP сървъри;
• Прилагане на политики в реално време;
• Обучение на потребителите в реално време, без да се блокира продуктивността им излишно.

Това е много важно, защото бизнесът вече използва AI масово. Въпросът не е дали служителите ще използват AI, а дали организацията ще има видимост и контрол върху тази употреба.

Какви инструменти и решения са нужни за AI-базирана киберзащита?

Не бих разглеждал AI сигурността като един продукт, който решава всичко. По-скоро говорим за архитектура.

Първо е нужен силен слой за защита на крайните устройства и работните натоварвания. Това е основата, защото голяма част от атаките все още започват или се материализират на ниво крайно устройство. SentinelOne Singularity Endpoint и XDR подходът дават откриване, предотвратяване, реакция и видимост.

Второ, нужен е добър слой от данни. AI е толкова добър, колкото са добри данните, върху които работи. Ако телеметрията е непълна, ако регистрационните записи са разпръснати или ако няма контекст между крайни устройства, идентичности, облачна среда и мрежа, AI няма да може да даде максимална стойност.

Трето, нужен е слой с AI анализатор. Purple AI е пример за това.

Четвърто, нужна е автоматизация. AI може да анализира и предложи действие, но ако реакцията остава изцяло ръчна, губим част от стойността. Автоматизираните сценарии и работни процеси позволяват повтаряемите действия да се изпълняват бързо и контролирано.

Пето, вече е необходим и специализиран слой за защита на използването на генеративен AI. Prompt Security от SentinelOne дава видимост върху AI приложенията, политиките, запитванията към AI системите, отговорите, AI агентите и възможните рискове като изтичане на данни, prompt injection и Shadow AI.

За мен това е бъдещият модел: AI for Security и Security for AI. Тоест използваме AI, за да защитаваме организацията, но едновременно с това защитаваме и самото използване на AI в бизнеса.

Има ли ограничения AI в киберсигурността?

Да, разбира се. И е важно да говорим за тях открито.

Първото ограничение е качеството на данните. Ако AI няма достъп до правилните данни или ако контекстът е непълен, резултатите могат да бъдат неточни.

Второто ограничение е рискът от фалшиви положителни и фалшиви отрицателни резултати. С други думи, AI може да маркира нещо легитимно като заплаха или да пропусне реална заплаха. Затова в критични среди трябва да има човешки контрол, проверка и добре дефинирани процеси.

Третото ограничение е обяснимостта. Експертите по сигурност трябва да разбират защо дадена система е взела определено решение. Не е достатъчно AI да каже „това е риск“. Трябва да покаже причината, контекста, доказателствата и препоръчаните действия.

Четвъртото ограничение е, че атакуващите също използват AI. Те могат да генерират по-убедителни фишинг съобщения, да автоматизират предварителното разузнаване, да създават променящ се зловреден софтуер, да търсят уязвимости по-бързо или да атакуват самите AI системи чрез prompt injection и злоупотреба с модели.

Петото ограничение е управлението и контролът. Ако една организация позволи неконтролирана употреба на генеративен AI, тя може неусетно да създаде нов канал за изтичане на данни. Именно затова Prompt Security е толкова актуален — защото дава контрол без да спира иновацията.

AI трябва да се разглежда като мощен инструмент, но не и като заместител на стратегия, процеси, архитектура и експертиза.

Може ли изкуственият интелект да измести експертите по киберсигурност?

Не мисля, че AI ще измести експертите по киберсигурност. По-скоро ще промени начина, по който работят.

Ролята на експерта ще се промени. Все по-малко време ще се губи в ръчно събиране на данни, писане на сложни заявки, прехвърляне на информация между инструменти и четене на огромни регистрационни записи. Все повече време ще се отделя за оценка на риска, архитектура, моделиране на заплахи, управление на инциденти, вътрешни политики и вземане на решения.

AI може да бъде много добър в това да анализира големи обеми данни, да открива закономерности, да обобщава инциденти и да препоръчва действия. Но човекът остава важен при преценката на бизнес контекста. Например: можем ли да изолираме този сървър в работно време, какъв ще бъде ефектът върху бизнеса, това реална атака ли е или легитимен процес, как да комуникираме с ръководството, правния отдел и екипите по съответствие с регулации?

Затова най-добрият модел е „AI-assisted cybersecurity“, тоест киберсигурност, подпомагана от изкуствен интелект, а не „AI-only cybersecurity“, при която всичко се оставя само на AI. В този модел AI ускорява експертите, намалява шума и автоматизира рутинните дейности, но човекът остава отговорен за стратегията, контрола и критичните решения.

Как бихте обобщили ролята на SentinelOne Prompt Security в тази картина?

Prompt Security е важен, защото адресира нова категория риск. До скоро основният въпрос беше: „Как да защитим потребителите, устройствата и сървърите?“. Днес трябва да питаме и: „Как да защитим начина, по който организацията използва AI?“.

Служителите вече използват генеративен AI за писане на текстове, анализ на документи, програмиране, обработка на данни, автоматизация и вземане на решения. Това носи огромна продуктивност, но и риск. Ако потребител копира клиентски данни, финансови отчети, изходен код или вътрешна информация в публичен AI инструмент, това може да бъде сериозен проблем. Ако AI агент има достъп до чувствителни системи и изпълни неправилно или злонамерено действие, рискът става още по-голям.

Prompt Security дава видимост, контрол чрез политики и защита в реално време за тази нова реалност. То позволява на организациите да видят кои AI инструменти се използват, от кого, с какви данни и при какъв риск. Позволява да се налагат политики, да се предотвратява изтичане на данни, да се блокират опасни запитвания и да се управлява употребата на AI агенти.

Най-важното е, че подходът не е просто „да забраним AI“. Това не е реалистично. Бизнесът има нужда от AI. Истинската цел е да позволим иновацията, но по сигурен и контролиран начин.

Какво е бъдещето на киберсигурността и каква ще бъде ролята на изкуствения интелект?

AI вече не е бъдеще в киберсигурността — той е настояще. Но темата не трябва да се разглежда само като „AI ще ни пази от хакери“. Днес говорим за много по-широка трансформация: AI открива заплахи, AI помага на анализаторите, AI автоматизира реакцията, но също така AI самият трябва да бъде защитен.

SentinelOne показва именно тази посока — от откриване на заплахи чрез изкуствен интелект и автономна реакция в Singularity, през Purple AI като виртуален AI анализатор по киберсигурност, до Prompt Security като слой за защита на използването на генеративен AI в организацията.

За мен успешната киберсигурност в следващите години ще бъде комбинация от три неща: силна платформа, интелигентна автоматизация и експерти, които знаят как да използват AI отговорно. AI няма да замени добрите специалисти. Но специалистите, които използват AI правилно, ще бъдат много по-ефективни от тези, които не го използват