Красимир Коцев, основател и главен изпълнителен директор на компанията за киберсигурност SoCyber и създател на иновативния инструмент за управление на уязвимости в реално време Kikimora.io, гостува в Digitalk – медийна платформа, посветена на технологиите, иновациите и дигиталната трансформация.
Основният фокус на разговора е киберсигурността и новите рискове за компаниите в ерата на изкуствения интелект (AI): как AI подпомага откриването на заплахи и начина, по който се управляват уязвимости и какво означава това за бизнес среда, в която анализът в реално време, автоматизацията и AI агентите вече са част от ежедневните операции.
Как AI променя киберсигурността
С навлизането на AI в киберсигурността компаниите преминават от ограничено наблюдение на отделни системи към непрекъснат контрол върху цялата си инфраструктура – от устройства и мрежи до приложения и потребителско поведение.
„Ако старомодният начин за защита на дадена инфраструктура е чрез следене на логовете на няколко устройства или места в инфраструктура, то към днешна дата AI дава възможност за наблюдение на буквално всяко устройство в организацията, като при това в реално време се проверява дали трафикът, влизащ в компанията, е злонамерен“, отбелязва създателят на Kikimora.io.
Това променя скоростта на реакция. Сигналите за риск не чакат ръчна проверка, а се анализират веднага. В резултат компаниите получават възможност да реагират още при първите признаци на проблем, вместо да действат след вече настъпил инцидент.
Откриване на уязвимости и анализ на заплахи в реално време
Според Красимир Коцев в момента има две основни направления, в които AI се използва активно за превенция срещу кибератаки. Първото е свързано с реакцията при възникване на инциденти.
Докато традиционните методи работят на база следене на трафика, с помощта на машинно обучение данните от всяко устройство в организацията (в т.ч. компютри, работни инстанции, лаптопи, сървъри, мрежово оборудване, приложения), се следят в реално време. AI елиминира нуждата от ръчно търсене и проверка в различни инструменти. Вместо това, информацията се обработва централизирано и се оценява спрямо реалния бизнес контекст – кои системи са критични и кои рискове имат реално значение.
Второто направление е т.нар. CTI (Cyber Threat Intelligence). Той проследява дали дадена компания е изложена на риск, например чрез изтекли данни за нея в интернет, вкл. форуми и други източници, както и проверка на системите – дали има отворени портове, налични уязвимости или възникнали проблеми с конфигурациите, които могат да създадат възможност за пробив.
Управление на уязвимости: от хиляди сигнали към реални приоритети
В практиката откриването на уязвимости често води до друг проблем – прекалено много информация. При стандартните сканирания компаниите получават десетки хиляди сигнали за потенциални слабости в системите си – от операционни системи и приложения до външни услуги и крайни устройства. Това създава сериозно натоварване за екипите по сигурност, които преценяват кои от тези проблеми имат реално значение.
„Тук типичният подход е да наемем 5 – 10 души, които да анализират всеки ден тези открития, доколко наистина те имат отношение към нашата организация. Какво означава това? Има едно нещо, наречено бизнес контекст, т.е. спрягане на дадена уязвимост или потенциален проблем към конкретна компания, към съответната индустрия, както и оценка доколко конкретните системи са важни за организацията. Проверява се дали това са бизнес критични системи или пък например са офисни принтери, доколко тези системи са изложени публично към интернет, дали на системите работят потребители, които са добре осведомени за киберзаплахите, или пък работят необразовани потребители, които ще кликнат много лесно на зловреден линк и ще активират някаква препратка и ще инсталират, без да искат, зловреден софтуер“, акцентира създателят на Kikimora.io.
Именно тук AI променя фокуса. Вместо просто да се отчита наличието на уязвимости, системите започват да ги оценяват спрямо конкретната организация – кои са критични, кои са публично достъпни и къде съществува реален риск. Това позволява приоритизация и насочване на ресурсите там, където ефектът е най-голям.
AI агенти и новите рискове за киберсигурността
Навлизането на AI агенти отваря нов етап на автоматизация в процесите, свързани с киберсигурността. Те могат да събират и обединяват данни от различни системи (в т.ч. облачни платформи, вътрешни инструменти, ERP и CRM решения) и да ги превръщат в основа за по-бързи бизнес решения.
„При AI агентите и т.нар. конектори в рамките на буквално няколко седмици можеш да зададеш интеграции с всяка от тези платформи и да работиш с общи данни. Тоест забързваш десетократно процеса и това, което се правеше с 5-6 програмисти, сега се прави с един за по-малко време“, обяснява Красимир Коцев.
Тази скорост променя начина, по който се изграждат технологични решения. Процеси, които преди са отнемали 3-4 месеца и са изисквали екипи от разработчици, вече се реализират значително по-бързо.
Заедно с това обаче нарастват и рисковете. Част от компаниите започват да внедряват решения, създадени с помощта на AI, без да преминават през стандартни проверки за сигурност. Това води до увеличаване на потенциалните уязвимости и разширяване на повърхността за атаки.
„Хората си мислят, че когато изкуственият интелект напише някакъв код, той е сигурен по дизайн, но това не е вярно“, подчертава Красимир Коцев.
Допълнителен риск идва от самите AI системи. Те също могат да бъдат манипулирани, например чрез скрити инструкции или подвеждащи входни данни, които да доведат до действия без ясна човешка намеса. Това поставя нови изисквания към контрола и управлението на сигурността в организациите.
AI променя киберсигурността на всички нива – от начина, по който се откриват киберзаплахи, до управлението на уязвимостите. Компаниите разполагат с повече данни, по-добра видимост и по-бързи процеси, но заедно с това поемат и нов тип риск, свързан с автоматизацията и бързото внедряване на AI решения. В този контекст резултатите зависят от това доколко ясно се разпознават реалните рискове и как компаниите управляват сигурността си на практика.
