Інтеграція штучного інтелекту (AI) та великих мовних моделей (LLM) у корпоративні процеси руйнує класичний периметр безпеки. Згідно з Cisco Cybersecurity Readiness Index 2025, захист AI стає базовим елементом кіберготовності, оскільки традиційні DLP- та SIEM-системи не розпізнають контекст взаємодії з LLM.
Чому традиційні DLP-системи неефективні проти AI
Класичні DLP-системи шукають сигнатури та регулярні вирази, але безсилі перед семантичними витоками. Це відбувається, коли конфіденційна інформація передається у перефразованому вигляді або через механізми RAG (Retrieval-Augmented Generation), коли AI-агент звертається до даних, на які у користувача немає прав.
Моделювання загроз та фреймворк NIST AI RMF 1.0
Для протидії новим векторам атак загрози AI інтегрують у моніторинг SOC за допомогою матриці MITRE ATT&CK. Актуальність цього підтверджує звіт ENISA Threat Landscape 2025, який зафіксував 4 875 інцидентів, де понад половина постраждалих організацій (53.7%) належали до суттєвих об'єктів під дією директиви NIS2.
Системний захист пропонує добровільний фреймворк NIST AI RMF 1.0, що базується на чотирьох функціях:
- Govern (Управління): створення політик безпеки та культури використання AI.
- Map (Картування): класифікація даних та ідентифікація векторів атак.
- Measure (Вимірювання): оцінка безпеки та надійності моделей.
- Manage (Управління ризиками): впровадження технічного контролю.
Архітектурні рішення для безпеки LLM
Безпечна архітектура потребує впровадження семантичних DLP-шлюзів та розробки за принципом Security by Design. Українські розробники з Intecracy Group створюють рішення з вбудованою безпекою. Зокрема, компанія Softengi сертифікована за стандартом ISO/IEC 42001:2023.
Технологічною основою для таких систем виступає low-code платформа UnityBase, яка забезпечує безпеку завдяки вбудованим механізмам:
- Row-level security (RLS) та ACL: обмежують доступ AI-агентів до даних на рівні ядра.
- DBMS-agnostic ORM: захищає від прямих ін'єкцій у бази даних.
- Audit Trail: фіксує всі дії для подальшого аналізу в SOC.
Що на кону для галузі
Нездатність традиційних систем захисту розпізнавати семантичні витоки створює критичні загрози для корпоративних даних. Це призводить до зростання кількості успішних кібератак, під які підпадає понад половина суттєвих об'єктів інфраструктури. Для бізнесу це означає неминучі фінансові та репутаційні втрати у разі ігнорування нових стандартів безпеки, а також потребу в негайній модернізації ІТ-архітектури.
Покроковий план
- Впровадити NIST AI RMF 1.0: побудувати внутрішні політики безпеки, класифікувати дані та налаштувати технічний контроль використання AI.
- Оновити моніторинг SOC: інтегрувати специфічні для AI загрози за допомогою матриці MITRE ATT&CK.
- Перейти на принцип Security by Design: використовувати рішення з вбудованим захистом, такі як платформа UnityBase, для обмеження доступу AI-агентів до даних на рівні ядра (RLS/ACL) та забезпечення повного аудиту дій.
Матеріал підготовлено учасником Software Ukraine — InBase. Оригінальна публікація.