ШІ Читати оригінал на Siliconangle 1 хв читання 0

Exabeam розширює моніторинг безпеки AI та підтримку Claude

Компанія Exabeam Inc. представила масштабне оновлення своєї платформи для безпеки, що подвоює охоплення систем виявлення активності штучного інтелекту до 90 різних сценаріїв. Ключовим нововведенням стала підтримка моніторингу моделі Claude від Anthropic PBC разом із розширенням інструментів для аналізу автономних агентів. Оновлення спрямоване на усунення «сліпих зон» у безпеці, де AI-агенти можуть виконувати дії від імені користувачів зі швидкістю машин, використовуючи легітимні облікові дані.

Сучасний вестибюль офісу з великим білим логотипом exabeam на матовому скляному фасаді та яскравим освітленням коридору.
Сучасний вестибюль офісу з великим білим логотипом exabeam на матовому скляному фасаді та яскравим освітленням коридору. · Джерело зображення: Siliconangle

За даними Siliconangle, компанія Exabeam Inc. розширила можливості своєї платформи для безпеки операцій (SecOps), додавши інструменти для виявлення та дослідження дій AI-агентів. Це оновлення є результатом року роботи над безпекою агентських систем і спрямоване на вирішення проблеми швидкої автономної діяльності ШІ, яка часто маскується під нормальні робочі процеси.

Виявлення аномалій та підтримка Claude

Нові функції дозволяють фіксувати аномальні взаємодії між людьми та AI-агентів, а також виявляти несанкціоновану автономну активність. Система аналізує такі показники як:

  • підозрілу поведінку промптів;
  • незвичні послідовності викликів інструментів;
  • аномальні моделі споживання ресурсів;
  • індикатори «відмови гаманця» (denial-of-wallet);
  • використання Shadow AI та несанкціоновані зміни конфігурацій.
  • Окрім додавання підтримки Claude, платформа вже забезпечує моніторинг таких популярних інструментів як ChatGPT від OpenAI Group PBC, Gemini від Google LLC, Copilot від Microsoft Corp., а також GitHub Copilot.

    Інструменти для розробників та відкрите програмне забезпечення

    Exabeam інтегрувала підтримку стандартів OWASP Top 10 для Agentic AI у свій інструмент Outcomes Navigator. Також було розширено можливості Nova AI: новий Nova Rules Creator дозволяє інженерам створювати правила кореляції та аналітики за допомогою природної мови, а функція Nova Related Cases автоматично об'єднує пов'язані випадки на основі спільних сутностей, таких як IP-адреси або хости.

    Важливою частиною релізу є випуск відкритої бібліотеки Observra. Вона слугує рівнем телеметрії для AI-агентів, збираючи активність у різних фреймворках, нормалізуючи її в події та додаючи сигнали щодо вартості, редагування та ризиків. Цей інструмент доповнює раніше випущений Praxen, який призначений для перевірки агентів перед їх деплоєм.

    Як зазначив Chief Executive Pete Harteveld, організації швидко переходять від експериментів із ШІ до автономних агентів, що працюють по всьому підприємству. Тому командам безпеки необхідна видимість не лише людської діяльності, а й того, як агенти приймають рішення та взаємодіють з інфраструктурою.

    Контекст для України

    Для українських розробників та компаній додавання підтримки Claude від Anthropic є значущим кроком, оскільки ця модель стає дедалі популярнішою в робочих процесах через високу якість генерації тексту. Поява відкритих бібліотек на кшталт Observra дозволяє локальним AI-стартапам інтегрувати базові рівні телеметрії у свої продукти без додаткових витрат на ліцензії. Це спрощує створення безпечних агентських рішень для українського ринку, де питання захисту даних та контролю за автономними системами стають критичними для корпоративних клієнтів.

    Часті запитання

    Які саме показники аномальної поведінки ШІ відстежує платформа?
    Система аналізує підозрілу поведінку промптів, незвичні послідовності викликів інструментів, аномальні моделі споживання ресурсів, індикатори denial-of-wallet, використання Shadow AI та несанкціоновані зміни конфігурацій.
    Telegram

    Свіжі новини у нашому Telegram

    Отримуйте миттєві сповіщення про нові публікації в рубриці «ШІ»

    @proaiandevenmore