EVERYTHING
За даними Telecomtalk, компанія OpenAI впроваджує новий рівень захисту для свого флагманського продукту ChatGPT під назвою Lockdown mode. Цей інструмент створений як відповідь на зростання кількості атак типу prompt injection, коли хакери використовують приховані коди або документи всередині веб-сторінок для маніпуляції поведінкою штучного інтелекту та отримання доступу до конфіденційних даних користувачів.
Принцип роботи та обмеження Lockdown mode
Новий режим безпеки не є обов'язковим для всіх категорій користувачів. OpenAI зазначає, що він розроблений спеціально для людей та організацій, які працюють із чутливою інформацією і потребують суворого захисту від ризиків ексфільтрації даних. При активації Lockdown mode система значно обмежує стандартні можливості моделі ChatGPT, щоб мінімізувати вектори атак.
Основні обмеження, що впроваджуються в цьому режимі:
- Заборона на отримання зображень з інтернету під час генерації відповідей.
- Обмеження можливості створення нових зображень у межах діалогу.
- Складнощі або повна заборона на завантаження файлів користувачами для подальшого аналізу системою.
- Контрольований доступ до зовнішніх інструментів, що можуть бути використані як канали витоку даних.
Активне керування сесіями та адміністративний контроль
Окрім спеціального режиму ізоляції, OpenAI додає інструмент Active Session Manager. Ця функція дозволяє користувачам відстежувати всі активні сесії у своєму обліковому записі, включаючи конкретні пристрої та браузери. Наявність такого інструменту дає можливість дистанційно завершувати сеанси на сторонніх або небезпечних девайсах, що є критично важливим для корпоративної безпеки.
Важливо зазначити, що Lockdown mode не впливає на пам'ять діалогів або налаштування спільного доступу до чатів. Для бізнес-середовища адміністратори отримають повні права на конфігурацію цих параметрів, що дозволить адаптувати рівень безпеки під конкретні вимоги компанії. Це рішення стає частиною стратегії OpenAI щодо створення більш стерпного середовища для корпоративних клієнтів, де цілісність даних є пріоритетом над універсальністю функціоналу.
Висновок та перспективи
Впровадження Lockdown mode свідчить про те, що галузь AI переходить від етапу безконтрольного розвитку до фази жорсткої регуляції безпеки. Хоча обмеження функціоналу можуть знижувати зручність для звичайних користувачів, вони є необхідним компромісом для забезпечення роботи з корпоративними даними у світі зростаючих кіберзагроз.