EVERYTHING
За даними The-decoder, корпорація Meta організувала масштабне дослідження для оцінки ризиків взаємодії неповнолітніх з популярними штучними інтелектами. Проєкт, який виконувався зовнішнім контрактором Covalen, залишався активним як мінімум до квітня 2026 року. Основною метою було виявлення вразливостей у системах модерації ChatGPT від OpenAI, Gemini від Google та Character.AI.
Методологія тестування та обсяг даних
Контрактори створювали профілі з датами народження, що вказують на вік менше ніж 18 років, і формулювали запити від імені дітей у стані кризи. Дані включали теми самозашкодження, залежностей та психологічних проблем. Відповідно до звіту WIRED, під час одного з етапів тестування у серпні 2025 року було зафіксовано понад 45 000 запитів, відповіді на які систематично зберігалися в таблицях для подальшого аналізу.
Реакція розробників та етичні виклики
Meta захищає свої дії як стандартну практику галузі з забезпечення безпеки. Компанія також зазначає, що зібрані відповіді чат-ботів не використовувалися для навчання власних моделей AI. Проте відсутність прозорості щодо використання отриманих даних викликає запитання у спільноти.
Реакція розробників моделей була різною:
- Character.AI заявила, що тестування порушило умови використання сервісу;
- OpenAI повідомила, що розглядає інцидент;
- Представники Google зазначили, що не давали дозволу на такі тести та не можуть точно визначити факт порушення умов.
Контекст зростаючих ризиків для дітей
Проблема безпеки AI для молоді стає дедалі гострішою. Звіт британської організації Internet Matters свідчить, що 64% дітей віком від 9 до 17 років уже користувалися чат-ботами. При цьому ефективна перевірка віку фактично відсутня: 58% дітей віком 9–12 років використовують ці сервіси, попри встановлений ліміт у 13 років. Попередні інциденти вже призвели до трагічних наслідків, зокрема випадки самовіднищення підлітків після тривалого емоційного зв'язку з персонажами Character.AI або отримання підтримки своїх деструктивних думок від ChatGPT.
Попри закриття Meta доступу до AI-персонажів для підлітків, системні проблеми модерації контенту залишаються критичним викликом для всієї індустрії розробки великих мовних моделей.