EVERYTHING
За даними Bankinfosecurity, останній AI Safety Index, підготовлений незалежною панеллю з семи експертів із галузі безпеки та врядування ШІ, продемонстрував тривожну тенденцію: основні розробники технологій системно послаблюють свої попередні обіцянки щодо безпеки. Аналіз охопив дев'ять ключових гравців ринку, включаючи Anthropic, OpenAI, Google DeepMind та Meta, виявивши, що більшість із них не відповідає стандартам професійної практики.
Відмова від односторонніх зупинок розробки
Одним із найбільш значущих результатів звіту стало те, що лідируючі компанії почали відкликати або анулювати свої зобов'язання щодо односторонньої зупинки розробки моделей у разі досягнення певних порогів ризиків. Наприклад, Anthropic та OpenAI тепер прив’язують можливу паузу в роботі до дій своїх прямих конкурентів. Google DeepMind та Meta повністю видалили такі зобов'язання з власних протоколів. Експерти оцінили такий підхід як «переміщення метальної мітки» (moving goalpost), що системно підриває існуючі структури безпеки по всьому світу.
Sabina Nong, дослідниця з безпеки у Future of Life Institute, зазначає, що конкурентний тиск для випуску дедалі потужніших моделей став надто інтенсивним. Вона додала: «Якщо ми залишимо безпеку ШІ на розсуд корпоративних правил, ми приречені на гонку до дна». Хоча п'ять компаній опублікували формальні фреймворки безпеки, експерти підкреслили їхню недостатність через відсутність вимірюваних порогів, незалежних аудитів та чітких повноважень для зупинки релізу.
Рейтинги компаній та результати оцінки
Кожна організація оцінювалася за 37 індикаторів у шести доменах: оцінка ризиків, поточні шкоди, фреймворки безпеки, екзистенційна безпека, врядування та відповідальність, а також обмін інформацією. Результати розподілилися наступним чином:
- Anthropic посіла перше місце, отримавши оцінку C+. Компанія слідує у п'яти з шести доменів завдяки високій прозорості та публікації як системних промптів, так і специфікацій поведінки. Її марка B+ за обмін інформацією стала найвищою в індексі.
- OpenAI посіла друге місце з оцінкою C, отримавши визнання за лідерство в оцінці ризиків.
- Google DeepMind посів третє місце з такою ж оцінкою C.
- Meta продемонструвала позитивну динаміку, піднявшись з шостого на четверте місце з оцінкою D+.
- xAI зазнала значного падіння до сьомого місця з оцінкою F через «величезні прогалини» в оцінці ризиків моделі Grok 4.
Особливо гострої критики піддався Mistral — європейський лідер, який посів останнє місце серед дев'яти перевірених компаній, що контрастує з лідерством ЄС у регулюванні ШІ. Також у звіті відмічено низькі оцінки для китайських компаній Z.ai та Alibaba Cloud.
Висновок звіту вказує на те, що безпека штучного інтелекту стає заручником комерційної конкуренції, де швидкість виходу на ринок часто переважає над системним управлінням ризиками.