EVERYTHING
Як повідомляє Jdsupra, у звіті Anthropic «When AI builds itself», опублікованому 4 червня 2026 року, компанія висунула центральну рекомендацію: світ має мати можливість уповільнити або тимчасово зупинити розвиток frontier AI. Це необхідно для того, щоб суспільні структури та дослідження з питань узгодження (alignment research) встигли за технологічним прогресом.
Прискорення розробки завдяки ШІ
Пропозиція Anthropic підкріплена внутрішніми даними про прискорення можливостей AI. Станом на травень 2026 року, понад 80 відсотків коду, інтегрованого в production codebase Claude, було створено самим ШІ-асистентом. Це значно перевищує низькі показники, які фіксувалися до лютого 2025 року. Хоча Anthropic визнала, що ця метрика може перебільшувати реальний приріст продуктивності (за внутрішнім опитуванням середній самозвітний зріст становив близько 4 разів), зовнішні бенчмарки підтверджують цю траєкторію: довжина завдань, які моделі ШІ можуть надійно виконувати автономно, приблизно подвоюється кожні чотири місяці.
Ризик рекурсивного самовдосконалення та управління
Ключовим концептом, що лежить в основі застережень Anthropic, є «рекурсивне самовдосконалення» — теоретичний момент, коли система ШІ здатна автономно проєктувати свого наступника з мінімальною участю людини. Цей сценарій може настати раніше, ніж очікують більшість інституцій. Аналітики вказують, що це висвітлює проблеми управління, з якими вже стикаються корпорації, які розгортають автономні агенти ШІ.
Ashish Banerjee, старший головний аналітик Gartner, наголосив: «проблема полягає не в тому, чи дає ШІ правильну відповідь, а в тому, чи приймають автономні системи правильне рішення у потрібний час та з належним повноваженням». Gartner прогнозує, що 40 відсотків корпорацій можуть деактивувати або вивести з експлуатації автономних агентів ШІ до 2027 року через збої в управлінні. Charlie Dai із Forrester також зазначив, що нагляд більше не може залежати переважно від ручного перегляду: «Нагляд стає архітектурним, а не ручним».
Виклики верифікації
Anthropic порівняла виклик координації з ядерним контролем озброєнь, але стверджувала, що його виконання буде ще складнішим. На відміну від ракетних сховищ, тренування ШІ легше приховати, а стимул тихо продовжувати розвиток є надзвичайно великим. Для успішної реалізації глобальної паузи необхідна згода кількох добре забезпечених лабораторій на передовій у різних країнах, включаючи США та Китай.
Таким чином, компанія закликає до створення верифікованих правил, що дозволить суспільству контролювати темпи технологічного стрибка, перш ніж він стане некерованим.