EVERYTHING
Як повідомляє Thenextweb, Chris Olah підняв аргумент, що жоден лідер великої компанії ШІ раніше не висловлював на такій масштабній платформі: розвиток передових систем штучного інтелекту (frontier AI) не може залишатися сферою виключно внутрішніх лабораторій. Він зазначив, що кожна така лабораторія функціонує в рамках певних стимулів та обмежень, які іноді можуть суперечити правильному курсу розвитку технології.
Olah наголосив, що навіть дослідники з найкращими намірами залишаються під впливом цих сил. З цього випливає необхідність зовнішнього контролю — з боку релігійних лідерів, урядів та громадських організацій. Це є пряма відповідь Anthropic на внутрішні комерційні та геополітичні тиски, які компанія відчуває, зокрема під час переговорів щодо залучення 30 млрд $ при оцінці в 900 млрд $. Він також відзначив, що технологія його компанії може витіснити людську працю у дуже великому масштабі, і підтримка цих людей є «моральним імперативом історичного масштабу».
Виклики для ринку праці та етики AI
Olah публічно визнав потенційну здатність ШІ до значного витіснення робочих місць. Це є найбільш конкретним публічним визнанням на сьогодні від засновника лабораторії передового рівня, що технологія може прискорити втрату зайнятості швидше, ніж ринок праці встигне її компенсувати. Його присутність у Ватикані — це не лише етичний жест, а й стратегічне позиціонування Anthropic, яке вже включає відкриття офісу в Мілані.
Роль Chris Olah як керівника відділу досліджень інтерпретованості є ключовим елементом безпекової довіри компанії. Його команда працює над зворотним інжинірингом для розуміння того, що саме роблять передові моделі ШІ всередині. Це підкреслює акцент Anthropic на прозорості та контрольованому розвитку технологій.
Регуляторний ландшафт та зовнішній тиск
Політичний фон навколо Anthropic є протилежним моральному. Компанія стикалася з низкою конфліктів із урядами США: Pentagon виключив її з роботи над класифікованими AI-завданнями через власні обмеження компанії, а адміністрація Trump блокувала розширення Mythos — моделі для автономного пошуку вразливостей. Виступ Olah на тій самій сцені з Папою є прямим сигналом про необхідність виходу за межі внутрішніх корпоративних рішень.
Енцикліка «Magnifica humanitas» не встановлює конкретних політик, а лише формує рамки для дискусії. Так само і промова Olah — вона відмовилася делегувати архітектуру регулювання на наступне десятиліття компаніям, які створюють цю технологію. Це вимагає участі зовнішніх акторів у визначенні правил гри.
Перспективи співпраці між бізнесом та суспільством
Подальший вплив цього кроку на відносини Anthropic із регуляторами США залишається незрозумілим. Однак, публічний заклик до зовнішнього контролю встановлює новий стандарт для галузі, змушуючи великі AI-компанії визнавати свої обмеження та необхідність суспільного діалогу. Це створює прецедент для обговорення відповідальності технологічних гігантів.
