EVERYTHING
За даними WIRED, компанія Anthropic, яка останні п'ять років активно попереджала світ про потенційні загрози масового знищення та дестабілізації суспільства через штучний інтелект, тепер займає позицію одного з найпотужніших двигунів розвитку цієї технології. Попри те, що компанія оцінюється майже у $1 трлн і працює з такими клієнтами як армія США, її внутрішня філософія не бачить суперечностей між безпекою та експансією.
Стратегія «першопрохідців» у лісі ризиків
Як повідомляє WIRED, ключовою вірою Anthropic є те, що штучний інтелект — це неминучий і найбільш трансформаційний технологічний прорив в історії людства. Компанія вважає, що світ стане кращим лише тоді, коли саме вона перебуватиме на передовій AI-гонки. Експерти порівнюють цей підхід до дослідження лісу, де є як скарби, так і монстри: Anthropic прагне зайти найвдаліше вглиб, щоб одночасно інвестувати ресурси у «приручення» небезпечних аспектів технології.
Helen Toner, виконавчий директор Center for Security and Emerging Technology у Georgetown та колишня членка ради OpenAI, пояснює цю позицію так: «Люди все одно йдуть у ліс, ми маємо зробити це першими. Це їхня стратегія: будувати передовий AI, щоб бути серйозним гравцем за столом, який може говорити про те, як виглядають системи, які ризики вони становлять і наполягати на розумних заходах безпеки».
Конкуренція як інструмент контролю
Генеральний директор Anthropic Dario Amodei прямо зазначає необхідність бути конкурентоспроможними для забезпечення безпеки. Він стверджує, що компанія повинна лідирувати в галузі, щоб мати достатній вплив на формування стандартів. Внутрішні дискусії в команді часто використовують приклади OpenAI під керівництвом Sam Altman як застереження щодо того, як відсутність належного контролю може призвести до проблем.
Основні принципи стратегії Anthropic включають:
- Накопичення капіталу, обчислювальних потужностей та талантів як ціни за виконання місії.
- Перехід від пасивного моніторингу до активного впровадження безпеки у виробничий цикл.
- Використання політичного впливу для встановлення глобальних стандартів відповідності (комплаєнсу).
Таким чином, Anthropic прагне стати «добрими опікунами» технології саме через володіння її найпотужнішими формами.