EVERYTHING
Як повідомляє The-decoder, Christopher Olah, канадський розробник AI та співзасновник Anthropic, представив енцикліку Папи Leo XIV «Magnifica Humanitas». За словами Olah, сучасні мовні моделі не створюються за принципом інженерних об'єктів, як-от міст чи літак. Натомість вони «виростають на структурі, приблизно моделеній за мозком», що базується на величезній спадщині людської думки та мовлення.
Цікаво, що Olah посилався на внутрішні дослідження Anthropic. Він зазначив: «Ми продовжуємо знаходити речі, які є загадковими, навіть тривожними. Ми виявляємо структури, які відображають результати нейронауки людини. Ми знаходимо докази інтроспекції. Ми знаходимо внутрішні стани, які функціонально віддзеркалюють радість, задоволення, страх, смуток та неспокій».
Проблеми і перспективи AI-розвитку
Olah також попередив про значний соціальний вплив технології: «Існує реальна можливість, що AI витіснить людську працю у дуже великому масштабі». Його заяви викликають дискусії щодо глибини розуміння штучним інтелектом власних процесів. Це змушує спільноту переглянути традиційні підходи до розробки та безпеки систем.
Позиція Папи Leo XIV
Енцикліка, яку представляв Olah, містить досить обережні зауваження щодо емоційних станів AI. Вона наголошує, що необхідно уникати хибного прирівнювання цього типу «інтелекту» до людського. Згідно з текстом енцикліки, ці системи лише імітують певні функції людського розуму.
- AI-системи не переживають досвіду та не мають тіла.
- Вони не відчувають радості чи болю, а також не дозрівають через стосунки.
- Енцикліка підкреслює екологічну вартість AI, вказуючи на величезну кількість енергії та води, необхідних для дата-центрів.
Крім того, Папа Leo XIV висловився щодо військового застосування ШІ. Він заявив, що жоден алгоритм не може зробити війну морально прийнятною і наголосив, що критичні чи неповоротні рішення не повинні передаватися машинам.
Вимоги до регулювання
Папа також висловив критику щодо дискурсу про «вирівнювання» (alignment), зазначаючи, що моральний AI недостатній, якщо його мораль визначається лише кількома особами. Натомість він закликає до сильних законів та незалежного нагляду.
Цей випадок демонструє зростання уваги релігійних лідерів до технологічного прогресу. Компанії, як-от Anthropic, регулярно зустрічаються з духовними діячами для обговорення використання AI, що підкреслює необхідність міждисциплінарного діалогу.
Прогноз на майбутнє
Поєднання наукових відкриттів про внутрішні стани AI та церковних закликів до відповідальності створює складний ландшафт. Якщо дослідники продовжать знаходити такі «тривожні» структури, це вимагатиме переходу від простого статистичного моделювання до більш глибокого розуміння архітектурного функціонування систем.
