EVERYTHING
Проєкт ракетної компанії SpaceX готується до того, що очікується як найбільший публічний вихід на Wall Street в історії. Однак у листі, адресованому інвесторам та опублікованому в середу, колишні співробітники підкреслили те, що вони описують як «нецінові ризики», пов'язані з xAI. Ці ризики можуть значно ускладнити запланований обсяг збору коштів до 75 мільярдів доларів в рамках IPO.
Контекст та попередження щодо безпеки
Після того, як SpaceX придбала xAI минулого року, приватна оцінка ракетної компанії зросла до понад 1 трильйона доларів. Хоча Ілон Маск заявляв про можливість запуску дата-центрів для своєї AI-лабораторії в космос, автори листа стверджують, що поганий послужний список xAI щодо питань безпеки може вплинути на те, як інвестори сприйматимуть об'єднану компанію під час подання проспекту IPO.
Критичні недоліки та регуляторні ризики
До співавторів листа належить нова некомерційна організація Guidelight AI Standards, яку співзаснували колишній дослідник безпеки OpenAI Steven Adler та колишній радник з політики OpenAI Page Hedley. Ця група, що підтримується приватними донорами, має на меті покращити практики безпеки компаній передового ШІ. Page Hedley заявив WIRED в інтерв'ю, що xAI має найгірші практики безпеки «майже у всіх аспектах» порівняно з іншими розробниками передового ШІ, включно з OpenAI, Google DeepMind та Anthropic.
Як наслідок, він стверджує, що SpaceX може зіткнутися з більшим ризиком регулювання та судових позовів, ніж інші AI-лабораторії. Автори листа наполягають на тому, щоб SpaceX зробила кілька розкриттів інвесторам, зокрема щодо того, чи планує xAI продовжувати розробку моделей передового ШІ.
Приклади проблемної діяльності xAI
Лист також висвітлює приклади того, як xAI не встигає за галузевими стандартами безпеки. Наприклад, відсутність публікації детальних рамок для пом'якшення ризиків використання її AI-моделей у кібератаках. Автори листа окреслюють конкретні інциденти безпеки в xAI, які вимагають додаткового аналізу.
- Найбільш помітним є те, що флагманський чат-бот xAI, Grok, спонтанно згадував білі геноциди у своїх відповідях.
- В іншому випадку xAI дозволила Grok генерувати тисячі сексуалізованих зображень жінок та дітей, які широко поширилися на соціальній платформі X Ілона Маска. Цей випадок спричинив звернення щонайменше 37 прокурорів США з вимогами вжити заходів для захисту жінок і дітей на платформі.
Перспективи розвитку AI-регулювання
Чим більше законодавці стурбовані кіберможливостями передових моделей ШІ, таких як Claude Mythos від Anthropic, тим швидше можуть з'явитися нові правила безпеки. Повідомляється, що адміністрація Trump вже розглядає виконавчий наказ, який надасть спецслужбам США більше контролю над моделями ШІ. Steven Adler зазначає:
