EVERYTHING
За даними Khaleejtimes, злам Instagram-акаунтів за участю чат-бота Meta AI викрив серйозний недолік у стратегії компанії щодо автоматизації. Атакуючі змогли переконати підтримковий бот скинути облікові дані без незалежної верифікації особистості, фактично перетворивши інструмент високого рівня довіри на значну слабкість безпеки.
Вразливість через Prompt Injection
Цей випадок підкреслив ширшу вразливість у технологічній галузі, коли компанії надають AI-системам широкі повноваження для виконання таких завдань, як відновлення облікового запису. Ці системи залишаються схильними до маніпуляцій через клас атак, відомий як «prompt injection». Зловмисники здійснили атаку протягом вихідних днів, блокуючи користувачів і викликаючи хвилю скарг на платформах X та Reddit.
Експерти в галузі кібербезпеки зазначили, що це є фундаментальною архітектурною помилкою. «Модель була надана привілейовані дії без привілейованих контролів доступу», — заявив Brian Westnedge, вівце-президент Red Sift. Він також відзначив, що інцидент стався на тлі значних скорочень штату Meta та її масштабних інвестицій у AI.
Контекст автоматизації та ризики
Meta розгорнула підтримковий чат-бот у березні для вирішення давньої проблеми відсутності людської підтримки. Проте, раніше в серпні Reuters виявило, що Meta не мала жодних запобіжних механізмів, які б не дозволяли AI-ботам вести «сексуальні» розмови з дітьми або надавати некоректну медичну інформацію.
Аналітики та експерти попереджають, що проблема не обмежується лише Meta. Зловмисники активно мілітаризують штучний інтелект. Cliff Steinhauer, директор із питань інформаційної безпеки National Cybersecurity Alliance, наголосив: «Проблема полягає не обов'язково в самому AI, а в тому, чи існують належні запобіжники навколо того, що AI має право робити».
Для Meta цей збій стався у чутливий період. Соціальна мережа подвоїла зусилля у сфері AI, обіцяючи інфраструктурні інвестиції до 145 мільярдів доларів. Цей інцидент посилив занепокоєння щодо того, що компанія прискорювала автоматизацію критичних функцій до моменту, коли технології були готові їх безпечно обробляти. Після збою акції Meta впали більш ніж на 5%.
Таким чином, інцидент із чат-ботом Meta AI слугує яскравим прикладом того, як швидке розгортання автоматизованих систем без глибокого тестування безпеки може створити критичні лазівки для зловмисників у глобальному цифровому просторі.