EVERYTHING
За даними The-decoder, зростаюча популярність інтерактивних LLM створює нові вектори кіберзагроз. Зловмисники успішно адаптували механізми спільного доступу в ChatGPT та Claude для розповсюдження шкідливого ПЗ, що вимагає від користувачів високого рівня обережності при взаємодії з будь-яким контентом у цих сервісах. Цей метод експлуатує не технічні недоліки моделей, а психологічний фактор довіри, який формується навколо відомих та авторитетних брендів.
Механізм атаки LLMShare
Основна проблема полягає у тому, що платформи дозволяють користувачам публічно ділитися розмовами за допомогою URL. Зловмисники використовують цей механізм для створення контенту, який виглядає абсолютно легітимно. Жертви часто натрапляють на ці спільноти через таргетовану платну пошукову рекламу. Оскільки посилання розміщені на доменах, які користувачі вважають безпечними (наприклад, chatgpt.com або claude.ai), традиційні інструменти кібербезпеки не можуть автоматично позначити їх як потенційно шкідливі.
- Імітація офіційних повідомлень: Зловмисники створюють чати, які виглядають як офіційні сповіщення про збої або детальні інструкції зі встановлення програмного забезпечення.
- Використання функціоналу коду: У ChatGPT вони використовують можливість рендерингу коду для генерації цілком фальшивої сторінки помилки всередині чату, що приводить до завантаження заражених десктопних застосунків.
- Маскування під підтримку: На Claude спільні чати можуть імітувати покрокові інструкції служби підтримки Apple, які містять приховані шкідливі команди Terminal.
Наслідки та попередження
Цей метод атаки, LLMShare, є прикладом того, як соціальна інженерія інтегрується у сферу штучного інтелекту. Це не просто переклад інформації; це використання функціоналу платформи для створення ілюзії легітимності.
Як повідомляє Push Security, ця техніка вимагає від користувачів критично оцінювати будь-який контент, отриманий у спільному режимі чату. Аналогічні кампанії вже були задокументовані такими відомими компаніями, як BleepingComputer та Kaspersky. Важливо розуміти, що навіть найпотужніші LLM можуть бути використані для створення ідеально вивіреного соціального інженерного матеріалу.
Таким чином, безпека користувача тепер залежить не лише від захисту його пристрою, а й від його здатності розрізняти справжній контент у чаті та зловмисний обман, замаскований під довірений інтерфейс AI-сервісу.