ШІ Читати оригінал на Antikor 2 хв читання 0

Data poisoning: як кібершахраї обманюють ChatGPT і створюють

Штучний інтелект став новим інструментом у руках кібершахраїв. Зловмисники застосовують тактику «отруєння даних», вбудовуючи клоновані фейкові магазини безпосередньо у пошукові результати популярних ШІ-асистентів, як-от ChatGPT. Жертвами цієї схеми стають користувачі, які просять чат-бота порадити товари чи бренди для покупок. Експерти з безпеки застерігають: це не просто фішинг, а системна атака на процес навчання моделі ШІ, яка може призвести до масового викрадення банківських реквізитів.

Інтерфейс чат-бота ChatGPT на моніторі демонструє його можливості та обмеження, до якого вказує палець користувача.
Інтерфейс чат-бота ChatGPT на моніторі демонструє його можливості та обмеження, до якого вказує палець користувача. · Джерело зображення: Antikor

Як повідомляє Antikor, кібершахраї навчилися використовувати можливості великих мовних моделей для створення високоякісної реклами фейкових інтернет-магазинів. Ця схема базується на так званій тактиці data poisoning (отруєння даних), коли злочинці свідомо вводять у мережу шкідливий контент, який ШІ потім інтерпретує як достовірну інформацію.

Механізм «Отруєння» AI-моделей

Процес працює наступним чином: шахраї масово створюють сайти-клони, які ідеально копіюють дизайн та структуру відомих брендів. Коли штучний інтелект сканує мережу для оновлення своїх знань, він вивчає цей шкідливий контент, вважаючи його справжнім ритейлером. У результаті ШІ починає генерувати цілком адекватні відповіді з цінами та трендами, але посилається на підроблені ресурси.

Головні маркери шахрайських ресурсів

Хоча шахрайські сайти виглядають професійно, фахівці радять звертати увагу на кілька критичних деталей. Ці ознаки можуть допомогти користувачам уникнути фінансових втрат:

  • Аномальні знижки: ресурси пропонують брендові товари зі знижками до 80%.
  • Підозріла URL-адреса: шахраї використовують назви, схожі на оригінальні, але додають зайві слова.
  • Спосіб оплати: фальшиві сайти часто вимагають лише прямий банківський переказ замість стандартної та безпечної онлайн-оплати через платіжний шлюз.

Головною метою цих ресурсів є не просто отримання коштів за товар, а повне викрадення банківських реквізитів для подальшого списання фінансових активів.

Правила безпечного онлайн-шопінгу

Фахівці з National Trading Standards наголошують: ніколи не можна довіряти сайту лише тому, що його порекомендував штучний інтелект. Щоб забезпечити цифрову гігієну під час покупок в інтернеті, слід дотримуватися наступних правил:

  • Уникайте слів-пасток у адресному рядку, таких як official чи sale.
  • Замість кліків за посиланнями з чату вводьте адресу офіційного сайту потрібного бренду вручну через пошуковик.
  • Шукайте першоджерело: купуйте товари лише на офіційних ресурсах або через верифікованих ретейлерів.

Якщо ви ввели дані на фейковому сайті, негайно заблокуйте картку через мобільний банкінг, повідомте свій банк про компрометацію даних та зверніться до Кіберполіції.

Таким чином, ця тенденція підкреслює необхідність посилення цифрової обізнаності користувачів у світі, де межа між легітимним контентом і злонамірною інформацією стає все більш розмитою завдяки потужності генеративного ШІ.

Контекст для України

Для українських розробників та стартапів ця ситуація підкреслює критичну важливість безпеки в пайплайнах навчання. Якщо моделі навчаються на «отруєних» даних, їхня релевантність для локального ринку знижується. Українські AI-компанії, які працюють з великими мовними моделями, повинні інтегрувати додаткові шари валідації джерел (source verification) у свій робочий процес. Це особливо актуально для компаній, що створюють локальні чатботи чи рекомендаційні системи, щоб запобігти поширенню фейків серед українських користувачів.
Telegram

Свіжі новини у нашому Telegram

Отримуйте миттєві сповіщення про нові публікації в рубриці «ШІ»

@proaiandevenmore