EVERYTHING
Проблема достовірності інформації, яку генерують великі мовні моделі, стає дедалі гострішою з наближенням великих політичних подій у світі. Хоча розробники неодноразово обіцяли покращити точність своїх систем, останні звіти вказують на тривожну тенденцію до погіршення ситуації. Дослідники Tow Center у Columbia Journalism School провели серію контрольованих експериментів із вісьмома провідними пошуковими продуктами на базі штучного інтелекту, подаючи їм 200 актуальних новинних статей від двадцяти різних видавців. Результати виявилися невтішними для індустрії: моделі надавали неправильні або некоректні відповіді у понад 60% випадків, що ставить під серйозний сумнів їхню придатність як надійного джерела новин.
Деталі дослідження точності ШІ
За аналітичними даними Bloomberg, опублікованими 20 травня, популярні сервіси ChatGPT, Claude, Gemini та Grok залишаються критично ненадійними у питаннях, що стосуються політичних новин та виборчих процесів. Зокрема, ChatGPT Search продемонстрував повну точність лише у 28% запитів, тоді як у 57% випадків відповіді були цілком помилковими або вводили в оману. Навіть Perplexity, який маркетологи позиціонують як інструмент дослідницького рівня з високою точністю, помилявся у 37% запитів, що є найнижчим, але все одно значним показником невдач у групі. Моніторинг NewsGuard False Claims зафіксував стрімке зростання кількості неправдивих тверджень: у серпні 2025 року чат-боти повертали фейки у 35% випадків порівняно з 18% попереднього року.
Особливу небезпеку становить вразіливість алгоритмів до зовнішніх маніпуляцій та організованих кампаній впливу. Дослідження NewsGuard показало, що топові генеративні моделі відтворюють тези російської дезінформації приблизно в одній третині випадків, цитуючи підконтрольні Кремлю ресурси як авторитетні та надійні джерела. Це відбувається через так звані "порожнечі в даних" (data voids), механізм яких був детально описаний виданням Lawfare. Коли оригінальна новина має слабке висвітлення в мережі, пропагандистські ресурси швидко заповнюють цей вакуум великою кількістю рерайтів. Сучасні системи RAG (Retrieval-Augmented Generation) часто індексують ці низькоякісні копії, що фактично розриває ланцюжок посилань на реальних журналістів.
Що це означає для України
Для України, яка постійно перебуває в епіцентрі масштабних інформаційних операцій, ці висновки мають стратегічне значення. Оскільки українські користувачі все частіше звертаються до ChatGPT або Gemini для швидкого отримання пояснень щодо складних політичних подій, ризик випадкового споживання галюцинацій, заснованих на ворожих наративах, значно зростає. Вітчизняні технологічні лідери, такі як Grammarly або MacPaw, що активно інтегрують AI-рішення у свої продукти, змушені витрачати значні ресурси на впровадження додаткових рівнів фільтрації та перевірки контенту. Низька здатність глобальних моделей розрізняти стрічку Reuters від замаскованих пропагандистських сайтів змушує українських розробників і медіа-експертів створювати локальні методи верифікації даних, щоб забезпечити інформаційну безпеку громадян у 2026 році.
Перспективи та виклики
Наступні проміжні вибори у США стануть реальним випробуванням для етики та технологічних можливостей розробників штучного інтелекту. Наразі жодна лабораторія, включаючи OpenAI та Anthropic, не має публічно захищеного плану дій на випадок, коли їхні продукти впевнено та красномовно надають хибну інформацію з фальшивими цитатами. Систематичне помилкове атрибутування цитат та фабрикація неіснуючих посилань вказують на те, що проблема лежить у самій архітектурі навчання сучасних моделей на відкритому вебі. Якщо розробники не знайдуть способу ізолювати свої пайплайни від завантаження laundered-контенту, чат-боти можуть перетворитися з помічників на потужний інструмент дестабілізації демократичних інститутів.
