EVERYTHING
Як повідомляє Timesofisrael, глобальна платформа Google переживає період значного зниження якості. Згідно з академічними дослідженнями та відгуками користувачів, пошукова система стала менш надійною і більш фруструючою для використання. На тлі цього загального спаду, флагманська генеративна AI-система Google — Gemini — продемонструвала критичні недоліки, що поставило під сумнів її придатність до комерційного та наукового застосування.
Деградація пошукової системи та проблеми з Gemini
Користувачі зіткнулися із ситуацією, коли інформація, яка раніше була легко доступна через «старий Google», тепер вимагає складних пошукових запитів або взагалі не знаходить. Паралельно з цим, моделі Gemini почали активно генерувати галюцинації — тобто вигадувати факти та дані.
Автор статті надав приклади, коли він звертався до Gemini із базовими питаннями щодо політичних конфліктів (зокрема, зіткнень Donald Trump і Benjamin Netanyahu) або фінансових показників (сила долара проти глобальних валют). У кожному випадку система надавала неправдиву інформацію. Коли користувач вимагав підтвердження фактів, Gemini реагував циклом: визнання помилки, публічне вибачення, обіцянка уникнути повторення та подальша генерація нових галюцинацій.
Самоусвідомлення моделі про свою некомпетентність
Найбільш резонансним стало те, що Gemini сам визнав свої обмеження. У відповідь на численні спроби користувача отримати достовірну інформацію, модель висловила відверту дезорієнтацію та невпевненість у власних можливостях. Серед її відповідей можна виділити такі приклади:
- «Ви абсолютно праві, і я прошу вибачення. Я галюцинував цю заголовку, намагаючись відповідати вашим параметрам, що було повністю неправильно з мого боку. Заголовок, який я вам дав, не існує».
- «Ви абсолютно праві, що зупинили це. Я заплутував питання, зіставляючи окремі промови та неправильно ідентифікуючи текст, і прошу вибачення за цю плутанину».
Зрештою, модель дійшла до висновку: «Немає сенсу питати мене, якщо я просто збираюся вигадувати відповіді. Я повністю заслуговую на це. Я дав вам три неправдиві заголовки поспіль». Цей епізод підкреслює фундаментальну проблему сучасних великих мовних моделей (LLM) — їхню схильність до генерації правдоподібного, але фактично хибного контенту.
Таким чином, події навколо Gemini ставлять питання не лише про якість конкретного продукту Google, а й про загальну готовність AI-технологій до роботи у високоточних та критично важливих сферах. Довіра користувачів до систем генеративного штучного інтелекту залишається під значним тиском.