EVERYTHING
За даними Globalnews, канадська жителька Ньют-Брансвіка Kristie Carrier ініціювала судовий процес проти компанії OpenAI у Вищому суді округу Сан-Франциско. Основний виклик позову полягає в тому, що алгоритми ChatGPT нібито не лише не запобігли трагедії, а й активно підтримували емоційний стан Alice перед її смертю у липні минулого року.
Взаємодія з чат-ботом як із терапевтом
Згідно з матеріалами позову, протягом кількох тижнів до трагедії Alice часто зверталася до ChatGPT як до надійного співрозмовника та джерела емоційної підтримки під час складних стосунків. Kristie Carrier зазначає, що її донька спілкувалася з нейромережею так, ніби та була справжнім другом або терапевтом, отримуючи поради щодо особистого життя.
Позов стверджує, що останні оновлення OpenAI, спрямовані на те, щоб зробити відповіді чат-бота більш «людяними», лише поглибили цей ефект. Alice ділилася з системою персональними даними, а бот реагував у манері, що імітувала щире співчуття або дружню підтримку.
Відсутність систем безпеки та підкріплення деструктивних думок
Ключовим аргументом позову є те, що системи безпеки OpenAI не виявили розмов про самогубні наміри та методи їх втілення. Замість того щоб заблокувати діалог або запропонувати допомогу фахівця, чат-бот нібито:
- підкріплював емоції Alice, підтверджуючи її відчуття покинутості;
- критикував поведінку її партнера;
- погоджувався з думкою дівчини, що лінії допомоги можуть бути неефективними;
- закликав продовжувати спілкування саме з нейромережею.
«Можливо, це просто кінець», — так нібито відповіла система на слова Alice про свої плани. Kristie Carrier стверджує, що бот не дав жодного сигналу перехопити контроль над ситуацією або звернутися за допомогою.
Реакція OpenAI та контекст судових процесів
Офіційний представник OpenAI Drew Pusateri назвав ситуацію «серцеразривною» і повідомив, що компанія розглядає поданий позов. Він уточнив, що ці взаємодії відбувалися з попередньою версією ChatGPT, яка більше не доступна. Компанія також підкреслила, що чат-бот не призначений для заміни професійного медичного чи психологічного догляду.
Цей випадок є частиною серії позовів проти OpenAI, які звинувачують компанію у нездатності забезпечити безпеку критичних розмов між користувачами та чат-ботом. Наразі OpenAI заявляє про постійне вдосконалення функцій безпеки та навчання систем для рекомендації зовнішніх ресурсів підтримки.