EVERYTHING
Як повідомляє Infoq, Google розширює можливості свого інструменту SynthID, який вбудовує невидимі сигнали у контент, згенерований штучним інтелектом. Новий Content Detection API тепер доступний на Gemini Enterprise Agent Platform Google Cloud і вже набув популярності серед таких гравців ринку, як Nvidia та OpenAI.
Цей API надає компаніям потужний механізм для виявлення контенту, створеного ШІ, незалежно від того, чи він згенерований Google, чи іншими провідними моделями. Це допомагає бізнесам ефективно керувати медіа на власних платформах — чи то для бекенд-операцій, таких як сортування стрічок або запобігання страховому шахрайству, чи для контенту, орієнтованого на користувача, наприклад, фактчекінг та маркування синтетичних медіа. За даними Google, API приймає зображення у форматах JPEG, PNG або WebP через REST і використовує моделі машинного навчання для аналізу артефактів на рівні пікселів, шумових патернів та спектральних аномалій.
Як працює виявлення ШІ-контенту
SynthID — це інструмент для вотермаркінгу та ідентифікації зображень, створених ШІ. Він вбудовує цифровий вотермарк безпосередньо у пікселі зображення, роблячи його невидимим для людського ока, але детектубельним для системи. Google підтверджує, що API не зберігає та не обробляє зображення.
Для підвищення надійності верифікації OpenAI застосовуватиме багатошаровий підхід, поєднуючи метадані C2PA та вотермаркінг SynthID. Ці дві системи взаємно підсилюють одна одну: C2PA допомагає контенту нести детальний контекст, тоді як SynthID зберігає сигнал, навіть якщо метадані будуть втрачені.
Розширення застосування та перспективи
Google активно розширює використання SynthID. Останнім часом до його користувачів приєдналися Nvidia, OpenAI, Kakao та ElevenLabs. Наприклад, Nvidia планує використовувати SynthID у своїх фундаментальних моделях Cosmos. Крім того, Google нещодавно інтегрував SynthID для верифікації аудіо, відео та зображень у своєму застосунку Gemini і планує розширити це до Search та Chrome.
Також компанія планує поширювати використання C2PA Content Credentials на моделі Pixel phones (включно з Pixel 8, 9 та 10), щоб прикріплювати метадані до зображень і відео, знятих за допомогою камери. Це сертифікує, що вони не були згенеровані ШІ.
Масштаб інтеграції SynthID
З моменту свого виходу три роки тому Google інтегрував SynthID у свої генеративні медіамоделі та продукти. За цей час було використано для вотермаркінгу понад 100 мільярдів зображень і відео, а також 60 тисяч годин аудіоконтенту.
Цей розвиток свідчить про значну увагу технологічних гігантів до проблеми авторського права та дезінформації. Впровадження таких інструментів є критично важливим для підтримки довіри користувачів до цифрового контенту в умовах стрімкого зростання генеративного ШІ.
