EVERYTHING
У контексті зростаючої глобальної стурбованості щодо дезінформації, створеної штучним інтелектом, OpenAI оголосила про два нові заходи. Ці кроки спрямовані на допомогу громадськості та користувачам у визначенні того, чи було зображення згенеровано моделями AI від цієї компанії. Це значний крок до забезпечення достовірності контенту в екосистемі ШІ.
Розуміння стандартів: C2PA проти SynthID
Для забезпечення прозорості OpenAI використовує дві комплементарні системи. Перша — це відкритий стандарт C2PA (Coalition for Content Provenance and Authenticity), заснований у 2021 році компаніями Adobe, Arm, BBC, Intel та Microsoft. Цей стандарт додає метадані до файлу, які фіксують його походження та будь-які зміни, що були внесені під час редагування. C2PA вже затверджено як ISO стандарт і прийнято низкою продуктів Google, хоча його впровадження все ще є нерівномірним у широкій індустрії.
Як працює SynthID від Google DeepMind
Друга система — це SynthID, розроблена Google DeepMind. На відміну від C2PA, яка додає читабельні метадані, SynthID вбудовує невидимий водяний знак безпосередньо у зображення. Цей водяний знак спеціально розроблено так, щоб він зберігався навіть після скріншотів, зміни розміру, стиснення та інших форм цифрової маніпуляції. Це значно ускладнює спроби зловмисників видалити докази походження контенту.
Синергія систем: метадані та водяний знак
OpenAI пояснила, що ці дві системи покликані взаємодоповнювати одна одну. Водяний знак забезпечує стійкість зображення під час трансформацій (наприклад, скріншотів), тоді як метадані надають більш багату контекстуальну інформацію, ніж водяний знак сам по собі. Разом компанія стверджує, що вони створюють систему проходження контенту, яка є набагато стійкішою, ніж будь-який із цих шарів окремо.
Публічний інструмент верифікації
Окрім оголошення про стандарти, OpenAI готує публічний інструмент для перевірки. Цей інструмент дозволить будь-кому завантажити зображення та визначити, чи було воно згенеровано моделями OpenAI, перевіряючи як C2PA облікові дані, так і наявність водяного знака SynthID. Наразі цей інструмент покриває лише контент, створений продуктами OpenAI. Однак компанія висловила надію розширити його сферу застосування з часом.
Значення для галузі та майбутні перспективи
Цей крок відбувається на тлі зростаючих занепокоєнь з боку урядів та громадянського суспільства щодо ролі контенту, створеного ШІ, у поширенні дезінформації. Приєднання OpenAI до керівного комітету C2PA позиціонує її поряд із Adobe та Microsoft у формуванні майбутнього стандарту. Партнерство з Google є значущим прикладом міжгалузевої співпраці в галузі безпеки ШІ та прозорості. Однак практичний вплив цих заходів залежить від того, наскільки широко вони будуть прийняті за межами компаній, які вже беруть участь у цьому процесі. Виявлення контенту, створеного AI, залишається складним завданням.
