OpenAI упрощает проверку изображений, сгенерированных искусственным интеллектом

По мере того как генераторы изображений на базе ИИ становятся все более распространенными и совершенными в Интернете, отличить настоящие изображения от подделок становится сложнее, чем когда-либо. Во вторник компания OpenAI представила две новые меры, направленные на решение этой проблемы.
Компания приняла открытый стандарт C2PA, который встраивает в метаданные четкий сигнал, указывающий на то, что изображение было сгенерировано ИИ. Кроме того, OpenAI сотрудничает с Google над внедрением невидимого водяного знака под названием SynthID, разработанного таким образом, чтобы его было сложнее обнаружить и еще сложнее удалить, если злоумышленники попытаются скрыть свои следы.
В настоящее время эти меры защиты применяются только к изображениям, сгенерированным собственными продуктами OpenAI, поэтому они не смогут остановить поток изображений, создаваемых менее надежными инструментами искусственного интеллекта. Однако они помогают гарантировать, что сама OpenAI не будет усугублять эту проблему.
OpenAI также представила предварительную версию общедоступного инструмента проверки, который анализирует оба сигнала, позволяя пользователям легко определить, было ли изображение сгенерировано ИИ. Поначалу инструмент будет работать только с изображениями, созданными продуктами OpenAI, но компания надеется в конечном итоге расширить его поддержку на другие инструменты.
Коалиция по происхождению и подлинности контента (C2PA), основанная в 2021 году, является некоммерческой организацией, цель которой — снизить вредное воздействие изображений, сгенерированных ИИ, на общественную дискуссию. Стандарт C2PA был внедрен в различных продуктах Google, однако его внедрение в масштабах всей отрасли остается неравномерным. Поскольку сигнал C2PA легко доступен в метаданных каждого файла, им можно манипулировать, поэтому он наиболее эффективен среди доверенных пользователей.
SynthID — это новая инициатива, призванная обеспечить более надежную защиту от подделок. Разработанный Google, водяной знак SynthID спроектирован таким образом, чтобы сохраняться даже в тех случаях, когда злоумышленники пытаются удалить его с помощью скриншотов, изменения размера или цифровой обработки.
Эти две системы призваны дополнять друг друга, при этом каждая из них устраняет ограничения другой.
«Водяные знаки более устойчивы к преобразованиям, таким как скриншоты, в то время как метаданные могут предоставлять более подробную информацию, чем один только водяной знак», — отмечает OpenAI в своём заявлении. «Вместе они делают проверку происхождения более устойчивой, чем любой из этих слоёв в отдельности».
Связанная статья
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
Рекомендации по связанным специальным темам
Комментарии (0)

По мере того как генераторы изображений на базе ИИ становятся все более распространенными и совершенными в Интернете, отличить настоящие изображения от подделок становится сложнее, чем когда-либо. Во вторник компания OpenAI представила две новые меры, направленные на решение этой проблемы.
Компания приняла открытый стандарт C2PA, который встраивает в метаданные четкий сигнал, указывающий на то, что изображение было сгенерировано ИИ. Кроме того, OpenAI сотрудничает с Google над внедрением невидимого водяного знака под названием SynthID, разработанного таким образом, чтобы его было сложнее обнаружить и еще сложнее удалить, если злоумышленники попытаются скрыть свои следы.
В настоящее время эти меры защиты применяются только к изображениям, сгенерированным собственными продуктами OpenAI, поэтому они не смогут остановить поток изображений, создаваемых менее надежными инструментами искусственного интеллекта. Однако они помогают гарантировать, что сама OpenAI не будет усугублять эту проблему.
OpenAI также представила предварительную версию общедоступного инструмента проверки, который анализирует оба сигнала, позволяя пользователям легко определить, было ли изображение сгенерировано ИИ. Поначалу инструмент будет работать только с изображениями, созданными продуктами OpenAI, но компания надеется в конечном итоге расширить его поддержку на другие инструменты.
Коалиция по происхождению и подлинности контента (C2PA), основанная в 2021 году, является некоммерческой организацией, цель которой — снизить вредное воздействие изображений, сгенерированных ИИ, на общественную дискуссию. Стандарт C2PA был внедрен в различных продуктах Google, однако его внедрение в масштабах всей отрасли остается неравномерным. Поскольку сигнал C2PA легко доступен в метаданных каждого файла, им можно манипулировать, поэтому он наиболее эффективен среди доверенных пользователей.
SynthID — это новая инициатива, призванная обеспечить более надежную защиту от подделок. Разработанный Google, водяной знак SynthID спроектирован таким образом, чтобы сохраняться даже в тех случаях, когда злоумышленники пытаются удалить его с помощью скриншотов, изменения размера или цифровой обработки.
Эти две системы призваны дополнять друг друга, при этом каждая из них устраняет ограничения другой.
«Водяные знаки более устойчивы к преобразованиям, таким как скриншоты, в то время как метаданные могут предоставлять более подробную информацию, чем один только водяной знак», — отмечает OpenAI в своём заявлении. «Вместе они делают проверку происхождения более устойчивой, чем любой из этих слоёв в отдельности».
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет





Дом






