OpenAI, AI 생성 이미지 검증 절차를 간소화하다

온라인에서 AI 이미지 생성기가 점점 더 널리 보급되고 정교해짐에 따라, 실제 이미지와 가짜 이미지를 구별하는 일이 그 어느 때보다 어려워졌습니다. 화요일, OpenAI는 이 문제를 해결하기 위한 두 가지 새로운 조치를 발표했습니다.
이 회사는 이미지가 AI로 생성되었음을 나타내는 명확한 신호를 메타데이터에 삽입하는 공개 표준인 C2PA를 채택했습니다. 또한 OpenAI는 구글과 협력하여 ‘SynthID’라는 보이지 않는 워터마크를 도입하고 있는데, 이는 탐지하기 더 어렵고, 악의적인 행위자가 자신의 흔적을 숨기려 할 때 제거하기가 훨씬 더 어렵도록 설계되었습니다.
이러한 보호 조치는 현재 OpenAI 자체 제품으로 생성된 이미지에만 적용되므로, 신뢰도가 낮은 AI 도구에서 나오는 이미지의 확산을 막지는 못할 것입니다. 하지만 이 조치들은 OpenAI 자체가 이 문제에 일조하지 않도록 하는 데 도움이 됩니다.
또한 OpenAI는 두 가지 신호를 모두 확인하는 공개 검증 도구를 미리 공개하여, 사용자가 이미지가 AI로 생성된 것인지 쉽게 확인할 수 있도록 했습니다. 초기에는 이 도구가 OpenAI 제품으로 생성된 이미지에만 적용되지만, 회사는 향후 다른 도구로도 적용 범위를 확대할 계획입니다.
2021년에 설립된 콘텐츠 출처 및 진위성 연합(C2PA)은 AI 생성 이미지가 공공 담론에 미치는 유해한 영향을 줄이는 데 주력하는 비영리 단체입니다. C2PA 표준은 다양한 구글 제품에 채택되었으나, 업계 전반의 도입은 여전히 일관되지 않은 상태입니다. C2PA 신호는 각 파일의 메타데이터에서 쉽게 접근할 수 있기 때문에 조작될 위험이 있어, 신뢰할 수 있는 사용자들 사이에서 가장 효과적입니다.
SynthID는 변조에 대한 더욱 강력한 방어 수단을 제공하기 위해 고안된 새로운 이니셔티브입니다. 구글이 개발한 SynthID 워터마크는 악의적인 행위자가 스크린샷, 크기 조정 또는 디지털 조작을 통해 이를 제거하려고 시도하더라도 유지되도록 설계되었습니다.
이 두 시스템은 서로의 한계를 보완하며 상호 보완적으로 작동하도록 설계되었습니다.
오픈AI는 발표문을 통해 “워터마킹은 스크린샷과 같은 변형 과정에서도 더 내구성이 뛰어나며, 메타데이터는 워터마킹만으로는 얻을 수 없는 더 풍부한 정보를 제공할 수 있다”고 언급했다. “이 두 가지가 결합되면, 어느 한 계층만 사용할 때보다 출처 추적의 내구성이 더욱 강화된다.”
관련 기사
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
관련 특별 주제 추천
의견 (0)
0/500

온라인에서 AI 이미지 생성기가 점점 더 널리 보급되고 정교해짐에 따라, 실제 이미지와 가짜 이미지를 구별하는 일이 그 어느 때보다 어려워졌습니다. 화요일, OpenAI는 이 문제를 해결하기 위한 두 가지 새로운 조치를 발표했습니다.
이 회사는 이미지가 AI로 생성되었음을 나타내는 명확한 신호를 메타데이터에 삽입하는 공개 표준인 C2PA를 채택했습니다. 또한 OpenAI는 구글과 협력하여 ‘SynthID’라는 보이지 않는 워터마크를 도입하고 있는데, 이는 탐지하기 더 어렵고, 악의적인 행위자가 자신의 흔적을 숨기려 할 때 제거하기가 훨씬 더 어렵도록 설계되었습니다.
이러한 보호 조치는 현재 OpenAI 자체 제품으로 생성된 이미지에만 적용되므로, 신뢰도가 낮은 AI 도구에서 나오는 이미지의 확산을 막지는 못할 것입니다. 하지만 이 조치들은 OpenAI 자체가 이 문제에 일조하지 않도록 하는 데 도움이 됩니다.
또한 OpenAI는 두 가지 신호를 모두 확인하는 공개 검증 도구를 미리 공개하여, 사용자가 이미지가 AI로 생성된 것인지 쉽게 확인할 수 있도록 했습니다. 초기에는 이 도구가 OpenAI 제품으로 생성된 이미지에만 적용되지만, 회사는 향후 다른 도구로도 적용 범위를 확대할 계획입니다.
2021년에 설립된 콘텐츠 출처 및 진위성 연합(C2PA)은 AI 생성 이미지가 공공 담론에 미치는 유해한 영향을 줄이는 데 주력하는 비영리 단체입니다. C2PA 표준은 다양한 구글 제품에 채택되었으나, 업계 전반의 도입은 여전히 일관되지 않은 상태입니다. C2PA 신호는 각 파일의 메타데이터에서 쉽게 접근할 수 있기 때문에 조작될 위험이 있어, 신뢰할 수 있는 사용자들 사이에서 가장 효과적입니다.
SynthID는 변조에 대한 더욱 강력한 방어 수단을 제공하기 위해 고안된 새로운 이니셔티브입니다. 구글이 개발한 SynthID 워터마크는 악의적인 행위자가 스크린샷, 크기 조정 또는 디지털 조작을 통해 이를 제거하려고 시도하더라도 유지되도록 설계되었습니다.
이 두 시스템은 서로의 한계를 보완하며 상호 보완적으로 작동하도록 설계되었습니다.
오픈AI는 발표문을 통해 “워터마킹은 스크린샷과 같은 변형 과정에서도 더 내구성이 뛰어나며, 메타데이터는 워터마킹만으로는 얻을 수 없는 더 풍부한 정보를 제공할 수 있다”고 언급했다. “이 두 가지가 결합되면, 어느 한 계층만 사용할 때보다 출처 추적의 내구성이 더욱 강화된다.”
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈





집






