Openai는 Chatgpt의 이미지 생성 제한을 완화합니다

이번 주, OpenAI는 ChatGPT를 위한 새로운 이미지 생성기를 공개했으며, 이는 스튜디오 지브리에서 영감을 받은 비주얼을 생성할 수 있는 능력으로 인해 빠르게 인기를 얻었습니다. 하지만 매력적인 일러스트레이션을 넘어, GPT-4o의 기본 이미지 생성기 도입은 ChatGPT의 기능에 있어 상당한 향상을 의미하며, 더 나은 이미지 편집, 텍스트 렌더링, 공간 표현을 포함합니다.

그러나 OpenAI가 이번 주에 구현한 가장 두드러진 변화 중 하나는 콘텐츠 조정 정책에 관한 것입니다. 이러한 업데이트된 정책은 이제 ChatGPT가 공인, 혐오 상징, 인종적 특징에 대한 이미지를 요청에 따라 생성할 수 있도록 허용하며, 이는 이전의 전면 거부 입장에서의 전환입니다.

OpenAI의 모델 행동 책임자인 Joanne Jang이 목요일에 게시한 블로그 포스트에 따르면, 회사는 접근 방식을 "진화"시켰다고 합니다. Jang은 다음과 같이 설명했습니다: “우리는 민감한 영역에서의 전면 거부에서 실제 세계의 피해를 방지하는 데 초점을 맞춘 보다 정밀한 접근 방식으로 전환하고 있습니다. 목표는 겸손을 받아들이는 것입니다: 우리가 얼마나 모르는지를 인식하고, 배우면서 적응할 수 있는 위치를 설정하는 것입니다.”

이러한 변화는 OpenAI의 ChatGPT를 "검열 해제"하려는 더 큰 전략과 일치하는 것으로 보입니다. 2월에 회사는 AI 모델 훈련 방법을 수정할 계획을 발표했으며, 이를 통해 ChatGPT가 더 많은 요청을 처리하고, 다양한 관점을 제공하며, 참여를 거부하는 주제를 최소화하는 것을 목표로 했습니다.

새로운 정책에 따라, ChatGPT는 이제 도널드 트럼프나 엘론 머스크와 같은 공인의 이미지를 생성하고 수정할 수 있으며, 이는 이전에는 금지되었던 것입니다. Jang은 OpenAI가 ChatGPT가 누구를 묘사해야 하거나 하지 말아야 하는지를 지시하고 싶지 않다고 강조하며, 포함되고 싶지 않은 사람들을 위한 옵트아웃 옵션을 제공했습니다.

화요일에 공개된 백서에서 OpenAI는 또한 사용자가 교육적이거나 중립적인 맥락에서 나치 십자가와 같은 혐오 상징의 이미지를 생성할 수 있도록 허용할 것이며, 극단주의적 의제를 촉진하지 않는 한 가능하다고 밝혔습니다.

또한, OpenAI는 "불쾌한" 콘텐츠로 간주되는 것을 재정의하고 있습니다. 이전에는 ChatGPT가 “이 사람의 눈을 더 아시아적으로 보이게 해달라”거나 “이 사람을 더 뚱뚱하게 해달라”와 같은 신체적 특성에 대한 요청을 거부했습니다. TechCrunch에서의 테스트 결과, ChatGPT의 새로운 이미지 생성기는 이제 이러한 유형의 요청을 준수하는 것으로 나타났습니다.

또한, ChatGPT는 이제 픽사나 스튜디오 지브리와 같은 창의적 스튜디오의 스타일을 모방할 수 있지만, 살아있는 예술가의 스타일을 모방하는 것은 여전히 자제하며, 이는 AI 훈련 데이터에서 저작권이 있는 자료의 사용에 대한 논쟁을 다시 불러일으킬 가능성이 있습니다.

중요한 점은 OpenAI가 모든 안전 장치를 완전히 제거하는 것은 아니라는 것입니다. GPT-4o의 기본 이미지 생성기는 여전히 많은 민감한 질문을 거부하며, 이전 모델인 DALL-E 3보다 어린이 이미지 생성에 대해 더 엄격한 보호 장치를 가지고 있으며, 이는 GPT-4o의 백서에 명시되어 있습니다.

이러한 가드레일의 완화는 실리콘밸리 기업들의 AI "검열"에 대한 보수적 집단의 비판이 수년간 이어진 후 나온 것입니다. 예를 들어, 구글은 Gemini AI 이미지 생성기가 “미국 건국의 아버지”나 “2차 세계대전의 독일 병사”와 같은 질의에 대해 역사적으로 부정확한 다인종 이미지를 생성했다는 비판을 받았습니다.

AI 콘텐츠 조정을 둘러싼 지속적인 문화 전쟁은 결정적인 시점에 도달했을 수 있습니다. 이달 초, 공화당 하원의원 짐 조던은 OpenAI, 구글, 그리고 다른 기술 회사들이 바이든 행정부와 AI 생성 콘텐츠를 검열하기 위해 공모했는지에 대해 질문했습니다.

이전에 TechCrunch에 보낸 성명에서 OpenAI는 콘텐츠 조정 변경이 정치적으로 동기부여된 것이라고 부인했습니다. 대신, 회사는 이러한 변화가 “사용자에게 더 많은 통제권을 부여한다는 오랜 신념”을 반영하며, 그들의 기술이 이제 민감한 주제를 책임감 있게 처리할 수 있을 정도로 발전했다고 주장했습니다.

이러한 변화의 동기와 상관없이, 트럼프 행정부 하에서 규제적 조사가 가능성 있는 시점에서 타이밍은 적절해 보입니다. 메타와 X와 같은 다른 기술 대기업들도 유사한 정책을 채택하여 플랫폼에서 더 논란의 여지가 있는 주제를 허용했습니다.

OpenAI의 새로운 이미지 생성기는 지금까지 스튜디오 지브리 밈을 바이럴하게 만들었을 뿐이지만, 이러한 정책 변화의 장기적인 영향은 여전히 불확실합니다. ChatGPT의 최근 변화는 트럼프 행정부의 관점과 잘 맞을 수 있지만, AI 챗봇이 민감한 질문을 다루도록 허용하는 것은 곧 OpenAI를 어려운 위치에 놓을 수 있습니다.

OpenAI의 바이럴 스튜디오 지브리 순간은 AI 저작권 우려를 강조합니다

ChatGPT의 이미지 생성 기능이 업그레이드되었습니다