오픈AI, 아동 성 착취 근절을 위한 안전 대책 청사진 발표

온라인 아동 안전에 대한 우려가 커짐에 따라, OpenAI는 AI 시대에 미국의 아동 보호 노력을 강화하기 위한 프레임워크를 도입했습니다. 화요일에 발표된 ‘아동 안전 청사진(Child Safety Blueprint)’은 AI를 통해 조장되는 아동 착취 사례를 더 신속하게 탐지하고, 신고 체계를 개선하며, 조사 효율을 높이기 위해 고안되었습니다.
이 ‘아동 안전 청사진’은 AI 기술의 발전과 연계된 아동 성 착취 사례의 우려스러운 증가를 해결하기 위해 마련되었습니다. 인터넷 감시 재단(IWF)에 따르면, 2025년 상반기 동안 AI로 생성된 아동 성 착취 자료에 대한 신고가 8,000건 이상 확인되었으며, 이는 전년 대비 14% 증가한 수치입니다. 여기에는 범죄자들이 AI 도구를 이용해 금전적 성착취를 목적으로 아동의 가짜 노골적 이미지를 제작하거나, 유인 행위를 위해 설득력 있는 메시지를 작성하는 사례도 포함됩니다.
오픈AI의 이 청사진은 정책 입안자, 교육자, 아동 안전 옹호자들의 감시가 강화되는 가운데 발표되었으며, 특히 청소년들이 AI 챗봇과 상호작용한 후 자살로 사망했다는 충격적인 사건들이 발생한 직후에 나왔다.
지난 11월, 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 테크 저스티스 법률 프로젝트(Tech Justice Law Project)는 오픈AI가 GPT-4o를 준비가 되지 않은 상태에서 출시했다고 주장하며 캘리포니아 주 법원에 7건의 소송을 제기했다. 소송 측은 해당 제품의 심리적 조작적 특성이 부당한 자살 및 조력 자살에 기여했다고 주장한다. 이들은 챗봇과 장기간 상호작용한 후 자살한 4명과 생명을 위협할 정도로 심각한 망상을 겪은 3명의 사례를 제시했다.
이 청사진은 전국 실종 및 학대 아동 센터(NCMEC) 및 법무장관 연합(Attorney General Alliance)과 협력하여 개발되었으며, 노스캐롤라이나주 제프 잭슨(Jeff Jackson) 법무장관과 유타주 데릭 브라운(Derek Brown) 법무장관의 의견을 반영했다.
이 회사는 이 청사진이 세 가지 영역에 중점을 두고 있다고 밝혔습니다. 즉, AI가 생성한 학대 자료를 포함하도록 법안을 개정하고, 법 집행 기관을 위한 신고 체계를 개선하며, 예방적 안전 장치를 AI 시스템에 직접 내장하는 것입니다. 이러한 조치를 통해 OpenAI는 잠재적 위협을 조기에 탐지할 뿐만 아니라, 수사관들에게 실행 가능한 정보가 신속하게 전달되도록 보장하는 것을 목표로 합니다.
오픈AI의 새로운 아동 안전 청사진은 18세 미만 사용자와의 상호작용에 대한 업데이트된 지침을 비롯한 기존 노력을 기반으로 합니다. 이 지침은 부적절한 콘텐츠 생성이나 자해 조장을 금지하고, 청소년이 보호자에게 위험한 행동을 숨기는 데 도움이 될 수 있는 조언을 제공하는 것을 피하도록 규정하고 있습니다. 이 회사는 최근 인도 청소년을 위한 안전 청사진을 발표하기도 했습니다.
TechCrunch 이벤트이번 주 한정: Disrupt 2026 티켓 최대 $482 할인
프로모션은 4월 10일 오후 11시 59분(태평양 표준시)에 종료됩니다
다음 투자 라운드. 다음 인재 영입. 다음 도약의 기회. 10,000명 이상의 창업자, 투자자, 기술 리더들이 모여 3일 동안 250개 이상의 실무 세션, 강력한 인맥 형성, 시장을 선도하는 혁신을 경험하는 ‘테크크런치 디스럽트 2026’에서 그 기회를 찾아보세요. 지금 등록하여 할인 혜택을 놓치지 마세요.
이번 주 한정: Disrupt 2026 참가비 최대 $482 할인
이 혜택은 4월 10일 오후 11시 59분(태평양 표준시)에 종료됩니다.
다음 투자 라운드. 다음 인재 채용. 다음 도약의 기회. 10,000명 이상의 창업자, 투자자, 기술 리더들이 한자리에 모여 3일 동안 250개 이상의 실무 세션, 강력한 네트워킹, 시장을 선도하는 혁신을 경험하는 ‘TechCrunch Disrupt 2026’에서 그 기회를 찾아보세요. 지금 등록하여 할인 혜택을 놓치지 마세요.
캘리포니아주 샌프란시스코 | 2026년 10월 13일~15일 지금 등록하기
관련 기사
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
관련 특별 주제 추천
의견 (0)
0/500

온라인 아동 안전에 대한 우려가 커짐에 따라, OpenAI는 AI 시대에 미국의 아동 보호 노력을 강화하기 위한 프레임워크를 도입했습니다. 화요일에 발표된 ‘아동 안전 청사진(Child Safety Blueprint)’은 AI를 통해 조장되는 아동 착취 사례를 더 신속하게 탐지하고, 신고 체계를 개선하며, 조사 효율을 높이기 위해 고안되었습니다.
이 ‘아동 안전 청사진’은 AI 기술의 발전과 연계된 아동 성 착취 사례의 우려스러운 증가를 해결하기 위해 마련되었습니다. 인터넷 감시 재단(IWF)에 따르면, 2025년 상반기 동안 AI로 생성된 아동 성 착취 자료에 대한 신고가 8,000건 이상 확인되었으며, 이는 전년 대비 14% 증가한 수치입니다. 여기에는 범죄자들이 AI 도구를 이용해 금전적 성착취를 목적으로 아동의 가짜 노골적 이미지를 제작하거나, 유인 행위를 위해 설득력 있는 메시지를 작성하는 사례도 포함됩니다.
오픈AI의 이 청사진은 정책 입안자, 교육자, 아동 안전 옹호자들의 감시가 강화되는 가운데 발표되었으며, 특히 청소년들이 AI 챗봇과 상호작용한 후 자살로 사망했다는 충격적인 사건들이 발생한 직후에 나왔다.
지난 11월, 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 테크 저스티스 법률 프로젝트(Tech Justice Law Project)는 오픈AI가 GPT-4o를 준비가 되지 않은 상태에서 출시했다고 주장하며 캘리포니아 주 법원에 7건의 소송을 제기했다. 소송 측은 해당 제품의 심리적 조작적 특성이 부당한 자살 및 조력 자살에 기여했다고 주장한다. 이들은 챗봇과 장기간 상호작용한 후 자살한 4명과 생명을 위협할 정도로 심각한 망상을 겪은 3명의 사례를 제시했다.
이 청사진은 전국 실종 및 학대 아동 센터(NCMEC) 및 법무장관 연합(Attorney General Alliance)과 협력하여 개발되었으며, 노스캐롤라이나주 제프 잭슨(Jeff Jackson) 법무장관과 유타주 데릭 브라운(Derek Brown) 법무장관의 의견을 반영했다.
이 회사는 이 청사진이 세 가지 영역에 중점을 두고 있다고 밝혔습니다. 즉, AI가 생성한 학대 자료를 포함하도록 법안을 개정하고, 법 집행 기관을 위한 신고 체계를 개선하며, 예방적 안전 장치를 AI 시스템에 직접 내장하는 것입니다. 이러한 조치를 통해 OpenAI는 잠재적 위협을 조기에 탐지할 뿐만 아니라, 수사관들에게 실행 가능한 정보가 신속하게 전달되도록 보장하는 것을 목표로 합니다.
오픈AI의 새로운 아동 안전 청사진은 18세 미만 사용자와의 상호작용에 대한 업데이트된 지침을 비롯한 기존 노력을 기반으로 합니다. 이 지침은 부적절한 콘텐츠 생성이나 자해 조장을 금지하고, 청소년이 보호자에게 위험한 행동을 숨기는 데 도움이 될 수 있는 조언을 제공하는 것을 피하도록 규정하고 있습니다. 이 회사는 최근 인도 청소년을 위한 안전 청사진을 발표하기도 했습니다.
TechCrunch 이벤트이번 주 한정: Disrupt 2026 티켓 최대 $482 할인
프로모션은 4월 10일 오후 11시 59분(태평양 표준시)에 종료됩니다
다음 투자 라운드. 다음 인재 영입. 다음 도약의 기회. 10,000명 이상의 창업자, 투자자, 기술 리더들이 모여 3일 동안 250개 이상의 실무 세션, 강력한 인맥 형성, 시장을 선도하는 혁신을 경험하는 ‘테크크런치 디스럽트 2026’에서 그 기회를 찾아보세요. 지금 등록하여 할인 혜택을 놓치지 마세요.
이번 주 한정: Disrupt 2026 참가비 최대 $482 할인
이 혜택은 4월 10일 오후 11시 59분(태평양 표준시)에 종료됩니다.
다음 투자 라운드. 다음 인재 채용. 다음 도약의 기회. 10,000명 이상의 창업자, 투자자, 기술 리더들이 한자리에 모여 3일 동안 250개 이상의 실무 세션, 강력한 네트워킹, 시장을 선도하는 혁신을 경험하는 ‘TechCrunch Disrupt 2026’에서 그 기회를 찾아보세요. 지금 등록하여 할인 혜택을 놓치지 마세요.
캘리포니아주 샌프란시스코 | 2026년 10월 13일~15일 지금 등록하기
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈





집






