집OpenAI, 청소년 보호를 위한 오픈소스 도구를 개발 과정에 통합
화요일, OpenAI는 개발자들이 청소년을 위한 애플리케이션의 안전성을 높일 수 있도록 돕기 위해 고안된 일련의 프롬프트를 공개했다고 발표했습니다. 이 AI 연구소는 이러한 청소년 안전 정책이 자사의 오픈 웨이트 안전 모델인 gpt-oss-safeguard와 호환된다고 밝혔습니다.
개발자들은 청소년을 위한 AI 안전성을 어떻게 개선할지 처음부터 고민할 필요 없이, 이 프롬프트를 활용해 애플리케이션을 강화할 수 있습니다. 이 프롬프트는 노골적인 폭력 및 성적 콘텐츠, 유해한 신체 이미지 이상과 행동, 위험한 활동 및 챌린지, 로맨틱하거나 폭력적인 역할극 시나리오, 연령 제한이 있는 제품 및 서비스와 같은 문제들을 다룹니다.
이 안전 정책들은 프롬프트 형태로 제작되어 'gpt-oss-safeguard' 이외의 모델에서도 쉽게 작동하도록 설계되었으나, OpenAI의 자체 생태계 내에서 가장 효과적일 것으로 보입니다.
OpenAI는 이러한 프롬프트를 개발하기 위해 AI 안전 단체인 Common Sense Media 및 everyone.ai와 협력했다고 밝혔습니다.
커먼 센스 미디어(Common Sense Media)의 AI 및 디지털 평가 책임자인 로비 토니(Robbie Torney)는 성명을 통해 "이러한 프롬프트 기반 정책은 생태계 전반에 걸쳐 의미 있는 안전 기준을 확립하는 데 도움이 됩니다. 오픈 소스이기 때문에 시간이 지남에 따라 조정하고 개선할 수 있습니다"라고 말했습니다.
OpenAI는 자사 블로그를 통해 노련한 팀을 포함한 개발자들이 안전 목표를 구체적이고 실행 가능한 규칙으로 전환하는 데 종종 어려움을 겪는다고 지적했다.
"이는 보호의 사각지대, 일관성 없는 적용, 또는 지나치게 광범위한 필터링으로 이어질 수 있습니다,"라고 회사는 설명했다. "명확하고 잘 정의된 정책은 효과적인 안전 시스템을 위한 핵심 기반입니다."
오픈AI는 이러한 정책이 AI 안전이라는 복잡한 과제에 대한 완벽한 해결책은 아니라는 점을 인정한다. 그러나 이 정책들은 자녀 보호 기능이나 연령 예측과 같은 제품 수준의 안전 장치 등 기존 노력을 기반으로 한다. 지난해 오픈AI는 18세 미만 사용자와 AI 모델이 어떻게 상호작용해야 하는지를 다루기 위해 대규모 언어 모델 가이드라인(일명 '모델 스펙')을 업데이트했다.
하지만 OpenAI 자체의 기록이 흠잡을 데 없는 것은 아닙니다. 이 회사는 ChatGPT를 과도하게 사용한 후 자살로 생을 마감한 이들의 유가족들로부터 여러 건의 소송을 당하고 있습니다. 이러한 유해한 관계는 종종 사용자가 챗봇의 안전 장치를 우회한 후에 발생하며, 어떤 모델의 안전 장치도 완전히 뚫리지 않는 것은 아닙니다. 그럼에도 불구하고, 이러한 새로운 정책들은 특히 독립 개발자들을 지원하는 측면에서 한 걸음 전진한 것입니다.
관련 기사
Ramp의 데이터에 따르면 Anthropic은 이제 OpenAI보다 더 많은 기업 고객을 보유하고 있습니다.
Anthropic은 이번 달 핀테크 기업 Ramp의 AI 인덱스에 따르면 검증된 비즈니스 고객 수에서 OpenAI를 처음으로 앞질렀다.Ramp의 고객 지출 데이터에 따르면, 참여 기업의 34.4%가 Anthropic 서비스에 대해 지불하고 있으며 이는 다른 모든 AI 연구소를 앞서는 수치이고, 32.3%는 OpenAI에 대해 지불한다.이는 Anthropic이 선두를 차지한 첫 번째 사례이다.“Anthropic은 이미 금융, 기술, 전문 서
인도가 앱 다운로드에서 수익화 단계로 전환하며 현지인들이 디지털 서비스에 대한 대금을 지불하기 시작함
인도는 한때 전 세계 앱 다운로드의 최상위 허브였으나 수익 창출에는 어려움을 겪었습니다. 그러나 사용자가 AI, 엔터테인먼트 및 프리미엄 디지털 서비스에 더 많이 투자하면서 이러한 역학이 변화하고 있습니다.Sensor Tower에 따르면 인도의 모바일 앱 소비 지출은 2분기 기록적인 3억 4,500만 달러를 기록하며 전년 대비 35% 증가했습니다. 이 정보 기업은 성장이 이제 생성형 AI, 스트리밍 및 생산성 도구들에 의해 주도되고 있으며, 이
OpenAI, 주 법무장관들의 조사 대상에 오르다
주 법무장관들로 구성된 그룹이 오픈에이아이(OpenAI)에 대한 조사를 시작했다고 보도된다.월스트리트저널(WSJ)에 따르면, 이 회사는 금요일 뉴욕주 법무장관으로부터 소환장을 받았다. 이 요청은 광고 관행, 사용자 참여 및 유지, 모델의 아첨 현상(sycophancy), 소비자 및 건강 데이터 처리, 미성년자와 고령자 대우를 포함한 다양한 이슈에 관한 문서를 포함한다.TechCrunch은 오픈에이아이와 뉴욕주 법무장관 사무소에 논평을 요청했
관련 특별 주제 추천
디자인과 예술
최고의 AI 일러스트레이션 도구: 편집용 장면과 표지 아트를 더 빠르게 제작하세요
2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.
10 도구
xix.ai
교육 및 학습
시험 준비를 위한 최고의 AI 과외 선생님: 수학, 과학, 영어 실전 연습
2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!
10 도구
xix.ai
재원
개인 자금 관리를 위한 AI 예산 계획 도구
2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!
11 도구
xix.ai
건강과 웰니스
AI 수면 추적 어시스턴트: 더 나은 취침 습관으로 회복력 향상
2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.
10 도구
xix.ai
데이터 분석
제품 및 매출 분석을 위한 AI SQL 코파일럿
2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!
14 도구
xix.ai
교육 및 학습
배움을 돕는 최고의 AI 숙제 도우미: 단순한 정답이 아닌 개념을 익히세요
2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.
10 도구
xix.ai
의견 (1)
0/500
![JuanCarter]()
Interesting move by OpenAI, but I wonder if these prompts will actually be effective or just a PR stunt. Teen safety is important, but relying on open-source tools might have loopholes. 🤔
화요일, OpenAI는 개발자들이 청소년을 위한 애플리케이션의 안전성을 높일 수 있도록 돕기 위해 고안된 일련의 프롬프트를 공개했다고 발표했습니다. 이 AI 연구소는 이러한 청소년 안전 정책이 자사의 오픈 웨이트 안전 모델인 gpt-oss-safeguard와 호환된다고 밝혔습니다.
개발자들은 청소년을 위한 AI 안전성을 어떻게 개선할지 처음부터 고민할 필요 없이, 이 프롬프트를 활용해 애플리케이션을 강화할 수 있습니다. 이 프롬프트는 노골적인 폭력 및 성적 콘텐츠, 유해한 신체 이미지 이상과 행동, 위험한 활동 및 챌린지, 로맨틱하거나 폭력적인 역할극 시나리오, 연령 제한이 있는 제품 및 서비스와 같은 문제들을 다룹니다.
이 안전 정책들은 프롬프트 형태로 제작되어 'gpt-oss-safeguard' 이외의 모델에서도 쉽게 작동하도록 설계되었으나, OpenAI의 자체 생태계 내에서 가장 효과적일 것으로 보입니다.
OpenAI는 이러한 프롬프트를 개발하기 위해 AI 안전 단체인 Common Sense Media 및 everyone.ai와 협력했다고 밝혔습니다.
커먼 센스 미디어(Common Sense Media)의 AI 및 디지털 평가 책임자인 로비 토니(Robbie Torney)는 성명을 통해 "이러한 프롬프트 기반 정책은 생태계 전반에 걸쳐 의미 있는 안전 기준을 확립하는 데 도움이 됩니다. 오픈 소스이기 때문에 시간이 지남에 따라 조정하고 개선할 수 있습니다"라고 말했습니다.
OpenAI는 자사 블로그를 통해 노련한 팀을 포함한 개발자들이 안전 목표를 구체적이고 실행 가능한 규칙으로 전환하는 데 종종 어려움을 겪는다고 지적했다.
"이는 보호의 사각지대, 일관성 없는 적용, 또는 지나치게 광범위한 필터링으로 이어질 수 있습니다,"라고 회사는 설명했다. "명확하고 잘 정의된 정책은 효과적인 안전 시스템을 위한 핵심 기반입니다."
오픈AI는 이러한 정책이 AI 안전이라는 복잡한 과제에 대한 완벽한 해결책은 아니라는 점을 인정한다. 그러나 이 정책들은 자녀 보호 기능이나 연령 예측과 같은 제품 수준의 안전 장치 등 기존 노력을 기반으로 한다. 지난해 오픈AI는 18세 미만 사용자와 AI 모델이 어떻게 상호작용해야 하는지를 다루기 위해 대규모 언어 모델 가이드라인(일명 '모델 스펙')을 업데이트했다.
하지만 OpenAI 자체의 기록이 흠잡을 데 없는 것은 아닙니다. 이 회사는 ChatGPT를 과도하게 사용한 후 자살로 생을 마감한 이들의 유가족들로부터 여러 건의 소송을 당하고 있습니다. 이러한 유해한 관계는 종종 사용자가 챗봇의 안전 장치를 우회한 후에 발생하며, 어떤 모델의 안전 장치도 완전히 뚫리지 않는 것은 아닙니다. 그럼에도 불구하고, 이러한 새로운 정책들은 특히 독립 개발자들을 지원하는 측면에서 한 걸음 전진한 것입니다.
Ramp의 데이터에 따르면 Anthropic은 이제 OpenAI보다 더 많은 기업 고객을 보유하고 있습니다.
Anthropic은 이번 달 핀테크 기업 Ramp의 AI 인덱스에 따르면 검증된 비즈니스 고객 수에서 OpenAI를 처음으로 앞질렀다.Ramp의 고객 지출 데이터에 따르면, 참여 기업의 34.4%가 Anthropic 서비스에 대해 지불하고 있으며 이는 다른 모든 AI 연구소를 앞서는 수치이고, 32.3%는 OpenAI에 대해 지불한다.이는 Anthropic이 선두를 차지한 첫 번째 사례이다.“Anthropic은 이미 금융, 기술, 전문 서
인도가 앱 다운로드에서 수익화 단계로 전환하며 현지인들이 디지털 서비스에 대한 대금을 지불하기 시작함
인도는 한때 전 세계 앱 다운로드의 최상위 허브였으나 수익 창출에는 어려움을 겪었습니다. 그러나 사용자가 AI, 엔터테인먼트 및 프리미엄 디지털 서비스에 더 많이 투자하면서 이러한 역학이 변화하고 있습니다.Sensor Tower에 따르면 인도의 모바일 앱 소비 지출은 2분기 기록적인 3억 4,500만 달러를 기록하며 전년 대비 35% 증가했습니다. 이 정보 기업은 성장이 이제 생성형 AI, 스트리밍 및 생산성 도구들에 의해 주도되고 있으며, 이
OpenAI, 주 법무장관들의 조사 대상에 오르다
주 법무장관들로 구성된 그룹이 오픈에이아이(OpenAI)에 대한 조사를 시작했다고 보도된다.월스트리트저널(WSJ)에 따르면, 이 회사는 금요일 뉴욕주 법무장관으로부터 소환장을 받았다. 이 요청은 광고 관행, 사용자 참여 및 유지, 모델의 아첨 현상(sycophancy), 소비자 및 건강 데이터 처리, 미성년자와 고령자 대우를 포함한 다양한 이슈에 관한 문서를 포함한다.TechCrunch은 오픈에이아이와 뉴욕주 법무장관 사무소에 논평을 요청했
2026년 최신 최고 평점 AI 일러스트레이션 도구: 저희가 엄선한 이 목록에는 멋진 편집용 장면과 눈길을 사로잡는 표지 아트를 빠르게 제작할 수 있는, 강력하고 정교하게 설계된 최고의 도구들이 포함되어 있습니다. 각 도구는 엄격한 실전 테스트를 거쳤으며, 무료 버전과 유료 버전을 비교해 드려 여러분의 워크플로우에 딱 맞는 도구를 찾으실 수 있도록 도와드립니다. 오늘 바로 이 필수 솔루션을 사용해 AI의 장점을 극대화하고 창의적인 생산성을 높여보세요. 지금 XIX.AI에서 확인해 보세요.
10 도구
xix.ai
2026년 최신 최고 평점을 받은 최고의 시험 대비 AI 튜터들이 XIX.AI에 모였습니다! 저희가 엄선한 이 목록에는 무료와 유료 서비스 비교, 실제 시험 문제, 매주 업데이트되는 순위 정보를 제공하는 획기적인 도구들이 포함되어 있습니다. 이 도구들은 여러분의 글쓰기 효율을 높이고, 복잡한 주제 학습을 단순화하며, 학업적 잠재력을 최대한 발휘할 수 있도록 도와줍니다. 지금 바로 탐색하여 여러분에게 딱 맞는 시험 준비 도구를 찾아보세요. 오늘부터 창작을 시작하여 AI의 장점을 최대한 활용하세요!
10 도구
xix.ai
2026년 최신 최고의 평점 높은 AI 예산 관리 도구들이 XIX.AI에서 만나보세요! 이 선별된 컬렉션은 실제 테스트를 수행하고, 지출 습관을 이해하며, 생산성을 높일 수 있는 맞춤형 계획을 수립할 수 있도록 도와주는 강력한 혁신 솔루션을 제공합니다. 무료와 유료 버전을 비교하고 상세한 순위도 확인하세요. 돈 관리를 간소화하고 AI의 이점을 극대화하도록 설계된 필수 도구들을 지금 바로 탐색해 보세요!
11 도구
xix.ai
2026년 최신의 우수하고 평점이 높은 AI 수면 추적 보조 도구들을 엄선하여 최상의 회복 효과를 제공합니다. 완전히 새롭게 업데이트된 이 주간 가이드에는 실제 환경에서의 테스트 결과, 무료 버전과 유료 버전의 비교 내용, 그리고 상세한 순위 정보가 담겨 있어 수면의 질을 향상시키고 보다 건강한 취침 습관을 형성하는 데 도움이 되는 최적의 솔루션을 찾는 데 유용합니다. 지금 바로 XIX.AI에서 확인하여 AI 기술의 장점을 활용해 보세요.
10 도구
xix.ai
2026년 제품 및 매출 분석을 위한 최신 최고 평점 AI SQL 코파일럿! XIX.AI는 매주 업데이트되는 랭킹을 통해 실제 환경에서 검증된, 강력하고 판도를 바꿀 만한 필수 도구를 엄선했습니다. 이 도구들은 데이터 분석 속도를 높이고, 복잡한 쿼리를 간소화하며, 정확한 인사이트를 도출하여 더 현명한 비즈니스 의사결정을 내릴 수 있도록 지원함으로써 사용자의 생산성을 획기적으로 향상시킵니다. 지금 바로 살펴보고, 여러분의 AI 경쟁력을 극대화할 완벽한 도구를 찾아보세요!
14 도구
xix.ai
2026년 최신 최고 평점을 받은 AI 숙제 도우미: 단순한 정답 제공이 아닌 핵심 개념을 가르쳐 주는 학생들을 위한 강력한 도구. 꼭 사용해 봐야 할 엄선된 목록, 매주 업데이트, 무료 vs 유료 비교, 실제 사용 후기, 정확한 순위 정보를 통해 여러분의 학습 잠재력을 최대한 발휘할 수 있도록 도와드립니다. 지금 바로 살펴보고 더 스마트한 공부를 위한 완벽한 도구를 찾아보세요.
10 도구
xix.ai
Interesting move by OpenAI, but I wonder if these prompts will actually be effective or just a PR stunt. Teen safety is important, but relying on open-source tools might have loopholes. 🤔
