OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.
교육적 관점에서 볼 때, ‘ChatGPT for Teens’는 호기심과 문제 해결 능력을 키우는 데 초점을 맞춘 다양한 도구와 함께 ‘학습 모드(Study Mode)’를 도입하여, 사용자가 즉각적인 답을 찾는 대신 콘텐츠에 깊이 몰입하도록 장려합니다.
오픈AI의 블로그 게시물에 따르면, ‘학습 모드’는 청소년들이 복잡한 내용을 이해할 수 있도록 안내 질문과 단계별 지원을 제공합니다. 또한 이 플랫폼에는 시스템이 잠재적인 부정행위를 감지하면 작동하는 숙제 알림 기능이 포함되어 있어, 사용자에게 대신 ‘학습 모드’로 전환하도록 안내합니다.
이 회사는 또한 이 애플리케이션에 퀴즈와 학습 시각화 기능이 포함되어 있으며, 부모나 보호자가 ‘학습 모드’를 기본 설정으로 활성화할 수 있는 제어 기능도 제공한다고 밝혔다.
하지만 청소년들이 이를 따르지 않기로 마음먹을 경우, 이러한 안전 장치를 얼마나 쉽게 우회할 수 있을지는 여전히 불확실합니다. 어린 사용자들은 종종 부모의 통제나 기타 디지털 제한을 우회하는 데 능숙하기 때문입니다. ChatGPT의 청소년 모드가 철저한 테스트를 거치기 전까지는 이러한 안전 조치의 실질적인 효과가 불분명할 것입니다.

이미지 출처:OpenAI
OpenAI는 ‘ChatGPT for Teens’에서 앱에 적합한 보호 기능이 기본적으로 활성화되어 있으며, 이는 유해하거나 발달 단계에 부적절한 콘텐츠에 대한 노출을 최소화하기 위해 설계되었다고 밝혔습니다. 이러한 안전 장치는 OpenAI의 모델 사양(Model Spec) 내 ‘18세 미만 원칙(Under-18 Principles)’에 근거하며, 회사는 이 원칙이 발달 과학 및 전문가의 지침을 바탕으로 수립되었다고 주장합니다.
부모는 이전에 도입된 가족 관리 도구와 자녀 보호 기능을 활용하여 설정을 관리하고, 안전 알림을 수신하며, ‘조용한 시간(Quiet Hours)’을 설정하는 등 다양한 기능을 이용할 수 있습니다.
OpenAI는 청소년들이 AI의 작동 원리, AI를 지시하거나 질문하는 방법, 효과적인 활용법 등을 더 잘 이해할 수 있도록 돕기 위해 CodeAI와 파트너십을 체결했다고 발표했습니다. 교육 환경에서는 OpenAI가 이미 ‘교사용 ChatGPT(ChatGPT for Teachers)’를 제공하여 학교가 기관 차원에서 AI에 대한 접근 권한을 관리하고 지원을 받을 수 있도록 하고 있습니다.
관련 기사
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
OpenAI는 Anthropic과 비즈니스 사용자들 사이에서 격차를 좁혔습니다, 새로운 데이터가 보여줍니다
OpenAI와 Anthropic이 예상 초기공개(IPO)와 상세 재무보고서 공개에서 여전히 멀어 있는 상황에서, 우리는 그들의 비즈니스 성과를 측정하기 위해 대체 지표에 의존해야 합니다. 기업용 신용카드 및 비용 관리 플랫폼인 램프(Ramp)는 최근 OpenAI가 미국 기업들 사이에서 Anthropic과의 격차를 빠르게 좁히고 있음을 보여주는 설득력 있는 데이터를 발표했습니다.OpenAI는 소비자와 기업 모두에게서 지배적인 지위를 차지하고 있
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
관련 특별 주제 추천
의견 (0)
0/500
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.
교육적 관점에서 볼 때, ‘ChatGPT for Teens’는 호기심과 문제 해결 능력을 키우는 데 초점을 맞춘 다양한 도구와 함께 ‘학습 모드(Study Mode)’를 도입하여, 사용자가 즉각적인 답을 찾는 대신 콘텐츠에 깊이 몰입하도록 장려합니다.
오픈AI의 블로그 게시물에 따르면, ‘학습 모드’는 청소년들이 복잡한 내용을 이해할 수 있도록 안내 질문과 단계별 지원을 제공합니다. 또한 이 플랫폼에는 시스템이 잠재적인 부정행위를 감지하면 작동하는 숙제 알림 기능이 포함되어 있어, 사용자에게 대신 ‘학습 모드’로 전환하도록 안내합니다.
이 회사는 또한 이 애플리케이션에 퀴즈와 학습 시각화 기능이 포함되어 있으며, 부모나 보호자가 ‘학습 모드’를 기본 설정으로 활성화할 수 있는 제어 기능도 제공한다고 밝혔다.
하지만 청소년들이 이를 따르지 않기로 마음먹을 경우, 이러한 안전 장치를 얼마나 쉽게 우회할 수 있을지는 여전히 불확실합니다. 어린 사용자들은 종종 부모의 통제나 기타 디지털 제한을 우회하는 데 능숙하기 때문입니다. ChatGPT의 청소년 모드가 철저한 테스트를 거치기 전까지는 이러한 안전 조치의 실질적인 효과가 불분명할 것입니다.

이미지 출처:OpenAI
OpenAI는 ‘ChatGPT for Teens’에서 앱에 적합한 보호 기능이 기본적으로 활성화되어 있으며, 이는 유해하거나 발달 단계에 부적절한 콘텐츠에 대한 노출을 최소화하기 위해 설계되었다고 밝혔습니다. 이러한 안전 장치는 OpenAI의 모델 사양(Model Spec) 내 ‘18세 미만 원칙(Under-18 Principles)’에 근거하며, 회사는 이 원칙이 발달 과학 및 전문가의 지침을 바탕으로 수립되었다고 주장합니다.
부모는 이전에 도입된 가족 관리 도구와 자녀 보호 기능을 활용하여 설정을 관리하고, 안전 알림을 수신하며, ‘조용한 시간(Quiet Hours)’을 설정하는 등 다양한 기능을 이용할 수 있습니다.
OpenAI는 청소년들이 AI의 작동 원리, AI를 지시하거나 질문하는 방법, 효과적인 활용법 등을 더 잘 이해할 수 있도록 돕기 위해 CodeAI와 파트너십을 체결했다고 발표했습니다. 교육 환경에서는 OpenAI가 이미 ‘교사용 ChatGPT(ChatGPT for Teachers)’를 제공하여 학교가 기관 차원에서 AI에 대한 접근 권한을 관리하고 지원을 받을 수 있도록 하고 있습니다.
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
OpenAI는 Anthropic과 비즈니스 사용자들 사이에서 격차를 좁혔습니다, 새로운 데이터가 보여줍니다
OpenAI와 Anthropic이 예상 초기공개(IPO)와 상세 재무보고서 공개에서 여전히 멀어 있는 상황에서, 우리는 그들의 비즈니스 성과를 측정하기 위해 대체 지표에 의존해야 합니다. 기업용 신용카드 및 비용 관리 플랫폼인 램프(Ramp)는 최근 OpenAI가 미국 기업들 사이에서 Anthropic과의 격차를 빠르게 좁히고 있음을 보여주는 설득력 있는 데이터를 발표했습니다.OpenAI는 소비자와 기업 모두에게서 지배적인 지위를 차지하고 있
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh





집






