OpenAI, ChatGPT의 지나치게 호의적인 응답 후 수정 약속

OpenAI는 업데이트로 인해 ChatGPT가 지나치게 아부하는 응답을 일으킨 후 AI 모델 업데이트 프로세스를 수정할 계획입니다. 이는 광범위한 사용자 피드백을 촉발했습니다.
지난 주말, ChatGPT의 기반 모델인 GPT-4o 업데이트 이후, 소셜 미디어에서 사용자들은 플랫폼이 유해한 아이디어에도 과도한 긍정을 보이며 응답한다고 보고했으며, 이는 바이럴 밈을 일으켰습니다. 스크린샷은 ChatGPT가 의심스러운 결정을 지지하는 모습을 보여주었습니다.
일요일, CEO Sam Altman은 X에서 이 문제를 언급하며 즉각적인 조치를 약속했습니다. 화요일까지 그는 GPT-4o 업데이트를 롤백하고 모델의 행동을 개선하기 위한 작업을 진행 중이라고 발표했습니다.
화요일 사후 분석과 금요일 블로그 포스트에서 OpenAI는 유사한 문제를 방지하기 위해 모델 배포 접근 방식을 변경한다고 밝혔습니다.
OpenAI는 선택적 “알파 단계”를 도입하여 일부 ChatGPT 사용자들이 모델을 테스트하고 정식 출시 전에 피드백을 제공할 수 있도록 할 것입니다. 또한 회사는 향후 업데이트의 “알려진 한계”를 공개하고, 성격, 기만, 신뢰성, 환각과 같은 문제를 해결하기 위해 안전 검토를 강화하며, 이를 중요한 출시 차단 요인으로 취급할 계획입니다.
“우리는 ChatGPT 모델 업데이트에 대해, 사소하거나 중요한 경우에도 투명할 것입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “문제를 완전히 측정할 수 없더라도, 우리는 대리 지표나 질적 신호를 사용하여 긍정적인 A/B 테스트 결과에도 불구하고 필요할 때 출시를 중단할 것입니다.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
이러한 변화는 ChatGPT에 대한 의존도가 증가함에 따라 이루어졌습니다. 최근 Express Legal Funding 설문조사에 따르면 미국 성인의 60%가 조언이나 정보를 위해 ChatGPT를 사용합니다. 방대한 사용자 기반을 가진 이 플랫폼에서 아부, 환각 및 기타 결함과 같은 문제는 중대한 결과를 초래합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
이번 주 초, OpenAI는 실시간 사용자 피드백을 테스트하여 ChatGPT 상호작용을 형성할 계획을 발표했습니다. 회사는 아부를 줄이고, 여러 모델 성격 옵션을 제공하며, 안전 조치를 강화하고, 과도한 동의 이상의 문제를 포착하기 위해 평가를 확장할 계획입니다.
“우리는 사람들이 이제 개인적인 조언을 위해 ChatGPT에 얼마나 깊이 의존하는지를 알게 되었습니다. 이는 1년 전 우리가 완전히 예상하지 못했던 트렌드입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “AI와 사회가 함께 진화함에 따라, 우리는 이 사용 사례를 안전 노력의 우선순위로 삼아 더 큰 주의를 기울이고 있습니다.”
관련 기사
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
관련 특별 주제 추천
의견 (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI는 업데이트로 인해 ChatGPT가 지나치게 아부하는 응답을 일으킨 후 AI 모델 업데이트 프로세스를 수정할 계획입니다. 이는 광범위한 사용자 피드백을 촉발했습니다.
지난 주말, ChatGPT의 기반 모델인 GPT-4o 업데이트 이후, 소셜 미디어에서 사용자들은 플랫폼이 유해한 아이디어에도 과도한 긍정을 보이며 응답한다고 보고했으며, 이는 바이럴 밈을 일으켰습니다. 스크린샷은 ChatGPT가 의심스러운 결정을 지지하는 모습을 보여주었습니다.
일요일, CEO Sam Altman은 X에서 이 문제를 언급하며 즉각적인 조치를 약속했습니다. 화요일까지 그는 GPT-4o 업데이트를 롤백하고 모델의 행동을 개선하기 위한 작업을 진행 중이라고 발표했습니다.
화요일 사후 분석과 금요일 블로그 포스트에서 OpenAI는 유사한 문제를 방지하기 위해 모델 배포 접근 방식을 변경한다고 밝혔습니다.
OpenAI는 선택적 “알파 단계”를 도입하여 일부 ChatGPT 사용자들이 모델을 테스트하고 정식 출시 전에 피드백을 제공할 수 있도록 할 것입니다. 또한 회사는 향후 업데이트의 “알려진 한계”를 공개하고, 성격, 기만, 신뢰성, 환각과 같은 문제를 해결하기 위해 안전 검토를 강화하며, 이를 중요한 출시 차단 요인으로 취급할 계획입니다.
“우리는 ChatGPT 모델 업데이트에 대해, 사소하거나 중요한 경우에도 투명할 것입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “문제를 완전히 측정할 수 없더라도, 우리는 대리 지표나 질적 신호를 사용하여 긍정적인 A/B 테스트 결과에도 불구하고 필요할 때 출시를 중단할 것입니다.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
이러한 변화는 ChatGPT에 대한 의존도가 증가함에 따라 이루어졌습니다. 최근 Express Legal Funding 설문조사에 따르면 미국 성인의 60%가 조언이나 정보를 위해 ChatGPT를 사용합니다. 방대한 사용자 기반을 가진 이 플랫폼에서 아부, 환각 및 기타 결함과 같은 문제는 중대한 결과를 초래합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
이번 주 초, OpenAI는 실시간 사용자 피드백을 테스트하여 ChatGPT 상호작용을 형성할 계획을 발표했습니다. 회사는 아부를 줄이고, 여러 모델 성격 옵션을 제공하며, 안전 조치를 강화하고, 과도한 동의 이상의 문제를 포착하기 위해 평가를 확장할 계획입니다.
“우리는 사람들이 이제 개인적인 조언을 위해 ChatGPT에 얼마나 깊이 의존하는지를 알게 되었습니다. 이는 1년 전 우리가 완전히 예상하지 못했던 트렌드입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “AI와 사회가 함께 진화함에 따라, 우리는 이 사용 사례를 안전 노력의 우선순위로 삼아 더 큰 주의를 기울이고 있습니다.”
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





집






