Openai는 깊은 연구 API 통합을 지연시킵니다
동부 시간 오후 4:11에 업데이트됨: OpenAI는 백서의 표현이 잘못되었으며, 설득 연구가 깊은 연구 모델을 API를 통해 출시하는 결정과 관련이 있다는 오해를 불러일으켰다고 해명했습니다. 회사는 이후 백서를 수정하여 설득 연구가 깊은 연구 모델 출시 계획과 별개임을 명확히 했습니다. 원문은 아래에 계속됩니다:
OpenAI는 깊은 연구 도구 뒤에 있는 AI 모델을 개발자 API에 통합하는 것을 보류하기로 결정했습니다. 이들은 AI가 사람들의 행동과 신념에 영향을 미치는 능력과 관련된 위험을 더 잘 이해하기 위해 이 단계를 밟고 있습니다.
수요일에 발표된 백서에서 OpenAI는 "실제 설득 위험"을 평가하는 방법을 현재 업데이트 중이며, 예를 들어 대규모로 오해를 불러일으킬 수 있는 정보를 퍼뜨릴 가능성과 같은 위험을 평가한다고 언급했습니다.
회사는 깊은 연구 모델이 높은 계산 비용과 느린 처리 속도로 인해 대량 오정보 또는 허위 정보 캠페인에 적합하지 않다고 지적했습니다. 그러나 OpenAI는 AI가 해로운 설득 콘텐츠를 맞춤화할 가능성을 조사한 후 깊은 연구 모델을 API에 포함할지 결정할 계획입니다.
"우리가 설득에 대한 접근 방식을 재고하는 동안, 이 모델은 ChatGPT에만 배포되며 API에는 포함되지 않습니다,"라고 OpenAI는 밝혔습니다.
AI가 악의적인 의도로 거짓 또는 오해를 불러일으키는 정보를 퍼뜨리는 데 사용될 수 있다는 우려가 커지고 있습니다. 예를 들어, 지난해 전 세계적으로 정치적 딥페이크가 빠르게 확산되었습니다. 대만 선거일에 중국 공산당과 연계된 단체가 AI로 생성된 오디오를 통해 한 정치인이 친중국 후보를 지지하는 것처럼 오해를 불러일으켰습니다.
AI는 또한 사회 공학 공격에 점점 더 많이 사용되고 있습니다. 소비자들은 사기성 투자 계획을 홍보하는 유명인 딥페이크에 속고 있으며, 기업들은 딥페이크 사칭자들로 인해 수백만 달러의 손실을 입고 있습니다.
백서에서 OpenAI는 깊은 연구 모델의 설득력에 대한 여러 테스트 결과를 공유했습니다. 이 모델은 OpenAI가 최근 발표한 o3 "추론" 모델의 특화된 버전으로, 웹 브라우징과 데이터 분석에 최적화되어 있습니다.
한 테스트에서 깊은 연구 모델은 설득력 있는 논쟁을 만드는 과제에서 현재까지 출시된 모든 OpenAI 모델을 능가했지만, 인간 기준선은 초과하지 못했습니다. 또 다른 테스트에서 모델이 다른 모델(OpenAI의 GPT-4o)을 설득하여 결제를 하도록 시도했을 때, 역시 OpenAI의 다른 사용 가능한 모델들보다 더 나은 성과를 보였습니다.

깊은 연구 모델의 MakeMePay 점수, 모델이 다른 모델을 설득하여 현금을 지불하도록 만드는 능력을 테스트하는 벤치마크. 이미지 출처: OpenAI 그러나 깊은 연구 모델은 모든 설득력 테스트에서 탁월하지는 않았습니다. 백서에 따르면, GPT-4o가 코드워드를 공개하도록 설득하는 데 있어 GPT-4o 자체에 비해 덜 효과적이었습니다.OpenAI는 테스트 결과가 깊은 연구 모델의 능력의 "하한선"을 나타낼 수 있다고 제안했습니다. "추가적인 스캐폴딩 또는 개선된 능력 유도 방식은 관찰된 성능을 상당히 향상시킬 수 있다"고 회사는 언급했습니다.
우리는 OpenAI에 추가 세부 사항을 문의했으며, 응답을 받으면 이 게시물을 업데이트할 예정입니다.
한편, OpenAI의 경쟁사 중 적어도 하나는 주저하지 않고 있습니다. Perplexity는 중국 AI 연구소 DeepSeek의 R1 모델을 맞춤화한 버전으로 구동되는 Deep Research를 Sonar 개발자 API에 출시한다고 발표했습니다.
관련 기사
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
관련 특별 주제 추천
의견 (41)
0/500
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
동부 시간 오후 4:11에 업데이트됨: OpenAI는 백서의 표현이 잘못되었으며, 설득 연구가 깊은 연구 모델을 API를 통해 출시하는 결정과 관련이 있다는 오해를 불러일으켰다고 해명했습니다. 회사는 이후 백서를 수정하여 설득 연구가 깊은 연구 모델 출시 계획과 별개임을 명확히 했습니다. 원문은 아래에 계속됩니다:
OpenAI는 깊은 연구 도구 뒤에 있는 AI 모델을 개발자 API에 통합하는 것을 보류하기로 결정했습니다. 이들은 AI가 사람들의 행동과 신념에 영향을 미치는 능력과 관련된 위험을 더 잘 이해하기 위해 이 단계를 밟고 있습니다.
수요일에 발표된 백서에서 OpenAI는 "실제 설득 위험"을 평가하는 방법을 현재 업데이트 중이며, 예를 들어 대규모로 오해를 불러일으킬 수 있는 정보를 퍼뜨릴 가능성과 같은 위험을 평가한다고 언급했습니다.
회사는 깊은 연구 모델이 높은 계산 비용과 느린 처리 속도로 인해 대량 오정보 또는 허위 정보 캠페인에 적합하지 않다고 지적했습니다. 그러나 OpenAI는 AI가 해로운 설득 콘텐츠를 맞춤화할 가능성을 조사한 후 깊은 연구 모델을 API에 포함할지 결정할 계획입니다.
"우리가 설득에 대한 접근 방식을 재고하는 동안, 이 모델은 ChatGPT에만 배포되며 API에는 포함되지 않습니다,"라고 OpenAI는 밝혔습니다.
AI가 악의적인 의도로 거짓 또는 오해를 불러일으키는 정보를 퍼뜨리는 데 사용될 수 있다는 우려가 커지고 있습니다. 예를 들어, 지난해 전 세계적으로 정치적 딥페이크가 빠르게 확산되었습니다. 대만 선거일에 중국 공산당과 연계된 단체가 AI로 생성된 오디오를 통해 한 정치인이 친중국 후보를 지지하는 것처럼 오해를 불러일으켰습니다.
AI는 또한 사회 공학 공격에 점점 더 많이 사용되고 있습니다. 소비자들은 사기성 투자 계획을 홍보하는 유명인 딥페이크에 속고 있으며, 기업들은 딥페이크 사칭자들로 인해 수백만 달러의 손실을 입고 있습니다.
백서에서 OpenAI는 깊은 연구 모델의 설득력에 대한 여러 테스트 결과를 공유했습니다. 이 모델은 OpenAI가 최근 발표한 o3 "추론" 모델의 특화된 버전으로, 웹 브라우징과 데이터 분석에 최적화되어 있습니다.
한 테스트에서 깊은 연구 모델은 설득력 있는 논쟁을 만드는 과제에서 현재까지 출시된 모든 OpenAI 모델을 능가했지만, 인간 기준선은 초과하지 못했습니다. 또 다른 테스트에서 모델이 다른 모델(OpenAI의 GPT-4o)을 설득하여 결제를 하도록 시도했을 때, 역시 OpenAI의 다른 사용 가능한 모델들보다 더 나은 성과를 보였습니다.

OpenAI는 테스트 결과가 깊은 연구 모델의 능력의 "하한선"을 나타낼 수 있다고 제안했습니다. "추가적인 스캐폴딩 또는 개선된 능력 유도 방식은 관찰된 성능을 상당히 향상시킬 수 있다"고 회사는 언급했습니다.
우리는 OpenAI에 추가 세부 사항을 문의했으며, 응답을 받으면 이 게시물을 업데이트할 예정입니다.
한편, OpenAI의 경쟁사 중 적어도 하나는 주저하지 않고 있습니다. Perplexity는 중국 AI 연구소 DeepSeek의 R1 모델을 맞춤화한 버전으로 구동되는 Deep Research를 Sonar 개발자 API에 출시한다고 발표했습니다.
[[IMG_BASE64_PLACEHOLDER]] Sam Altman, AI의 감속 논란에 불을 붙이다
Apple Podcasts에서 듣기Spotify에서 듣기OpenAI의 CEO 샘 알트만은 최근 사회가 “일부 새로운 능력 수준 주변에서 단단히 경화될” 시간을 주기 위해 “AI 개발 속도를 조절할 때”가 되었을 수 있다고 제안했습니다.TechCrunch의 Equity 팟캐스트 최신 회차에서 Kirsten Korosec, Sean O’Kane, 그리고 저는 Altman의 발언이 최근 해킹 사건, 즉 OpenAI 에이전트가 Hugging Fac
OpenAI, 애플의 영업비밀 소송에 맞서다
OpenAI는 화요일 애플의 영업비밀 주장에 대해 반박하며, 이 소송이 근거가 없다고 주장했습니다.“우리는 이러한 주장을 심각하게 받아들이지만 이를 뒷받침하는 증거는 발견하지 못했습니다.”라고 OpenAI는 X에서 블룸버그의 에드 루드로우가 보도한 바와 같이 언급했습니다. “우리는 공정한 경쟁과 어디서나 일할 수 있는 자유를 지지하며, 전 세계 사용자에게 힘을 실어주는 기술을 만드는 데 집중하고 있습니다.”이는 금요일 미국 캘리포니아 북부
OpenAI의 로봇 부문 수장 캐틀린 칼리노우스키가 펜타곤과의 파트너십을 이유로 사임하다
오픈AI의 로봇공학 책임자 캐틀린 칼리노우스키는 회사의 국방부와의 논란이 된 파트너십 이후 사임했다.“이것은 쉬운 결정이 아니었다,” 칼리노우스스는 소셜 미디어 성명에서 설명했다. “AI가 국가 안보에서 중요한 역할을 하지만, 사법 감독 없이 미국인을 감시하고 인간 승인 없이 치명적 자율성을_deploy_하는 것은 훨씬 신중한 고려가 필요한 경계선이다.”메타의 증강현실 안경 부문을 이끌었던 것으로 알려진 칼리노우스스는 2024년 11월 오픈
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.





집






