억만장자들이 이번 주 AI 업데이트에서 일자리 자동화에 대해 논의하다

안녕하세요, TechCrunch의 AI 뉴스레터에 다시 오신 것을 환영합니다! 아직 구독하지 않으셨다면, 여기에서 구독하여 매주 수요일마다 받은편지함으로 바로 받아볼 수 있습니다.

지난주에는 잠시 쉬었지만, 그럴만한 이유가 있었습니다—중국의 AI 기업 DeepSeek의 갑작스러운 급등으로 AI 뉴스 사이클이 뜨거웠기 때문입니다. 정말 정신없었지만, 이제 우리가 돌아왔고, OpenAI의 최신 소식을 여러분께 전할 적절한 타이밍입니다.

주말 동안 OpenAI CEO Sam Altman은 SoftBank의 수장인 Masayoshi Son과 대화를 나누기 위해 도쿄를 방문했습니다. OpenAI의 큰 투자자인 SoftBank는 미국에서 대규모 데이터 센터 프로젝트에 자금을 지원하기로 약속했습니다. 그래서 Altman이 Son과 시간을 보낸 것이 놀랍지 않습니다.

그들은 무엇에 대해 이야기했을까요? 보도에 따르면, AI "에이전트"와 이것이 작업 프로세스를 어떻게 간소화할 수 있는지에 관한 것이었습니다. Son은 폭탄선언을 하며 SoftBank가 OpenAI 제품에 연간 30억 달러를 투자할 계획이라고 발표했습니다. 또한 그들은 "Cristal Intelligence"라는 것을 함께 만들어 수백만 개의 사무직 일자리를 자동화하려고 합니다.

"모든 작업과 워크플로우를 자동화하고 자율화함으로써 SoftBank Corp.는 비즈니스와 서비스를 혁신하고 새로운 가치를 창출할 것입니다," SoftBank는 월요일 보도자료에서 밝혔습니다.

TechCrunch Sessions: AI에서 전시

TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자들에게 여러분이 만든 것을 보여주세요—지갑을 털지 않고도 가능합니다. 자리는 5월 9일까지 또는 테이블이 남아있는 동안 이용 가능합니다.

TechCrunch Sessions: AI에서 전시

TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자들에게 여러분이 만든 것을 보여주세요—지갑을 털지 않고도 가능합니다. 자리는 5월 9일까지 또는 테이블이 남아있는 동안 이용 가능합니다.

버클리, CA | 6월 5일 지금 예약

하지만 한 발짝 물러서서 이 모든 것의 인간적인 측면을 생각해봅시다. Klarna의 Sebastian Siemiatkowski 같은 CEO들이 AI가 인간을 대체한다고 자랑하고, Son이 비슷한 의견을 내놓을 때, 부와 효율성의 비전에 쉽게 빠져들 수 있습니다. 하지만 일자리를 잃게 될 근로자들은 어떨까요? 특히 AI를 이끄는 사람들이 직원에 대한 영향보다 기업의 이익에 더 집중하는 것처럼 보일 때는 받아들이기 힘든 현실입니다.

조금 실망스럽지 않나요? OpenAI와 같은 회사와 SoftBank 같은 투자자들은 AI의 미래를 형성하고 있지만, 그들은 스포트라이트를 받으며 인력을 줄인 자동화된 비즈니스에 대해 이야기하는 데 시간을 보냅니다. 이해합니다, 그들은 자선단체가 아니라 비즈니스이고, AI 개발은 비용이 많이 듭니다. 하지만 인간적인 요소에 조금 더 관심을 보인다면, 사람들이 AI를 더 신뢰할지도 모릅니다.

생각해볼 문제입니다.

뉴스

• 심층 연구: OpenAI는 ChatGPT를 사용하여 복잡한 연구를 깊이 파고들 수 있도록 설계된 새로운 AI "에이전트"를 출시했습니다.
• O3-mini: OpenAI의 다른 소식으로, 그들은 새로운 AI "추론" 모델인 o3-mini를 출시했습니다. 가장 강력한 모델은 아니지만, 더 효율적이고 빠릅니다.
• EU, 위험한 AI 금지: 일요일부터 유럽연합은 "허용할 수 없는 위험" 또는 해를 끼치는 AI 시스템을 금지할 수 있으며, 여기에는 사회적 점수 매기기와 잠재의식 광고에 사용되는 시스템이 포함됩니다.
• AI "종말론자"에 관한 연극: 지난해 11월 Sam Altman의 OpenAI에서 잠시 축출된 사건에서 영감을 받아 AI "종말론자" 문화를 다룬 새로운 연극이 나왔습니다. 동료인 Dominic과 Rebecca가 초연을 보고 생각을 공유했습니다.
• 작물 수확량을 높이는 기술: Google의 X "문샷 팩토리"는 데이터와 머신러닝을 사용하여 작물 수확량을 개선하는 스타트업 Heritable Agriculture를 소개했습니다.

이번 주의 연구 논문

추론 모델은 과학과 수학에서 어려운 문제를 해결하는 데 뛰어납니다. 하지만 완벽하지 않습니다. Tencent 연구원의 연구는 이러한 모델의 "과소 사고"를 조사했으며, 여기서 모델이 유망한 사고 경로를 너무 빨리 포기합니다. 연구는 더 어려운 문제일수록 이런 현상이 더 자주 발생하여 모델이 해결책에 도달하지 않고 아이디어 사이를 오간다고 밝혔습니다.

연구자들은 모델이 각 추론 경로를 완전히 탐색하도록 장려하기 위해 "사고 전환 페널티"를 제안했으며, 이는 정확도를 향상시킬 수 있습니다.

이번 주의 모델

이미지 제공: YuE

TikTok의 ByteDance, 중국 AI 기업 Moonshot 등이 지원하는 팀이 프롬프트로 고품질 음악을 생성할 수 있는 새로운 오픈 모델 YuE를 출시했습니다. 이 모델은 보컬과 반주 트랙을 포함한 몇 분 길이의 노래를 만들 수 있으며, Apache 2.0 라이선스로 제공되어 상업적 사용이 무료입니다.

하지만 몇 가지 제약이 있습니다. YuE를 실행하려면 강력한 GPU가 필요하며, Nvidia RTX 4090으로 30초 노래를 생성하는 데 6분이 걸립니다. 또한 모델 훈련에 저작권이 있는 데이터가 사용되었는지에 대한 불확실성이 있어, 나중에 지적 재산권 문제가 발생할 수 있습니다.

잡다한 소식

이미지 제공: Anthropic

Anthropic은 AI "탈옥"을 더 잘 방어하기 위해 Constitutional Classifiers라는 새로운 기술을 개발했다고 주장합니다. 이 기술은 입력과 출력에 각각 하나씩 두 세트의 분류기 모델을 사용합니다. 입력 분류기는 잠재적 탈옥을 감지하기 위해 보호된 모델에 프롬프트를 추가하고, 출력 분류기는 응답에서 유해한 콘텐츠를 확인합니다.

Anthropic은 이 방법이 대부분의 탈옥을 잡아낼 수 있다고 말하지만, 단점도 있습니다. 각 쿼리가 25% 더 많은 계산을 요구하며, 보호된 모델은 무해한 질문에 응답할 가능성이 약간 낮아집니다.