Patronus AI는 AI 에이전트의 내구성을 시험할 수 있는 디지털 세계를 구축하기 위해 5천만 달러의 투자금을 확보했습니다.

AI 에이전트들은 점점 더 정교해지고 있으며, 단순히 질문에 답하는 수준에서 벗어나 독립적으로 복잡하고 다단계로 구성된 작업들을 수행하게 되고 있습니다.
그러나 이러한 에이전트들이 사용자를 대신해 여행 예약이나 재무 분석 업무를 처리할 만큼 신뢰할 수 있으려면, 모델 제공업체와 이를 개발하는 스타트업들은 다양한 상황에서도 안정적인 성능을 보장해야 합니다.
AI 연구소들은 자신들의 모델 역량을 입증하기 위해 종종 벤치마크 테스트에 의존하지만, 설령 에이전트 전용 벤치마크에서 높은 점수를 얻었다 하더라도 해당 AI가 실제 세계의 다양한 작업들을 정확하게 수행할 수 있다는 보장은 되지 않습니다.
2023년에 전 Meta AI 연구원인 아난드 카나판과 리베카 첸이 설립한 Patronus AI는 에이전트의 성능을 평가하기 위한 가상 디지털 환경을 만들어, 모델 제작자와 기업들이 모델을 더욱 정교하게 조정할 수 있도록 지원합니다.
샌프란시스코에 본사를 둔 이 스타트업은 명백히 중요한 니즈를 해결하고 있습니다. Notable Capital의 매니징 디렉터인 글렌 솔로몬에 따르면, 거의 모든 선도적인 AI 연구소와 수많은 신생 스타트업들이 이 회사의 가상 환경을 사용하고 있으며, 그 수요는 거의 충족될 기미가 보이지 않습니다.
Patronus의 매출은 지난 1년 동안 15배나 급증하면서 투자자들의 큰 관심을 끌고 있습니다. 지난 목요일, 이 회사는 Greenfield Partners가 주도하고 Notable Capital, Lightspeed, Datadog, Samsung이 참여하는 5천만 달러 규모의 시리즈 B 투자 유치를 발표했으며, 현재까지 총 조달 금액은 7천만 달러에 이릅니다.
Patronus는 ‘디지털 월드 모델’이라고 부르는 기술을 활용해 웹사이트와 내부 시스템의 복제본을 구축합니다. 이러한 환경에서 에이전트들은 강화 학습을 통해 훈련받은 후 스트레스 테스트를 거치는데, 여기서는 성공적인 작업 완료에 대해서는 보상을 주고 실수에 대해서는 처벌이 이루어집니다.
AI 연구소들은 에이전트들이 다양하고 때로는 예측 불가능한 상황들을 실험해볼 수 있도록 해주기 때문에 이러한 디지털 시뮬레이션이 매우 가치 있다고 생각합니다. 이 회사는 자신들의 접근 방식을 Waymo가 자율 주행 차량을 훈련시킨 방식에 비유하는데, 즉 심각한 기상 악화나 아이가 공을 쫓는 것과 같은 드문 위험 상황들을 테스트하기 위해 인공적인 세계를 먼저 구축하는 방식입니다.
다만 AI 에이전트의 경우 종종 지름길을 택하여 작업을 잘못 완료하는 경향이 있습니다. 솔로몬은 “Patronus는 이러한 우회 수단들을 잘 파악해내고 모델들이 책임을 져야 하도록 하는 데 매우 뛰어납니다”라고 말했습니다.
현재 Patronus는 소프트웨어 엔지니어링 및 금융 분야를 위한 가상 디지털 환경을 제공하고 있지만, 카나판에 따르면 이것은 단지 시작에 불과합니다.
그는 “현재 우리는 즉시 확인하고 검증할 수 있는 문제들에 집중하고 있지만, 검증이 불가능하거나 매우 어려운 분야들도 훨씬 더 많이 존재합니다”라고 말했습니다.
이러한 과정들이 검증 가능하다고 해서 반드시 간단하다는 의미는 아닙니다. 카나판은 “우리는 에이전트가 10시간, 10일, 심지어 10주 동안 계속 작동할 수 있는 환경을 만들고자 합니다”라고 말했습니다.
경쟁사들에 관해서는, Patronus는 AI 연구소들이 이미 구축해 놓은 에이전트 행동 평가용 내부 팀들과 주로 경쟁하고 있다고 보고 있습니다. Mercor나 Surge와 같은 인간 데이터 기반 회사들이 강화 학습을 통해 모델 제작자들을 지원하는 반면, Patronus는 인간의 개입 없이 에이전트의 행동을 평가한다는 점에서 차별화된 접근 방식을 취하고 있습니다.
관련 기사
Sarvam은 인도 최초의 새로운 AI 유니콘 기업이 되기 위해 HCLTech로부터 2억 3,400만 달러의 투자를 유치했습니다.
Sarvam은 월요일에 15억 달러의 기업 가치 평가를 바탕으로 2억 3,400만 달러의 투자금을 유치했다고 발표했습니다. 벵갈루루에 본사를 둔 이 스타트업은 현재 인도 최초의 AI 유니콘 기업이 되었으며, 각국 정부와 기업들이 핵심적인 인공지능 기술 및 컴퓨팅 인프라에 대한 통제력을 높이려는 움직임이 확산되고 있는 가운데 이러한 지위를 얻게 되었습니다.인도의 대기업 HCL 그룹 산하 IT 자회사이자 이번 투자 라운드의 주요 전략적 투자자인
10대 해커 출신의 아이언 돔 연구원이 AI 피싱 대응을 위해 2,800만 달러를 유치했다
셰이 슈워츠는 이메일 피싱 공격을 속속들이 꿰뚫고 있다. 10대 시절 해커로 활동하며 돈을 벌었지만, 16세에 적발된 후 자신의 사이버 보안 기술을 공격을 감행하는 데 쓰는 대신 공격을 막는 데 활용할 수 있다는 사실을 깨달았다.그 후 그는 거의 10년 동안 사이버 보안 분야의 최고 직책을 맡으며, 아이언 돔(Iron Dome) 프로젝트와 관련된 업무를 포
메타의 AI 모델은 뛰어난 성능을 보이지만 오픈소스 정체성은 약화되고 있다
오픈소스 AI 분야는 항상 다양한 선택지를 제공해 왔습니다. 수년 동안 개발자들은 Mistral, Falcon과 같은 모델은 물론, 점점 늘어나는 오픈소스 가중치 모델들에 접근할 수 있었습니다. 하지만 메타가 Llama를 선보이며 판도를 바꿨습니다. 30억 명의 사용자와 막대한 컴퓨팅 파워, 그리고 기술 거대 기업으로서의 위상을 갖춘 이 회사가 이제 공개적
관련 특별 주제 추천
의견 (0)
0/500

AI 에이전트들은 점점 더 정교해지고 있으며, 단순히 질문에 답하는 수준에서 벗어나 독립적으로 복잡하고 다단계로 구성된 작업들을 수행하게 되고 있습니다.
그러나 이러한 에이전트들이 사용자를 대신해 여행 예약이나 재무 분석 업무를 처리할 만큼 신뢰할 수 있으려면, 모델 제공업체와 이를 개발하는 스타트업들은 다양한 상황에서도 안정적인 성능을 보장해야 합니다.
AI 연구소들은 자신들의 모델 역량을 입증하기 위해 종종 벤치마크 테스트에 의존하지만, 설령 에이전트 전용 벤치마크에서 높은 점수를 얻었다 하더라도 해당 AI가 실제 세계의 다양한 작업들을 정확하게 수행할 수 있다는 보장은 되지 않습니다.
2023년에 전 Meta AI 연구원인 아난드 카나판과 리베카 첸이 설립한 Patronus AI는 에이전트의 성능을 평가하기 위한 가상 디지털 환경을 만들어, 모델 제작자와 기업들이 모델을 더욱 정교하게 조정할 수 있도록 지원합니다.
샌프란시스코에 본사를 둔 이 스타트업은 명백히 중요한 니즈를 해결하고 있습니다. Notable Capital의 매니징 디렉터인 글렌 솔로몬에 따르면, 거의 모든 선도적인 AI 연구소와 수많은 신생 스타트업들이 이 회사의 가상 환경을 사용하고 있으며, 그 수요는 거의 충족될 기미가 보이지 않습니다.
Patronus의 매출은 지난 1년 동안 15배나 급증하면서 투자자들의 큰 관심을 끌고 있습니다. 지난 목요일, 이 회사는 Greenfield Partners가 주도하고 Notable Capital, Lightspeed, Datadog, Samsung이 참여하는 5천만 달러 규모의 시리즈 B 투자 유치를 발표했으며, 현재까지 총 조달 금액은 7천만 달러에 이릅니다.
Patronus는 ‘디지털 월드 모델’이라고 부르는 기술을 활용해 웹사이트와 내부 시스템의 복제본을 구축합니다. 이러한 환경에서 에이전트들은 강화 학습을 통해 훈련받은 후 스트레스 테스트를 거치는데, 여기서는 성공적인 작업 완료에 대해서는 보상을 주고 실수에 대해서는 처벌이 이루어집니다.
AI 연구소들은 에이전트들이 다양하고 때로는 예측 불가능한 상황들을 실험해볼 수 있도록 해주기 때문에 이러한 디지털 시뮬레이션이 매우 가치 있다고 생각합니다. 이 회사는 자신들의 접근 방식을 Waymo가 자율 주행 차량을 훈련시킨 방식에 비유하는데, 즉 심각한 기상 악화나 아이가 공을 쫓는 것과 같은 드문 위험 상황들을 테스트하기 위해 인공적인 세계를 먼저 구축하는 방식입니다.
다만 AI 에이전트의 경우 종종 지름길을 택하여 작업을 잘못 완료하는 경향이 있습니다. 솔로몬은 “Patronus는 이러한 우회 수단들을 잘 파악해내고 모델들이 책임을 져야 하도록 하는 데 매우 뛰어납니다”라고 말했습니다.
현재 Patronus는 소프트웨어 엔지니어링 및 금융 분야를 위한 가상 디지털 환경을 제공하고 있지만, 카나판에 따르면 이것은 단지 시작에 불과합니다.
그는 “현재 우리는 즉시 확인하고 검증할 수 있는 문제들에 집중하고 있지만, 검증이 불가능하거나 매우 어려운 분야들도 훨씬 더 많이 존재합니다”라고 말했습니다.
이러한 과정들이 검증 가능하다고 해서 반드시 간단하다는 의미는 아닙니다. 카나판은 “우리는 에이전트가 10시간, 10일, 심지어 10주 동안 계속 작동할 수 있는 환경을 만들고자 합니다”라고 말했습니다.
경쟁사들에 관해서는, Patronus는 AI 연구소들이 이미 구축해 놓은 에이전트 행동 평가용 내부 팀들과 주로 경쟁하고 있다고 보고 있습니다. Mercor나 Surge와 같은 인간 데이터 기반 회사들이 강화 학습을 통해 모델 제작자들을 지원하는 반면, Patronus는 인간의 개입 없이 에이전트의 행동을 평가한다는 점에서 차별화된 접근 방식을 취하고 있습니다.
Sarvam은 인도 최초의 새로운 AI 유니콘 기업이 되기 위해 HCLTech로부터 2억 3,400만 달러의 투자를 유치했습니다.
Sarvam은 월요일에 15억 달러의 기업 가치 평가를 바탕으로 2억 3,400만 달러의 투자금을 유치했다고 발표했습니다. 벵갈루루에 본사를 둔 이 스타트업은 현재 인도 최초의 AI 유니콘 기업이 되었으며, 각국 정부와 기업들이 핵심적인 인공지능 기술 및 컴퓨팅 인프라에 대한 통제력을 높이려는 움직임이 확산되고 있는 가운데 이러한 지위를 얻게 되었습니다.인도의 대기업 HCL 그룹 산하 IT 자회사이자 이번 투자 라운드의 주요 전략적 투자자인
10대 해커 출신의 아이언 돔 연구원이 AI 피싱 대응을 위해 2,800만 달러를 유치했다
셰이 슈워츠는 이메일 피싱 공격을 속속들이 꿰뚫고 있다. 10대 시절 해커로 활동하며 돈을 벌었지만, 16세에 적발된 후 자신의 사이버 보안 기술을 공격을 감행하는 데 쓰는 대신 공격을 막는 데 활용할 수 있다는 사실을 깨달았다.그 후 그는 거의 10년 동안 사이버 보안 분야의 최고 직책을 맡으며, 아이언 돔(Iron Dome) 프로젝트와 관련된 업무를 포
메타의 AI 모델은 뛰어난 성능을 보이지만 오픈소스 정체성은 약화되고 있다
오픈소스 AI 분야는 항상 다양한 선택지를 제공해 왔습니다. 수년 동안 개발자들은 Mistral, Falcon과 같은 모델은 물론, 점점 늘어나는 오픈소스 가중치 모델들에 접근할 수 있었습니다. 하지만 메타가 Llama를 선보이며 판도를 바꿨습니다. 30억 명의 사용자와 막대한 컴퓨팅 파워, 그리고 기술 거대 기업으로서의 위상을 갖춘 이 회사가 이제 공개적





집






