아마도 더 신뢰성 높은 AI를 개발하기 위해 900만 달러의 자금을 확보할 것으로 보입니다.

LLM의 성능이 점점 향상되고 있음에도 불구하고 환각 현상은 여전히 심각한 문제로 남아 있습니다. 가장 첨단적인 모델들조차 오류를 생성하기 마련이며, 이러한 오류를 탐지할 수 있는 방법들이 존재함에도 업계는 여전히 최적의 접근법을 찾고 있습니다.
최근 Andreessen Horowitz로부터 900만 달러의 시드 투자를 유치한 Probably는 오류 탐지를 위한 보다 효과적인 방법을 개발하는 것을 목표로 하고 있습니다.
창립자인 Peter Elias(위 사진)는 이 회사의 사명이 환각 현상 및 사실 오류가 사용자에게 전달되는 것을 막아, 결정론적 시스템에서 보이는 99.99%라는 높은 정확도를 달성하는 것이라고 설명합니다. 이러한 수준은 AI를 활용할 때는 훨씬 더 어렵게 달성됩니다. 그는 LLM을 활용해 이 목표를 이루려면 기본적인 AI 엔지니어링에 대한 가정들을 재고해야 한다고 말합니다.
Probably의 초기 제품은 복잡한 데이터 세트에서도 빠르게 답변을 생성하도록 설계된 데이터 과학 도구입니다. 모든 결과에는 출처 정보와 그 결과가 도출된 경로에 대한 감사 기록이 포함되며, 이러한 방식은 점점 더 AI 도구들의 표준이 되고 있습니다.
이러한 요약 내용에 오류가 들어가는 것을 막기 위해 회사는 Elias가 “데이터 과학 메크 슈트”라고 부르는 정교한 보조 시스템을 구축했습니다. LLM이 처음 내놓은 답변들은 결정론적 시스템에 의해 검증되며, 데이터 세트와 일치하지 않는 결과는 모두 거부됩니다. 회사에 따르면 LLM은 이러한 검증기를 대상으로 훈련을 받았으며, 전체 시스템은 속도와 정확도 측면에서 최적화되어 있습니다.
Elias는 “우리가 알게 된 사실은 보조 시스템의 설계가 더욱 견고할수록 모델이 가져야 하는 성능은 그만큼 낮아진다는 것입니다. 문맥을 충분히 정교하게 다듬으면 모델은 올바른 결과를 도출하기 위해 고생할 필요가 없습니다. 본질적으로 이는 애매함을 줄이는 것과 관련이 있습니다”라고 말합니다.
이 덕분에 Probably의 데이터 과학 도구는 훨씬 더 성능이 낮은 AI 모델에서도 작동할 수 있습니다. Elias는 현재 버전이 “선두적인 모델들보다 4단계나 성능이 낮은” 모델을 사용하고 있어, 데이터 센터가 아닌 일반 데스크톱 컴퓨터와 같은 로컬 하드웨어에서도 실행될 수 있다며, 이를 통해 AI 사용과 관련된 토큰 비용을 크게 절감할 수 있다고 설명합니다.
토큰 비용이 상승하고 많은 고객들이 자신의 AI 예산을 재평가하는 현시점에서 이러한 접근법은 매우 시의적절합니다. Elias의 비전은 데이터 과학 분야를 넘어 회계나 의료 서비스와 같은 다른 용도에도 적용될 수 있으며, 그의 표현을 빌리자면 “정밀도가 중요한 모든 용도”에 활용될 수 있습니다.
Elias는 “주요 AI 연구소들조차 이러한 접근법을 시도하지 않은 것이 놀랍습니다. 그들은 반복적인 수정이 필요하다는 사실에서 이익을 얻고 있기 때문에 이를 시도할 동기가 없는 것입니다”라고 말합니다.
관련 기사
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
관련 특별 주제 추천
의견 (0)
0/500

LLM의 성능이 점점 향상되고 있음에도 불구하고 환각 현상은 여전히 심각한 문제로 남아 있습니다. 가장 첨단적인 모델들조차 오류를 생성하기 마련이며, 이러한 오류를 탐지할 수 있는 방법들이 존재함에도 업계는 여전히 최적의 접근법을 찾고 있습니다.
최근 Andreessen Horowitz로부터 900만 달러의 시드 투자를 유치한 Probably는 오류 탐지를 위한 보다 효과적인 방법을 개발하는 것을 목표로 하고 있습니다.
창립자인 Peter Elias(위 사진)는 이 회사의 사명이 환각 현상 및 사실 오류가 사용자에게 전달되는 것을 막아, 결정론적 시스템에서 보이는 99.99%라는 높은 정확도를 달성하는 것이라고 설명합니다. 이러한 수준은 AI를 활용할 때는 훨씬 더 어렵게 달성됩니다. 그는 LLM을 활용해 이 목표를 이루려면 기본적인 AI 엔지니어링에 대한 가정들을 재고해야 한다고 말합니다.
Probably의 초기 제품은 복잡한 데이터 세트에서도 빠르게 답변을 생성하도록 설계된 데이터 과학 도구입니다. 모든 결과에는 출처 정보와 그 결과가 도출된 경로에 대한 감사 기록이 포함되며, 이러한 방식은 점점 더 AI 도구들의 표준이 되고 있습니다.
이러한 요약 내용에 오류가 들어가는 것을 막기 위해 회사는 Elias가 “데이터 과학 메크 슈트”라고 부르는 정교한 보조 시스템을 구축했습니다. LLM이 처음 내놓은 답변들은 결정론적 시스템에 의해 검증되며, 데이터 세트와 일치하지 않는 결과는 모두 거부됩니다. 회사에 따르면 LLM은 이러한 검증기를 대상으로 훈련을 받았으며, 전체 시스템은 속도와 정확도 측면에서 최적화되어 있습니다.
Elias는 “우리가 알게 된 사실은 보조 시스템의 설계가 더욱 견고할수록 모델이 가져야 하는 성능은 그만큼 낮아진다는 것입니다. 문맥을 충분히 정교하게 다듬으면 모델은 올바른 결과를 도출하기 위해 고생할 필요가 없습니다. 본질적으로 이는 애매함을 줄이는 것과 관련이 있습니다”라고 말합니다.
이 덕분에 Probably의 데이터 과학 도구는 훨씬 더 성능이 낮은 AI 모델에서도 작동할 수 있습니다. Elias는 현재 버전이 “선두적인 모델들보다 4단계나 성능이 낮은” 모델을 사용하고 있어, 데이터 센터가 아닌 일반 데스크톱 컴퓨터와 같은 로컬 하드웨어에서도 실행될 수 있다며, 이를 통해 AI 사용과 관련된 토큰 비용을 크게 절감할 수 있다고 설명합니다.
토큰 비용이 상승하고 많은 고객들이 자신의 AI 예산을 재평가하는 현시점에서 이러한 접근법은 매우 시의적절합니다. Elias의 비전은 데이터 과학 분야를 넘어 회계나 의료 서비스와 같은 다른 용도에도 적용될 수 있으며, 그의 표현을 빌리자면 “정밀도가 중요한 모든 용도”에 활용될 수 있습니다.
Elias는 “주요 AI 연구소들조차 이러한 접근법을 시도하지 않은 것이 놀랍습니다. 그들은 반복적인 수정이 필요하다는 사실에서 이익을 얻고 있기 때문에 이를 시도할 동기가 없는 것입니다”라고 말합니다.
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금





집






