Lar
Provavelmente conseguirá recursos da ordem de 9 milhões de dólares para desenvolver uma IA mais confiável.

Apesar do crescente poder dos LLMs, as alucinações continuam sendo um desafio persistente. Mesmo os modelos mais avançados geram erros, e embora existam métodos para detectá-los, o setor ainda está aperfeiçoando a melhor abordagem.
A Probably, que recentemente obteve 9 milhões de dólares em financiamento inicial da Andreessen Horowitz, tem como objetivo desenvolver um método mais robusto para detecção de erros.
O fundador Peter Elias (na foto acima) explica que a missão da empresa é impedir que alucinações e erros factuais cheguem aos usuários, visando uma precisão de 99,99%, típica dos sistemas determinísticos — um nível muito mais difícil de alcançar com inteligência artificial. Para conseguir isso com LLMs, ele ressalta que é preciso repensar as premissas fundamentais da engenharia de IA.
O produto inicial da Probably é uma ferramenta de ciência de dados projetada para gerar respostas rápidas a partir de conjuntos de dados complexos. Cada resultado inclui uma citação e um rastro de auditoria de sua derivação, prática que está se tornando padrão em ferramentas de IA.
Para evitar que erros cheguem a esses resumos, a empresa criou um sistema elaborado que Elias chama de “traje mecânico de ciência de dados”. As respostas iniciais do LLM são validadas por um sistema determinístico, que rejeita quaisquer resultados inconsistentes com o conjunto de dados. O LLM foi treinado para funcionar em conjunto com esse validador, e todo o sistema é otimizado para velocidade e precisão, segundo a empresa.
“O que aprendemos é que, quanto mais robusto for o seu sistema de suporte, menor precisa ser o poder do modelo”, afirma Elias. “Se você aperfeiçoar suficientemente o contexto, o modelo não precisará se esforçar para produzir resultados corretos. Essencialmente, trata-se de reduzir a ambiguidade.”
Isso permite que a ferramenta de ciência de dados da Probably opere com modelos de IA muito menores. Elias observa que a versão atual utiliza um modelo “quatro categorias mais fraco do que os modelos de ponta”, o que lhe permite rodar em hardware local — um computador desktop, e não em um data center — reduzindo significativamente os custos associados ao uso da IA.
Essa abordagem é oportuna, já que os custos dos tokens estão aumentando e muitos clientes estão reavaliando seus orçamentos para IA. A visão de Elias vai além da ciência de dados; o mesmo mecanismo pode ser adaptado para casos de uso como contabilidade ou serviços médicos — em suas palavras, “qualquer cenário sensível à precisão”.
“É surpreendente que os principais laboratórios de IA ainda nem tenham tentado essa abordagem”, diz Elias. “Eles têm incentivos contrários, pois lucram com a necessidade de correções repetidas.”
Artigo relacionado
Suno para Marcas d'Água em Músicas Durante Batalhas Legais
O Suno, plataforma que permite aos usuários gerar músicas criadas por inteligência artificial, apresentou novas funcionalidades para rotular as faixas produzidas pela plataforma, restringir downloads e atualizar os padrões da comunidade para coibir r
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Recomendações de tópicos especiais relacionados
Comentários (0)

Apesar do crescente poder dos LLMs, as alucinações continuam sendo um desafio persistente. Mesmo os modelos mais avançados geram erros, e embora existam métodos para detectá-los, o setor ainda está aperfeiçoando a melhor abordagem.
A Probably, que recentemente obteve 9 milhões de dólares em financiamento inicial da Andreessen Horowitz, tem como objetivo desenvolver um método mais robusto para detecção de erros.
O fundador Peter Elias (na foto acima) explica que a missão da empresa é impedir que alucinações e erros factuais cheguem aos usuários, visando uma precisão de 99,99%, típica dos sistemas determinísticos — um nível muito mais difícil de alcançar com inteligência artificial. Para conseguir isso com LLMs, ele ressalta que é preciso repensar as premissas fundamentais da engenharia de IA.
O produto inicial da Probably é uma ferramenta de ciência de dados projetada para gerar respostas rápidas a partir de conjuntos de dados complexos. Cada resultado inclui uma citação e um rastro de auditoria de sua derivação, prática que está se tornando padrão em ferramentas de IA.
Para evitar que erros cheguem a esses resumos, a empresa criou um sistema elaborado que Elias chama de “traje mecânico de ciência de dados”. As respostas iniciais do LLM são validadas por um sistema determinístico, que rejeita quaisquer resultados inconsistentes com o conjunto de dados. O LLM foi treinado para funcionar em conjunto com esse validador, e todo o sistema é otimizado para velocidade e precisão, segundo a empresa.
“O que aprendemos é que, quanto mais robusto for o seu sistema de suporte, menor precisa ser o poder do modelo”, afirma Elias. “Se você aperfeiçoar suficientemente o contexto, o modelo não precisará se esforçar para produzir resultados corretos. Essencialmente, trata-se de reduzir a ambiguidade.”
Isso permite que a ferramenta de ciência de dados da Probably opere com modelos de IA muito menores. Elias observa que a versão atual utiliza um modelo “quatro categorias mais fraco do que os modelos de ponta”, o que lhe permite rodar em hardware local — um computador desktop, e não em um data center — reduzindo significativamente os custos associados ao uso da IA.
Essa abordagem é oportuna, já que os custos dos tokens estão aumentando e muitos clientes estão reavaliando seus orçamentos para IA. A visão de Elias vai além da ciência de dados; o mesmo mecanismo pode ser adaptado para casos de uso como contabilidade ou serviços médicos — em suas palavras, “qualquer cenário sensível à precisão”.
“É surpreendente que os principais laboratórios de IA ainda nem tenham tentado essa abordagem”, diz Elias. “Eles têm incentivos contrários, pois lucram com a necessidade de correções repetidas.”
Suno para Marcas d'Água em Músicas Durante Batalhas Legais
O Suno, plataforma que permite aos usuários gerar músicas criadas por inteligência artificial, apresentou novas funcionalidades para rotular as faixas produzidas pela plataforma, restringir downloads e atualizar os padrões da comunidade para coibir r
Musk admite que vazamento do código do Grok expôs dados de usuários e promete apagar todas as informações históricas.
Elon Musk abordou diretamente a controvérsia sobre privacidade envolvendo o Grok Build, começando com um simples "Verdadeiro" para confirmar a validade do incidente. Ele prometeu que todos os dados dos usuários carregados anteriormente para a SpaceXA
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava











