Probablemente obtendrá 9 millones de dólares para desarrollar una IA más fiable.

A pesar del creciente poder de los LLM, las alucinaciones siguen siendo un desafío persistente. Incluso los modelos más avanzados generan errores, y aunque existen métodos para detectarlos, la industria sigue perfeccionando el enfoque óptimo.
Probablemente, empresa que recientemente obtuvo 9 millones de dólares en financiación inicial de Andreessen Horowitz, tiene como objetivo desarrollar un método más robusto para la detección de errores.
El fundador Peter Elias (en la imagen superior) explica que la misión de la compañía es evitar que las alucinaciones y los errores factuales lleguen hasta los usuarios, buscando alcanzar una precisión del 99,99% propia de los sistemas deterministas, un nivel mucho más difícil de lograr con la IA. Según él, para conseguirlo con los LLM es necesario replantear las suposiciones fundamentales de la ingeniería de inteligencia artificial.
El producto inicial de Probably es una herramienta de ciencias de datos diseñada para generar respuestas rápidas a partir de conjuntos de datos complejos. Cada resultado incluye una cita y un registro de auditoría de su derivación, práctica que se está convirtiendo en estándar entre las herramientas de IA.
Para evitar que los errores se infiltren en estos resúmenes, la compañía creó un sistema de soporte elaborado al que Elias denomina “traje mecánico para ciencias de datos”. Las respuestas iniciales del LLM son validadas por un sistema determinista, el cual rechaza cualquier resultado incompatible con el conjunto de datos. El LLM ha sido entrenado frente a este validador, y todo el sistema está optimizado para velocidad y precisión, según la empresa.
“Lo que hemos aprendido es que cuanto más sólida sea la ingeniería de este soporte, menor será la potencia necesaria del modelo”, afirma Elias. “Si se refina lo suficiente el contexto, el modelo no tiene que esforzarse para producir resultados correctos. En esencia, se trata de reducir la ambigüedad”.
Esto permite que la herramienta de ciencias de datos de Probably funcione con modelos de IA mucho más pequeños. Elias señala que la versión actual utiliza un modelo “cuatro categorías menos potente que los modelos de vanguardia”, lo que le permite ejecutarse en hardware local —un ordenador de escritorio en lugar de un centro de datos— reduciendo significativamente los costos asociados al uso de IA.
Este enfoque es oportuno, ya que los costos por token aumentan y muchos clientes están reevaluando sus presupuestos para inteligencia artificial. La visión de Elias trasciende las ciencias de datos; el mismo motor puede adaptarse a casos de uso como la contabilidad o los servicios médicos, en palabras suyas, “cualquier caso de uso sensible a la precisión”.
“Es sorprendente que los principales laboratorios de IA ni siquiera hayan intentado este enfoque”, dice Elias. “Tienen incentivos en contra, porque se benefician de la necesidad de realizar correcciones repetidas”.
Artículo relacionado
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
Simplificar los comentarios de las tarjetas de calificación con herramientas de IAIntroducciónHerramientas de IA para generar comentarios de tarjetas de calificaciónMagic SchoolAlmanac AIChat GPTUso de Magic School para generar comentarios de t
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

A pesar del creciente poder de los LLM, las alucinaciones siguen siendo un desafío persistente. Incluso los modelos más avanzados generan errores, y aunque existen métodos para detectarlos, la industria sigue perfeccionando el enfoque óptimo.
Probablemente, empresa que recientemente obtuvo 9 millones de dólares en financiación inicial de Andreessen Horowitz, tiene como objetivo desarrollar un método más robusto para la detección de errores.
El fundador Peter Elias (en la imagen superior) explica que la misión de la compañía es evitar que las alucinaciones y los errores factuales lleguen hasta los usuarios, buscando alcanzar una precisión del 99,99% propia de los sistemas deterministas, un nivel mucho más difícil de lograr con la IA. Según él, para conseguirlo con los LLM es necesario replantear las suposiciones fundamentales de la ingeniería de inteligencia artificial.
El producto inicial de Probably es una herramienta de ciencias de datos diseñada para generar respuestas rápidas a partir de conjuntos de datos complejos. Cada resultado incluye una cita y un registro de auditoría de su derivación, práctica que se está convirtiendo en estándar entre las herramientas de IA.
Para evitar que los errores se infiltren en estos resúmenes, la compañía creó un sistema de soporte elaborado al que Elias denomina “traje mecánico para ciencias de datos”. Las respuestas iniciales del LLM son validadas por un sistema determinista, el cual rechaza cualquier resultado incompatible con el conjunto de datos. El LLM ha sido entrenado frente a este validador, y todo el sistema está optimizado para velocidad y precisión, según la empresa.
“Lo que hemos aprendido es que cuanto más sólida sea la ingeniería de este soporte, menor será la potencia necesaria del modelo”, afirma Elias. “Si se refina lo suficiente el contexto, el modelo no tiene que esforzarse para producir resultados correctos. En esencia, se trata de reducir la ambigüedad”.
Esto permite que la herramienta de ciencias de datos de Probably funcione con modelos de IA mucho más pequeños. Elias señala que la versión actual utiliza un modelo “cuatro categorías menos potente que los modelos de vanguardia”, lo que le permite ejecutarse en hardware local —un ordenador de escritorio en lugar de un centro de datos— reduciendo significativamente los costos asociados al uso de IA.
Este enfoque es oportuno, ya que los costos por token aumentan y muchos clientes están reevaluando sus presupuestos para inteligencia artificial. La visión de Elias trasciende las ciencias de datos; el mismo motor puede adaptarse a casos de uso como la contabilidad o los servicios médicos, en palabras suyas, “cualquier caso de uso sensible a la precisión”.
“Es sorprendente que los principales laboratorios de IA ni siquiera hayan intentado este enfoque”, dice Elias. “Tienen incentivos en contra, porque se benefician de la necesidad de realizar correcciones repetidas”.
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Cómo corregir las Core Web Vitals para mejorar el posicionamiento SEO
Simplificar los comentarios de las tarjetas de calificación con herramientas de IAIntroducciónHerramientas de IA para generar comentarios de tarjetas de calificaciónMagic SchoolAlmanac AIChat GPTUso de Magic School para generar comentarios de t





Hogar






