Hogar
Una startup del MIT aborda las alucinaciones de la IA enseñando a los sistemas a admitir la incertidumbre
Los riesgos asociados a las alucinaciones de la IA aumentan a medida que se confía cada vez más en estos modelos para sacar a la luz información crítica y tomar decisiones de alto riesgo.
Todos conocemos a alguien que actúa como un sabelotodo, que se niega a admitir su ignorancia o que ofrece consejos cuestionables basándose en algo que ha leído por encima en Internet. Las alucinaciones de la IA son como ese amigo, pero en este caso podría estar diseñando su tratamiento contra el cáncer.
Aquí es donde entra Themis AI. Esta empresa, surgida del MIT, ha conseguido algo que parece sencillo pero que supone un reto técnico: enseñar a los sistemas de IA a reconocer y admitir la incertidumbre.
Los modelos de IA tienden a ser demasiado confiados. La plataforma Capsa de Themis proporciona un control de la realidad, ayudando a los modelos a identificar cuándo están especulando en lugar de operar con certeza.
Fundada en 2021 por la profesora del MIT Daniela Rus y los antiguos investigadores asociados Alexander Amini y Elaheh Ahmadi, Themis AI construyó una plataforma que se integra con casi cualquier sistema de IA, señalando los momentos de incertidumbre antes de que den lugar a errores.
Con Capsa, la IA aprende a reconocer patrones en su propio procesamiento de datos que sugieren confusión, sesgo o lagunas en la información, condiciones que a menudo conducen a alucinaciones.
Desde su lanzamiento, Themis ha ayudado a las empresas de telecomunicaciones a evitar costosos errores en la planificación de redes, a las petroleras y gasísticas a interpretar datos sísmicos complejos y ha publicado estudios sobre la creación de chatbots que evitan inventar hechos con total confianza.
Mucha gente todavía no es consciente de la frecuencia con la que los sistemas de IA hacen conjeturas. A medida que estos sistemas asumen funciones más vitales, estas suposiciones pueden tener consecuencias importantes. Themis AI introduce un elemento que faltaba: la autoconciencia.
El camino de Themis AI hacia las alucinaciones de la IA
El camino hacia Themis AI comenzó hace años en el laboratorio del profesor Rus en el MIT, donde los investigadores exploraron una cuestión fundamental: ¿Cómo puede una máquina ser consciente de sus propias limitaciones?
En 2018, Toyota financió su trabajo sobre IA fiable para vehículos autónomos, un sector en el que los errores pueden poner en peligro la vida. El reto es especialmente crítico cuando los coches autónomos deben detectar con precisión peatones y peligros en la carretera.
Su avance se produjo con un algoritmo capaz de identificar prejuicios raciales y de género en los sistemas de reconocimiento facial. En lugar de limitarse a detectar los prejuicios, el sistema los corregía reequilibrando los datos de entrenamiento y enseñando a la IA a superar sus propios prejuicios.
En 2021, el equipo demostró cómo este método podría transformar el descubrimiento de fármacos. Los sistemas de IA podrían evaluar posibles fármacos y destacar cuándo las predicciones se basaban en datos sólidos frente a especulaciones o alucinaciones totales. Las empresas farmacéuticas vieron el valor de buscar únicamente candidatos a fármacos en los que la IA confiara, ahorrando tiempo y recursos.
Otra ventaja se aplica a los dispositivos con una potencia informática limitada. Los dispositivos periféricos suelen depender de modelos más pequeños que no pueden igualar la precisión de los sistemas basados en servidores. La tecnología de Themis ayuda a estos modelos locales a realizar la mayoría de las tareas de forma autónoma, buscando la ayuda del servidor sólo cuando encuentran algo difícil.
La IA ofrece un inmenso potencial para mejorar nuestras vidas, pero eso conlleva riesgos reales. A medida que la IA se integra en infraestructuras críticas y en la toma de decisiones, la capacidad de reconocer la incertidumbre -y evitar las alucinaciones- podría resultar su rasgo más humano y valioso. Themis AI está ayudando a los modelos a aprender esta habilidad esencial.
Véase también: Control de la diabetes: IBM y Roche utilizan la IA para predecir los niveles de azúcar en sangre
¿Quiere saber más sobre IA y big data de la mano de los líderes del sector? Visite la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este completo evento se celebra junto con otros eventos destacados como Intelligent Automation Conference, BlockX, Digital Transformation Week y Cyber Security & Cloud Expo.
Explore aquí otros próximos eventos y seminarios web sobre tecnología empresarial organizados por TechForge.
Artículo relacionado
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Cómo AI LIVE: Londres explorará la inteligencia artificial y la automatización industrial
La cumbre reunirá a altos directivos de todo el mundo para abordar los retos más acuciantes de los sectores industriales a nivel global, que van desde la disrupción impulsada por la inteligencia artif
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
Recomendaciones de temas especiales relacionados
Educación y aprendizaje
Herramientas de estudio basadas en IA para los deberes y la preparación de exámenes
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
composicion musical
Herramientas de demostración vocal con IA para compositores, ganchos, melodías principales y sesiones de borrador multilingüe
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
Negocio
Las mejores herramientas de investigación competitiva basadas en IA para pequeñas empresas
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
Edición de imágenes
Herramientas de retoque con IA de Photoshop para ropa de comercio electrónico, limpieza de piel y consistencia del color
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Inmediato
Las mejores bibliotecas de indicaciones de IA para los flujos de trabajo de ChatGPT
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
Educación y aprendizaje
Plataformas de construcción de cuestionarios con IA para profesores, tutores y programas de aprendizaje basados en cohortes
2026 Últimas y mejores plataformas para crear cuestionarios con IA para profesores, tutores y programas de aprendizaje en cohortes. XIX.AI ha elaborado una lista de herramientas poderosas y transformadoras, sometidas a pruebas en el mundo real para ofrecer clasificaciones precisas. Estas plataformas obligatorias ayudan a mejorar la eficiencia en la redacción, agilizar la creación de contenido y simplificar el diseño de cuestionarios en todos los escenarios de aprendizaje. Explora ahora para descubrir la herramienta perfecta que te permitirá desbloquear tu ventaja con IA en la enseñanza.
13 herramientas
xix.ai
comentario (4)
0/500
![JohnNelson]()
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
![RichardHarris]()
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
![WillGarcía]()
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
![AlbertEvans]()
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
Los riesgos asociados a las alucinaciones de la IA aumentan a medida que se confía cada vez más en estos modelos para sacar a la luz información crítica y tomar decisiones de alto riesgo.
Todos conocemos a alguien que actúa como un sabelotodo, que se niega a admitir su ignorancia o que ofrece consejos cuestionables basándose en algo que ha leído por encima en Internet. Las alucinaciones de la IA son como ese amigo, pero en este caso podría estar diseñando su tratamiento contra el cáncer.
Aquí es donde entra Themis AI. Esta empresa, surgida del MIT, ha conseguido algo que parece sencillo pero que supone un reto técnico: enseñar a los sistemas de IA a reconocer y admitir la incertidumbre.
Los modelos de IA tienden a ser demasiado confiados. La plataforma Capsa de Themis proporciona un control de la realidad, ayudando a los modelos a identificar cuándo están especulando en lugar de operar con certeza.
Fundada en 2021 por la profesora del MIT Daniela Rus y los antiguos investigadores asociados Alexander Amini y Elaheh Ahmadi, Themis AI construyó una plataforma que se integra con casi cualquier sistema de IA, señalando los momentos de incertidumbre antes de que den lugar a errores.
Con Capsa, la IA aprende a reconocer patrones en su propio procesamiento de datos que sugieren confusión, sesgo o lagunas en la información, condiciones que a menudo conducen a alucinaciones.
Desde su lanzamiento, Themis ha ayudado a las empresas de telecomunicaciones a evitar costosos errores en la planificación de redes, a las petroleras y gasísticas a interpretar datos sísmicos complejos y ha publicado estudios sobre la creación de chatbots que evitan inventar hechos con total confianza.
Mucha gente todavía no es consciente de la frecuencia con la que los sistemas de IA hacen conjeturas. A medida que estos sistemas asumen funciones más vitales, estas suposiciones pueden tener consecuencias importantes. Themis AI introduce un elemento que faltaba: la autoconciencia.
El camino de Themis AI hacia las alucinaciones de la IA
El camino hacia Themis AI comenzó hace años en el laboratorio del profesor Rus en el MIT, donde los investigadores exploraron una cuestión fundamental: ¿Cómo puede una máquina ser consciente de sus propias limitaciones?
En 2018, Toyota financió su trabajo sobre IA fiable para vehículos autónomos, un sector en el que los errores pueden poner en peligro la vida. El reto es especialmente crítico cuando los coches autónomos deben detectar con precisión peatones y peligros en la carretera.
Su avance se produjo con un algoritmo capaz de identificar prejuicios raciales y de género en los sistemas de reconocimiento facial. En lugar de limitarse a detectar los prejuicios, el sistema los corregía reequilibrando los datos de entrenamiento y enseñando a la IA a superar sus propios prejuicios.
En 2021, el equipo demostró cómo este método podría transformar el descubrimiento de fármacos. Los sistemas de IA podrían evaluar posibles fármacos y destacar cuándo las predicciones se basaban en datos sólidos frente a especulaciones o alucinaciones totales. Las empresas farmacéuticas vieron el valor de buscar únicamente candidatos a fármacos en los que la IA confiara, ahorrando tiempo y recursos.
Otra ventaja se aplica a los dispositivos con una potencia informática limitada. Los dispositivos periféricos suelen depender de modelos más pequeños que no pueden igualar la precisión de los sistemas basados en servidores. La tecnología de Themis ayuda a estos modelos locales a realizar la mayoría de las tareas de forma autónoma, buscando la ayuda del servidor sólo cuando encuentran algo difícil.
La IA ofrece un inmenso potencial para mejorar nuestras vidas, pero eso conlleva riesgos reales. A medida que la IA se integra en infraestructuras críticas y en la toma de decisiones, la capacidad de reconocer la incertidumbre -y evitar las alucinaciones- podría resultar su rasgo más humano y valioso. Themis AI está ayudando a los modelos a aprender esta habilidad esencial.
Véase también: Control de la diabetes: IBM y Roche utilizan la IA para predecir los niveles de azúcar en sangre
¿Quiere saber más sobre IA y big data de la mano de los líderes del sector? Visite la AI & Big Data Expo, que tendrá lugar en Ámsterdam, California y Londres. Este completo evento se celebra junto con otros eventos destacados como Intelligent Automation Conference, BlockX, Digital Transformation Week y Cyber Security & Cloud Expo.
Explore aquí otros próximos eventos y seminarios web sobre tecnología empresarial organizados por TechForge.
Ollie apuesta por la privacidad para ganar la carrera de los asistentes de IA
Para resultar realmente útil, un asistente de IA debe comprender a fondo a su usuario. Ollie, un asistente personal diseñado para la vida cotidiana, parte de la premisa de que esto no implica ceder tu
Cómo AI LIVE: Londres explorará la inteligencia artificial y la automatización industrial
La cumbre reunirá a altos directivos de todo el mundo para abordar los retos más acuciantes de los sectores industriales a nivel global, que van desde la disrupción impulsada por la inteligencia artif
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
¡Las mejores herramientas de IA de 2026 para hacer los deberes y prepararse para los exámenes! XIX.AI ha elaborado una lista con las herramientas mejor valoradas, potentes y revolucionarias que ayudan a los estudiantes a aumentar su productividad, agilizar la realización de los deberes y sacar sobresaliente en los exámenes gracias a pruebas reales. Consigue una comparación entre versiones gratuitas y de pago, clasificaciones detalladas y opciones imprescindibles para sacar el máximo partido a la IA. ¡Explora ahora!
10 herramientas
xix.ai
¡Las mejores herramientas de demostración vocal con IA de 2026 para compositores, creadores de ganchos y equipos de contenido multilingüe! XIX.AI ha recopilado una lista de herramientas poderosas y transformadoras, rigurosamente probadas en el mundo real. Encontrarás datos detallados de comparación entre versiones gratuitas y de pago, clasificaciones completas y opciones imprescindibles para ayudarte a aumentar tu eficiencia de escritura y desbloquear todo tu potencial creativo. ¡Explora ahora para descubrir la herramienta perfecta para todas tus necesidades de contenido!
9 herramientas
xix.ai
¡Las mejores herramientas de investigación competitiva basadas en IA mejor valoradas de 2026 para pequeñas empresas! XIX.AI ha seleccionado una colección revolucionaria y muy potente, que se actualiza semanalmente con rigurosas pruebas en el mundo real y clasificaciones detalladas. Encontrarás una comparación exhaustiva entre las opciones gratuitas y las de pago que te ayudará a identificar las herramientas imprescindibles que impulsarán tu productividad y te proporcionarán una ventaja competitiva. ¡Explora ahora mismo y descubre la herramienta perfecta para ti!
9 herramientas
xix.ai
¡Las mejores herramientas de retoque con IA de Photoshop de 2026 para ropa de comercio electrónico, limpieza de piel y consistencia de color! Esta lista curada de alta calificación presenta soluciones poderosas que cambian las reglas del juego, que ayudan a aumentar la eficiencia de redacción, optimizar la creación de contenido y lograr resultados visuales perfectos sin esfuerzo. Cada herramienta ha pasado por pruebas en el mundo real a través de clasificaciones actualizadas semanalmente, con detalles completos de comparación entre versiones gratuitas y de pago. Respaldado por XIX.AI, es la guía imprescindible para cualquier persona que aspire a desbloquear su ventaja con IA. ¡Explora ahora!
10 herramientas
xix.ai
Las mejores bibliotecas de prompts de IA de 2026, con las más valoradas, para optimizar todo tipo de flujos de trabajo de ChatGPT. XIX.AI ha seleccionado una colección potente y revolucionaria que se somete a rigurosas pruebas en condiciones reales para garantizar el máximo rendimiento. Encontrarás comparativas detalladas entre opciones gratuitas y de pago, así como clasificaciones de expertos, que te ayudarán a elegir las herramientas imprescindibles para potenciar tu productividad y sacar el máximo partido a la IA. ¡Explora ahora!
11 herramientas
xix.ai
2026 Últimas y mejores plataformas para crear cuestionarios con IA para profesores, tutores y programas de aprendizaje en cohortes. XIX.AI ha elaborado una lista de herramientas poderosas y transformadoras, sometidas a pruebas en el mundo real para ofrecer clasificaciones precisas. Estas plataformas obligatorias ayudan a mejorar la eficiencia en la redacción, agilizar la creación de contenido y simplificar el diseño de cuestionarios en todos los escenarios de aprendizaje. Explora ahora para descubrir la herramienta perfecta que te permitirá desbloquear tu ventaja con IA en la enseñanza.
13 herramientas
xix.ai
I was totally shocked by this MIT startup’s idea of teaching AI systems to admit uncertainty instead of fabricating answers, it’s like giving robots a sense of self-awareness. I wonder if this approach can really cut down the misinformation spreading on social media these days.
Just read this and wow, the 'know-it-all' analogy hits home. We've all been there where the system is confidently wrong. Teaching AI to say 'I don't know' could be a game-changer for trust in medical or legal advice. Curious about the scalability—is there a performance trade-off? Hope they can make it work at a large scale 🧐.
AIが「分からない」と言えるようになるって、逆に人間らしい進歩かも？🤔 実際、私も職場で『多分』って言える上司の方が信用できるし。でもMITのスタートアップがこれをビジネスにできるって面白い。AIの過信防止って医療や裁判で本当に必要だよね。個人的には、この技術がSNSのデマ拡散防止に使われないか心配だけど…
Diese Startup-Idee aus MIT scheint sehr vielversprechend zu sein. Modelle müssen lernen, Unsicherheiten zuzugeben - genau wie ein vernünftiger Mensch es tun würde 😂. Besonders im Bereich Medizin oder autonomes Fahren, wo fehlerhafte Antworten katastrophal sein können, wird das 'Ich weiß es nicht'-Eingeständnis zu einer lebenswichtigen Funktion. Hoffentlich setzt sich dieser Ansatz bald durch!
