Hogar
El complemento de IA de Sakana AI simplifica el procesamiento de documentos para modelos de gran tamaño
Las dificultades que tienen los modelos de lenguaje a gran escala para procesar textos largos, lo que a menudo se denomina «ansiedad de memoria», podrían ser pronto cosa del pasado. Recientemente, la startup de IA con sede en Tokio Sakana AI presentó dos tecnologías revolucionarias: Text-to-LoRA (T2L) y Doc-to-LoRA (D2L). Gracias a una innovadora arquitectura de «superred», estas tecnologías permiten a los modelos grandes «absorber» documentos masivos o aprender nuevas tareas en menos de un segundo, todo ello sin necesidad de volver a entrenarlos.

Los desarrolladores de IA se han enfrentado durante mucho tiempo a una difícil disyuntiva: meter documentos extensos en una ventana de chat —lo que ralentiza las respuestas y consume mucha memoria— o pagar el elevado coste que supone el ajuste fino de un modelo. Sakana AI introduce una tercera opción. Mediante un pago único por el preentrenamiento, genera plugins de peso minúsculo (LoRA) para lograr una adaptación del modelo eficiente y de bajo coste.
Doc-to-LoRA: las necesidades de memoria se reducen de 12 GB a solo 50 MB
Esta es la tecnología más impresionante de la última versión. Procesar un documento de 128 000 tokens (aproximadamente 100 000 palabras) con métodos tradicionales requiere más de 12 GB de VRAM para almacenar la información. Con D2L, el modelo puede «digerir» directamente esta información en un plugin de menos de 50 MB.
Velocidad extraordinaria: la tecnología tradicional tarda entre 40 y 100 segundos en procesar un documento, mientras que D2L lo hace en menos de 1 segundo.
Ampliando los límites: permite a los modelos manejar textos hasta cuatro veces más largos que su ventana de contexto original, logrando una precisión casi perfecta en pruebas de recuperación del tipo «aguja en un pajar».
Text-to-LoRA: personaliza la IA con lenguaje cotidiano
Text-to-LoRA hace que los modelos sean más receptivos. Los usuarios simplemente describen una tarea en lenguaje natural —por ejemplo, «ayúdame a resolver un problema complejo de una competición de matemáticas»— y el sistema genera automáticamente un complemento específico para mejorar el rendimiento. Los experimentos revelan que los adaptadores creados de esta manera pueden superar a los modelos específicos entrenados desde cero en tareas de matemáticas y razonamiento lógico.
Potente tecnología multimodal: permite a los modelos de texto «ver» imágenes
Los investigadores descubrieron una ventaja inesperada: D2L muestra una gran capacidad multimodal. Al mapear la información visual en los parámetros de un modelo de texto puro, un modelo que nunca antes había procesado imágenes puede clasificarlas con una precisión del **75,03 %**.
Los logros de Sakana AI reducen significativamente las barreras para que particulares y empresas personalicen modelos de IA privados. También allanan un nuevo camino hacia el desarrollo de una inteligencia artificial general (AGI) más ligera e inteligente.
Artículo: https://arxiv.org/pdf/2602.15902
Artículo relacionado
Corea del Sur inicia la construcción del Centro Nacional de Cómputo de IA, invirtiendo 2,5 billones de wones con un objetivo para 2028
El medio surcoreano EtNews informa que la ceremonia de colocación de la primera piedra del Centro de Cómputo de IA de Corea (KOACC) se llevó a cabo el 3 de agosto en el parque de centros de datos Solar City, en Sunan, Jeollanam-do. Con una inversión
Seis gigantes tecnológicos respaldan a la Linux Foundation con 12,5 millones de dólares para abordar el ruido de las vulnerabilidades de la inteligencia artificial
Para hacer frente a la avalancha de informes de seguridad de baja calidad generados por herramientas de automatización de IA, seis grandes empresas tecnológicas—Anthropic, Amazon (AWS), GitHub, Google, Microsoft y OpenAI—han contribuido conjuntamente
Musk Consideró Dejar OpenAI a Sus Hijos Mientras Altman Declaraba
Esta mañana, el director ejecutivo de OpenAI, Sam Altman, prestó declaración para responder a la demanda presentada por su antiguo cofundador, Elon Musk, que cuestiona la estructura corporativa de la empresa.Cuando se le preguntó sobre la afirmación
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Las dificultades que tienen los modelos de lenguaje a gran escala para procesar textos largos, lo que a menudo se denomina «ansiedad de memoria», podrían ser pronto cosa del pasado. Recientemente, la startup de IA con sede en Tokio Sakana AI presentó dos tecnologías revolucionarias: Text-to-LoRA (T2L) y Doc-to-LoRA (D2L). Gracias a una innovadora arquitectura de «superred», estas tecnologías permiten a los modelos grandes «absorber» documentos masivos o aprender nuevas tareas en menos de un segundo, todo ello sin necesidad de volver a entrenarlos.

Los desarrolladores de IA se han enfrentado durante mucho tiempo a una difícil disyuntiva: meter documentos extensos en una ventana de chat —lo que ralentiza las respuestas y consume mucha memoria— o pagar el elevado coste que supone el ajuste fino de un modelo. Sakana AI introduce una tercera opción. Mediante un pago único por el preentrenamiento, genera plugins de peso minúsculo (LoRA) para lograr una adaptación del modelo eficiente y de bajo coste.
Doc-to-LoRA: las necesidades de memoria se reducen de 12 GB a solo 50 MB
Esta es la tecnología más impresionante de la última versión. Procesar un documento de 128 000 tokens (aproximadamente 100 000 palabras) con métodos tradicionales requiere más de 12 GB de VRAM para almacenar la información. Con D2L, el modelo puede «digerir» directamente esta información en un plugin de menos de 50 MB.
Velocidad extraordinaria: la tecnología tradicional tarda entre 40 y 100 segundos en procesar un documento, mientras que D2L lo hace en menos de 1 segundo.
Ampliando los límites: permite a los modelos manejar textos hasta cuatro veces más largos que su ventana de contexto original, logrando una precisión casi perfecta en pruebas de recuperación del tipo «aguja en un pajar».
Text-to-LoRA: personaliza la IA con lenguaje cotidiano
Text-to-LoRA hace que los modelos sean más receptivos. Los usuarios simplemente describen una tarea en lenguaje natural —por ejemplo, «ayúdame a resolver un problema complejo de una competición de matemáticas»— y el sistema genera automáticamente un complemento específico para mejorar el rendimiento. Los experimentos revelan que los adaptadores creados de esta manera pueden superar a los modelos específicos entrenados desde cero en tareas de matemáticas y razonamiento lógico.
Potente tecnología multimodal: permite a los modelos de texto «ver» imágenes
Los investigadores descubrieron una ventaja inesperada: D2L muestra una gran capacidad multimodal. Al mapear la información visual en los parámetros de un modelo de texto puro, un modelo que nunca antes había procesado imágenes puede clasificarlas con una precisión del **75,03 %**.
Los logros de Sakana AI reducen significativamente las barreras para que particulares y empresas personalicen modelos de IA privados. También allanan un nuevo camino hacia el desarrollo de una inteligencia artificial general (AGI) más ligera e inteligente.
Artículo: https://arxiv.org/pdf/2602.15902
Corea del Sur inicia la construcción del Centro Nacional de Cómputo de IA, invirtiendo 2,5 billones de wones con un objetivo para 2028
El medio surcoreano EtNews informa que la ceremonia de colocación de la primera piedra del Centro de Cómputo de IA de Corea (KOACC) se llevó a cabo el 3 de agosto en el parque de centros de datos Solar City, en Sunan, Jeollanam-do. Con una inversión
Seis gigantes tecnológicos respaldan a la Linux Foundation con 12,5 millones de dólares para abordar el ruido de las vulnerabilidades de la inteligencia artificial
Para hacer frente a la avalancha de informes de seguridad de baja calidad generados por herramientas de automatización de IA, seis grandes empresas tecnológicas—Anthropic, Amazon (AWS), GitHub, Google, Microsoft y OpenAI—han contribuido conjuntamente
Musk Consideró Dejar OpenAI a Sus Hijos Mientras Altman Declaraba
Esta mañana, el director ejecutivo de OpenAI, Sam Altman, prestó declaración para responder a la demanda presentada por su antiguo cofundador, Elon Musk, que cuestiona la estructura corporativa de la empresa.Cuando se le preguntó sobre la afirmación











