LLaMA-Factory Online

LLaMA-Factory Online Información del producto

¿Qué es « LLaMA-Factory Online »?

LLaMA-Factory Online Es la plataforma oficial en la nube para el entrenamiento y el ajuste fino de modelos de lenguaje grande (LLM), creada en colaboración con el popular proyecto de código abierto LLaMA-Factory. Ofrece una solución lista para usar, de bajo código y de extremo a extremo para usuarios que desean simplificar el ajuste fino o que cuentan con capacidades de ingeniería limitadas.

¿Cómo se utiliza LLaMA-Factory Online?

Comienza el ajuste fino en tres sencillos pasos: 1. Prepara los datos y los modelos: Sube fácilmente tus conjuntos de datos mediante SFTP u otros métodos compatibles. 2. Configura y ejecuta: Elige tu modelo base y ajusta la configuración clave en nuestra interfaz visual. Elige el Modo Rápido para una configuración rápida o el Modo Experto para opciones avanzadas. Seleccione un plan de precios que se adapte a su presupuesto y plazos, y luego inicie la tarea con un solo clic. 3. Supervise y evalúe: utilice herramientas integradas como LlamaBoard y TensorBoard para realizar un seguimiento de la pérdida de entrenamiento y el uso de recursos en tiempo real. Tras el entrenamiento, evalúe los resultados con la evaluación de modelos o compruebe el rendimiento inmediatamente mediante el chat de modelos.

LLaMA-Factory OnlineCaracterísticas principales

Amplia biblioteca de modelos (más de 100 modelos): Accede a más de 100 modelos de código abierto líderes, incluidos LLaMA, Qwen, DeepSeek, GPT-OSS y otros.

Métodos de entrenamiento completos: Admite todo el proceso de entrenamiento, desde el preentrenamiento y el SFT (ajuste fino supervisado) hasta el modelado de recompensas y métodos de alineación como PPO, DPO y KTO.

Precisión y cuantificación flexibles: personalice el uso de recursos con ajuste fino completo de 16 bits, ajuste por congelación, LoRA y QLoRA, que admite cuantificación de 2/3/4/5/6/8 bits.

Algoritmos de optimización de vanguardia: Aprovecha las optimizaciones avanzadas integradas, como GaLore, BAdam, LoRA+, PiSSA, DoRA y rsLoRA.

Seguimiento robusto de experimentos: supervise el progreso del entrenamiento en tiempo real con compatibilidad integrada con LlamaBoard, TensorBoard, WandB, MLflow y SwanLab.

Aceleración de alta eficiencia: Aumente el rendimiento con la aceleración FlashAttention-2 y Unsloth, compatibles tanto con los motores de inferencia Transformers como con los vLLM.

LLaMA-Factory OnlineCasos de uso

Calificador automático de redacciones en chino: utiliza Qwen3-vl-30B-A3B-Instruct para proporcionar puntuaciones y comentarios inteligentes.

Asistente de gestión de tickets especializado en IA: un agente de atención al cliente personalizado creado con Qwen2.5-14B-Instruct.

Ajuste fino de bajo coste para modelos MoE masivos: ajusta de forma eficiente DeepSeek-V3 utilizando la optimización de KTransformers.

Análisis de imágenes médicas: una aplicación de diagnóstico sanitario ajustada con Qwen3-vl-30B-A3B-Instruct.

Modelo ligero para hogares inteligentes: implementa Qwen3-4B para un control eficiente de la domótica basado en el borde.

Agente de IA legal: un asistente legal especializado desarrollado con LightLLM y LlamaIndex.

Preguntas frecuentes de LLaMA-Factory Online

¿Cómo puedo mejorar el rendimiento del modelo si los resultados del ajuste fino no son satisfactorios?

1. Amplía el conjunto de datos: utiliza un conjunto de datos de entrenamiento más grande. 2. Aumenta la duración del entrenamiento: aumenta el número de épocas (p. ej., num_train_epochs: 5.0) o el número total de pasos (p. ej., max_steps: 1000). 3. Ajusta la tasa de aprendizaje: Prueba con una tasa de aprendizaje más alta (p. ej., 2.0e-4). 4. Cambia los métodos de ajuste fino: Prueba diferentes enfoques como freeze (congelación de parámetros) o full (ajuste de todos los parámetros) mediante la configuración finetuning_type.

¿Cómo resuelvo los errores «CUDA Out of Memory» (OOM) durante el entrenamiento?

Si se encuentra con problemas de memoria de la GPU, pruebe estas optimizaciones: 1. Reduzca el tamaño del lote: establezca per_device_train_batch_size en 1. 2. Optimice los operadores: habilite los kernels eficientes en memoria estableciendo enable_liger_kernel y use_unsloth_gc en true. 3. Acorta la longitud de la secuencia: reduce cutoff_len (por ejemplo, a 512). 4. Utiliza paralelismo avanzado: habilita DeepSpeed ZeRO-3 o FSDP para distribuir los pesos del modelo entre dispositivos, o utiliza la descarga a la CPU. 5. Aplica cuantificación: establece quantization_bit en 4 para comprimir los parámetros (disponible solo para el ajuste fino de LoRA).

¿Cómo puedo solucionar los resultados sin sentido o repetitivos del modelo?

La solución depende de cuándo aparece el problema: Si ocurre ANTES del entrenamiento: Esto suele deberse al uso de un modelo Base sin procesar (sin alinear) o a una plantilla de prompt incorrecta. Asegúrate de utilizar un modelo Instruct/Chat alineado y la plantilla correcta. Si ocurre DESPUÉS del entrenamiento: Comprueba la coherencia de la plantilla: Asegúrate de que la plantilla de inferencia coincide con la utilizada durante el entrenamiento. Preste atención al sobreajuste: si el modelo se está sobreajustando, reduzca las épocas de entrenamiento (num_train_epochs) y disminuya la tasa de aprendizaje.

LLaMA-Factory Online Correo electrónico de asistencia, contacto con el servicio de atención al cliente, contacto para reembolsos, etc.

Póngase en contacto con el servicio de atención al cliente de LLaMA-Factory Online en: [email protected]. Para conocer otras formas de contactarnos, visite la página de contacto (mailto:[email protected])

LLaMA-Factory Online captura de pantalla