LLaMA-Factory Online

Informações sobre o produto

O que é o LLaMA-Factory Online?

LLaMA-Factory Online é a plataforma oficial na nuvem para treinamento e ajuste fino de LLMs, criada em colaboração com o popular projeto de código aberto LLaMA-Factory. Ela oferece uma solução pronta para uso, com baixo código e de ponta a ponta para usuários que desejam simplificar o ajuste fino ou que possuem recursos de engenharia limitados.

Como usar o LLaMA-Factory Online?

Comece o ajuste fino em três etapas fáceis: 1. Prepare dados e modelos: carregue facilmente seus conjuntos de dados usando SFTP ou outros métodos compatíveis. 2. Configure e inicie: escolha seu modelo base e ajuste as principais configurações em nossa interface visual. Escolha o Modo Rápido para uma configuração rápida ou o Modo Especialista para opções avançadas. Selecione um plano de preços adequado ao seu orçamento e cronograma e, em seguida, inicie a tarefa com um clique. 3. Monitore e avalie: use ferramentas integradas como LlamaBoard e TensorBoard para acompanhar a perda de treinamento e o uso de recursos em tempo real. Após o treinamento, avalie os resultados com a Avaliação de Modelo ou teste o desempenho imediatamente usando o Model Chat.

LLaMA-Factory OnlinePrincipais recursos

Extensa biblioteca de modelos (mais de 100 modelos): Acesse mais de 100 modelos de código aberto líderes de mercado, incluindo LLaMA, Qwen, DeepSeek, GPT-OSS e outros.

Métodos de treinamento abrangentes: Oferece suporte a todo o processo de treinamento, desde o pré-treinamento e SFT (Supervised Fine-Tuning) até modelagem de recompensas e métodos de alinhamento como PPO, DPO e KTO.

Precisão e quantização flexíveis: Personalize o uso de recursos com ajuste fino completo de 16 bits, ajuste congelado, LoRA e QLoRA, que suportam quantização de 2/3/4/5/6/8 bits.

Algoritmos de otimização de ponta: Aproveite as otimizações avançadas integradas, como GaLore, BAdam, LoRA+, PiSSA, DoRA e rsLoRA.

Rastreamento robusto de experimentos: monitore o progresso do treinamento em tempo real com suporte integrado para LlamaBoard, TensorBoard, WandB, MLflow e SwanLab.

Aceleração de alta eficiência: Aumente o desempenho com a aceleração FlashAttention-2 e Unsloth, compatível com os motores de inferência Transformers e vLLM.

LLaMA-Factory OnlineCasos de uso

Corretor automatizado de redações em chinês: utiliza o Qwen3-vl-30B-A3B-Instruct para fornecer pontuação e feedback inteligentes.

Assistente especializado de IA para atendimento de tickets: Um agente de atendimento ao cliente personalizado, desenvolvido com o Qwen2.5-14B-Instruct.

Ajuste fino de baixo custo para modelos MoE massivos: ajusta finamente o DeepSeek-V3 de forma eficiente usando a otimização do KTransformers.

Análise de imagens médicas: Um aplicativo de diagnóstico médico ajustado com o Qwen3-vl-30B-A3B-Instruct.

Modelo leve para casa inteligente: Implanta o Qwen3-4B para controle eficiente de automação residencial baseado em borda.

Agente de IA jurídica: Um assistente jurídico especializado desenvolvido com LightLLM e LlamaIndex.

Perguntas frequentes de LLaMA-Factory Online

Como posso melhorar o desempenho do modelo se os resultados do ajuste fino forem insatisfatórios?

1. Expanda o conjunto de dados: use um conjunto de dados de treinamento maior. 2. Aumente a duração do treinamento: aumente o número de épocas (por exemplo, num_train_epochs: 5.0) ou o total de etapas (por exemplo, max_steps: 1000). 3. Ajuste a taxa de aprendizagem: tente uma taxa de aprendizagem mais alta (por exemplo, 2.0e-4). 4. Troque os métodos de ajuste fino: teste diferentes abordagens, como freeze (congelamento de parâmetros) ou full (ajuste de todos os parâmetros), por meio da configuração finetuning_type.

Como resolver erros de “CUDA Out of Memory” (OOM) durante o treinamento?

Se você encontrar problemas de memória da GPU, tente estas otimizações: 1. Reduza o tamanho do lote: defina per_device_train_batch_size como 1. 2. Otimize os operadores: habilite kernels eficientes em termos de memória definindo enable_liger_kernel e use_unsloth_gc como true. 3. Reduza o comprimento da sequência: diminua o valor de cutoff_len (por exemplo, para 512). 4. Use paralelismo avançado: habilite o DeepSpeed ZeRO-3 ou o FSDP para distribuir os pesos do modelo entre os dispositivos, ou use o descarregamento da CPU. 5. Aplique quantização: defina quantization_bit como 4 para compactar os parâmetros (disponível apenas para o ajuste fino LoRA).

Como corrigir saídas de modelo sem sentido ou repetitivas?

A solução depende de quando o problema aparece: Se ocorrer ANTES do treinamento: isso geralmente se deve ao uso de um modelo Base bruto (não alinhado) ou de um modelo de prompt incorreto. Certifique-se de usar um modelo Instruct/Chat alinhado e o modelo correto. Se ocorrer APÓS o treinamento: Verifique a consistência do modelo: certifique-se de que o modelo de inferência corresponda ao usado durante o treinamento. Fique atento ao sobreajuste: se o modelo estiver sobreajustado, reduza as épocas de treinamento (num_train_epochs) e diminua a taxa de aprendizagem.

LLaMA-Factory Online E-mail de suporte, contato do atendimento ao cliente, contato para reembolso etc.

Entre em contato com o suporte ao cliente da LLaMA-Factory Online em: [email protected]. Para saber mais formas de entrar em contato conosco, visite a página de contato (mailto:[email protected])

Screenshot LLaMA-Factory Online