Cómo Hacer Fine-Tuning de LLMs en GPU Cloud: Guía Completa

¿Qué GPU Necesitas para Fine-Tuning?

| Modelo | Parámetros | GPU Mínima | GPU Recomendada |

|------------|-----------|-----------------|-----------------|

| Llama 3.2 | 3B | RTX 4090 (24GB) | A100 (40GB) |

| Llama 3.1 | 8B | A100 (40GB) | A100 (80GB) |

| Llama 3.1 | 70B | 4×A100 (80GB) | 4×H100 (80GB) |

| Mistral 7B | 7B | A100 (40GB) | A100 (80GB) |

QLoRA: Fine-Tuning con Bajo VRAM

QLoRA reduce los requisitos de VRAM hasta un 75%:

```python

from transformers import AutoModelForCausalLM, BitsAndBytesConfig

from peft import get_peft_model, LoraConfig

import torch

bnb_config = BitsAndBytesConfig(

load_in_4bit=True,

bnb_4bit_quant_type="nf4",

bnb_4bit_compute_dtype=torch.bfloat16,

)

model = AutoModelForCausalLM.from_pretrained(

"meta-llama/Llama-3.1-8B",

quantization_config=bnb_config,

device_map="auto",

)

lora_config = LoraConfig(

r=16, lora_alpha=32,

target_modules=["q_proj", "v_proj"],

lora_dropout=0.05, task_type="CAUSAL_LM",

)

model = get_peft_model(model, lora_config)

```

Estimación de Costos