coach-0.6b-q0f32-MLC

Coach de inglés destilado para la app Habla Inglés Ya: un Qwen3-0.6B afinado con LoRA para imitar a Claude Opus en una sola tarea — corregir frases de hispanohablantes aprendiendo inglés americano y responder con el JSON exacto que consume la app (corrected, explanation, say con respelling).

Corre en el navegador con WebLLM (WebGPU), sin servidor: los pesos (1.19 GB, fp32 con embeddings atados) se descargan una vez a la Cache API y quedan disponibles sin conexión. Cuantización q0f32 porque la nightly de MLC de la época segfaultaba al compilar el quantize de grupo de q4f32_1; cuando haya una nightly arreglada se regenerará (~0.4 GB, ~3× más rápido). El model_lib (coach-0.6b-q0f32-webgpu.wasm, 6 MB) reusa el wasm precompilado Qwen3-0.6B-q0f32_cs1k de binary-mlc-llm-libs (v0_2_86/base): misma arquitectura que el Qwen3-0.6B de fábrica, contexto hasta 4096.

Uso con WebLLM

import { CreateWebWorkerMLCEngine, prebuiltAppConfig } from '@mlc-ai/web-llm';

const appConfig = {
  ...prebuiltAppConfig,
  model_list: [{
    model: 'https://huggingface.co/ch1llc0d3/coach-0.6b-q0f32-MLC/resolve/main/',
    model_id: 'coach-0.6b-q0f32-MLC',
    model_lib: 'https://huggingface.co/ch1llc0d3/coach-0.6b-q0f32-MLC/resolve/main/coach-0.6b-q0f32-webgpu.wasm',
    vram_required_MB: 2400,
    low_resource_required: true,
    overrides: { context_window_size: 4096 },
  }],
};

Sirve con enable_thinking: false y response_format: { type: 'json_object', schema } — el dataset no lleva <think> y la salida debe ser JSON directo.

Entrenamiento

• Base: Qwen/Qwen3-0.6B, LoRA r=16, alpha=32, all-linear, 3 épocas (507 pasos, ~44 min en una RTX 3060 de 6 GB, bf16).
• Dataset: 3000 frases de alumno etiquetadas por Claude Opus con el mismo prompt y schema de la app (errores típicos del hispanohablante + 15 % de frases ya correctas). Split 2700/300.
• Eval loss por época: 0.699 → 0.595 → 0.585; token accuracy 84.7 %.

Resultados (eval con el mismo pipeline de la app, n=200)

Métrica	coach-0.6b (este)	Qwen3-1.7B sin entrenar (línea base)
JSON válido	100 %	89 %
corrected exacto	70 %	38 %
corrected casi (±1 palabra)	80 %	56 %
Frases correctas respetadas	44/45	17/17

Verificado en Chromium headless con WebGPU (RTX 3060): carga desde este repo y corrige bien los errores típicos que el modelo genérico fallaba — "I have 25 years old" → "I'm 25 years old", "explain me this", "I am agree", "more taller".

Limitaciones

• Especializado en la tarea de corrección del curso; no es un chatbot general.
• ~1.7–4 s por respuesta en la RTX 3060 (fp32 + gramática JSON de WebLLM).
• No toca frases ya correctas el 44/45 de las veces; el 1 restante puede inventar un cambio menor.