El objetivo
Demostrar que una carga de inferencia de IA útil —un modelo de lenguaje local de 9.000 millones de parámetros— puede ejecutarse fuera de un centro de datos, en un nodo edge de bajo consumo energético, con la vista puesta en alimentarlo exclusivamente con energía solar. Es exactamente la tesis de Green AI Network: nodos distribuidos, locales y sostenibles que orquestados funcionan como una infraestructura de IA potente.
La arquitectura del prototipo
- Runtime de inferencia: Ollama ejecutando el modelo
qwen3.5-9b-48k(6,6 GB, contexto 48K). - Orquestación: OpenClaw como capa de agente que recibe la petición, la enruta al nodo y devuelve el resultado — el mismo patrón que usará un nodo real de la red.
- Hardware objetivo: SBC de bajo consumo tipo Raspberry Pi 5 (5–12 W según carga) o mini-PC fanless; en esta fase de validación se usó CPU del nodo de desarrollo (Intel i7-4770, sin aceleración GPU).
- Alimentación prevista: panel solar de 100 W + batería 12 V + regulador; con consumos de 6–10 W en reposo y picos breves durante inferencia, un nodo así puede operar de forma autónoma en horas de sol y aguantar la noche con batería.
Mediciones reales del prototipo
Ejecutamos el modelo qwen3.5-9b-48k en local y medimos una respuesta corta (definición de inferencia en edge, ~50 tokens) directamente contra el runtime:
La inferencia funciona completa en local: sin llamadas a la nube, sin API de pago y con datos que no salen del nodo. El tiempo en CPU (~50 s por respuesta corta) confirma que la vía práctica para producción es aceleración local (NPU, GPU edge o cuantización más agresiva), y aun así el caso ya es viable para cargas asíncronas: análisis de sensores, clasificación, resúmenes y agentes que no requieren latencia de chat en tiempo real.
Resultados y aprendizajes
- Viable en local: un modelo 9B corre completo en un nodo de bajo coste sin depender de la nube.
- Energía encaja: el presupuesto energético de un SBC solar (decenas de Wh/día) es suficiente para cientos de inferencias diarias si se dosifican en horas de sol y se encolan las tareas no urgentes.
- OpenClaw como orquestador: el mismo agente que coordina el enjambre puede enrutar cargas a nodos edge, replicando el modelo de negocio de la red: quien tiene nodo, cede capacidad; quien necesita cómputo, lo consume con trazabilidad.
- Siguiente hito: portar la carga a un SBC real con panel solar, medir Wh por inferencia y publicar el benchmark completo.
Por qué importa para Green AI Network
Este prototipo es la primera validación técnica pública del nodo tipo de la red: hardware doméstico de bajo consumo, energía solar, modelo local y orquestación central. Es la diferencia real frente a la IA hiperescalar: cómputo distribuido, trazable y verde.