· Lectura de 9 minutos
Un modelo de IA serio ya cabe en un PC de escritorio. Hicimos la cuenta de cuándo conviene
El 12 de agosto Alibaba publicó los pesos de Qwen3.8-27B y medio internet escribió lo mismo: por fin un modelo de primera línea que corre en tu casa. Es verdad, y es técnicamente notable. Lo que casi nadie puso en la misma página es la aritmética: con el consumo de IA que tiene nuestro propio sitio, la tarjeta de video necesaria tardaría 444 años en pagarse sola.
Los datos duros primero. Qwen3.8-27B tiene 27.000 millones de parámetros, es dense —todos esos parámetros se activan en cada palabra que genera, a diferencia de los modelos de mezcla de expertos, donde solo trabaja una fracción—, entiende imágenes y video de forma nativa, y su ventana de contexto es de 262.144 tokens, extensible hasta un millón. La licencia es Apache 2.0: se puede usar en un negocio sin pedirle permiso a nadie.
En las pruebas que publica el propio equipo saca 61,7 en SWE-bench Pro, 90,3 en LiveCodeBench v6, 89,2 en GPQA Diamond y 84,3 en OSWorld-Verified. Y su afirmación más llamativa no es contra la competencia sino contra sí mismos: dicen que este modelo de 27B supera en conjunto a Qwen3.7-Plus, que era su modelo grande de servidor. Un año atrás, esa frase habría sido ridícula.
Hasta ahí la noticia. La parte que a un negocio le sirve empieza cuando uno pregunta cuánto cuesta tenerlo puesto.
Nuestra factura de IA son 6.000 pesos por cada mil mensajes. La tarjeta cuesta 3.199.000
El 29 de julio medimos exactamente cuánto costaría atender con IA el chat de kaivastudio.com. Cada mensaje son unos 2.500 tokens de entrada —la información del estudio, el historial y la pregunta— y unos 150 de salida. Con Haiku 4.5 y caché de prompt, mil mensajes salen por 1,45 dólares: alrededor de 6.000 pesos colombianos.
Enfrente, el hardware. Para mover este modelo en su versión de 4 bits hace falta una tarjeta de 16 GB. Una RTX 5060 Ti de 16 GB se consigue hoy en Colombia por 3.199.000 pesos —consultado el 16 de agosto de 2026 en Tauret Computadores, con IVA incluido—.
Dividir una cifra por la otra da el número que ningún tutorial de «instala tu IA local» pone: 533.000 mensajes antes de que la tarjeta se pague. Al tráfico que tiene nuestro sitio, unos cien mensajes al mes, eso son 5.332 meses. Cuatrocientos cuarenta y cuatro años.
Y esa cuenta es generosa con el hardware, porque deja fuera la luz, el resto del computador, el disco, y las horas de alguien manteniendo aquello actualizado. El punto de equilibrio real está más arriba todavía.
Le damos la vuelta, que es como se vuelve útil: para que la tarjeta se amortice en tres años hay que estar procesando unos 15.000 mensajes al mes, cerca de quinientos diarios. Ese es el umbral. Si tu negocio está ahí, la máquina propia es una decisión sensata y vale la pena sentarse a hacer números. Si estás en cien mensajes al mes, comprar una tarjeta de video para ahorrarte seis mil pesos es una afición, no una inversión — y no pasa nada con tener aficiones, siempre que se llamen por su nombre.
Los «12 GB de VRAM» del cartel son ciertos, pero no con la versión que quieres usar
Aquí es donde la mayoría de artículos se queda corto, porque copian una cifra suelta. Un modelo se puede cuantizar: bajarle precisión a sus números para que ocupe menos. Cuanto más se baja, menos memoria pide y más se degrada la calidad de lo que escribe. Esta es la tabla de Unsloth para este modelo:
| Versión | Memoria total necesaria | Qué significa en la práctica |
|---|---|---|
| 2 bits | 11–13 GB | Entra en una tarjeta de 12 GB, con pérdida de calidad visible |
| 3 bits | 13–16 GB | El compromiso para quien tiene 16 GB justos |
| 4 bits | 17–19 GB | La opción habitual y la más recomendada |
| 6 bits | 24 GB | Diferencia pequeña frente a 4 bits, tarjeta bastante más cara |
| 8 bits | 31 GB | Ya son dos tarjetas o una profesional |
| Sin cuantizar | 56 GB | Territorio de servidor |
Falta el detalle que cambia todo: esa columna es memoria total, VRAM de la tarjeta más RAM del sistema. Los 17 GB de la versión de 4 bits no significan «necesitas 17 GB de tarjeta»; significan que entre tarjeta y RAM tienes que reunir 17 GB. Se puede repartir, y funciona. Lo que se paga es velocidad, porque lo que vive en la RAM va por un bus mucho más lento.
Cuánto más lento no es teórico. Una prueba publicada sobre un MacBook con 16 GB de memoria unificada corriendo la versión de 2 bits dio 7,11 tokens por segundo con un prompt corto y 2,91 con uno real de 7.072 tokens. Tres tokens por segundo es aproximadamente la velocidad a la que uno lee en voz alta con desgana: usable para un experimento, insufrible para atender clientes.
Traducido a la tarjeta que la mayoría de gente tiene en casa: con 12 GB corre, sí, en 2 o 3 bits, o repartiendo con la RAM. Es un modelo distinto del que aparece en los benchmarks del anuncio.
Lo que hace que quepa no es la cuantización: es que solo 16 de sus 64 capas usan atención completa
Este es el dato que casi no se está contando y es el más interesante de todos.
Un modelo de lenguaje no solo ocupa memoria por su tamaño. Mientras conversa guarda una especie de memoria de trabajo —la caché de claves y valores— que crece con cada token de la conversación. En un modelo clásico, esa caché es la que arruina el contexto largo: puedes tener el modelo cargado y quedarte sin memoria a mitad de un documento.
La arquitectura de Qwen3.8-27B alterna dos tipos de capa. De sus 64 capas, 48 son de atención lineal y solo 16 son de atención completa, en un patrón de tres a una. Y la caché la generan sobre todo esas 16. El resultado, según las mediciones de ofox.ai: 0,5 GB de caché con 8.000 tokens de contexto, 2 GB con 32.000, y 16 GB con los 262.144 completos.
Compáralo con lo que pediría si las 64 capas guardaran memoria igual que esas 16: el mismo contexto de 32.000 tokens estaría del orden de 8 GB, más de lo que ocupa el modelo entero en 2 bits. Ese es el truco. No es que hayan comprimido mejor un modelo grande; es que rediseñaron qué partes del modelo tienen que acordarse de la conversación.
Por qué esto importa fuera del laboratorio: la mayoría de tareas de negocio que valen la pena automatizar con IA son de contexto largo. Resumir treinta correos, revisar un contrato, contestar leyendo el catálogo completo. Un modelo que corre rápido con preguntas cortas y se ahoga en cuanto le das un documento no sirve para eso. Lo que se acaba de abaratar no es tanto «tener IA en casa» como tener IA en casa que aguante un documento entero.
Hay un caso donde la cuenta se invierte, y no tiene que ver con el precio
Todo lo anterior compara pesos con pesos. Hay situaciones donde esa no es la comparación correcta.
En el panel a medida que construimos para CS Travel Group se manejan datos de pacientes. Cuando publicamos la captura en nuestra portada tuvimos que difuminar un correo y un nombre —y esa decisión, que parece cosmética, es la misma pregunta a otra escala: ¿esa información puede salir del edificio? Con datos clínicos, jurídicos o financieros, mandar cada consulta a la API de un tercero no es un detalle de implementación, es una decisión que alguien tiene que firmar. Un modelo que corre en una máquina de la oficina no manda nada a ninguna parte.
El segundo caso es la dependencia. Un proveedor puede cambiar el modelo por debajo, subir el precio, cerrar la versión que usabas o volverla gratis e ilimitada — las tres cosas han pasado este mismo mes—. Unos pesos descargados con licencia Apache 2.0 siguen funcionando igual dentro de cinco años, en la misma máquina, sin conexión y sin factura.
Ninguna de esas dos razones es «sale más barato». Y ahí está lo que más incomoda de este tema: la razón por la que a la mayoría de negocios pequeños le venden IA local es precisamente la única que no se sostiene.
Un modelo en tu oficina no cambia lo que un cliente ve de ti
Lo que sí cambió esta semana, y es real, es el techo. Un negocio con motivos serios para no sacar sus datos de casa ya no tiene que elegir entre privacidad y calidad: hoy puede tener las dos por el precio de una tarjeta de video. Hace dieciocho meses eso costaba una máquina de servidor y una persona dedicada a cuidarla. Es un cambio grande y va a seguir bajando.
Pero conviene no confundir dos conversaciones. La de este artículo es sobre qué modelo usas por dentro. La que decide si te llegan clientes es otra: qué encuentra una máquina escrito sobre ti cuando alguien pregunta por tu negocio. Se puede tener el mejor modelo del mundo corriendo en el cuarto de al lado y seguir siendo invisible, porque el modelo que le contesta a tu cliente no es el tuyo — es el de ChatGPT, y lee lo que tú hayas dejado escrito en tu propio dominio.
Si lo que te interesa de todo esto era el ahorro, la ruta corta sigue siendo pagar por consulta a un modelo abierto en la nube: cuestan una fracción de lo que cobran los cerrados y no hay nada que instalar. Y antes de gastar en cualquiera de los dos caminos, vale más medir lo que ya tienes: el Diagnóstico Digital lo hace gratis sobre tu dominio y suele encontrar cosas que se arreglan en una tarde y rinden más que un modelo de 27.000 millones de parámetros.