Snapdragon 8 Elite Extreme Gen 6 ejecuta IA de 30.000M parámetros, pero con limitaciones

Solo una parte del modelo se activa por cada token, no el conjunto completo
La arquitectura MoE permite ejecutar modelos grandes de forma más eficiente, pero requiere almacenar todos los parámetros.
Mark

¿Entonces Qualcomm está diciendo que puede ejecutar un modelo de 30.000 millones de parámetros, pero en realidad solo usa 3.000 millones a la vez? ¿Eso no es un poco engañoso?

Mimi

No exactamente. Es más preciso decir que el modelo completo está ahí, pero solo una parte se activa por cada token. Es como tener un libro de 1.000 páginas pero solo leer las páginas relevantes para responder una pregunta. El libro sigue siendo de 1.000 páginas.

Luke

Pero eso importa mucho para almacenamiento. Si necesitas guardar los 30.000 millones de parámetros en el teléfono, eso es un requisito de memoria enorme. ¿Cuánto espacio estamos hablando realmente?

Mimi

La fuente no especifica el tamaño exacto en gigabytes, pero es significativo. Eso es una limitación real que no debería ocultarse.

Mark

¿Y la velocidad de 30 tokens por segundo es buena? ¿Cómo se compara con ejecutar el mismo modelo en la nube?

Mimi

Es lo suficientemente rápida para conversación fluida. Pero la nube probablemente sería más rápida con modelos más grandes. El punto es que ahora tienes una opción local que no requiere internet.

Luke

Aquí hay algo que la presentación no aclara: ¿cuánta batería consume esto? ¿Cuánto calor genera? Esos son números que importan para un usuario real.

Mimi

Buena pregunta. La fuente no lo menciona. Qualcomm mostró que funciona, pero no vimos datos sobre eficiencia energética o térmica.

Mark

Entonces, ¿es justo decir que esto es un avance real pero con limitaciones prácticas que todavía no conocemos completamente?

Mimi

Exacto. Es un avance genuino en capacidad. Pero el marketing de "30.000 millones de parámetros" necesita el contexto de la arquitectura MoE para ser honesto.

Luke

Y ese contexto es lo que la mayoría de los titulares van a perder.

  • Qualcomm presenta un chip móvil que puede ejecutar localmente modelos de IA del tamaño de Gemma 4 o Qwen 3.6, rivalizando en escala con sistemas que hasta ahora requerían servidores enteros.
  • El titular de '30.000 millones de parámetros' genera expectativas enormes, pero la arquitectura MoE activa en realidad solo unos 3.000 millones por token, lo que obliga a matizar el alcance real del anuncio.
  • El dispositivo aún debe almacenar todos los parámetros en memoria, lo que impone límites físicos que la eficiencia de cálculo no puede eliminar por completo.
  • En demostración, el procesador alcanzó 30 tokens por segundo, suficiente para conversaciones fluidas sin conexión a internet, abriendo un espacio real para aplicaciones de asistencia, traducción y análisis local.
  • Para fabricantes y desarrolladores, el chip redefine lo que puede ocurrir en el bolsillo del usuario, con implicaciones directas sobre privacidad, latencia y dependencia de la nube.

En el horizonte de la computación personal, Qualcomm ha anunciado un procesador móvil capaz de alojar modelos de inteligencia artificial de 30.000 millones de parámetros sin recurrir a la nube, un umbral que hasta hace poco parecía reservado exclusivamente a los centros de datos. El logro descansa en una arquitectura llamada Mixture of Experts, que activa solo una fracción del modelo en cada paso, convirtiendo la eficiencia en la nueva forma de ambición tecnológica. Lo que este momento revela no es solo un avance en silicio, sino una reconfiguración de dónde vive la inteligencia y quién la controla.

Qualcomm presentó esta semana el Snapdragon 8 Elite Extreme Gen 6 con una promesa llamativa: ejecutar modelos de inteligencia artificial de 30.000 millones de parámetros directamente en un teléfono móvil. Modelos de ese tamaño —como Gemma 4 o Qwen 3.6— alcanzan aproximadamente el 80% de la precisión de sistemas mucho más grandes que operan en centros de datos. La cifra, presentada sola, suena revolucionaria.

El matiz decisivo está en la arquitectura que hace posible el logro: Mixture of Experts, o MoE. En lugar de activar toda la red en cada paso, el sistema selecciona inteligentemente qué capas especializadas intervienen según la tarea. En la práctica, un modelo MoE de 30.000 millones de parámetros activa solo alrededor de 3.000 millones por cada token procesado, reduciendo considerablemente el cálculo necesario. Sin embargo, el dispositivo sigue necesitando almacenar la totalidad del modelo en memoria, y la aceleración no es proporcional a esa reducción.

Durante la presentación, el procesador demostró 30 tokens por segundo, una velocidad que permite conversaciones fluidas sin depender de conexión a internet. Para usuarios y desarrolladores, esto abre posibilidades concretas: asistencia inteligente, traducción en tiempo real y análisis de imágenes procesados localmente, con las ventajas de privacidad y velocidad que eso implica.

El Snapdragon 8 Elite Extreme Gen 6 es un avance genuino en ingeniería móvil, pero su capacidad no equivale a usar 30.000 millones de parámetros en cada instante. Es un logro de eficiencia inteligente, no de potencia bruta, y esa distinción importa tanto como el número que encabeza el anuncio.

Qualcomm presentó esta semana su nuevo procesador insignia, el Snapdragon 8 Elite Extreme Gen 6, con una promesa que suena casi demasiado ambiciosa: puede ejecutar modelos de inteligencia artificial con 30.000 millones de parámetros directamente en un teléfono móvil, sin necesidad de conectarse a servidores en la nube. Para ponerlo en perspectiva, modelos actuales de ese tamaño —como Gemma 4 o Qwen 3.6— alcanzan aproximadamente el 80% de la precisión de sistemas mucho más grandes que corren en centros de datos con billones de parámetros. La cifra, presentada así, parece revolucionaria.

Pero hay un matiz importante que cambia cómo entender la noticia. El truco está en la arquitectura que Qualcomm utiliza para lograrlo: un sistema llamado MoE, siglas de Mixture of Experts. En lugar de activar todo el modelo cada vez que procesa información, estos sistemas dividen el trabajo en capas especializadas y usan un mecanismo de selección inteligente para decidir cuáles intervienen en cada paso. Es como tener un equipo de expertos en una sala, pero solo los relevantes para cada pregunta se ponen a trabajar.

En la práctica, un modelo MoE de 30.000 millones de parámetros activa solamente alrededor de 3.000 millones de parámetros por cada token que procesa —cada fragmento pequeño de texto o información que el modelo maneja. Esto reduce significativamente el cálculo necesario en comparación con usar la red completa en cada paso. Sin embargo, la reducción tiene límites: aunque el procesamiento es más rápido, el dispositivo sigue necesitando almacenar todos esos 30.000 millones de parámetros en memoria, y la aceleración no es proporcional a la reducción de cálculo.

Durante la presentación de Qualcomm, el procesador demostró su capacidad alcanzando 30 tokens por segundo, una velocidad que permite conversaciones fluidas con modelos de IA sin depender de conexión a internet. Para usuarios de smartphones, esto abre posibilidades reales: aplicaciones de asistencia inteligente, traducción en tiempo real, análisis de imágenes y texto, todo procesado localmente en el dispositivo.

La realidad es más matizada que el titular inicial sugiere. El Snapdragon 8 Elite Extreme Gen 6 es genuinamente potente y representa un avance en lo que los procesadores móviles pueden hacer. Pero la capacidad de ejecutar 30.000 millones de parámetros no significa que el teléfono esté usando toda esa potencia en cada momento. Es un logro de ingeniería inteligente, no de pura potencia bruta. Para los fabricantes de teléfonos y desarrolladores de aplicaciones, esto abre un nuevo espacio donde la inteligencia artificial puede vivir en el bolsillo del usuario, con todas las implicaciones de privacidad y velocidad que eso conlleva.

Un modelo MoE de 30.000 millones de parámetros activa solamente alrededor de 3.000 millones de parámetros por cada token
— Especificación técnica de Qualcomm
Quer a matéria completa? Leia o original em geeknetic.es ↗
Fale Conosco FAQ