LLMs en Local (VI): Google AI Edge Gallery – IA generativa local en tu móvil

josejotxe
10 sept
4 Min. de lectura

1. Introducción

Después de haber explorado entornos de IA local en escritorio como LM Studio, Ollama, WebUI (Pinokio), GPT4All y Page Assist, ahora expandimos el horizonte hacia la movilidad.

Google AI Edge Gallery nos permite ejecutar modelos generativos directamente en nuestros dispositivos Android, sin conexión a internet, preservando la privacidad y respondiendo al instante.

2. ¿Qué es Google AI Edge Gallery?

Se trata de una aplicación experimental de Google (Android disponible, iOS en camino), diseñada para llevar la potencia de los modelos generativos a la palma de tu mano, completamente sin conexión. Puedes explorar, interactuar y evaluar distintas capacidades de IA — chat, análisis de imágenes, prompts y más — todo localmente una vez cargado el modelo.

3. ¿Por qué usarla?

Totalmente offline: funciona incluso en zonas sin acceso a internet.
Privacidad garantizada: tus datos permanecen en el dispositivo.
Modelos versátiles: selecciona entre modelos de Hugging Face o usa los propios LiteRT.
Funciones integrales: chat, Ask Image, Audio Scribe, Prompt Lab, y más.

4. Instalación rápida

Descarga el APK desde el repositorio de GitHub (o en Google Play si estás en EE.UU.).
Desinstala versiones anteriores si existen.
Activa la instalación desde fuentes externas y ejecuta el APK.

5. Funcionalidades básicas

Nota: aara mostrar como funciona, estamos usando la versión v1.0.5 de agosto de 2025

5.1 AI Chat

Conversar en local con un modelo LLM desde la aplicación móvil:

Abre la APP "Google AI Edge Gallery" y selecciona "AI Chat"
Descarga un modelo LLM
- Necesitarás tener descargado al menos un modelo LLM. Aparecen varios para descargar.
- En nuestro ejemplo vamos a descargar "Gemma3-1B-IT" que es un modelo de 584MB y cuantizazión 4 bits
- Dependiendo del modelo que descargues, podría ser necesario que al menos tengas una cuenta gratuita en HuggingFace o en GitHub.
Google AI Edge Gallery - AI Chat
Una vez descargado el modelo podemos empezar a chatear con el modelo
Puedes configurar diferentes parámetros de la conversación como "TopK", "TopP" y la "Temperatura"
Puedes ver las estadísticas de la conversación: "first token", "Latency"....

5.2 Ask Image

Sube una imagen y conversar sobre ella: extraer información, identificar objetos, resolver problemas...

Abre la APP "Google AI Edge Gallery" y selecciona "Ask Image"
Tendrás que descargar un modelo que permita el análisis de imágenes.
- En nuestro caso vamos a descargar "Gemma-3n-E2B-it" que es un modelo de 3,4Gb que permite entradas tipo texto, imagen y audio.
Una vez descargado vamos al chat y subimos una o varias imágenes y un prompt
- Las imágenes se pueden ser de las que están almacenadas en el móvil o hacer una foto nueva.
- En nuestro ejemplo hemos subido una foto de un cartel de una carrera ciclista, y vamos a preguntarle que revise la imagen y nos de información sobre la carrera
- Prompt:
  - "Es el poster de una carrera ciclista. ¿me puedes decir que día es y el recorrido?"

5.3 Audio Scribe

Transcribe o traduce contenido de audio:

Abre la APP "Google AI Edge Gallery" y selecciona "Audio Scribe"
Tendrás que descargar un modelo que permita audio como entrada.
- En nuestro caso vamos a usar el modelo que ya descargamos en el ejemplo del "Ask Image": "Gemma-3n-E2B-it" que es un modelo de 3,4Gb que permite entradas tipo texto, imagen y audio.
Vamos a pasarle un audio
- Puede ser un archivo ".wav" o podemos directamente grabar una nota de audio
Tras pasarle el audio le pasamos un prompt con relación al audio
- En nuestro caso hemos hecho una nota de voz indicando una serie de tareas
- Con la prompt le incidamos que nos haga una tabla de las tareas que se indican en el audio.
- Prompt:
  - "Hazme una tabla con las tareas de esta audio"

5.4 Prompt Lab

Tareas como resumen, reescritura, generación de código, con plantillas predefinidas.

Abre la APP "Google AI Edge Gallery" y selecciona "Prompt Lab"
Rewrite tone: permite reescribir un texto en otro tono. Como opciones de tono predefinidas puedes escoger entre tono "Formal", "Casual", "Friendly", "Polite", Enthusiastic" o "Concise"
Summarize text: permite resumir un texto que le pases. Tiene varios estilos predefinidos que se pueden seleccionar: "Key bullet points (3-5)", "Short paragraph (1-2 sentences)", "Headline/Title" o "One-sentence summary".
Code snippet: permite generar código de programación. Se puede generar para varios lenguajes de programación: "JavaScript", "C++", "Java", "Kotlin", "Python", "Swift" o "TypeScript".

6. Modelos compatibles

Integración con modelos ligeros desde Hugging Face.
Modelos optimizados como Gemma 3n, diseñados para correr en móviles con arquitectura eficiente.
Soporte para modelos .litertlm personalizados.

7. Beneficios y aspectos a considerar

Beneficios	Limitaciones
IA sin necesidad de internet	Requiere instalación manual y permisos especiales
Privacidad total y procesamiento local	Disponible solo en Android por ahora
Funciones versátiles (imagen, audio, chat)	Rendimiento depende del hardware y el modelo descargado
Rendimiento medido en tiempo real	Modelos no se actualizan automáticamente; requiere descarga manual de nuevas versiones

8. Conclusión

Google AI Edge Gallery es un paso fascinante hacia la descentralización de la IA. Convierte tu móvil en un potente centro de generación de texto, imágenes y audio, sin conexión, manteniendo tu privacidad intacta. Si quieres explorar IA local mientras estás en movimiento, es una herramienta radicalmente accesible y poderosa.