A medida que los modelos de IA se vuelven más accesibles, los desarrolladores encuentran formas creativas de ejecutarlos en hardware no convencional. Una publicación reciente de un desarrollador chino muestra cómo usar Termux, un emulador de terminal de código abierto para Android, para ejecutar Ollama e implementar grandes modelos de lenguaje directamente en un teléfono. La motivación era simple: la computadora principal del desarrollador se estaba quedando sin recursos, y un teléfono Android inactivo parecía un candidato perfecto para descargar cargas de trabajo de LLM. Este enfoque es parte de una tendencia más amplia hacia la IA perimetral, donde el cálculo ocurre más cerca de la fuente de datos en lugar de en servidores en la nube centralizados. Si bien ejecutar LLM en dispositivos móviles tiene limitaciones en términos de tamaño del modelo y rendimiento, abre posibilidades para aplicaciones sensibles a la privacidad, casos de uso sin conexión y experimentación rentable.
Un desarrollador demuestra cómo ejecutar Ollama en Android a través de Termux, convirtiendo teléfonos inactivos en servidores LLM locales. Esto señala la creciente tendencia de la IA perimetral y la reutilización del hardware móvil.