EdgeCloud para dispositivos móviles: libera la informática de IA en 3.900 millones de dispositivos Android

Theta EdgeCloud y los más de 10 000 nodos de borde activos en todo el mundo son la columna vertebral que permite a Theta ofrecer trabajo informático rápido y rentable para aplicaciones de video e inteligencia artificial a través de una red descentralizada. Mientras el equipo de ingeniería de Theta continúa su desarrollo central de EdgeCloud para su primer lanzamiento el 1 de mayo, se está llevando a cabo una pista de I+D separada y paralela para lanzar un piloto de Theta Edge Node para dispositivos móviles Android en los próximos meses.

El objetivo de este piloto inicial es probar la viabilidad de aprovechar hasta 3,9 mil millones de dispositivos Google Android activos para ciertos tipos de cargas de trabajo de computación de IA. Android hoy representa el 70% de la cuota de mercado de sistemas operativos móviles en 190 países y proporciona una plataforma ideal para evaluar las capacidades de CPU/GPU móviles.

Esto también brinda la oportunidad de apuntar a más de 150 millones de televisores Android activos en todo el mundo que ejecutan el sistema operativo AndroidTV de Sony, Sharp, Phillips y muchas más marcas. Si bien el consumo diario promedio de televisión hoy en día es de alrededor de 3 horas, esto deja al dispositivo disponible la mayor parte del tiempo para otros tipos de computación e intercambio de datos, especialmente porque estos Smart TV siempre conectados aumentan las capacidades de CPU y GPU durante la próxima década.

Si bien hoy en día el trabajo informático intensivo generalmente no es factible en dispositivos móviles, eso está cambiando rápidamente. Por ejemplo, TensorFlow Lite ahora permite el aprendizaje automático en el dispositivo al permitir a los desarrolladores ejecutar sus modelos entrenados en dispositivos y computadoras móviles, integrados y de IoT. Admite plataformas como Linux integrado, Android, iOS y MCU. En un futuro próximo, estos dispositivos podrán procesar cálculos cada vez más complejos y, por lo tanto, serán significativamente más valiosos como nodos en Theta EdgeCloud. Los dispositivos actuales ya pueden ejecutar ciertos tipos de trabajos en Theta Edge Node, lo que convierte a los 3.900 millones de dispositivos Android en todo el mundo en una enorme adición potencial a Theta EdgeCloud. En el futuro, con la capacidad de ofrecer GenAI, inferencia LLM y texto a imagen, entre otros casos de uso, los dispositivos móviles que ejecutan Edge Nodes pueden servir a un mercado de IA valorado en la actualidad en 200 mil millones de dólares y cuyo valor se proyecta en más de 1 billón de dólares. en 2028.

La oportunidad es trasladar las cargas de trabajo de IA con uso intensivo de computación al borde a medida que el costo de los recursos de GPU centralizados se dispara en todos los principales proveedores de servicios en la nube, pero esto sigue siendo un problema técnico desafiante. Por ejemplo, NVIDIA anunció recientemente un bot de chat de IA privado para computadoras de escritorio que ejecutan RTX en PC con Windows equipadas con GPU NVIDIA GeForce RTX series 30 y 40 con al menos 8 GB de VRAM. Theta EdgeCloud, cuando se lance por completo en 2025, tiene como objetivo integrar perfectamente la capacidad de GPU de alta gama de los proveedores de la nube con miles de millones de dispositivos móviles e inteligentes, además de computadoras de escritorio y portátiles, en una capa de infraestructura de IA unificada. Esto abre un vasto mercado para procesar cargas de trabajo de IA bajo demanda optimizadas en términos de costo, calidad de servicio, privacidad y capacidades del dispositivo.

El equipo de ingeniería de Theta está entusiasmado de realizar una prueba inicial con la nueva solución experimental de generación de texto a imagen MediaPipe de Google para Android en el lanzamiento piloto del nodo móvil Theta Edge. El equipo está evaluando la generación de texto a imagen basada en indicaciones de texto utilizando modelos de difusión estándar, así como la generación de texto a imagen personalizada basada en indicaciones de texto utilizando pesos de adaptación de bajo rango (LoRA) . "La creación de pesos LoRA requiere entrenar un modelo básico en imágenes de un objeto, persona o estilo específico, lo que permite al modelo reconocer el nuevo concepto y aplicarlo al generar imágenes", según el sitio de desarrolladores de Google.

El equipo de Theta espera que esté tan entusiasmado con esta oportunidad como nosotros y lo invita a participar en este piloto, compartir sus comentarios y recursos mientras continuamos abriendo nuevos caminos en la informática de IA de próxima generación. Como nota final, la expectativa inicial es que la participación TFUEL no será compatible con el piloto móvil de Edge Node y se utilizará únicamente para pruebas informáticas en este estudio de viabilidad.