Meta y Qualcomm, dos gigantes del sector tecnológico, unieron fuerzas para optimizar la ejecución de los modelos gran lenguaje Llama 2 directamente a sus dispositivos, reduciendo la dependencia de los servicios en la nube. Esta innovación le permite ejecutar modelos generativos de IA como Llama 2 en teléfonos inteligentes, PC, auriculares VR/AR y vehículos, brindando a los usuarios experiencias más privadas, confiables y personalizadas, mientras que al mismo tiempo ahorro en los costos de la nube.
Un prometedor futuro tecnológico gracias a la inteligencia artificial de Llama 2
La IA del dispositivo puede funcionar perfectamente incluso en modo avión. Esta asociación tiene como objetivo poner a disposición implementaciones de IA basadas en Llama 2, lo que permite a los desarrolladores crear aplicaciones innovadoras de inteligencia artificial. Los clientes, socios y desarrolladores podrán aprovechar el poder de estas experiencias de IA para crear asistentes virtuales inteligentes, herramientas de productividad, plataformas de creación de contenido y aplicaciones de entretenimiento.
Durga malladi, vicepresidente sénior y director general de tecnología de punta, planificación y soluciones de Qualcomm Technologies, dio su opinión soporte para el enfoque de Meta hacia la IA abierta y responsable. Malladi subrayó el compromiso de la empresa de impulsar la innovación y facilitar el desarrollo de la IA para desarrolladores de todos los tamaños, prediciendo que la IA generativa funcionará a la perfección tanto en la nube como en dispositivos perimetrales como teléfonos inteligentes, computadoras portátiles, vehículos e Dispositivi IoT.
La colaboración entre Meta y Qualcomm Technologies se basa en una larga historia de innovación tecnológica para ofrecer experiencias de dispositivos premium. Esta asociación incluye esfuerzos conjuntos de investigación e ingeniería de productos destinados a apoyar el ecosistema Llama. El liderazgo de Qualcomm Technologies en inteligencia artificial en el dispositivo lo posiciona de manera única para admitir Llama, dada su amplia presencia en los bordes, impulsando miles de millones de teléfonos inteligentes, vehículos, auriculares XR, anteojos, PC y dispositivos IoT con soluciones de hardware y software de clase mundial. IA líder en la industria.
Se espera que esté disponible comenzando desde 2024, Qualcomm Technologies planea ofrecer implementaciones de IA basada en Llama 2 en dispositivos con tecnología Snapdragon. Los desarrolladores pueden comenzar hoy mismo optimizando sus aplicaciones para la IA en el dispositivo utilizando Qualcomm AI Stack, un conjunto de herramientas dedicadas que permiten procesamiento de IA más eficiente en Snapdragon. Esta tecnología innovadora hace posible la IA en el dispositivo incluso en dispositivos pequeños, delgados y livianos.
