Para reconomizar processamento, Qualcomm e Meta querem integrar apps de IA a dispositivos

A Qualcomm Te a Meta estão trabalham para otimizar a execução dos modelos de large language (LLMs) Llama 2 da Meta diretamente no dispositivo, sem depender do uso exclusivo de serviços em nuvem. A capacidade de executar modelos generativos de IA como o Llama 2 em dispositivos como smartphones, PCs, headsets VR/AR e veículos permite que os desenvolvedores economizem nos custos da nuvem e forneçam aos usuários experiências privadas, mais confiáveis e personalizadas.

Como resultado, a Qualcomm Technologies planeja disponibilizar implementações de IA baseadas em Llama 2 on-device para permitir a criação de novos aplicativos de IA. Isso permitirá que clientes, parceiros e desenvolvedores criem casos de uso, como assistentes virtuais inteligentes, aplicativos de produtividade, ferramentas de criação de conteúdo, entretenimento e mais. Essas novas experiências de IA no dispositivo, com tecnologia Snapdragon, podem funcionar em áreas sem conectividade ou até mesmo no modo avião.

A Meta e a Qualcomm Technologies têm uma longa história de trabalho juntas para impulsionar a inovação tecnológica e oferecer a próxima geração de experiências de dispositivos premium. A colaboração atual das empresas para apoiar o ecossistema Llama abrange esforços de pesquisa e engenharia de produto.