MediaTek adota tecnologia da Meta para aprimorar o uso de IA generativa

A MediaTek, fabricante global de semicondutores, anunciou que está trabalhando em estreita colaboração com a Meta para o uso do Llama 2, Large Language Model de código aberto de próxima geração da empresa. Utilizando o LLM da Meta, bem como as mais recentes APUs da MediaTek e a plataforma NeuroPilot AI, a MediaTek pretende construir um ecossistema completo de computação de borda projetado para acelerar o desenvolvimento de aplicações de IA para smartphones, dispositivos de IoT, automóveis, casa inteligente e outros dispositivos.

"A crescente popularidade da IA generativa é uma tendência significativa na transformação digital, e nossa visão é fornecer à comunidade de desenvolvedores e usuários do Llama 2 as ferramentas necessárias para inovar totalmente no espaço da IA", disse JC Hsu, vice-presidente e gerente geral da unidade de negócios de comunicações sem fio da MediaTek. "Por meio de nossa parceria com a Meta, podemos fornecer hardware e software com muito mais capacidade de computação de borda."

Segundo a MediaTek, atualmente, a maior parte do processamento de IA generativa é realizada por meio de computação em nuvem. Para tirar proveito da tecnologia de IA generativa no dispositivo de forma completa, os fabricantes de dispositivos de borda precisarão adotar processadores de IA de alta computação, baixo consumo de energia e conectividade mais rápida e confiável, para aprimorar os recursos de computação.

“O uso de modelos Llama 2 pela MediaTek permitirá que os aplicativos de inteligência artificial generativa também sejam executados localmente, diretamente no dispositivo. Isso oferece várias vantagens para desenvolvedores e usuários, incluindo performance constante, maior privacidade, melhor segurança e confiabilidade, menor latência, capacidade de trabalhar em áreas com pouca ou nenhuma conectividade e menor custo de operação”, diz o fornecedor.

De acordo com un comunicado de imprensa da MediaTek, todos os SoCs de smartphones 5G com sua tecnologia fornecidos hoje são equipados com APUs projetadas para executar uma ampla variedade de recursos de IA generativa, como AI Noise Reduction, AI Super Resolution, AI MEMC e muito mais.

“O novo chipset flagship da MediaTek, que será lançado no final deste ano, contará com um software otimizado para executar o Llama 2, bem como um upgrade de APU com aceleração de backbone Transformer, menor espaço ocupado e largura de banda DRAM, melhorando ainda mais o desempenho do LLM e de AIGC. Esses avanços facilitam um ritmo acelerado para a criação de casos de uso para IA generativa nos dispositivos”, disse o comunicado.

A MediaTek espera que aplicações de IA baseadas no Llama 2 estejam disponíveis para smartphones equipados com a próxima geração de seu SoC para dispositivos flagship até o final do ano.