Juntamente com o seu mais recente lote de novas plataformas móveis para smartphones de médio alcance, a Qualcomm fez um anúncio ainda maior no AI Day em San Francisco. A gigante de chips para dispositivos móveis está fazendo outra jogada para os servidores, depois de abandonar sua linha Centriq em 2018. Desta vez, a empresa está aproveitando suas tecnologias no campo da IA para entrar na porta da computação em nuvem. O primeiro chip chamado de plataforma Qualcomm Cloud AI 100.
A plataforma Cloud AI 100 não é um reempacotamento de chips para dispositivos móveis, é um projeto de 7nm para tarefas de inferência de IA, em vez de treinamento. Isso significa que o chip processará os números que passam pelas redes neurais em vez de ser usado para treiná-los. Isso parece colocar a Qualcomm em concorrência direta com a série Tesla T4 da Nvidia e os chips de inferência TPU do Google Edge projetados para servidores e computação em nuvem. Assim como seus concorrentes, a Qualcomm percebeu que o processamento de IA mais eficiente não é feito em CPUs, GPUs e FGPAs, mas requer um acelerador de IA dedicado.
Em termos de desempenho, a Qualcomm estima um aumento de desempenho de IA de pico superior a 50x sobre os recursos do seu Snapdragon 855. O Snapdragon 855 oferece cerca de 7TOPS de desempenho, o que sugere que o Cloud AI 100 está na faixa de 350TOPS. Isso certamente dará ao T4 da Nvidia uma corrida pelo seu dinheiro. A Qualcomm também acredita que tem vantagem no desempenho por watt, apresentando uma melhoria de 10x em comparação com as soluções de inferência de IA mais avançadas do setor implantadas hoje. Quando você está analisando grandes números, a eficiência de energia pode economizar enormes somas nas contas de eletricidade das empresas. Além disso, a Qualcomm deseja alavancar sua experiência em processamento de sinal e 5G, para que sua plataforma em nuvem possa trabalhar de ponta em futuras redes de latência muito baixa.
Quando perguntada, a Qualcomm não comentou se a arquitetura usada no Cloud AI 100 era proprietária ou licenciada de outro local. Gostaria de saber se esta é a primeira aparição da arquitetura Arm's Trillium AI, que também foi projetada especificamente para cargas de trabalho de inferência com baixo orçamento de energia. Mas basta especulação, a Qualcomm diz que compartilhará mais informações sobre sua arquitetura de IA no futuro.
Por fim, para dar suporte aos desenvolvedores, o Cloud AI 100 da Qualcomm trabalha com a maioria, se não todas, das pilhas de software líderes do setor. Há suporte para as estruturas Caffe, Keras, mxnet, TensorFlow, PaddlePaddle e Cognitive Toolkit, juntamente com os tempos de execução Glow, OnnX e XLA.
Espera-se que o Qualcomm Cloud AI 100 comece a amostrar para clientes em
