A computação confidencial e duas novas instâncias com tecnologia NVIDIA expandem as possibilidades de IA generativa para os clientes do Azure
Como a NVIDIA continua a colaborar com a Microsoft para criar uma infraestrutura de IA de última geração, a Microsoft está introduzindo máquinas virtuais adicionais baseadas em H100 no Microsoft Azure para acelerar as exigentes cargas de trabalho de IA.
Em sua conferência Ignite, em Seattle, a Microsoft anunciou sua nova série de VMs NC H100 v5 para o Azure, as primeiras instâncias de nuvem do setor com GPUs NVIDIA H100 NVL.
Essa oferta reúne um par de GPUs H100 baseadas em PCIe conectadas via NVIDIA NVLink, com quase 4 petaflops de computação de IA e 188 GB de memória HBM3 mais rápida. A GPU NVIDIA H100 NVL pode oferecer desempenho até 12x maior em GPT-3 175B em relação à geração anterior e é ideal para as cargas de trabalho de inferência e treinamento convencional.
Além disso, a Microsoft revelou planos para adicionar a GPU NVIDIA H200 Tensor Core à sua frota do Azure no próximo ano para oferecer suporte a inferências de modelos maiores sem aumento de latência. Essa nova oferta foi criada especificamente para acelerar as maiores cargas de trabalho de IA, incluindo LLMs e modelos de IA generativos.
A GPU H200 traz aumentos significativos na capacidade de memória e na largura de banda usando a memória HBM3e de última geração. Em comparação com a H100, essa nova GPU oferecerá 141 GB de memória HBM3e (1,8 vezes mais) e 4,8 TB/s de largura de banda de memória de pico (um aumento de 1,4 vezes).
“As possibilidades oferecidas pela IA generativa estão avançando rapidamente e as empresas precisam de capacidade de processamento adequadas para essa tecnologia. Essa colaboração entre NVIDIA e Microsoft contribuirá ainda mais na aceleração e treinamento dessas cargas de trabalho", ressalta Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para América Latina.
A computação em nuvem se torna confidencial
Expandindo ainda mais a disponibilidade da computação de IA generativa acelerada pela NVIDIA para os clientes do Azure, a Microsoft anuncia outra instância com tecnologia NVIDIA: o NCC H100 v5.
Essas VMs confidenciais do Azure com GPUs NVIDIA H100 Tensor Core permitem que os clientes protejam a confidencialidade e a integridade de seus dados e aplicativos em uso, na memória, enquanto acessam a aceleração insuperável das GPUs H100. Essas VMs confidenciais aprimoradas por GPU estarão disponíveis em breve para visualização privada.
Para saber mais sobre as novas VMs confidenciais com GPUs NVIDIA H100 Tensor Core e se inscrever para a visualização, leia o blog.
Saiba mais sobre as instâncias do Azure com tecnologia NVIDIA na página de informações da VM de GPU.
Sobre a NVIDIA
Desde sua fundação em 1993, a NVIDIA (NASDAQ: NVDA) tem sido pioneira em computação acelerada. A invenção da GPU pela empresa em 1999 estimulou o crescimento do mercado de games para PC, redefiniu a computação gráfica, iniciou a era da IA moderna e tem ajudado a digitalização industrial em todos os mercados. A NVIDIA agora é uma empresa de computação full-stack com soluções em escala de data center que estão revolucionando o setor. Mais informações em: https://blog.nvidia.com.br/.
Acesse também:
Site oficial da NVIDIA no Brasil: https://www.nvidia.com/pt-br/
Facebook: @NVIDIABrasil
Twitter: @NVIDIABrasil
YouTube: NVIDIA Latinoamérica
Informações para a imprensa:
Sing Comunicação de Resultados
16/11/2023
