Equipada com GPU Nvidia H100, Google lança máquina virtual de supercomputador A3

O recente aumento de modelos de linguagem em larga escala e IA generativa requer muito poder de computação para treinar modelos e calcular IA. Por esse motivo, o Google anunciou a máquina virtual de supercomputador A3 (máquina virtual, VM) na conferência de desenvolvedores.

Continua após a publicidade

“A VM de GPU A3 foi projetada para oferecer o treinamento de mais alto desempenho para as cargas de trabalho de aprendizado de máquina atuais, apresentando as CPUs mais recentes, memória de host aprimorada, GPUs Nvidia de última geração e grandes atualizações de rede”, afirma a postagem oficial do blog do Google Cloud. máquina virtual Equipada com GPU Nvidia H100 , pode ser combinada com dados especializados para obter enorme poder de computação com alta taxa de transferência e baixa latência.

As principais especificações da VM A3 incluem 8 GPUs H100 com arquitetura Nvidia Hopper, processadores Intel Xeon Scalable de 4ª geração, memória de host de 2 TB e 3,6 TB/s entre 8 GPUs H100 via Nvidia NVSwitch e largura de banda equivalente a NVLink 4.0.

A VM A3 pode fornecer até 26 exaFlops de poder de computação, o que deve ajudar a treinar modelos maiores de aprendizado de máquina e reduzir o tempo e o custo do treinamento. Além disso, as cargas de trabalho dessas máquinas virtuais são executadas na arquitetura de rede de data center Jupiter dedicada do Google Cloud.

O Google Cloud fornecerá VMs A3 de várias maneiras, incluindo clientes que as executam ou como um serviço gerenciado em que o Google lida com a maior parte do trabalho pesado para elas. As VMs A3 do tipo faça você mesmo envolviam o Google Kubernetes Engine (GKE) e o Google Compute Engine (GCE), enquanto os serviços gerenciados executavam VMs A3 na Vertex AI, a plataforma de aprendizado de máquina totalmente gerenciada do Google.

A VM A3 oferece aos clientes do Google Cloud um enorme poder de computação para atender a cargas de trabalho mais altas, seja envolvendo modelos complexos de aprendizado de máquina ou executando grandes modelos de linguagem por trás da IA generativa, o que pode trazer benefícios de custo.