vchalup - stock.adobe.com
Oracle e NVIDIA fornecerão inteligência artificial soberana
Oracle e NVIDIA colaboram para fornecer serviços de computação acelerada e IA generativa que estabelecem a soberania digital e gerenciam dados nacionais e pessoais proprietários. Oracle também adotou a NVIDIA Grace Blackwell no OCI Supercluster, OCI Compute e NVIDIA DGX Cloud on OCI.
A Oracle e a NVIDIA anunciaram a expansão de sua colaboração para fornecer soluções soberanas de inteligência artificial para clientes no mundo todo.
A nuvem distribuída, a infraestrutura de inteligência artificial (IA) e os serviços de IA generativa da Oracle, combinados com a computação acelerada e o software de IA generativa da NVIDIA, estão permitindo que governos e empresas criem fábricas de IA. Essas fábricas de IA podem executar serviços em nuvem localmente e dentro das instalações seguras de um país ou organização com uma série de controles operacionais, apoiando as metas soberanas de diversificação e impulsionando o crescimento econômico.
As ofertas combinadas das empresas podem ser implementadas por meio da nuvem pública ou no data center de um cliente em locais específicos, com controles operacionais flexíveis.
"À medida que a IA reformula os negócios, o setor e as políticas globais, os países e as organizações precisam fortalecer sua soberania digital para proteger seus dados mais valiosos", disse Safra Catz, CEO da Oracle. "A nossa colaboração contínua com a NVIDIA e nossa capacidade exclusiva de implantar regiões de nuvem de forma rápida e local garantirão que as sociedades possam aproveitar a IA sem comprometer sua segurança."
Os serviços em nuvem da Oracle aproveitam vários elementos da pilha da NVIDIA, incluindo a infraestrutura de computação acelerada da NVIDIA e a plataforma de software NVIDIA AI Enterprise, incluindo os microsserviços de inferência NVIDIA NIM anunciados recentemente, que são desenvolvidos sobre a base do software de inferência da NVIDIA, como NVIDIA TensorRT, NVIDIA TensorRT-LLM e NVIDIA Triton Inference Server.
Segundo aos fornecedores, a combinação da plataforma de IA de full-stack da NVIDIA com a Enterprise AI da Oracle –implementável na OCI Dedicated Region, Oracle Alloy, Oracle EU Sovereign Cloud e Oracle Government Cloud– oferece aos clientes uma solução de IA de última geração que proporciona maior controle sobre operações, localização e segurança para apoiar a soberania digital.
"Em uma era em que a inovação será impulsionada pela IA generativa, a soberania dos dados é um imperativo cultural e econômico", disse Jensen Huang, fundador e CEO da NVIDIA. "As aplicações e a infraestrutura de nuvem integradas da Oracle, combinadas com a computação acelerada da NVIDIA e os serviços de IA generativa, criam a flexibilidade e a segurança de que as nações e regiões precisam para controlar seu próprio destino."
A Oracle aproveita outros recursos da Nvidia
Para ajudar os clientes a atender às necessidades cada vez maiores dos modelos de IA, a Oracle planeja aproveitar a mais recente plataforma de computação NVIDIA Grace Blackwell em OCI Supercluster e OCI Compute.
Segundo um comunicado de imprensa, o OCI Supercluster se tornará significativamente mais rápido com as novas instâncias bare metal do OCI Compute, rede RDMA de latência ultrabaixa e armazenamento de alto desempenho. A OCI Compute adotará o NVIDIA GB200 Grace Blackwell Superchip e o GPU NVIDIA Blackwell B200 Tensor Core.
O Superchip oferece inferência de modelos de linguagem grande (LLM) em tempo real até 45 vezes mais rápida, com TCO 40 vezes menor e requer 40 vezes menos energia em comparação com as GPUs da geração anterior, o que aumenta a capacidade de treinamento de inteligência artificial, processamento de dados e projeto e simulação de engenharia.
As unidades de processamento gráfico Blackwell B200 Tensor Core foram projetadas para as cargas de trabalho mais exigentes em inteligência artificial, análise de dados e computação de alto desempenho (HPC).
Os microsserviços NIM e CUDA-X da NVIDIA, incluindo NVIDIA NeMo Retriever para implantações de inferência de geração aumentada de recuperação (RAG), também ajudarão os clientes da OCI a trazer mais insights e precisão para seus copilotos de IA generativa e outras ferramentas de produtividade usando seus próprios dados.
“Para atender à crescente demanda dos clientes por modelos de IA cada vez mais complexos, as empresas estão adicionando o NVIDIA Grace Blackwell ao NVIDIA DGX Cloud na OCI. Os clientes poderão acessar novas instâncias baseadas no GB200 NVL72 por meio desse serviço de supercomputador projetado em conjunto para treinamento e inferência com eficiência energética em uma era de LLMs de trilhões de parâmetros”, concluiu o comunicado.
