Nvidia lança pacote de serviços que acelera criação de apps com IA

2 min de leitura
Imagem de: Nvidia lança pacote de serviços que acelera criação de apps com IA
Imagem: Nvidia

A Nvidia apresentou nesta segunda-feira (18) uma série de ferramentas de inteligência artificial (IA) para uso corporativo. Com os novos recursos, empresas de todos os tamanhos podem criar e implantar aplicativos personalizados em suas próprias plataformas.

Eles são chamados de Nvidia NIM, sigla para Nvidia Inference Microservices. Na prática, o NIM é um conjunto de processos e ferramentas que ajuda na utilização de dezenas de modelos de IA populares. Elas são indicadas para empresas que precisam desenvolver aplicativos para uso interno ou otimizar processos.

smart people are cooler

Tecnologia, negócios e comportamento sob um olhar crítico.

Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo

As aplicações de IA servem para empresas dos mais diversos setores.As aplicações de IA servem para empresas dos mais diversos setores.Fonte:  Nvidia 

Os microsserviços voltados para desenvolvedores envolve "pacotes" com todas as tecnologias lançadas nos últimos anos pela companhia — que foi uma das que mais cresceu no último ano em valor de mercado ao virar referência no mercado de IA.

Ela permite que os clientes usem o catálogo de ferramentas para aprimorar o próprio ambiente de trabalho, inclusive adotando a IA como parte do modelo de negócios caso ainda não tenham feito isso antes.

Os novos serviços da NVIDIA para IA

Segundo a companhia, o NIM permite que desenvolvedores reduzam o tempo de implantação e criação de uma plataforma do zero "de semanas para minutos", sendo econômico até em pegada de carbono

As ferramentas pré-construídas do NIM têm como base os softwares de inferência na Nvidia, como o Triton Inference Server e o TensorRT-LLM. Elase contêm APIs de linguagem, fala e análise de dados que podem ser aplicados em diferentes setores e adaptados para operar com bancos de dados dessas corporações.

A Nvidia virou uma empresa trilionária por causa da IA.A Nvidia virou uma empresa trilionária por causa da IA.Fonte:  GettyImages 

Na área da saúde, por exemplo, empresas podem usar os NIM para aprimorar chatbots de atendimento para gerar respostas precisas e contextualizadas, ou gerar gráficos completos e de fácil visualização para diagnósticos.

Os serviços foram criados a partir da tecnologia NVIDIA CUDA, usada por quem tem uma infraestrutura com GPUs, data centers ou serviços de computação em nuvem da empresa.

Os pacotes suportam modelos abertos e privados, tanto da própria NVIDIA quanto de outras companhias. As parceiras incluem Google, Meta, Microsoft, Mistral AI e Stabilyu AI, alguns dos maiores nomes do campo da IA generativa atual.

Além disso, kits de desenvolvimento acelerado de software, bibliotecas e ferramentas serão disponibilizados no novo ambiente chamado de NVIDIA CUDA-X.

Disponibilidade

Os novos microserviços de IA da NVIDIA já estão disponíveis como parte do NVIDIA AI Enterprise 5.0. O preço da licença é US$ 4,5 mil anuais por GPU, ou então US$ 1 por GPU a cada hora contratada.

A plataforma foi criada para ser acessível a uma série de equipamentos e softwares. Fora a capacidade de rodar no próprio data center do cliente, os microserviços serão disponibilizados em marketplaces de ambientes de nuvem como AWS, Google Cloud, Oracle Cloud e Microsoft Azure.

No site das plataformas de IA da Nvidia, desenvolvedores interessados podem solicitar um período gratuito de avaliação.

smart people are cooler

Tecnologia, negócios e comportamento sob um olhar crítico.

Assine já o The BRIEF, a newsletter diária que te deixa por dentro de tudo

Fontes

Você sabia que o TecMundo está no Facebook, Instagram, Telegram, TikTok, Twitter e no Whatsapp? Siga-nos por lá.