Com “fábricas de IA”, Dell quer acelerar projetos de inteligência artificial de clientes

Acelerar projetos de inteligência artificial (IA) dos clientes através de uma oferta que combina computação, redes, armazenamento, software e serviços. Essa é a estratégia da Dell com suas “fábricas de IA”, principal destaque do Dell Technologies World, evento anual da companhia que começou nesta segunda-feira (20), em Las Vegas.

Durante a abertura da conferência, Michael Dell, CEO e fundador da companhia, argumentou que projetos de IA precisam ser transformadores para organizações, não apenas  soluções para problemas pontuais. “Minha sugestão é: não use IA para fazer mais do mesmo. Reimagine e reinvente sua organização para tirar proveito dessa hiper inteligência. É uma oportunidade geracional para aumentar a produtividade, inovação e crescimento”.

A estratégia da Dell com as “fábricas de IA” é atacar algumas das principais dificuldades de empresas com projetos de IA e IA generativa. Isso inclui desafios como a falta de mão de obra especializada, proteção e privacidade de dados e o alto custo destes projetos. Por isso, o modelo se baseia na implementação das soluções da Dell junto à infraestrutura de clientes, “trazendo a IA para seus dados, não o contrário”, segundo Dell.

“A inferência em LLMs pode ser 75% mais econômica em servidores on-prem quando comparado à nuvem pública. Em 2024, 83% dos CIOs das empresas disseram ter interesse em trazer de volta algumas de suas cargas de trabalho da nuvem pública para suas próprias infraestruturas”, argumentou o líder da organização.

Portfólio reforçado

As “fábricas de IA” da Dell incluem diferentes modelos de consumo e a adoção modular de soluções, conforme as necessidades e nível de maturidade do cliente. Isso pode incluir desde projetos de ideação até implementações que buscam ganhar escala no uso de IA.

“Assim como as fábricas físicas alimentaram a revolução industrial, as fábricas de IA irão impulsionar a revolução da IA. Mas em vez de bens físicos, a fábrica de IA irão produzir insights e inteligência. Acreditamos que todos os clientes vão precisar de uma fábrica de IA de diferentes formas e tamanhos”, disse Sam Grocott, vice-presidente sênior de Marketing de Produtos da Dell.

Para reforçar o pilar de infraestrutura da estratégia das “fábricas de IA”, a Dell anunciou cinco novos modelos de PCs das linhas XPS 13, Inspiron e Latitude, que prometem ganhos de produtividade e eficiência através de capacidades de IA. Os dispositivos embarcam chips da série Qualcomm X, que incluem uma unidade de processamento neural (NPU) voltada para cargas de trabalho de IA rodando localmente.

Na prática, os dispositivos serão capazes de realizar 45 trilhões de operações por segundo (TOPS), com poder suficiente para rodar um modelo de IA com 13 bilhões de parâmetros de forma local. “E esse desempenho em IA não traz comprometimentos em relação à vida útil da bateria ou o tamanho do dispositivo”, pontuou Kevin Terwilliger, vice-presidente de notebooks comerciais da Dell.

Os modelos Dell XPS 13, Latitude 7455, Latitude 5455, Inspiron 14 Plus e Inspiron 14 estarão disponíveis globalmente ainda este ano. Os modelos Inspiron 14 Plus e Latitude 5455 também estarão disponíveis no Brasil.

Leia mais: Invasor relata ter conseguido acesso a dados de 49 milhões de clientes da Dell

Os anúncios de infraestrutura também incluem uma expansão da linha de armazenamento PowerScale F910. O sistema de alto desempenho possui DDR5 atualizada, PCIe Gen5 e 24 SSDs NVMe em uma plataforma de rack de 2U, com uma densidade de armazenamento de até 1,47 petabytes em um único nó. O PowerScale F910 estará disponível globalmente em 21 de maio de 2024.

A solução é complementada pelo “Project Lighting“, que fornecerá um sistema de arquivos paralelo para dados não estruturados no PowerScale. Segundo a Dell, o Lightning oferecerá até 20 vezes mais desempenho quando comparado a outros fornecedores de soluções network-attached storage (NAS), o que deve otimizar sistemas para cargas de trabalho de IA mais avançadas.

A empresa revelou ainda uma nova solução para proteção de dados focada em IA, que tem o objetivo de reforçar a proteção dos dados que alimentam cargas de trabalho de inteligência artificial na medida que estas se tornam mais críticas para as empresas.

“Esta solução abrange backup, recuperação e resiliência cibernética para dados de IA. Ela ajuda a proteger componentes de dados cruciais e críticos para o treinamento de IA, como dados de treinamento, modelos e dados de resposta”, explicou Varun Chhabra, vice-presidente sênior de Marketing de Produtos, ISG e Telecomunicações da Dell. A solução Dell para Proteção de Dados de IA estará disponível na primeira metade de 2024.

Além das novas soluções próprias focadas em IA, a Dell revelou novas parcerias para expandir o acesso de clientes ao amplo ecossistema de IA generativa. Uma destas parcerias é com a Hugging Face. O repositório de modelos de IA que hospedará o novo Dell Enterprise Hub, espaço que irá oferecer implementações simplificadas em on-premises das LLMs abertas mais populares com curadoria e ajustes especialmente voltados para a infraestrutura Dell. A oferta estará disponível globalmente em 21 de maio.

Fábrica de IA com Nvidia

A estratégia de “fábrica de IA” da Dell não é a única oferta do tipo que a empresa traz ao mercado. Além de sua própria combinação de soluções, infraestrutura e serviços, a Dell também revelou uma expansão da “Dell AI Factory with Nvidia”, oferta que inclui serviços de infraestrutura e software da Dell com a infraestrutura avançada de IA e software da Nvidia, sustentados pela estrutura de rede Nvidia de alta velocidade.

O Dell AI Factory with Nvidia foi originalmente anunciado há dois meses, durante o Nvidia GTC. De acordo com Chhabra, o pacote de soluções despertou interesse de clientes e motivou a expansão da iniciativa com novas soluções de hardware. Isso inclui o PowerEdge XE9680L,que inclui oito GPUs Nvidia Blackwell em um formato compacto de 4U, a maior densidade de GPU por rack do setor com 33% mais densidade. A plataforma oferece 20% mais slots PCIe Gen 5 e dobra a capacidade de expansão da rede Norte/Sul.

Duas novas arquiteturas de rack para implementação simples em data centers também foram reveladas. O primeiro design, de 70 quilowatts, é resfriado a ar e suporta 64 GPUs Nvidia H100, H200 ou B100. Há também um design de 100 quilowatts, que será refrigerado a líquido, e suportará até 72 GPUs B200, da Nvidia.

Além disso, a companhia revelou o NativeEdge, primeira plataforma de orquestração de borda que automatiza a entrega do software Nvidia AI Enterprise, ajudando desenvolvedores e operadores de TI a implementar aplicativos e soluções de IA na borda. Isso inclui análise de dados de vídeo via Nvidia Metropolis, capacidades de fala e tradução da Nvidia Riva e microserviços de inferência Nvidia NIM.

Gestão de TI mais simples e automatizada

A companhia revelou ainda uma expansão ao portfólio Dell APEX para apoiar empresas em áreas como IA e multicloud. Entre as novidades, está a oferta de SaaS APEX AIOps, que promete simplificar a operação, e acelerar a TI com maior controle sobre a infraestrutura e aplicações. O APEX AIOps inclui capacidades de observalidade de infraestrutura e aplicações, além de detecção de incidentes através de IA.

*o repórter do IT Forum está em Las Vegas a convite da Dell Technologies

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!