CEO da Nvidia: Apostamos tudo na IA e ninguém sabia disso

O fundador e CEO da Nvidia, Jensen Huang, disse hoje que a empresa tomou uma decisão comercial existencial em 2018 que poucos perceberam que redefiniria seu futuro e ajudaria a redefinir uma indústria em evolução. É claro que valeu a pena enormemente, mas Huang disse que este é apenas o começo de um futuro próximo movido por IA – um futuro movido principalmente por hardware da Nvidia. Essa jogada bem-sucedida foi de sorte ou de inteligência? A resposta, ao que parece, é “sim”.

Ele fez essas observações e reflexões durante uma palestra no SIGGRAPH em Los Angeles. Aquele momento decisivo há cinco anos, disse Huang, foi a escolha de adotar o processamento de imagem alimentado por IA na forma de traçado de raios e upscaling inteligente: RTX e DLSS, respectivamente. (As citações são de minhas anotações e podem não ser literais; algumas pequenas correções podem ocorrer após a verificação da transcrição.)

“Percebemos que a rasterização estava atingindo seus limites”, disse ele, referindo-se ao método tradicional e amplamente utilizado de renderização de uma cena 3D. “2018 foi um momento de ‘apostar na empresa’. Exigiu que reinventássemos o hardware, o software, os algoritmos. E enquanto reinventávamos a CG com IA, reinventávamos a GPU para IA.”

Embora o ray tracing e o DLSS ainda estejam em processo de adoção no mundo diversificado e complexo das GPUs e jogos de consumo, a arquitetura que eles criaram para habilitá-los foi considerada uma parceira perfeita para a crescente comunidade de desenvolvimento de aprendizado de máquina.

A enorme quantidade de cálculo necessária para treinar modelos generativos cada vez maiores foi melhor atendida não por datacenters tradicionais com alguma capacidade de GPU, mas por sistemas como o H100 projetados desde o início para realizar as operações necessárias em escala. Seria justo dizer que o desenvolvimento da IA ​​foi, em alguns aspectos, apenas limitado pela disponibilidade destes recursos computacionais. A Nvidia possuía um boom na escala Beanie Baby e vendeu tantos servidores e estações de trabalho quanto conseguiu fabricar.

Mas Huang afirmou que isto foi apenas o começo. Os novos modelos não só precisam de ser treinados, como também de ser executados em tempo real por milhões, talvez milhares de milhões de utilizadores, regularmente.

“O futuro é um LLM na frente de quase tudo: “Human” é a nova linguagem de programação”, disse ele. Tudo, desde efeitos visuais até um mercado de manufatura em rápida digitalização, design de fábrica e indústria pesada, adotará até certo ponto uma interface de linguagem natural, arriscou Huang.

“Fábricas inteiras serão definidas por software e robóticas, e os carros que construirão serão robóticos. Portanto, são robôs projetados roboticamente construindo robôs”, disse ele.

Alguns podem não compartilhar sua perspectiva, que embora plausível, também é extremamente amigável aos interesses da Nvidia.

Mas embora o grau de dependência dos LLMs possa ser desconhecido, poucos diriam que não serão adoptados, e mesmo uma estimativa conservadora de quem os utilizará e para que finalidade exigirá um investimento sério em novos recursos informáticos.

Investir milhões de dólares em recursos de computação de última geração, como racks focados em CPU, é uma tolice quando algo como um GH200, o recém-revelado hardware de desenvolvimento de IA dedicado ao datacenter, pode fazer o mesmo trabalho por menos de um décimo do custo e Requerimentos poderosos.

Ele alegremente apresentou um vídeo mostrando uma montagem semelhante a um LEGO de múltiplas unidades de computação Grace Hopper em um blade, depois em um rack, depois em uma fileira de GH200s, todos conectados em velocidades tão altas que formaram “a maior GPU individual do mundo”, compreendendo uma exaflop completo de poder de computação especializado em ML.

Créditos da imagem:Devin Coldewey

“A propósito, este é o tamanho real”, disse ele, representando o efeito dramático no centro da visualização. “E provavelmente até roda o Crysis.”

Estas serão a unidade básica da indústria digital do futuro dominada pela IA, propôs ele.

“Não sei quem disse isso, mas… quanto mais você compra, mais você economiza. Se eu pudesse pedir para vocês se lembrarem de uma coisa da minha palestra de hoje, seria isso”, disse ele, arrancando risadas do público do jogo aqui no SIGGRAPH.