Teste de Benchmarking Confirma: Chip da Nvidia Lidera no Campo da Inferência de Inteligência Artificial com Desempenho Superior.
O teste avaliou a velocidade de execução de modelos de IA em hardware de última geração:
- O chip da Nvidia demonstrou o melhor desempenho, especialmente em um modelo de linguagem grande (LLM).
- A segunda posição foi conquistada por um semicondutor produzido pela Intel.
- O teste focou na simulação da fase de “inferência” no processamento de dados de IA, que impulsiona o software por trás das ferramentas generativas de IA.
- A Nvidia já demonstrou seu domínio em testes de inferência do MLPerf, um grupo acadêmico dedicado a criar benchmarks justos desde sua formação em 2018.
De acordo com informações da Reuters, a Nvidia baseou seu principal conjunto de testes de benchmarking de inferência em torno de oito de seus principais chips H100. A empresa já estabeleceu uma forte presença no mercado de treinamento de modelos de IA, mas ainda busca consolidar sua posição no mercado de inferência. No entanto, a Nvidia demonstrou consistentemente resultados sólidos em outras ocasiões: em 2021, a empresa liderou os mesmos testes de inferência de IA, utilizando tanto chips x86 quanto CPUs Arm. Além disso, em abril deste ano, novos testes também evidenciaram melhorias significativas na eficiência e desempenho da inferência da Nvidia.
Por outro lado, a Intel conquistou seu sucesso com base nos chips Gaudi2, produzidos pela unidade Habana, que a empresa adquiriu em 2019. Nos testes realizados, o sistema Gaudi2 demonstrou um desempenho cerca de 10% inferior em comparação ao sistema da Nvidia.