Llogar una mateixa GPU H100 costa entre 2,69 i 12,29 dòlars l'hora segons el proveïdor

Una comparativa de preus públics de lloguer sota demanda troba una diferència de 4,57 vegades per al mateix xip de Nvidia entre RunPod i Azure. No tot és marge: la versió cara inclou una xarxa InfiniBand per a l'entrenament amb diversos nodes, garanties de servei i compromisos de capacitat.

Un repositori obert de GitHub compara els preus de llista sota demanda per llogar GPU H100 SXM de 80 GB a AWS, Azure i els anomenats «neoclouds», proveïdors especialitzats en computació amb GPU. Una sola GPU funcionant tot un mes costa 1.964 dòlars a RunPod Community i 8.972 dòlars amb la màquina virtual ND96isr_H100_v5 d'Azure. AWS se situa al mig, amb 6,88 dòlars l'hora.

L'estudi només compara models idèntics, perquè sota el nom H100 es venen tres productes diferents, i agafa l'opció més barata de cada proveïdor. La diferència no és només marge: la sèrie ND d'Azure inclou 400 Gbps d'InfiniBand per GPU, imprescindibles per entrenar models en molts nodes, mentre que RunPod Community lloga maquinari de tercers sense un acord de nivell de servei de centre de dades.

Les dades tenen límits: només s'hi inclouen preus de llista d'una sola regió, sense descomptes per reserva ni preus spot, que reduirien força la distància. Tampoc es té en compte la disponibilitat. Els scripts que recullen i calculen les dades són públics.