# NVIDIA GB300 NVL72 e GPT-6 Astra Ultrafast: fino a 50x token per watt

_Come l'infrastruttura NVIDIA Blackwell Ultra sostiene la modalità Ultrafast di OpenAI nell'API_

Fonte: https://andreapirazzini.it/blog/nvidia-gb300-nvl72-e-gpt-6-astra-ultrafast-fino-a-50x-token-per-watt · 14 ottobre 2026

> Articolo redatto da un sistema di AI a partire da fonti ufficiali: https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/.

## In breve

- NVIDIA dichiara, con dati SemiAnalysis InferenceX, che GB300 NVL72 offre fino a 50x di throughput per megawatt e fino a 35x di costo per token in meno rispetto a Hopper.
- Nel caso a 128.000 token di input e 8.000 di output, NVIDIA indica fino a 1,5x di costo per token in meno rispetto a GB200 NVL72.
- OpenAI dichiara che GPT-6 Astra Ultrafast, in esecuzione su GPU Blackwell, genera token fino a 8x più velocemente della modalità Standard.
- Per GPT-6 Astra il prezzo Ultrafast è 60 dollari per milione di token di input, contro 10 dollari in modalità Standard.
- Ultrafast ha limiti di frequenza separati dalle altre modalità e il WebSocket è raccomandato per gli agenti con molte chiamate a strumenti.

## Perché se ne parla

NVIDIA annuncia che il sistema **GB300 NVL72**, basato sulla GPU Blackwell Ultra, offre fino a **50x** di throughput per megawatt rispetto alla piattaforma Hopper, con un costo per token fino a **35x** inferiore. Il dato deriva da analisi di SemiAnalysis InferenceX citate dall'azienda. Nello stesso periodo OpenAI presenta **GPT-6 Astra Ultrafast**, eseguito su GPU Blackwell: entrambi gli annunci riguardano la velocità e il costo dell'inferenza, cioè l'esecuzione dei modelli.

Il tema conta per chi usa l'AI al lavoro perché agenti e assistenti di coding richiedono bassa latenza, per restare reattivi tra un passaggio e l'altro, e contesti lunghi, per ragionare su interi progetti software. Secondo il report State of Inference di OpenRouter, citato da NVIDIA, le richieste legate alla programmazione sono passate dall'**11%** a circa il **50%** nell'ultimo anno. Con questi volumi, il costo per token incide direttamente sul budget.

OpenAI dichiara che Astra Ultrafast genera token fino a **8x** più velocemente rispetto alla modalità Astra Standard. Il modello è disponibile nell'API OpenAI e per gli utenti idonei di ChatGPT Work e Codex. Si tratta di dichiarazioni dei produttori, presentate come tali. Per i dettagli sul modello, leggete l'[approfondimento su GPT-6 Astra](https://andreapirazzini.it/blog/gpt-6-astra-openai-benchmark-prezzi).

## GB300 NVL72: fino a 50x con carichi a bassa latenza

![Citazione in inglese su sfondo bianco, con virgolette verdi, che attribuisce a SemiAnalysis InferenceX un giudizio sul miglioramento delle GPU NVIDIA da una generazione all'altra.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/6f72807d-0ee4-40ce-bd5c-34f6656e90c0.jpg)
*La citazione di SemiAnalysis InferenceX, che valuta il progresso tra generazioni di chip NVIDIA sul piano delle prestazioni rispetto al costo totale. Fonte: NVIDIA.*

Secondo NVIDIA, **GB300 NVL72** raggiunge fino a **50x** di throughput per megawatt e **35x** di costo per token in meno rispetto alla piattaforma Hopper, con i dati di [dati InferenceX](https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/) come riferimento. I valori più alti riguardano i carichi a bassa latenza tipici degli agenti, dove ogni millisecondo pesa nei flussi multi-step.

- **50x** throughput per MW rispetto a Hopper, dichiarato da NVIDIA
- **35x** costo per token in meno rispetto a Hopper, dichiarato da NVIDIA
- **10x** token per watt di GB200 NVL72 secondo Signal65

_Fonte: Dichiarazioni di NVIDIA e analisi Signal65 citate da NVIDIA_

NVIDIA cita anche Signal65, che per **GB200 NVL72** indica oltre **10x** di token per watt. Nella scheda tecnica di GB300 NVL72, l'azienda dichiara **10x** di TPS per utente e **5x** di TPS per MW rispetto a Hopper, in un test su DeepSeek-R1. Sono prestazioni previste e soggette a modifica.

## Costo per token: fino a 35x in meno

### Il confronto nel grafico NVIDIA

Il grafico mostra il costo per milione di token di **DeepSeekR1** (1k/1k) in funzione dell'interattività, misurata in token al secondo per utente. Confronta la curva **H200 FP8** con quella di **GB300 NVL72** in formato NVFP4.

![Grafico con due curve: una grigia per H200 FP8 che sale rapidamente e una verde per GB300 NVL72 NVFP4 che resta molto più bassa, con un segnalino 35x Lower Token Cost.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/7339ac3e-d13f-4a55-b205-859d5d3844d3.png)
*Il segnalino **35x** evidenzia la differenza di costo per token tra le due curve nel punto indicato da NVIDIA. Fonte: NVIDIA.*

Secondo NVIDIA, **GB300 NVL72** con lo stack software Dynamo e TensorRT-LLM offre **35x** di costo per token in meno rispetto a Hopper. Si tratta di una dichiarazione del produttore, basata sul grafico ufficiale, che non riporta i valori intermedi delle curve.

> **Nota:** Il dato 35x è quello dichiarato da NVIDIA. Per confrontare i costi nei vostri scenari, verificate il prezzo per token del provider che usate.

## Contesto lungo e infrastruttura per agenti

### Contesto lungo: il vantaggio di GB300 NVL72

Con DeepSeek-R1, 128.000 token di input e 8.000 di output, NVIDIA dichiara che **GB300 NVL72** offre fino a **1,5x** di costo per token inferiore rispetto a **GB200 NVL72**. Il divario emerge soprattutto nei carichi a contesto lungo, come gli assistenti di coding che ragionano su interi repository ([fonte](https://blogs.nvidia.com/blog/data-blackwell-ultra-performance-lower-cost-agentic-ai/)).

![Grafico con due linee: il costo per milione di token in dollari sull'asse verticale e l'interattività in token al secondo per utente sull'asse orizzontale.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/81793a7f-2815-4c0e-ae8a-5f07715a6058.png)
*Il grafico confronta il costo per milione di token dei due sistemi con DeepSeek-R1 a 128k di input e 8k di output. La linea di GB300 NVL72 resta sempre sotto quella di GB200 NVL72, con il dato di 1,5x indicato nel punto di confronto. Fonte: NVIDIA.*

Secondo la spiegazione di NVIDIA, il motivo sta in **1,5x** di prestazioni di calcolo NVFP4 e in **2x** di velocità nell'elaborazione dell'attenzione. Man mano che l'agente legge più codice, il contesto cresce e richiede molto più calcolo: questi due fattori servono proprio a gestirlo.

### Chi lo usa per l'agentic coding

**Microsoft**, **CoreWeave** e **OCI** stanno distribuendo GB300 NVL72 per casi a bassa latenza e contesto lungo, come l'agentic coding e gli assistenti di programmazione. Chen Goldberg, senior vice president of engineering di CoreWeave, sostiene che, con l'inferenza al centro della produzione AI, contano sempre di più le prestazioni su contesto lungo e l'efficienza dei token, e che il cloud di CoreWeave punta a trasformare i guadagni di GB300 in prestazioni e costi prevedibili.

### Uno sguardo a Vera Rubin NVL72

NVIDIA dichiara che la piattaforma **Vera Rubin NVL72** offre fino a **10x** di throughput per megawatt rispetto a Blackwell nell'inferenza MoE, con un costo per milione di token pari a **un decimo**. Si tratta di un dato del produttore, non verificato in modo indipendente in questa sezione.

## I numeri di testa

- **50x** Throughput per MW rispetto a Hopper (Dichiarato da NVIDIA, dati SemiAnalysis InferenceX)
- **35x** Costo per token in meno rispetto a Hopper (Dichiarato da NVIDIA, dati SemiAnalysis InferenceX)
- **8x** Generazione Ultrafast rispetto a Standard (Dichiarato da OpenAI)
- **72** GPU per dominio NVLink (NVL72) (Specifica tecnica della scheda GB300 NVL72)

_Fonte: NVIDIA; SemiAnalysis InferenceX; OpenAI; scheda tecnica NVIDIA GB300 NVL72_

I primi due valori sono confronti che **NVIDIA** attribuisce ai dati **SemiAnalysis InferenceX** e riguardano la piattaforma Hopper: sono risultati dichiarati dal produttore, non misure indipendenti sui vostri carichi di lavoro. L'**8x** sulla velocità di generazione è invece una dichiarazione di **OpenAI** e misura Ultrafast rispetto alla modalità Standard. Il dato sulle **72 GPU** per dominio NVLink è una specifica tecnica della scheda della GB300 NVL72, verificabile nel datasheet, e non un risultato di prestazione. Tenere separate queste fonti aiuta a capire cosa misura ciascun numero.

## GPT-6 Astra Ultrafast su Blackwell

### Cosa cambia con Ultrafast

Secondo OpenAI, **GPT-6 Astra Ultrafast** gira su GPU **NVIDIA Blackwell** ed è disponibile nell'API e per gli utenti idonei di ChatGPT Work e Codex. Rispetto alla modalità Astra Standard, la generazione dei token è fino a **8x** più veloce.

Per chi sviluppa, la velocità conta soprattutto nei cicli ripetuti: l'agente scrive codice, usa uno strumento, verifica il risultato e sceglie il passo successivo. Risposte più rapide riducono l'attesa a ogni passaggio.

![Due riquadri affiancati mostrano lo stesso robot-razzo generato in modalità Standard, con un robot su una piattaforma circolare, e in modalità Ultrafast, con un razzo che parte da una torre di lancio.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/6173935b-be9c-48bd-bab4-0c6ccc457325.png)
*Running on NVIDIA AI Infrastructure. Il confronto affianca le due modalità, Standard e Ultrafast, mostrando la differenza di tempo nella generazione dello stesso tipo di risultato. Fonte: NVIDIA.*

### Le dichiarazioni di OpenAI

Philippe Tillet, inference lead di OpenAI, afferma che la documentazione e gli strumenti NVIDIA hanno aiutato i modelli a programmare bene le GPU Blackwell e Rubin, e che Astra trasforma questa competenza in kernel ad alte prestazioni. Uday Ruddarraju, chief technology officer of compute di OpenAI, dichiara che l'azienda ha usato modelli interni per ottimizzare l'inferenza sulle GPU NVIDIA.

### Piccolo glossario

- **Token**: piccole unità di testo che il modello produce una alla volta.
- **Inferenza**: l'uso di un modello già addestrato per generare risposte.
- **Kernel**: programma che esegue un calcolo direttamente sulla GPU.
- **Blackwell**: architettura di GPU NVIDIA su cui funziona Ultrafast.

Per dettagli sulla piattaforma, consultate la [pagina NVIDIA](https://blogs.nvidia.com/blog/gpus-openai-gpt-6-astra-ultrafast/).

## Ultrafast nell'API: cosa cambia per chi sviluppa

### Come si attiva Ultrafast

**Ultrafast** è la fascia più veloce dell'API di OpenAI, disponibile per **gpt-6-astra** e **gpt-6.1-sol**. Il parametro service_tier va impostato su ultrafast in ogni richiesta, quindi non si attiva una volta per tutte. Per agenti che concatenano molte chiamate di strumenti, la documentazione raccomanda i **WebSocket**, una connessione persistente che riduce il sovraccarico di rete tra una richiesta e l'altra. Chi preferisce l'HTTP può usarlo comunque, come illustra [la guida](https://developers.openai.com/api/docs/guides/ultrafast-mode).

![Copertina della pagina della documentazione API di OpenAI, con sfondo sfumato rosa e arancio, la scritta «Ultrafast mode» e il logo OpenAI Developers.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/a4c06631-d909-4a69-9b1c-775a11b5b4b9.png)
*La pagina della documentazione API dedicata a Ultrafast, che descrive la modalità più veloce disponibile nell'API. Fonte: NVIDIA.*

### Limiti di utilizzo e residenza dei dati

Ultrafast ha limiti separati da quelli delle modalità Standard e Fast. Per **GPT-6.1 Sol** i limiti di default vanno da **1.000.000** TPM nel livello Build a **40.000.000** nel livello Grow; per **GPT-6 Astra** vanno da **500.000** a **5.000.000**. Sol supporta la residenza dei dati negli **Stati Uniti** e nell'**UE**, Astra solo negli **Stati Uniti**.

| Livello di utilizzo API | Token al minuto (TPM) |
| --- | --- |
| Build | 1,000,000 |
| Launch | 4,000,000 |
| Grow | 40,000,000 |

Limiti di default Ultrafast per GPT-6.1 Sol Fonte: NVIDIA.

| Livello di utilizzo API | Token al minuto (TPM) |
| --- | --- |
| Build | 500,000 |
| Launch | 1,000,000 |
| Grow | 5,000,000 |

Limiti di default Ultrafast per GPT-6 Astra Fonte: NVIDIA.

> **Consiglio:** Prima di aumentare il traffico, verificate i limiti della vostra organizzazione. Se lavorate con un account team di OpenAI, potete chiedere limiti più alti.

- **TPM**: token al minuto, il numero di token che il limite consente di elaborare in un minuto.
- **Tier di utilizzo**: il livello dell'organizzazione da cui dipendono i limiti applicati.
- **WebSocket**: connessione che resta aperta tra il vostro programma e il server, per più richieste di seguito.
- **service_tier**: il parametro della richiesta che indica la fascia di servizio scelta.

## Architettura Blackwell: i numeri di base

Blackwell è l'architettura con cui NVIDIA costruisce i chip per i data center dell'AI. Le GPU Blackwell contengono **208 miliardi** di transistor, i minuscoli interruttori che eseguono i calcoli, e sono prodotte con un processo costruito su misura da TSMC, chiamato 4NP. Ogni GPU unisce due die, cioè due blocchi di silicio, collegati a **10 TB/s**, e funziona come un'unica GPU. Approfondite l'architettura nella [scheda di NVIDIA](https://www.nvidia.com/en-us/data-center/technologies/blackwell-architecture/).

**Blackwell in immagini**

- [Una GPU Blackwell vista in prospettiva su fondo nero, con un chip centrale circondato da blocchi dorati.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/84f99ead-a5a9-4caa-a326-0a08a17fc278.jpg) — Il banner mostra una GPU Blackwell in prospettiva, con il chip centrale affiancato dai blocchi dorati che compongono il pacchetto. Fonte: NVIDIA.
- [NVIDIA Blackwell architecture packs 208 billion transistors](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/a9adb730-17c3-4703-915a-6f459b12a28b.jpg) — Lo schema semplifica il chip: il rettangolo centrale rappresenta il die, mentre i quadrati dorati attorno indicano i blocchi collegati ad esso. Fonte: NVIDIA.

*Immagini: NVIDIA.*

[Video: Presentazione ufficiale NVIDIA dell’architettura rack-scale Grace Blackwell NVL72 per l’inferenza in tempo reale dei modelli di frontiera. Fonte: NVIDIA.](https://www.youtube.com/watch?v=0JxowHz0JsM)

- **Die**: il blocco di silicio su cui sono incisi i circuiti del chip.
- **NVLink Switch**: il componente che collega le GPU; in un dominio NVL72 da **72 GPU** offre **130 TB/s** di banda.
- **Microscaling**: una tecnica che regola in modo fine la scala dei numeri, così da mantenere precisione usando formati più compatti.
- **FP4**: un formato numerico a 4 bit che, secondo NVIDIA, raddoppia le dimensioni dei modelli che la memoria può ospitare.
- **Attenzione**: il meccanismo centrale dei modelli linguistici, che Blackwell Ultra accelera **2x** rispetto a Blackwell.
- **Calcolo confidenziale**: protegge dati e modelli con sicurezza hardware; secondo NVIDIA, le prestazioni sono quasi identiche a quelle in modalità non cifrata.

Tutti questi valori sono dichiarazioni di NVIDIA, riportate così come pubblicate dal produttore.

## Prezzi Ultrafast e confronto con le altre modalità

### Prezzi Ultrafast per 1M di token

![Copertina della pagina Pricing della documentazione API di OpenAI, con il titolo «Pricing» su sfondo rosa e arancione](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/cbcd2e41-ac9c-46cd-a373-8ff2543b3e45.png)
*La pagina Pricing della documentazione API di OpenAI, da cui provengono le tariffe di questa sezione. Fonte: NVIDIA.*

La pagina prezzi di OpenAI elenca Ultrafast accanto a Standard e Fast, con tariffe per milione di token ([i prezzi](https://developers.openai.com/api/docs/pricing?latest-pricing=ultrafast)). Per **GPT-6 Astra** l'input costa **60 $** e l'output **300 $**; per **GPT-6.1 Sol** **12 $** di input e **60 $** di output. Con contesto lungo l'input sale a **120 $** per Astra e a **24 $** per Sol.

| Modello | Standard input / output | Fast input / output | Ultrafast input / output |
| --- | --- | --- | --- |
| GPT-6 Astra | 10 $ / 50 $ | 20 $ / 100 $ | 60 $ / 300 $ |
| GPT-6.1 Sol | 2 $ / 10 $ | 4 $ / 20 $ | 12 $ / 60 $ |

**Prezzi API OpenAI per 1M di token: Standard, Fast e Ultrafast** — Confronto delle tariffe (contesto breve, in $/1M token) tra GPT-6 Astra e GPT-6.1 Sol

| Voce | Standard | Fast | Ultrafast |
| --- | --- | --- | --- |
| GPT-6 Astra — Input | 10$ | 20$ | 60$ |
| GPT-6 Astra — Output | 50$ | 100$ | 300$ |
| GPT-6.1 Sol — Input | 2$ | 4$ | 12$ |
| GPT-6.1 Sol — Output | 10$ | 20$ | 60$ |

_Fonte: OpenAI API Pricing, tabella ufficiale Ultrafast_

Il sovrapprezzo regionale del **10%** vale per gli endpoint di residenza dei dati. Esempio: 300 $ × 2 = 600 $ di output per 2 milioni di token Astra Ultrafast; con il sovrapprezzo, 600 $ × 1,10 = 660 $.

> **Nota:** Si tratta di tariffe dichiarate dal fornitore, non di misure indipendenti di costo o prestazioni.

### Tariffe complete nelle tabelle

| Modello | Input | Input cache | Scrittura cache | Output | Input (contesto lungo) | Input cache (contesto lungo) | Scrittura cache (contesto lungo) | Output (contesto lungo) |
| --- | --- | --- | --- | --- | --- | --- | --- | --- |
| gpt-6-astra | $10.00 | $1.00 | $12.50 | $50.00 | $20.00 | $2.00 | $25.00 | $75.00 |
| gpt-6.1-sol | $2.00 | $0.10 | $2.50 | $10.00 | $4.00 | $0.20 | $5.00 | $15.00 |
| gpt-6-luna | $0.10 | $0.01 | $0.125 | $0.50 | $0.20 | $0.02 | $0.25 | $0.75 |

Tariffe Standard per 1M di token, contesto breve e lungo: da qui si leggono i valori Standard di GPT-6 Astra e GPT-6.1 Sol. Fonte: NVIDIA.

| Modello | Input | Input cache | Scrittura cache | Output | Input (contesto lungo) | Input cache (contesto lungo) | Scrittura cache (contesto lungo) | Output (contesto lungo) |
| --- | --- | --- | --- | --- | --- | --- | --- | --- |
| gpt-6-astra | $5.00 | $0.50 | $6.25 | $25.00 | $10.00 | $1.00 | $12.50 | $37.50 |
| gpt-6.1-sol | $1.00 | $0.05 | $1.25 | $5.00 | $2.00 | $0.10 | $2.50 | $7.50 |
| gpt-6-luna | $0.05 | $0.005 | $0.0625 | $0.25 | $0.10 | $0.01 | $0.125 | $0.375 |

Tariffe Batch per 1M di token, breve e lungo contesto: per Astra e Sol i valori coincidono con la tabella Flex. Fonte: NVIDIA.

| Modello | Input | Input cache | Scrittura cache | Output | Input (contesto lungo) | Input cache (contesto lungo) | Scrittura cache (contesto lungo) | Output (contesto lungo) |
| --- | --- | --- | --- | --- | --- | --- | --- | --- |
| gpt-6-astra | $5.00 | $0.50 | $6.25 | $25.00 | $10.00 | $1.00 | $12.50 | $37.50 |
| gpt-6.1-sol | $1.00 | $0.05 | $1.25 | $5.00 | $2.00 | $0.10 | $2.50 | $7.50 |
| gpt-6-luna | $0.05 | $0.005 | $0.0625 | $0.25 | $0.10 | $0.01 | $0.125 | $0.375 |

Tariffe Flex per 1M di token, breve e lungo contesto, con gli stessi valori della tabella Batch. Fonte: NVIDIA.

## WebSocket: meno attesa tra uno strumento e l'altro

![Copertina della documentazione OpenAI Developers intitolata WebSocket Mode, con sfondo sfumato in toni rosa e arancio e il logo OpenAI in alto a destra.](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/068bae2e-e06e-4bd1-a3dc-468eabb86e86.png)
*La pagina della documentazione OpenAI dedicata alla modalità WebSocket dell'API Responses, descritta qui sotto. Fonte: NVIDIA.*

L'API Responses di OpenAI offre una modalità WebSocket, pensata per flussi lunghi con molte chiamate a strumenti esterni. Invece di inviare una nuova richiesta a ogni passaggio, la connessione resta aperta e ogni turno trasmette solo i nuovi input, indicando la risposta precedente con previous_response_id. Il dettaglio è nella [documentazione WebSocket Mode](https://developers.openai.com/api/docs/guides/websocket-mode).

Secondo OpenAI, per flussi con **20+** chiamate a strumenti l'esecuzione end-to-end può risultare fino a circa il **40%** più veloce. Si tratta di una dichiarazione del produttore, non di un benchmark indipendente.

Con stream_id, una sola connessione gestisce più conversazioni in parallelo e può far ripartire una conversazione esistente su un nuovo flusso. La modalità è compatibile con Zero Data Retention (ZDR) e con store=false.

### Glossario essenziale

- **WebSocket**: canale di comunicazione che resta aperto e permette lo scambio continuo di messaggi tra il vostro software e il server.
- **previous_response_id**: identificativo della risposta precedente, da cui la conversazione prosegue.
- **stream_id**: etichetta che distingue più conversazioni parallele sulla stessa connessione.
- **Zero Data Retention (ZDR)**: modalità in cui il fornitore non conserva i dati delle richieste.
- **store=false**: parametro che chiede di non salvare la risposta sul server.

## GB300 NVL72: scheda tecnica

### Cosa racchiude il sistema

Il GB300 NVL72 è un sistema rack-scale a raffreddamento liquido che integra **72** GPU NVIDIA Blackwell Ultra e **36** CPU NVIDIA Grace in un'unica piattaforma. Secondo il produttore, rispetto alle GPU Blackwell offre **1,5x** di FLOPS FP4 Tensor Core densi e **2x** di accelerazione del livello attention. Le specifiche complete sono nella [pagina NVIDIA](https://www.nvidia.com/en-us/data-center/gb300-nvl72/).

| Voce | Valore |
| --- | --- |
| NVLink Bandwidth | 130 TB/s |
| Fast Memory | 37 TB |
| GPU Memory \| Bandwidth | 20 TB \| Up to 576 TB/s |
| CPU Memory \| Bandwidth | 17 TB LPDDR5X \| 14 TB/s |
| CPU Core Count | 2,592 Arm Neoverse V2 cores |
| FP4 Tensor Core | 1440 \| 1080 2 PFLOPS |
| FP8/FP6 Tensor Core | 720 PFLOPS |
| INT8 Tensor Core | 24 POPS |
| FP16/BF16 Tensor Core | 360 PFLOPS |
| TF32 Tensor Core | 180 PFLOPS |
| FP32 | 6 PFLOPS |
| FP64 / FP64 Tensor Core | 100 TFLOPS |

Specifiche tecniche del GB300 NVL72 riportate dalla pagina NVIDIA Fonte: NVIDIA.

### Dichiarazioni del produttore

NVIDIA dichiara fino a **50x** di aumento della produttività complessiva di un'AI factory rispetto a piattaforme Hopper. Il dato si basa su un test con DeepSeek-R1, con **32K** token in ingresso e **8K** in uscita, e le performance sono indicate come proiettate e soggette a modifiche. Le specifiche Tensor Core includono la sparsità, salvo diversa indicazione: la voce FP4 riporta **1440** PFLOPS con sparsità e **1080** PFLOPS senza.

### Disponibilità e prezzi

La pagina indica il sistema come disponibile ora. La fonte non riporta prezzi: per l'acquisto il riferimento è il contatto con le vendite NVIDIA.

**Il rack e la postazione di controllo**

- [Un rack alto e scuro su fondo nero, con moduli dorati illuminati e cavi visibili](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/fecc6db4-12c7-4a9d-9895-31c8c66168dd.jpg) — Il rack GB300 NVL72 come presentato dal produttore, con i moduli di calcolo illuminati. Fonte: NVIDIA.
- [Una persona davanti a due monitor in una postazione di controllo illuminata di verde, in un corridoio di server](https://xfzvzyxtnexwldhdjrdj.supabase.co/storage/v1/object/public/blog-media/posts/bfcefbb5-1bbd-4425-a615-611e76601ea1/8fa4c4c5-c164-4be0-9a94-f73af96729b5.jpg) — Una postazione di controllo in un data center, che illustra il contesto operativo del sistema. Fonte: NVIDIA.

*Immagini: NVIDIA.*

## Come leggere questi numeri

### Chi ha misurato cosa

I valori **50x** e **35x** derivano dai dati **SemiAnalysis InferenceX**, che NVIDIA cita nel proprio comunicato. L'analisi di **Signal65** riguarda invece **GB200 NVL72** e parla di oltre **10x** di token per watt. La scheda prodotto di NVIDIA attribuisce il **50x** a **DeepSeek-R1** con **32K** di input e **8K** di output, confrontando **GB300 NVL72** con **H100** in FP8, e avverte che le prestazioni sono proiettate e soggette a modifiche.

### Cosa non dicono

Ogni cifra vale solo per il proprio scenario. Le fonti citano carichi diversi, da **1k/1k** a **32k/8k** fino a **128k/8k**, e un confronto su input lunghi non vale automaticamente per i vostri casi. Il costo per token dipende da ipotesi su prezzi e utilizzo che le fonti non descrivono, quindi il rapporto di costo non si trasferisce al vostro caso senza una verifica.

> **Attenzione:** «Fino a» indica il miglior risultato tra i casi testati dal produttore, non una media. Prima di decidere, chiedete al fornitore il carico, la latenza e la configurazione usati nei test.

Questo articolo è stato scritto con l'aiuto dell'intelligenza artificiale.

## Riquadro di cautela: cosa non sappiamo ancora

> **Attenzione:** Prima di applicare questi dati alla vostra azienda, considerate alcuni limiti. I valori **50x** e **35x** sono dichiarazioni del produttore NVIDIA, e le fonti non riportano verifiche indipendenti. Il grafico di confronto indica **H200** con FP8 come riferimento, mentre la scheda tecnica del GB300 NVL72 cita **H100** con FP8: il confronto non è quindi perfettamente allineato. NVIDIA definisce le prestazioni come proiezioni soggette a modifiche. Sul GPT-6 Astra Ultrafast le fonti non contengono risultati indipendenti né costi reali per il vostro caso d'uso: andranno valutati sulla guida OpenAI e sui vostri carichi di lavoro.

## Cosa significa per un'azienda

1. Stabilite se la latenza conta. Secondo NVIDIA, **Ultrafast** genera token **fino a 8 volte** più velocemente di Standard: conviene dove la velocità giustifica il costo.
2. Verificate i limiti TPM prima di aumentare il traffico. Ultrafast ha limiti separati: per GPT-6 Astra il livello Build prevede **500.000** TPM, Launch **1.000.000**, Grow **5.000.000**.
3. Confrontate i costi su un caso reale. Per GPT-6 Astra l'input costa **$60** per milione di token in Ultrafast contro **$10** in Standard; l'output **$300** contro **$50**.
4. Con agenti che fanno molte chiamate a strumenti, usate WebSocket. OpenAI segnala **circa il 40%** di esecuzione più rapida oltre **20** chiamate, compatibile con ZDR e store=false.
5. Controllate la residenza dei dati: GPT-6.1 Sol supporta **US** ed **EU**, GPT-6 Astra solo **US**.
6. Misurate la latenza sui vostri carichi prima di scalare, perché i dati citati sono dichiarazioni dei produttori.

## Domande frequenti

**Che cos'è Ultrafast?**

È la modalità di servizio più veloce dell'API OpenAI, disponibile per **GPT-6 Astra** e **GPT-6.1 Sol**. Secondo quanto dichiarato dal produttore, offre fino a **8x** di generazione di token rispetto alla modalità Standard di Astra.

**Quanto costa per GPT-6 Astra?**

Per il contesto breve, Ultrafast costa **$60.00** per 1M di token in input e **$300.00** in output. Per la modalità Standard la tabella riporta **$10.00** in input e **$50.00** in output. Per il contesto lungo i prezzi sono più alti: consultate la tabella dei prezzi.

**Serve il WebSocket?**

Non è obbligatorio. La documentazione lo raccomanda soprattutto per flussi agentici con molte chiamate di strumenti, e segnala fino a circa **40%** di esecuzione più rapida con 20+ chiamate. Ultrafast funziona anche via HTTP, ma senza connessione persistente l'overhead di rete può ridurre i vantaggi di latenza.

**Chi può usarla in ChatGPT?**

In ChatGPT la modalità è offerta agli utenti idonei di **ChatGPT Work** e **Codex**. Nell'API è disponibile a tutti gli utenti API. Controllate i rate limit della vostra organizzazione, che sono separati da quelli di Standard e Fast.

## Come è stato calcolato il voto

Il voto della valutazione è la media di questi criteri, ciascuno motivato con un fatto delle fonti ufficiali.

| Criterio | Voto | Motivo |
| --- | --- | --- |
| Prestazioni dichiarate | 5/10 | NVIDIA dichiara fino a 50x di throughput per megawatt e fino a 35x di costo per token in meno rispetto a Hopper, mentre OpenAI dichiara Ultrafast fino a 8x più veloce della modalità Standard; sono dati dei produttori e le fonti non… |
| Prezzo e disponibilità | 6/10 | Il prezzo Ultrafast di GPT-6 Astra è pubblicato (60 dollari per milione di token di input contro 10 in Standard, 300 in output contro 50) e il servizio è disponibile ora nell'API OpenAI. |
| Trasparenza dei dati | 5/10 | La pagina GB300 NVL72 indica le condizioni di un test (DeepSeek-R1, ISL 32K, OSL 8K, confronto con H100 FP8) ma definisce le proiezioni «soggette a modifiche»; le fonti non chiariscono la baseline completa dei 35x di costo. |
| Apertura e licenza | 2/10 | GPT-6 Astra Ultrafast è accessibile solo tramite API OpenAI e le fonti non riportano alcuna licenza, né pesi del modello disponibili per uso locale. |