Quote di Cloud TPU

Questo documento elenca le quote che si applicano a Cloud TPU. Per informazioni Informazioni sui prezzi di Cloud TPU, vedi Prezzi di Cloud TPU.

Una quota limita la quantità di risorse Google Cloud condivise È possibile usare un progetto Google Cloud, inclusi hardware, software e rete componenti. Di conseguenza, le quote fanno parte di un sistema che seguenti:

  • Monitora l'utilizzo o il consumo dei prodotti Google Cloud e i servizi di machine learning.
  • Limita il tuo consumo di queste risorse, per motivi che includono: garantendo l'equità e riducendo i picchi di utilizzo.
  • Mantiene configurazioni che applicano automaticamente le limitazioni prescritte.
  • Consente di richiedere o modificare la quota.

Nella maggior parte dei casi, quando viene superata una quota, il sistema blocca immediatamente alla risorsa Google pertinente e all'attività che vuoi non riesce a eseguire l'esecuzione. Nella maggior parte dei casi, le quote vengono applicate a ogni progetto Google Cloud e vengono condivisi tra tutte le applicazioni e gli indirizzi IP che utilizzano progetto Google Cloud.

Quota TPU

Esistono quote diverse per ogni versione di TPU. Ad esempio, ci sono diverse per TPU v2, v3 e così via. Per ogni versione di TPU esistono tipi di quota: on demand e prerilasciabili (spot). La tabella seguente descrive i diversi tipi di quota.

Tipo di quota Descrizione Valore predefinito Come effettuare la richiesta Flag per la creazione di TPU
On demand Il numero di risorse on demand a cui hai accesso. On demand risorse non verranno prerilasciate, ma la quota on demand non garantisce che saranno sufficienti risorse Cloud TPU disponibili per soddisfare la tua richiesta. v3-8 e v2-8: 16 TensorCore
Tutti gli altri: 0
Vedi Richiedere una quota aggiuntiva. Nessun flag necessario, selezionato per impostazione predefinita.
Prerilasciabile Il numero di risorse Cloud TPU prerilasciabili a cui hai accesso. Questa quota si applica sia alle TPU prerilasciabili che alle VM spot TPU. Le risorse prerilasciabili possono essere prerilasciate per fare spazio a una priorità maggiore di lavoro. La quota prerilasciabile non garantisce che sarà disponibile una quantità sufficiente le risorse Cloud TPU per soddisfare le tue richieste. Per ulteriori informazioni, vedi TPU prerilasciabili e Gestisci le VM Spot TPU. v3-8 e v2-8: 48 tensorCore
Tutti gli altri: 0
Vedi Richiedere una quota aggiuntiva.

Le quote TPU sono specificate in termini di core TPU per progetto e per zona o core TPU per progetto e per regione.

Quote TPU v5p

Puoi utilizzare la tua quota TPU v5p in qualsiasi combinazione di core. Ad esempio, se avere una quota per 32 core, puoi utilizzare questa quota per creare quattro sezioni TPU con 8 core.

Quote prerilasciabili:

  • Core TPU v5p prerilasciabili per progetto e per regione
  • Core TPU v5p prerilasciabili per progetto e per zona

Quote on demand:

  • Core TPU v5p per progetto e per regione
  • Core TPU v5p per progetto e zona

Quote TPU v5e

TPU v5e può essere utilizzato per l'addestramento e la pubblicazione. Esistono quote separate per sia per l'addestramento che per la gestione, nonché per host singoli (core Lite) e multi-host (core pod Lite).

Quote di pubblicazione

Quote di pubblicazione prerilasciabili:

  • Core di pod TPU v5 lite prerilasciabili per la pubblicazione per progetto e per regione
  • Core di pod TPU v5 lite prerilasciabili per la pubblicazione per progetto e per zona

Quote di pubblicazione on demand:

  • Core di pod TPU v5 lite per la pubblicazione per progetto e per regione
  • Core di pod TPU v5 lite per la gestione per progetto e per zona

Quote di addestramento

Quote di addestramento prerilasciabili:

  • Core TPU v5 lite prerilasciabili per progetto e per regione
  • Core TPU v5 lite prerilasciabili per progetto per zona
  • Core pod TPU v5 lite prerilasciabili per progetto e per regione
  • Core pod TPU v5 lite prerilasciabili per progetto per zona

Quote di addestramento on demand:

  • Core TPU v5 Lite per progetto e per regione
  • Core TPU v5 Lite per progetto e zona
  • Core di pod TPU v5 lite per progetto e per regione
  • Core di pod TPU v5 lite per progetto e per zona

Quote TPU v4

Puoi utilizzare la tua quota TPU v4 in qualsiasi combinazione di core. Ad esempio, se avere una quota per 32 core, puoi utilizzare questa quota per creare quattro sezioni TPU con 8 core.

Quote prerilasciabili:

  • Core dei pod TPU v4 prerilasciabili per progetto e per regione
  • Core dei pod TPU v4 prerilasciabili per progetto e per zona

Quote on demand:

  • Core dei pod TPU v4 per progetto e per regione
  • Core dei pod TPU v4 per progetto e zona

Quote TPU v3

Esistono quote TPU v3 separate per TPU (core) host singole e TPU multihost (pod). Devi utilizzare le quote dei pod v3 per creare TPU con più di 8 core.

Quote prerilasciabili:

  • Core TPU v3 prerilasciabili per progetto e per area geografica
  • Core TPU v3 prerilasciabili per progetto e per zona
  • Core dei pod TPU v3 prerilasciabili per progetto e per regione
  • Core dei pod TPU v3 prerilasciabili per progetto e per zona

Quote on demand:

  • Core TPU v3 per progetto e per area geografica
  • Core TPU v3 per progetto e zona
  • Core di pod TPU v3 per progetto e per regione
  • Core dei pod TPU v3 per progetto e per zona

Quote TPU v2

Esistono quote TPU v2 separate per TPU con host singolo (core) e TPU multi-host (pod).

Quote prerilasciabili:

  • Core TPU v2 prerilasciabili per progetto e per area geografica
  • Core TPU v2 prerilasciabili per progetto e per zona
  • Core dei pod TPU v2 prerilasciabili per progetto e per regione
  • Core dei pod TPU v2 prerilasciabili per progetto e per zona

Quote on demand:

  • Core TPU v2 per progetto e per area geografica
  • Core TPU v2 per progetto e zona
  • Core dei pod TPU v2 per progetto e per regione
  • Core dei pod TPU v2 per progetto e zona

Per ulteriori informazioni sui chip TPU e sui TensorCore, vedi Sistema TPU dell'architettura.

Visualizza e richiedi quota aggiuntiva

Puoi visualizzare la quota allocata per il tuo progetto Google Cloud nella nella pagina Quote console Google Cloud. Se hai bisogno di una quota Cloud TPU aggiuntiva, puoi richiederla al team . Per ulteriori informazioni, consulta Richiedere una quota superiore. di sicurezza.