← Wszystkie modele

Profil modelu

GShard (dense)

Google·USA·VI 2020·język
Indeks Świadomości
0,0004%
widełki: 0,0002%–0,0009%
Moc diagnostyczna
4,2×10⁶ bitów
widełki: 1,9×10⁶–9,4×10⁶
Energia treningu
166 MWh
widełki: 83 MWh–332 MWhsprzęt: Google TPU v3
Sprawność
0,1 bit/J
bitów wzorca z 1 dżula energii treningu

Ile drogi do mózgu?i

0,0004%
10⁻⁷%
Mózg (100%)

GShard (dense) osiąga 0,0004% potencjału mózgu — mózg ma ok. 250 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (VI 2020) GShard (dense) wyprzedzało go 8 modeli — na czele z:

GPT-3 175B (davinci)
V 2020
0,0083%
SNM-skip
XII 2014
0,0040%
Turing-NLG
II 2020
0,0016%
W dniu premiery
#9
Do ówczesnego lidera
×20,9
Modeli przed premierą
46

Porównanie obejmuje 170 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Pozycja w rankingu

#123 z 170
  1. #121AlphaGo Lee0,0006%
  2. #122Meena0,0004%
  3. #123GShard (dense)0,0004%
  4. #124OpenAI TI7 DOTA 1v10,0004%
  5. #125Libratus0,0004%

Kontekst czasu

Każdy szary punkt to jeden z 170 modeli; GShard (dense) wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).