← Wszystkie modele

Profil modelu

NASv3 (CIFAR-10)

Google Brain·USA·XI 2016·widzenie
szacuneksprzęt z epoki
Indeks Świadomości
2,1×10⁻⁵%
widełki: 9,6×10⁻⁶%–4,7×10⁻⁵%szacunek
Informacja (pojemność)
2,3×10⁵ bitów
widełki: 1×10⁵–5×10⁵
Energia treningu
26 MWh
widełki: 13 MWh–52 MWhszacuneksprzęt: typowy dla ery 2016
Sprawność
0 bit/J
bitów wzorca z 1 dżula energii treningu

Jak policzono te liczby

szacunek
  • ·parametry: estymata Epoch AI (pewność: likely)
  • ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
  • ·energia: compute ÷ sprawność era 2016 (czip typowy dla ery) × MFU 0,40 × PUE 1,2

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznej. Obie liczby liczymy z budowy modelu — zero testów.

Informacja
2,3×10⁵
bity — relacje wewnątrz sieci
Kod
6,0×10⁸
bity — utrwalone wagi
Moc diagnostyczna
1014,1 bit²
pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakości czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Fizyczna kotwica — granica Landauera

termodynamika · nie benchmark

Fizyka wyznacza absolutne minimum energii na zapis jednego bitu: kT·ln2 ≈ 2,9×10⁻²¹ J. To obiektywny punkt odniesienia — mierzymy, ile rzędów wielkości ponad tym minimum model zapłacił za utrwalenie swoich wag.

Fizyczne minimum
1,7×10⁻¹² J
kod × kT·ln2 — mniej się nie da
Realny trening
26 MWh
energia zapłacona naprawdę
Dystans od ideału
22,7 rzędu wielkości
= 10^22,7 × minimum
granica Landauera (0)mózg
14,5
model
22,7

Mózg jest o ~8 rzędów wielkości bliżej fizycznego ideału — termodynamiczny mistrz.

Uczciwie: to miara sprawności (te same dane co bity/dżul, w jednostkach fizyki) — nadal strona ilościowa. Miara jakości wymaga jeszcze licznika-kodu (wierności) — faza 2.

Ile drogi do mózgu?i

2,1×10⁻⁵%
10⁻⁷%
Mózg (100%)

NASv3 (CIFAR-10) osiąga 2,1×10⁻⁵% potencjału mózgu — mózg ma ok. 4 700 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (XI 2016) NASv3 (CIFAR-10) wyprzedzało go 16 modeli — na czele z:

W dniu premiery
#17
Do ówczesnego lidera
×186
Modeli przed premierą
21

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Pozycja w rankingu

#412 z 419
  1. #410JFT2,4×10⁻⁵%
  2. #411DeepSpeech2 (English)2,2×10⁻⁵%
  3. #412NASv3 (CIFAR-10)2,1×10⁻⁵%
  4. #413Hierarchical Reasoning Model (HPM)1,7×10⁻⁵%
  5. #414Inception v31,5×10⁻⁵%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; NASv3 (CIFAR-10) wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).