← Wszystkie modele

Profil modelu

Xception

Google·USA·X 2016·widzenie
dane opublikowane
Indeks Świadomości
1,5×10⁻⁵%
widełki: 6,8×10⁻⁶%–3,3×10⁻⁵%
Informacja (pojemność)
1,6×10⁵ bitów
widełki: 7,2×10⁴–3,5×10⁵
Energia treningu
13 MWh
widełki: 7 MWh–27 MWhsprzęt: NVIDIA Tesla K80 (FP32)
Sprawność
0 bit/J
bitów wzorca z 1 dżula energii treningu

Jak policzono te liczby

dane opublikowane
  • ·parametry: dane opublikowane (Epoch AI, pewność: confident)
  • ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
  • ·energia: compute ÷ sprawność NVIDIA Tesla K80 (FP32) (zmierzony sprzęt) × MFU 0,40 × PUE 1,2

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznej. Obie liczby liczymy z budowy modelu — zero testów.

Informacja
1,6×10⁵
bity — relacje wewnątrz sieci
Kod
3,7×10⁸
bity — utrwalone wagi
Moc diagnostyczna
1013,8 bit²
pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakości czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Fizyczna kotwica — granica Landauera

termodynamika · nie benchmark

Fizyka wyznacza absolutne minimum energii na zapis jednego bitu: kT·ln2 ≈ 2,9×10⁻²¹ J. To obiektywny punkt odniesienia — mierzymy, ile rzędów wielkości ponad tym minimum model zapłacił za utrwalenie swoich wag.

Fizyczne minimum
1,0×10⁻¹² J
kod × kT·ln2 — mniej się nie da
Realny trening
13 MWh
energia zapłacona naprawdę
Dystans od ideału
22,7 rzędu wielkości
= 10^22,7 × minimum
granica Landauera (0)mózg
14,5
Xception
22,7

Mózg jest o ~8 rzędów wielkości bliżej fizycznego ideału — termodynamiczny mistrz.

Uczciwie: to miara sprawności (te same dane co bity/dżul, w jednostkach fizyki) — nadal strona ilościowa. Miara jakości wymaga jeszcze licznika-kodu (wierności) — faza 2.

Ile drogi do mózgu?i

1,5×10⁻⁵%
10⁻⁷%
Mózg (100%)

Xception osiąga 1,5×10⁻⁵% potencjału mózgu — mózg ma ok. 6 600 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (X 2016) Xception wyprzedzało go 17 modeli — na czele z:

W dniu premiery
#18
Do ówczesnego lidera
×265
Modeli przed premierą
19

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Pozycja w rankingu

#415 z 419
  1. #413Hierarchical Reasoning Model (HPM)1,7×10⁻⁵%
  2. #414Inception v31,5×10⁻⁵%
  3. #415Xception1,5×10⁻⁵%
  4. #416AlphaGo Fan7,3×10⁻⁶%
  5. #417LSTM+NeuralCache2,7×10⁻⁶%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; Xception wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).