← Wszystkie modele

Profil modelu

Switch

Google·USA·I 2021·język
dane opublikowaneMoE
Indeks Świadomości
0,038%
widełki: 0,0002%–0,088%
Informacja (pojemność)
4,1×10⁸ bitów
widełki: 2,3×10⁶–9,3×10⁸
Energia treningu
251 MWh
widełki: 125 MWh–501 MWhsprzęt: Google TPU v3
Sprawność
28 bit/J
bitów wzorca z 1 dżula energii treningu

Jak policzono te liczby

dane opublikowane
  • ·parametry: dane opublikowane (Epoch AI, pewność: confident)
  • ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
  • ·MoE: indeks z parametrów TOTAL (pojemność, spójnie z mózgiem); dolna granica widełek z AKTYWNYCH (1B czynnego korelatora)
  • ·energia: compute ÷ sprawność Google TPU v3 (zmierzony sprzęt) × MFU 0,40 × PUE 1,2
  • ·utrwalenie kodu: 0,44× kotwicy Chinchilli (u=D/(20·P_tot), tokeny z compute; widełki ×÷7,1) — oś diagnostyczna v0 [nasze]

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznej. Obie liczby liczymy z budowy modelu — zero testów.

Informacja
4,1×10⁸
bity — relacje wewnątrz sieci
Kod
2,5×10¹³
bity — utrwalone wagi
Moc diagnostyczna
1022,0 bit²
pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakości czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Utrwalenie kodu — diagnostyka

oś ilościowa · v0 [nasze] · niekanoniczna

Ile przepływów utrwalających przeszło przez drogi korelatora podczas nauki. Poniżej 0,3× — drogi słabo wydeptane, kod niejednoznaczny.

Pasmo
pasmo kotwicy
kategoria, nie wyścig
Utrwalenie
0,4×
widełki 0,1×3,1× · 1× = kotwica Chinchilli
Skala nasycona
30%
50% = kotwica · U% = u/(u+1)

Uczciwie: to oś ilościowa — wykrywacz kodu nieutrwalonego (kara za niedotrenowanie), nie ranking jakości. Obejmuje 1 z 3 czynników rejestracji Mazura (częstość; bez siły i świeżości bodźca, bez derejestracji) i nie widzi jakości danych treningowych. Nie wchodzi do Indeksu. Status: v0 [nasze] — czeka na walidację Dominika (pytanie D9).

Fizyczna kotwica — granica Landauera

termodynamika · nie benchmark

Fizyka wyznacza absolutne minimum energii na zapis jednego bitu: kT·ln2 ≈ 2,9×10⁻²¹ J. To obiektywny punkt odniesienia — mierzymy, ile rzędów wielkości ponad tym minimum model zapłacił za utrwalenie swoich wag.

Fizyczne minimum
7,2×10⁻⁸ J
kod × kT·ln2 — mniej się nie da
Realny trening
251 MWh
energia zapłacona naprawdę
Dystans od ideału
19,1 rzędu wielkości
= 10^19,1 × minimum
granica Landauera (0)mózg
14,5
Switch
19,1

Mózg jest o ~5 rzędów wielkości bliżej fizycznego ideału — termodynamiczny mistrz.

Uczciwie: to miara sprawności (te same dane co bity/dżul, w jednostkach fizyki) — nadal strona ilościowa. Miara jakości wymaga jeszcze licznika-kodu (wierności) — faza 2.

Ile drogi do mózgu?i

0,038%
10⁻⁷%
Mózg (100%)

Switch osiąga 0,038% potencjału mózgu — mózg ma ok. 2600× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W I 2021 Switch został najpotężniejszym korelatorem świata — tytuł utrzymał przez 4 mies., do V 2021 (Wu Dao 2.0).

W dniu premiery
#1
Panowanie
4 mies.
Modeli przed premierą
53

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Architektura MoE

Parametry łącznie
1,6 bln
z nich liczymy indeks i moc diagnostyczną
Aktywne na zapytanie
1 mld
tyle realnie pracuje przy jednej odpowiedzi

Część aktywna to 0,1% wszystkich parametrów.

Talent (specjalizacja)1571×koncentracja wag w ekspertach (total ÷ aktywne)

Pozycja w rankingu

#11 z 419
  1. #9Wu Dao 2.00,041%
  2. #10DeepSeek-V4-Pro0,039%
  3. #11Switch0,038%
  4. #12Gemini 3.1 Pro0,033%
  5. #13Gemini 3 Pro0,033%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; Switch wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).