← Wszystkie modele

Profil modelu

ERNIE-Doc (247M)

Baidu·Chiny·XII 2020·język
dane opublikowanesprzęt z epoki
Indeks Świadomości
8,2×10⁻⁵%
widełki: 3,6×10⁻⁵%–0,0002%
Informacja (pojemność)
8,7×10⁵ bitów
widełki: 3,9×10⁵–1,9×10⁶
Energia treningu
0 MWh
widełki: 0 MWh–0 MWhsprzęt: typowy dla ery 2020
Sprawność
34 bit/J
bitów wzorca z 1 dżula energii treningu

Jak policzono te liczby

dane opublikowane
  • ·parametry: dane opublikowane (Epoch AI, pewność: confident)
  • ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
  • ·energia: compute ÷ sprawność era 2020 (czip typowy dla ery) × MFU 0,40 × PUE 1,2
  • ·utrwalenie kodu: 4,14× kotwicy Chinchilli (u=D/(20·P_tot), tokeny z compute; widełki ×÷7,1) — oś diagnostyczna v0 [nasze]

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznej. Obie liczby liczymy z budowy modelu — zero testów.

Informacja
8,7×10⁵
bity — relacje wewnątrz sieci
Kod
4,0×10⁹
bity — utrwalone wagi
Moc diagnostyczna
1015,5 bit²
pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakości czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Utrwalenie kodu — diagnostyka

oś ilościowa · v0 [nasze] · niekanoniczna

Ile przepływów utrwalających przeszło przez drogi korelatora podczas nauki. Poniżej 0,3× — drogi słabo wydeptane, kod niejednoznaczny.

Pasmo
silnie dotrenowany
kategoria, nie wyścig
Utrwalenie
4,1×
widełki 0,6×29× · 1× = kotwica Chinchilli
Skala nasycona
81%
50% = kotwica · U% = u/(u+1)

Uczciwie: to oś ilościowa — wykrywacz kodu nieutrwalonego (kara za niedotrenowanie), nie ranking jakości. Obejmuje 1 z 3 czynników rejestracji Mazura (częstość; bez siły i świeżości bodźca, bez derejestracji) i nie widzi jakości danych treningowych. Nie wchodzi do Indeksu. Status: v0 [nasze] — czeka na walidację Dominika (pytanie D9).

Fizyczna kotwica — granica Landauera

termodynamika · nie benchmark

Fizyka wyznacza absolutne minimum energii na zapis jednego bitu: kT·ln2 ≈ 2,9×10⁻²¹ J. To obiektywny punkt odniesienia — mierzymy, ile rzędów wielkości ponad tym minimum model zapłacił za utrwalenie swoich wag.

Fizyczne minimum
1,1×10⁻¹¹ J
kod × kT·ln2 — mniej się nie da
Realny trening
0 MWh
energia zapłacona naprawdę
Dystans od ideału
19,0 rzędu wielkości
= 10^19,0 × minimum
granica Landauera (0)mózg
14,5
model
19,0

Mózg jest o ~4 rzędy wielkości bliżej fizycznego ideału — termodynamiczny mistrz.

Uczciwie: to miara sprawności (te same dane co bity/dżul, w jednostkach fizyki) — nadal strona ilościowa. Miara jakości wymaga jeszcze licznika-kodu (wierności) — faza 2.

Ile drogi do mózgu?i

8,2×10⁻⁵%
10⁻⁷%
Mózg (100%)

ERNIE-Doc (247M) osiąga 8,2×10⁻⁵% potencjału mózgu — mózg ma ok. 1 200 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (XII 2020) ERNIE-Doc (247M) wyprzedzało go 27 modeli — na czele z:

W dniu premiery
#28
Do ówczesnego lidera
×101
Modeli przed premierą
52

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Pozycja w rankingu

#390 z 419
  1. #388DDPM-IP (CelebA)9,3×10⁻⁵%
  2. #389GNMT8,9×10⁻⁵%
  3. #390ERNIE-Doc (247M)8,2×10⁻⁵%
  4. #391Transformer7,4×10⁻⁵%
  5. #392EXAONE Path 2.06,4×10⁻⁵%

Rodzina ERNIE

6 wersji + 3 niemierzalne

Od ERNIE-GEN (large) (VIII 2020) do ERNIE-4.5-300B-A47B (VI 2025) indeks linii urósł ×117. Punkty na wykresie są klikalne — każdy prowadzi do profilu wersji.

  1. VIII 2020ERNIE-GEN (large)0,0001%
  2. XII 2020ERNIE-Doc (247M)8,2×10⁻⁵%
  3. VII 2021ERNIE 3.00,0011%
  4. XII 2021ERNIE 3.0 Titan0,011%
  5. VI 2023ERNIE 3.5
  6. VI 2024Ernie 4.0 Turbo
  7. III 2025ERNIE x1 (文心大模型X1)
  8. VI 2025ERNIE-4.5-21B-A3B0,0019%
  9. VI 2025ERNIE-4.5-300B-A47B0,012%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; ERNIE-Doc (247M) wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).