← Wszystkie modele

Profil modelu

Jamba 1.5-Large

AI21 Labs·Izrael·VIII 2024·język
dane opublikowaneMoE
Indeks Świadomości
0,015%
widełki: 0,0054%–0,034%
Informacja (pojemność)
1,6×10⁸ bitów
widełki: 5,7×10⁷–3,6×10⁸

Jak policzono te liczby

dane opublikowane
  • ·parametry: dane opublikowane (Epoch AI, pewność: confident)
  • ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
  • ·MoE: indeks z parametrów TOTAL (pojemność, spójnie z mózgiem); dolna granica widełek z AKTYWNYCH (94B czynnego korelatora)
  • ·energia: brak compute treningu → nieliczona
  • ·utrwalenie kodu: b.d. — brak compute treningu

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznej. Obie liczby liczymy z budowy modelu — zero testów.

Informacja
1,6×10⁸
bity — relacje wewnątrz sieci
Kod
6,4×10¹²
bity — utrwalone wagi
Moc diagnostyczna
1021,0 bit²
pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakości czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Ile drogi do mózgu?i

0,015%
10⁻⁷%
Mózg (100%)

Jamba 1.5-Large osiąga 0,015% potencjału mózgu — mózg ma ok. 6800× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (VIII 2024) Jamba 1.5-Large wyprzedzało go 20 modeli — na czele z:

W dniu premiery
#21
Do ówczesnego lidera
×2,9
Modeli przed premierą
211

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Architektura MoE

Parametry łącznie
398 mld
z nich liczymy indeks i moc diagnostyczną
Aktywne na zapytanie
94 mld
tyle realnie pracuje przy jednej odpowiedzi

Część aktywna to 23,6% wszystkich parametrów.

Talent (specjalizacja)4,2×koncentracja wag w ekspertach (total ÷ aktywne)

Pozycja w rankingu

#86 z 419
  1. #84Claude Sonnet 4.60,015%
  2. #85Claude Sonnet 4.50,015%
  3. #86Jamba 1.5-Large0,015%
  4. #87Arcee Trinity Large0,015%
  5. #88Qwen3.5 397B-A17B0,015%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; Jamba 1.5-Large wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).