← Wszystkie modele

Profil modelu

OLMo 1.7-7B

Allen Institute for AI·USA·IV 2024·język
szacunek
Indeks Świadomości
0,0009%
widełki: 0,0004%–0,0020%szacunek
Informacja (pojemność)
9,2×10⁶ bitów
widełki: 4,1×10⁶–2,1×10⁷

Jak policzono te liczby

szacunek
  • ·parametry: estymata Epoch AI (pewność: nieznana)
  • ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
  • ·energia: brak compute treningu → nieliczona
  • ·utrwalenie kodu: b.d. — brak compute treningu

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznej. Obie liczby liczymy z budowy modelu — zero testów.

Informacja
9,2×10⁶
bity — relacje wewnątrz sieci
Kod
1,1×10¹¹
bity — utrwalone wagi
Moc diagnostyczna
1018,0 bit²
pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakości czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Ile drogi do mózgu?i

0,0009%
10⁻⁷%
Mózg (100%)

OLMo 1.7-7B osiąga 0,0009% potencjału mózgu — mózg ma ok. 120 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (IV 2024) OLMo 1.7-7B wyprzedzało go 95 modeli — na czele z:

W dniu premiery
#96
Do ówczesnego lidera
×48,5
Modeli przed premierą
155

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Pozycja w rankingu

#350 z 419
  1. #348Llama 2-7B0,0009%
  2. #349Eurus-2-7B-PRIME0,0009%
  3. #350OLMo 1.7-7B0,0009%
  4. #351iGPT-XL0,0008%
  5. #352Multi-Token Prediction 7B0,0008%

Rodzina OLMo

5 wersji

Od OLMo-7B (II 2024) do OLMo 2 32B (III 2025) indeks linii urósł ×2,9. Punkty na wykresie są klikalne — każdy prowadzi do profilu wersji.

  1. II 2024OLMo-7B0,0009%
  2. IV 2024OLMo 1.7-7B0,0009%
  3. XII 2024OLMo 2 Furious 13B0,0013%
  4. XII 2024OLMo 2 Furious 7B0,0009%
  5. III 2025OLMo 2 32B0,0025%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; OLMo 1.7-7B wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).