Llama-3.1-Nemotron-70B-Instruct

• ·parametry: wyprowadzone z compute treningu (Chinchilla: P=√(C/120))
• ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
• ·energia: compute ÷ sprawność era 2024 (czip typowy dla ery) × MFU 0,40 × PUE 1,2
• ·utrwalenie kodu: b.d. — parametry wyprowadzone z compute (wyliczenie u byłoby błędnym kołem)

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznejIloczyn dwóch rodzajów bitów — u nas zobrazowany jako pole bramki Mazurowskiej. Liczone wyłącznie ze struktury modelu (parametry, architektura), nie z benchmarków.. Obie liczby liczymy z budowy modelu — zero testów.

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakościPodział informacja/kod × energia/materia (Einstein). Sam Dominik ją odracza w nagraniu („nie pakujmy jeszcze Einsteina"). Oś jakości = faza 2. czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Fizyka wyznacza absolutne minimum energii na zapis jednego bitu: kT·ln2 ≈ 2,9×10⁻²¹ JGranica Landauera (1961) — twarde prawo termodynamiki: skasowanie lub zapis 1 bitu informacji kosztuje co najmniej kT·ln2 energii (T = temperatura otoczenia). Żaden komputer nigdy nie zejdzie niżej.. To obiektywny punkt odniesienia — mierzymy, ile rzędów wielkości ponad tym minimum model zapłacił za utrwalenie swoich wag.

Mózg jest o ~7 rzędów wielkości bliżej fizycznego ideału — termodynamiczny mistrz.

Uczciwie: to miara sprawności (te same dane co bity/dżul, w jednostkach fizyki) — nadal strona ilościowa. Miara jakościIloraz: wierność kodu (licznik, za Mazurem) na nakład energia×materia (mianownik — rozdział „dżula", tu Dominik odsyła do Einsteina i sam ten wątek odracza). Oś jakości czeka na fazę 2. wymaga jeszcze licznika-kodu (wierności) — faza 2.

Ile drogi do mózgu?iSkala jest logarytmiczna: każdy równy odcinek paska oznacza ok. 10-krotny wzrost indeksu. Lewy kraniec to 10⁻⁷% (poniżej najsłabszego zmierzonego modelu), prawy — pełny parytet z mózgiem.

Llama-3.1-Nemotron-70B-Instruct osiąga 0,011% potencjału mózgu — mózg ma ok. 9200× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (VI 2024) Llama-3.1-Nemotron-70B-Instruct wyprzedzało go 27 modeli — na czele z:

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

1. #109ERNIE 3.0 TitanBaidu,Peng Cheng Laboratory0,011%
2. #110Inflection-2.5Inflection AI0,011%
3. #111Llama-3.1-Nemotron-70B-InstructNVIDIA,Meta AI0,011%
4. #112Llama Nemotron Ultra 253BNVIDIA0,011%
5. #113Solar Open2 250BUpstage0,011%

Od LLaMA-33B (II 2023) do Llama 4 Scout (IV 2025) indeks linii urósł ×2,3. Punkty na wykresie są klikalne — każdy prowadzi do profilu wersji.

1. II 2023LLaMA-33B0,0025%
2. II 2023LLaMA-65B0,0041%
3. VII 2023Llama 2-13B0,0013%
4. VII 2023Llama 2-34B0,0026%
5. VII 2023Llama 2-70Bpopularny lokalnieDostępny do uruchomienia lokalnie — Ollama / Hugging Face / LM Studio.0,0044%
6. VII 2023Llama 2-7Bpopularny lokalnieDostępny do uruchomienia lokalnie — Ollama / Hugging Face / LM Studio.0,0009%
7. XII 2023Llama Guard0,0009%
8. IV 2024Llama 3-70B0,0044%
9. IV 2024Llama 3-8B0,0010%
10. VI 2024Llama-3.1-Nemotron-70B-Instructszacunek z compute0,011%
11. VII 2024Llama 3.1-405Bpopularny lokalnieDostępny do uruchomienia lokalnie — Ollama / Hugging Face / LM Studio.0,015%
12. VII 2024Llama 3.1-70B0,0044%
13. VII 2024Llama 3.1-8Bszacunek0,0010%
14. IX 2024Llama 3.2 11Bpopularny lokalnieDostępny do uruchomienia lokalnie — Ollama / Hugging Face / LM Studio.0,0012%
15. IX 2024Llama 3.2 3B0,0005%
16. IX 2024Llama 3.2 90B0,0051%
17. XII 2024Llama 3.3 70Bpopularny lokalnieDostępny do uruchomienia lokalnie — Ollama / Hugging Face / LM Studio.0,0044%
18. III 2025Llama Nemotron Ultra 253Bszacunek0,011%
19. IV 2025Llama 4 Behemoth (preview)szacunek0,045%
20. IV 2025Llama 4 Maverickszacunek0,015%
21. IV 2025Llama 4 Scoutszacunek0,0059%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; Llama-3.1-Nemotron-70B-Instruct wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).