Mixtral 8x7B

• ·parametry: estymata Epoch AI (pewność: speculative)
• ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
• ·MoE: indeks z parametrów TOTAL (pojemność, spójnie z mózgiem); dolna granica widełek z AKTYWNYCH (13B czynnego korelatora)
• ·energia: compute ÷ sprawność era 2023 (czip typowy dla ery) × MFU 0,40 × PUE 1,2
• ·utrwalenie kodu: 11× kotwicy Chinchilli (u=D/(20·P_tot), tokeny z compute; widełki ×÷7,1) — oś diagnostyczna v0 [nasze]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznejIloczyn dwóch rodzajów bitów — u nas zobrazowany jako pole bramki Mazurowskiej. Liczone wyłącznie ze struktury modelu (parametry, architektura), nie z benchmarków.. Obie liczby liczymy z budowy modelu — zero testów.

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakościPodział informacja/kod × energia/materia (Einstein). Sam Dominik ją odracza w nagraniu („nie pakujmy jeszcze Einsteina"). Oś jakości = faza 2. czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Ile przepływów utrwalających[Mazur] „Narastanie przewodności korelacyjnej będzie określane jako rejestracja informacji" — częste przepływy utrwalają rejestraty, najsłabsze zanikają. [D, 12:16] „tworząc nowe rejestraty… albo poprawiając te, które mamy". Mapowanie „token treningu = przepływ mocy korelacyjnej" to nasza analogia funkcjonalna [nasze]. przeszło przez drogi korelatora podczas nauki. Poniżej 0,3× — drogi słabo wydeptane, kod niejednoznaczny[Kossecki, Metacybernetyka] kod niejednoznaczny (ciągi kodów nieoddzielne) prowadzi do pseudoinformowania i dezinformowania — po ludzku: system skłonny zmyślać..

Uczciwie: to oś ilościowa — wykrywacz kodu nieutrwalonego (kara za niedotrenowanie), nie ranking jakości. Obejmuje 1 z 3 czynników rejestracji Mazura (częstość; bez siły i świeżości bodźca, bez derejestracji) i nie widzi jakości danych treningowych. Nie wchodzi do Indeksu. Status: v0 [nasze] — czeka na walidację Dominika (pytanie D9).

Fizyka wyznacza absolutne minimum energii na zapis jednego bitu: kT·ln2 ≈ 2,9×10⁻²¹ JGranica Landauera (1961) — twarde prawo termodynamiki: skasowanie lub zapis 1 bitu informacji kosztuje co najmniej kT·ln2 energii (T = temperatura otoczenia). Żaden komputer nigdy nie zejdzie niżej.. To obiektywny punkt odniesienia — mierzymy, ile rzędów wielkości ponad tym minimum model zapłacił za utrwalenie swoich wag.

Mózg jest o ~6 rzędów wielkości bliżej fizycznego ideału — termodynamiczny mistrz.

Uczciwie: to miara sprawności (te same dane co bity/dżul, w jednostkach fizyki) — nadal strona ilościowa. Miara jakościIloraz: wierność kodu (licznik, za Mazurem) na nakład energia×materia (mianownik — rozdział „dżula", tu Dominik odsyła do Einsteina i sam ten wątek odracza). Oś jakości czeka na fazę 2. wymaga jeszcze licznika-kodu (wierności) — faza 2.

Ile drogi do mózgu?iSkala jest logarytmiczna: każdy równy odcinek paska oznacza ok. 10-krotny wzrost indeksu. Lewy kraniec to 10⁻⁷% (poniżej najsłabszego zmierzonego modelu), prawy — pełny parytet z mózgiem.

Mixtral 8x7B osiąga 0,0033% potencjału mózgu — mózg ma ok. 30 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (XII 2023) Mixtral 8x7B wyprzedzało go 38 modeli — na czele z:

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

Architektura MoEMixture of Experts — zamiast całej sieci na każde zapytanie pracuje tylko wybrana grupa „ekspertów”. Oszczędza energię przy odpowiadaniu.

Część aktywna to 27,8% wszystkich parametrów.

1. #209BloombergGPTBloomberg,Johns Hopkins University0,0035%
2. #210Kimi LinearMoonshot0,0033%
3. #211Mixtral 8x7BMistral AI0,0033%
4. #212Mistral LargeMistral AI0,0033%
5. #213Evo 2 40BArc Institute,Stanford University,NVIDIA,Liquid,University of California (UC) Berkeley,Goodfire,Columbia University,University of California San Francisco0,0030%

Od Mistral 7B (X 2023) do Mistral Medium 3 (V 2025) indeks linii urósł ×2,4. Punkty na wykresie są klikalne — każdy prowadzi do profilu wersji.

1. X 2023Mistral 7B0,0009%
2. XII 2023Mistral Mediumnie publikuje danych—
3. XII 2023Mixtral 8x7Bszacunekpopularny lokalnieDostępny do uruchomienia lokalnie — Ollama / Hugging Face / LM Studio.0,0033%
4. II 2024Mistral Largeszacunek klasy0,0033%
5. IV 2024Mixtral 8x22Bszacunek0,0071%
6. VII 2024Mistral Large 2szacunek0,0065%
7. I 2025Mistral Small 30,0021%
8. III 2025Mistral OCRszacunek klasy0,0021%
9. V 2025Mistral Medium 3szacunek klasy0,0021%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; Mixtral 8x7B wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).