Profil modelu

Ministral 8B

Mistral AI·Francja·X 2024·język

dane opublikowane

Indeks Świadomości

0,0010%

widełki: 0,0004%–0,0021%

Informacja (pojemność)

1×10⁷ bitów

widełki: 4,4×10⁶–2,3×10⁷

Jak policzono te liczby

dane opublikowane

·parametry: dane opublikowane (Epoch AI, pewność: confident)
·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
·energia: brak compute treningu → nieliczona
·utrwalenie kodu: b.d. — brak compute treningu

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznejIloczyn dwóch rodzajów bitów — u nas zobrazowany jako pole bramki Mazurowskiej. Liczone wyłącznie ze struktury modelu (parametry, architektura), nie z benchmarków.. Obie liczby liczymy z budowy modelu — zero testów.

Informacja

1,0×10⁷

bity — relacje wewnątrz sieci

Kod

1,3×10¹¹

bity — utrwalone wagi

Moc diagnostyczna

10^18,1 bit²

pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakościPodział informacja/kod × energia/materia (Einstein). Sam Dominik ją odracza w nagraniu („nie pakujmy jeszcze Einsteina"). Oś jakości = faza 2. czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).