Profil modelu

Command R+

Cohere,Cohere Labs (formerly Cohere for AI)·Kanada·IV 2024·język

dane opublikowane

Indeks Świadomości

0,0057%

widełki: 0,0025%–0,013%

Informacja (pojemność)

6,1×10⁷ bitów

widełki: 2,7×10⁷–1,4×10⁸

Jak policzono te liczby

dane opublikowane

·parametry: dane opublikowane (Epoch AI, pewność: confident)
·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
·energia: brak compute treningu → nieliczona
·utrwalenie kodu: b.d. — brak compute treningu

Bramka Mazurowska — pełna moc diagnostyczna (informacja × kod)

metoda z nagrania [Cybernetyka #2]

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznejIloczyn dwóch rodzajów bitów — u nas zobrazowany jako pole bramki Mazurowskiej. Liczone wyłącznie ze struktury modelu (parametry, architektura), nie z benchmarków.. Obie liczby liczymy z budowy modelu — zero testów.

Informacja

6,1×10⁷

bity — relacje wewnątrz sieci

Kod

1,7×10¹²

bity — utrwalone wagi

Moc diagnostyczna

10^20,0 bit²

pole = informacja × kod

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakościPodział informacja/kod × energia/materia (Einstein). Sam Dominik ją odracza w nagraniu („nie pakujmy jeszcze Einsteina"). Oś jakości = faza 2. czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).