Med-PaLM 2

• ·parametry: estymata Epoch AI (pewność: likely)
• ·jednostki korelatora: estymata z parametrów (d∝P^⅓, proporcje dense transformera)
• ·energia: brak compute treningu → nieliczona
• ·utrwalenie kodu: b.d. — brak compute treningu

Dominik: „informacja razy kod" daje wyobrażenie o mocy diagnostycznejIloczyn dwóch rodzajów bitów — u nas zobrazowany jako pole bramki Mazurowskiej. Liczone wyłącznie ze struktury modelu (parametry, architektura), nie z benchmarków.. Obie liczby liczymy z budowy modelu — zero testów.

Uczciwie: to nadal miara ilości (jak duży korelator), nie jakości — większy model ma większą moc. Cybernetyczna miara jakościPodział informacja/kod × energia/materia (Einstein). Sam Dominik ją odracza w nagraniu („nie pakujmy jeszcze Einsteina"). Oś jakości = faza 2. czeka na fazę 2. „Kod = parametry×16 bitów" to nasze założenie techniczne, a prezentacja iloczynu jako POLA w bit² — nasza operacjonalizacja (Dominik mówi o iloczynie „informacja razy kod", nie o polu).

Ile drogi do mózgu?iSkala jest logarytmiczna: każdy równy odcinek paska oznacza ok. 10-krotny wzrost indeksu. Lewy kraniec to 10⁻⁷% (poniżej najsłabszego zmierzonego modelu), prawy — pełny parytet z mózgiem.

Med-PaLM 2 osiąga 0,013% potencjału mózgu — mózg ma ok. 7600× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (V 2023) Med-PaLM 2 wyprzedzało go 9 modeli — na czele z:

Porównanie obejmuje 419 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

1. #93Nemotron-4 340BNVIDIA0,013%
2. #94PaLM 2Google0,013%
3. #95Med-PaLM 2Google Research,DeepMind0,013%
4. #96Grok-1xAI0,012%
5. #97MiMo-V2.5Xiaomi Corp0,012%

Od PaLM (540B) (IV 2022) do PaLM 2 (V 2023). Punkty na wykresie są klikalne — każdy prowadzi do profilu wersji.

1. IV 2022PaLM (540B)0,018%
2. X 2022Flan-PaLM 540B0,018%
3. X 2022LMSI-Palm0,018%
4. X 2022U-PaLM (540B)0,018%
5. III 2023PaLM-Eszacunek0,019%
6. V 2023Med-PaLM 2szacunek0,013%
7. V 2023PaLM 2szacunek0,013%

Kontekst czasu

Każdy szary punkt to jeden z 419 modeli; Med-PaLM 2 wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).