Noisy Student (L2)

Ile drogi do mózgu?iSkala jest logarytmiczna: każdy równy odcinek paska oznacza ok. 10-krotny wzrost indeksu. Lewy kraniec to 10⁻⁷% (poniżej najsłabszego zmierzonego modelu), prawy — pełny parytet z mózgiem.

Noisy Student (L2) osiąga 0,0001% potencjału mózgu — mózg ma ok. 760 000× więcej. Pasek jest logarytmiczny, więc każdy równy odcinek to ok. 10× wzrost.

Moment w historii

W dniu publikacji (XI 2019) Noisy Student (L2) wyprzedzało go 13 modeli — na czele z:

Porównanie obejmuje 170 modeli ze zbioru — „#1” = najwyższy Indeks Świadomości wśród modeli opublikowanych przed premierą.

1. #134Word2Vec (large)Google0,0002%
2. #135LUKEUniversity of Washington,National Institute of Informatics0,0001%
3. #136Noisy Student (L2)Carnegie Mellon University (CMU),Google0,0001%
4. #137ProtBERT-BFDTechnical University of Munich,NVIDIA,Seoul National University,Google,Oak Ridge National Laboratory,Med AI Technology0,0001%
5. #138GPT-2 Medium (FlashAttention)Stanford University,University at Buffalo0,0001%

Kontekst czasu

Każdy szary punkt to jeden z 170 modeli; Noisy Student (L2) wyróżniony kolorem. Oś pionowa jest logarytmiczna, a przerywana linia u góry to mózg (100%).