Meta Muse Glimmer 30B: lokalny agent AI, który może być ważniejszy niż kolejny rekordzista benchmarków

Meta wraca do modeli z otwartymi wagami, ale tym razem nie próbuje zbudować największego systemu na rynku.

Muse Glimmer ma około 30 miliardów parametrów, obsługuje tekst i obrazy, potrafi używać narzędzi i został zoptymalizowany tak, aby działać lokalnie na pojedynczej konsumenckiej karcie graficznej.

To nie jest miniaturowa superinteligencja.

To próba stworzenia praktycznego, prywatnego i taniego agenta AI, który może stale pracować na komputerze użytkownika.

Najważniejsze wnioski Muse Glimmer to gęsty, multimodalny model o około 29,6 mld parametrów , przeznaczony przede wszystkim do agentów, programowania, używania narzędzi i długich zadań.

Model ma otwarte wagi na licencji Apache 2.0 .

Można go używać komercyjnie, modyfikować i rozpowszechniać, ale nie należy automatycznie nazywać go w pełni otwartym źródłowo systemem AI.

Oficjalna wersja skwantyzowana zajmuje około 17 GB i jest przeznaczona dla urządzeń z 24 lub 32 GB pamięci dostępnej dla modelu.