Gemma 3 van Google 3 is een open source, een single-gpu AI met 128k contextvenster

Google zegt dat Jamema 3 “het beste model met één acteur ter wereld is”. Niet alle versies van het model zijn echter ideaal voor lokale verwerking. Het komt in verschillende maten, alleen van 1 miljard parameter model dat kan worden gereden tot bijna 28 miljard parameter-versies die de RAM vergroten. In lagere afhankelijke modi kan het kleinste Jemma 3-model minder bezetten dan de gigabyte van het geheugen, maar de supergrote versie vereist 4-bit nauwkeurige zelfs 20 GB-30 GB.
Maar hoe goed is Jemma 3? Google heeft enkele gegevens verstrekt die aanzienlijke verbetering vertonen in vergelijking met de meeste andere open source -modellen. Elo gebruikt metriek, die de keuze van de gebruiker meet, gooit 3 27B Jamema 2, Meta Lama 3, Openai en 3 minuten en anderen in chatcapaciteit. In dit relatief subjectieve examen wordt het niet helemaal gedetecteerd tot Depsec en 1. Hier draait het echter op een enkele NVIDIA H1 Acillar, de meeste andere modellen hebben een prop GPU’s nodig. Google zegt dat Jemma 3 beter in staat is bij het volgen van wiskunde, codering en complexe instructies. Hoewel het geen getal levert om het een back -up te maken.
Subjectieve gebruikerskeuze Ello -scores laat zien dat mensen Jamema 3K graven als chatbot.
Credit: Google
Google’s AI Studios heeft het nieuwste Jemma -model online beschikbaar. U kunt ook de modeltraining van het model doen met behulp van apparatuur zoals Google Colab en Vertex AI-OR gebruiken eenvoudig uw eigen GPU. Nieuwe Jemma 3 -modellen zijn open source, dus u kunt ze downloaden van de opslag zoals u wilt Quiz Of KnuffelDe De licentieovereenkomst van Google beperkt echter wat u ermee kunt doen. Ongeacht, Google zal niet weten wat uw eigen hardware verkent, wat het voordeel is van het hebben van een meer bekwaam lokaal model zoals Jemma 3.
Zonder te overwegen wat u wilt doen, is er een Gemma -model dat bij uw hardware past. Inspiratie nodig? Google heeft een nieuw “Edelsteen“De applicaties gebouwd met Jemma -modellen zijn community om te benadrukken.