Gemini Nano ist die sehr kleine Variante der Modellreihe Gemini, ausgelegt für den Betrieb unmittelbar auf Geräten: auf Telefonen, in Browsern, in eingebetteten Systemen. Die Verarbeitung findet dabei ohne Übertragung an ein Rechenzentrum statt.
- Gemini Nano
Die sehr kleine Variante der Gemini-Reihe für den Betrieb unmittelbar auf Geräten.
Beispiel: „Gemini Nano fasste die Benachrichtigungen auf dem Telefon zusammen, ohne dass Text das Gerät verließ.“Was dafür nötig ist: ein stark verkleinertes Modell, siehe Quantisierung, und Hardware im Gerät, die solche Rechnungen beschleunigt.
Der Zuschnitt entspricht einem Small Language Model: begrenzte Aufgaben, kurze Antworten, kein breites Weltwissen.
Was das für den Datenschutz bedeutet
Den größten Unterschied, den es gibt. Was das Gerät nicht verlässt, kann weder abgefangen noch bei einem Anbieter gespeichert werden; viele Fragen zu Vertrag und Verarbeitungsort stellen sich dann gar nicht. Für Anwendungen mit heiklen Eingaben ist das der stärkste Grund für diesen Weg.
Wofür die Stufe taugt
Für kurze, häufige Aufgaben ohne Weltwissen: Texte zusammenfassen, Vorschläge beim Schreiben, Einordnung von Benachrichtigungen, einfache Übersetzung. Alles, was Nachschlagen oder lange Schlussketten verlangt, geht weiterhin an ein größeres Modell.
Was für Websites daran hängt
Modelle im Browser. Die Entwicklung geht dahin, kleine Modelle unmittelbar in der Oberfläche verfügbar zu machen; für Webanwendungen hieße das Funktionen ohne Serveraufruf und ohne Kosten je Anfrage. Verlässlich planen lässt sich darauf noch nicht, beobachten lohnt sich.
Was dabei zu bedenken ist
Die Grenzen der Hardware. Ein Modell auf dem Gerät teilt sich Speicher und Rechenzeit mit allem anderen; auf älteren Geräten steht es nicht zur Verfügung. Eine Anwendung braucht deshalb einen Weg ohne dieses Modell.