Mit einem der jüngsten Updates für Google Chrome hat man Gemini Nano integriert, das als lokale KI fungiert, die ganz ohne Internetanbindung auskommt. Der Rollout war zunächst nur eine Randnotiz, doch eine aktuelle Demo zeigt jetzt, wie unglaublich schnell der KI-ChatBot im Browser reagieren und Antworten liefern kann. Wirklich beeindruckend.
Man könnte meinen, dass eine lokale KI in einem Browser nicht wirklich sinnvoll ist, denn schließlich ist es DIE Anwendung, die man für das Surfen im Web nutzt. Doch ein Testlauf zeigt jetzt, dass die lokale Variante nicht nur eigenständig arbeiten muss, sondern auch als Ergänzung für sehr schnelle Antworten geeignet sein kann. Denn das lokale KI-Modell von Gemini Nano liefert unglaublich schnelle und präzise Ergebnisse.
This is fast. Chrome running Gemini locally on my laptop. 2 lines of code. pic.twitter.com/R8twlDbUD2
— Morten Just (@mortenjust) June 24, 2024
Wie ihr im obigen Video sehen könnt, liefert Gemini Nano die Antworten praktisch schon beim Tippen und benötigt in den meisten Fällen nicht mehr als 100 Millisekunden, um eine Antwort auszuliefern. Zwar sind die Fragen nicht wirklich herausfordernd, aber es handelt sich um ein lokales Modell mit einer statischen Datenbank. Dabei ist nicht nur die Performance beeindruckend, sondern auch der Wissensumfang dieser Datenbank.
Dass das Ganze wirklich Offline funktioniert und wie einfach es dank der tiefen lokalen Integration umgesetzt ist, könnt ihr in den folgenden beiden Videos sehen.
Does it work offline? pic.twitter.com/uSGDKvFHN1
— Morten Just (@mortenjust) June 24, 2024
Ich denke, dass eine solche lokale KI als Unterstützung für die Cloud-KI sehr hilfreich sein kann. Sie kann unglaublich schnelle Antworten liefern und wenn dann doch einmal Fakten fehlen, könnten diese aus der Cloud nachgeladen werden. Außerdem könnte sich eine solche Datenbank an die Bedürfnisse des Nutzers anpassen und somit dafür sorgen, dass Schwerpunkte gesetzt werden, um zukünftig viele Antworten nahezu in Echtzeit zu geben. Denn das KI-Modell hat nur eine Größe von etwa 2 GB und soll wohl auch in Zukunft nicht unbedingt sehr viel weiter anwachsen.
Wir dürfen gespannt sein, was Google und alle anderen App-Entwickler daraus machen.
Letzte Aktualisierung am 2024-12-02 / Bilder von der Amazon Product Advertising API / Affiliate Links, vielen Dank für eure Unterstützung!