Google Chrome & Gemini: Beeindruckende Demo zeigt extrem hohe Geschwindigkeit der lokalen KI (Videos)

Das Team von Google Chrome arbeitet derzeit daran, die Künstliche Intelligenz von Gemini Nano in den Browser zu integrieren. In dieser Umsetzung kommt die lokale KI gänzlich ohne Internetverbindung aus und wie sich in einem neuen Video zeigt, kann das echte Geschwindigkeitsvorteile mit sich bringen. Das Demovideo zeigt, wie unglaublich der KI-ChatBot im Browser reagieren und Antworten ausliefern kann.

Man könnte vielleicht der Meinung sein, dass eine lokale KI in einem Browser nicht wirklich sinnvoll ist, denn schließlich ist es DIE Anwendung, die man für das Surfen im Web nutzt. Aber natürlich gibt es auch lokale Anwendungsfälle oder die Möglichkeit zur lokalen Unterstützung einer Cloud-KI. Ein Testlauf zeigt, dass die lokale Variante nicht nur eigenständig arbeiten muss, sondern auch als Ergänzung für sehr schnelle Antworten geeignet sein kann. Denn das lokale KI-Modell von Gemini Nano liefert unglaublich schnelle und präzise Ergebnisse.

This is fast. Chrome running Gemini locally on my laptop. 2 lines of code. pic.twitter.com/R8twlDbUD2

— Morten Just (@mortenjust) June 24, 2024

Wie ihr im obigen Video sehen könnt, liefert Gemini Nano die Antworten praktisch schon beim Tippen und benötigt in den meisten Fällen nicht mehr als 100 Millisekunden, um eine Antwort auszuliefern. Zwar sind die Fragen nicht wirklich herausfordernd, aber es handelt sich um ein lokales Modell mit einer statischen Datenbank. Dabei ist nicht nur die Performance beeindruckend, sondern auch der Wissensumfang dieser Datenbank.

Dass das Ganze wirklich Offline funktioniert und wie einfach es dank der tiefen lokalen Integration umgesetzt ist, könnt ihr in den folgenden beiden Videos sehen.

Does it work offline? pic.twitter.com/uSGDKvFHN1

— Morten Just (@mortenjust) June 24, 2024

Ich denke, dass eine solche lokale KI als Unterstützung für die Cloud-KI sehr hilfreich sein kann. Sie kann unglaublich schnelle Antworten liefern und wenn dann doch einmal Fakten fehlen, könnten diese aus der Cloud nachgeladen werden. Außerdem könnte sich eine solche Datenbank an die Bedürfnisse des Nutzers anpassen und somit dafür sorgen, dass Schwerpunkte gesetzt werden, um zukünftig viele Antworten nahezu in Echtzeit zu geben. Denn das KI-Modell hat nur eine Größe von etwa 2 GB und soll wohl auch in Zukunft nicht unbedingt sehr viel weiter anwachsen.

Wir dürfen gespannt sein, was Google und alle anderen App-Entwickler bzw. Webentwickler daraus machen.

Letzte Aktualisierung am 2024-11-02 / Bilder von der Amazon Product Advertising API / Affiliate Links, vielen Dank für eure Unterstützung!