Gemini: KI-Bildgenerator ist ‚absolut inakzeptabel‘ und völlig falsch – Statement von Google-CEO Sundar Pichai
Google hat Gemini erst vor wenigen Tagen einen KI-Bildgenerator spendiert, den man kurz darauf schon wieder ein Stück weit zurückziehen musste. Denn es gab unerwartete Probleme mit der Generierung von Menschen, für die man sich bereits entschuldigt und Versuche einer Erklärung geliefert hat. Jetzt hat sich Google-CEO Sundar Pichai ebenfalls kritisch zu Wort gemeldet.
Die Künstliche Intelligenz mag in den Alltag vieler Menschen eingezogen sein, aber dennoch ist die generative KI noch immer ein „Wunderwerk“, bei dem selbst die Entwickler nicht genau wissen, welche Ergebnisse die Software ausspucken wird. Daher dürfte es auch nicht ganz so einfach sein, das vor wenigen Tagen bekannt gewordene und von Google bereits begründete Problem mit der Menschen-Generierung tatsächlich und zuverlässig in den Griff zu bekommen.
Schon im ersten Statement hieß es, dass man mit Hochdruck arbeiten werde, aber dennoch nicht versprechen kann, dass das in Zukunft nicht mehr vorkommen wird. Jetzt hat sich Sundar Pichai mit einem internen offenen Brief zu Wort gemeldet (die praktisch immer an die Öffentlichkeit gelangen – das weiß natürlich auch Pichai). Der sonst in der öffentlichen Wahrnehmung eher zurückhaltende CEO meldet sich rund um die KI-Themen sehr häufig zu Wort – auch öffentlich. Und so ist das auch diesmal der Fall.
In seinem Statement geht er darauf ein, dass solche Fehler passieren können, gerade in der derzeit extrem schnelllebigen Welt der Künstliche Intelligenz. Der Rest ist eher inhaltsleer und meiner Meinung nach trotz interner Veröffentlichung eher Marketing-Geblubber. Der eigentliche Hammer steht aber schon im ersten Absatz: Pichai hält den Fehler für „absolut inakzeptabel“ und völlig falsch. Damit hat er sicherlich recht, aber das so deutlich auszudrücken dürfte zwischen den Zeilen wohl heißen, dass da so mancher Googler bereits den Schreibtisch geräumt haben dürfte. Aber lest selbst:
Sundar Pichais Statement
Hi everyone
I want to address the recent issues with problematic text and image responses in the Gemini app (formerly Bard). I know that some of its responses have offended our users and shown bias — to be clear, that’s completely unacceptable and we got it wrong.
Our teams have been working around the clock to address these issues. We’re already seeing a substantial improvement on a wide range of prompts. No Al is perfect, especially at this emerging stage of the industry’s development, but we know the bar is high for us and we will keep at it for however long it takes. And we’ll review what happened and make sure we fix it at scale.
Our mission to organize the world’s information and make it universally accessible and useful is sacrosanct. We’ve always sought to give users helpful, accurate, and unbiased information in our products. That’s why people trust them. This has to be our approach for all our products, including our emerging Al products.
We’ll be driving a clear set of actions, including structural changes, updated product guidelines, improved launch processes, robust evals and red-teaming, and technical recommendations. We are looking across all of this and will make the necessary changes.
Even as we learn from what went wrong here, we should also build on the product and technical announcements we’ve made in Al over the last several weeks. That includes some foundational advances in our underlying models e.g. our 1 million long-context window breakthrough and our open models, both of which have been well received.
We know what it takes to create great products that are used and beloved by billions of people and businesses, and with our infrastructure and research expertise we have an incredible springboard for the Al wave. Let’s focus on what matters most: building helpful products that are deserving of our users’ trust.
Und damit bekommt der in der GMail-Einstellung enthaltene Gag, dass Pichai den Rauswurf des gesamten Gemini-Teams gefordert hat, gleich neue Nahrung.
Automatisch übersetzt
Hallo allerseits
Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (ehemals Bard) beheben. Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und voreingenommen gezeigt haben – um es klarzustellen: Das ist völlig inakzeptabel und wir haben uns geirrt.
Unsere Teams haben rund um die Uhr daran gearbeitet, diese Probleme anzugehen. Wir sehen bereits eine erhebliche Verbesserung bei einer Vielzahl von Eingabeaufforderungen. Kein Al ist perfekt, insbesondere in dieser aufstrebenden Phase der Branchenentwicklung, aber wir wissen, dass die Messlatte für uns hoch liegt und wir werden daran festhalten, egal wie lange es dauert. Und wir werden überprüfen, was passiert ist, und sicherstellen, dass wir das Problem in großem Umfang beheben.
Unsere Mission, die Informationen der Welt zu organisieren und sie allgemein zugänglich und nutzbar zu machen, ist unantastbar. Wir sind stets bestrebt, den Benutzern in unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu bieten. Deshalb vertrauen ihnen die Menschen. Dies muss unser Ansatz für alle unsere Produkte sein, einschließlich unserer neuen Al-Produkte.
Wir werden eine Reihe klarer Maßnahmen vorantreiben, darunter strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, solide Evaluierungen und Red-Teaming sowie technische Empfehlungen. Wir prüfen das alles und werden die notwendigen Änderungen vornehmen.
Auch wenn wir daraus lernen, was hier schief gelaufen ist, sollten wir auch auf den Produkt- und technischen Ankündigungen aufbauen, die wir in den letzten Wochen in Al gemacht haben. Dazu gehören einige grundlegende Fortschritte bei unseren zugrunde liegenden Modellen, z. B. unser Durchbruch bei 1 Million Long-Context-Fenstern und unsere offenen Modelle, die beide gut angenommen wurden.
Wir wissen, was es braucht, um großartige Produkte zu entwickeln, die von Milliarden Menschen und Unternehmen verwendet und geliebt werden, und mit unserer Infrastruktur und Forschungskompetenz verfügen wir über ein unglaubliches Sprungbrett für die Al-Welle. Konzentrieren wir uns auf das Wichtigste: die Entwicklung hilfreicher Produkte, die das Vertrauen unserer Benutzer verdienen.
GoogleWatchBlog bei Google News abonnieren | GoogleWatchBlog-Newsletter
Teile diesen Artikel:
