Peinlicher Fehler: Google Photos erkennt/erkannte dunkelhäutige Personen als Gorillas

 

Die mächtige Fotoerkennung in Google Photos kann zwar tausende von Gegenständen, Millionen von Gesichtern und zehntausende von Orten erkennen und zuordnen, aber natürlich ist auch dieses System nicht perfekt: Immer wieder einmal gibt es falsche Zuordnungen oder auch völlig falsche Vorschläge, aber diese halten sich mittlerweile schon sehr stark in Grenzen. Doch jetzt ist dem System ein mehr als peinlicher Fehler unterlaufen.

Normalerweise erkennt Google Photos Gesichter sehr zuverlässig als Menschen und kann diese Gesichter sogar gruppieren und die gleiche Person auf anderen Fotos finden. Es kommt nur sehr selten vor dass Menschen nicht erkannt oder als Gegenstände wahrgenommen werden – doch im jetzt vorliegenden Fall ist der Fehler etwas prekärer als bei anderen Fehlerkennungen. Der Algorithmus hat dunkelhäutige Menschen nicht als Personen erkannt, sondern dieser zur Kategorie „Gorillas“ zugeordnet.

Bekannt geworden ist diese Falscherkennung nun dadurch, dass ein Nutzer dies gestern auf twitter gepostet hat, dem genau so etwas passiert ist. Obige beide Personen wurden dabei tatsächlich in die Kategorie Gorillas einsortiert und nicht einmal als Menschen erkannt. Alle weiteren Erkennungen daneben haben dagegen perfekt funktioniert, so wie man es normalerweise auch von dem Tool gewohnt ist. Die Erfahrung zeigt eigentlich, dass auch dunkelhäutige Menschen normalerweise problemlos erkannt und in die richtigen Kategorien einsortiert werden. Auch Menschen die mal heller und mal dunkler sind werden normalerweise korrekt erkannt und zugeordnet, doch in diesem Fall ist natürlich etwas falsch gelaufen.

@jackyalcine Thank you for telling us so quickly! Sheesh. High on my list of bugs you *never* want to see happen. ::shudder::

— Yonatan Zunger (@yonatanzunger) 29. Juni 2015

Ein Googler, wahrscheinlich einer der verantwortlichen Entwickler für dieses Tool, hat umgehend darauf reagiert und sich bei twitter entschuldigt und baldige Besserung gelobt. Laut seiner Aussage steht die Ausbesserung dieser Funktion nun sehr weit oben auf seiner eigenen ToDo-Liste. In dem Twitter-Verlauf (unbedingt lesen), hat er auch schon mitgeteilt dass der Fehler schon jetzt behoben sein sollte und man derzeit an Features arbeitet die genau solche Einordnungen verhindern sollen. Natürlich kann ein solcher Fehler einmal vorkommen und die automatische Erkennung wird vielleicht niemals perfekt funktionieren, aber in diesem Fall ist es eben besonders peinlich – und verbreitet sich daher gerade wie ein Lauffeuer durch das Internet.

Auch der Google Photos-Konkurrent Flickr hatte schon mit solchen Problemen zu kämpfen und hatte ebenfalls dunkelhäutige mit dem Label „Affen“ oder „Tier“ versehen – was also in etwa auf das gleiche rauskommt wie bei Photos. Außerdem hatte flickr auch schon das Konzentrationslager in Auschwitz als Sportanlage eingeordnet – ein Fehler der Google (bisher) noch nicht passiert ist. Doch so lange die Unternehmen solche Fehler schnell ausbessern – und nur aus Fehlern lernt man schließlich, das gilt auch für Algorithmen – sollte sich niemand künstlich darüber aufregen.

[futurezone]

---

---