Die Kartenplattform Google Maps bietet allen Nutzern die Möglichkeit, sich aktiv zu beteiligen und die Datenbanken mit Fotos, Bewertungen und Rezensionen zu füllen. Diese Nutzerinhalte sind ein Herzstück der Plattform, bergen aber auch eine hohe Missbrauchsgefahr und müssen daher in irgendeiner Form moderiert werden. Jetzt erklärt Google, wie man mit mutmaßlich gefälschten Rezensionen umgeht.
Jeder Nutzer kann bei Google Maps Bewertungen abgeben und Rezensionen schreiben. Das ist praktisch, birgt aber ein hohes Missbrauchspotenzial, denn diese Bewertungen werden von vielen Menschen gesehen und entsprechend beachtet. Eine schlechte Bewertung bei Google Maps kann Geschäfts-schädigend sein und hat nachweislich schon manche Existenz bedroht oder gar zerstört. Aus diesem Grund müssen Bewertungen ständig überwacht und moderiert werden. Wir haben euch erst kürzlich gezeigt, wie Bewertungen funktionieren und jetzt zeigt Google, wie man mit mutmaßlichen Fälschungen umgeht.
Es gibt strenge Inhaltsrichtlinien, die sowohl irreführende Inhalte verbieten als auch klarstellen, dass Bewertungen und Rezensionen auf tatsächlichen Erfahrungen beruhen müssen. Aber wie will man das kontrollieren?
Da immer mehr Menschen zu Google Maps beitragen, gehen wir mit einer Kombination aus „Mensch und Technologie“ vor allem gezielt gegen böswillige Akteure vor, die gegen unsere Richtlinien verstoßen. Auf diese Weise sind wir in der Lage, den Großteil der unerwünschten Inhalte zu entfernen, bevor sie jemand zu Gesicht bekommt.
Da immer mehr Menschen zu Google Maps beitragen, gehen wir mit einer Kombination aus „Mensch und Technologie“ vor allem gezielt gegen böswillige Akteure vor, die gegen unsere Richtlinien verstoßen. Auf diese Weise sind wir in der Lage, den Großteil der unerwünschten Inhalte zu entfernen, bevor sie jemand zu Gesicht bekommt.
Man nutzt die übliche Mischung aus Mensch und Technologie, sodass viele irreführende oder falsche Inhalte sehr schnell erkannt werden. Algorithmen werden Muster im Text oder vielleicht auch aus der Kombination von Nutzerprofil und Eintrag erkennen, während der Mensch sich den Text und dessen Inhalt im Detail ansehen kann. Hauptsächlich dürften aber Algorithmen zum Einsatz kommen.
Ein Tool, das wir verwenden, ist die automatische Erkennung mithilfe von Modellen des maschinellen Lernens. Diese Modelle scannen Millionen von Beiträgen, die wir jeden Tag erhalten, und erkennen und entfernen Inhalte, die gegen unsere Richtlinien verstoßen. Unsere Systeme scannen jede einzelne Bewertung, bevor sie auf Google Maps veröffentlicht wird und suchen nach Anzeichen für gefälschte Bewertungen. Unsere Modelle achten auf bestimmte Wörter und Formulierungen, untersuchen Muster in den Arten von Inhalten, die ein Konto in der Vergangenheit verfasst hat, und versuchen so verdächtige Bewertungsmuster zu erkennen.
Gleichzeitig setzen wir Teams aus geschulten Mitarbeiter:innen und Analyst:innen ein, die Bewertungen, Fotos, Unternehmensprofile und andere Arten von Inhalten sowohl einzeln als auch in größerer Menge prüfen. Wir bieten auch eine Möglichkeit für jede/n Nutzer:in, Bewertungen und unangemessene Inhalte zur Entfernung zu markieren.
Dank der Kombination aus maschinellem Lernen und menschlichem Einsatz können wir die Menge an z. B. betrügerischen oder beleidigenden Inhalten in Maps weiter verringern – tatsächlich sind es weniger als ein Prozent aller Inhalte, die in Maps angezeigt werden.
- Wir haben mehr als 95 Millionen gegen die Richtlinien verstoßende Bewertungen blockiert oder entfernt.
- Wir haben mehr als 1 Million Bewertungen entfernt, die uns direkt gemeldet wurden.
- Dank kontinuierlicher Verbesserungen unseres maschinellen Lernens haben unsere Technologien und Teams mehr als 1 Million Nutzerkonten wegen richtlinienwidriger Aktivitäten – wie Online-Vandalismus oder Betrug – deaktiviert.