Fehlerhafte Gesichtserkennungssoftware: Technologie-Konzerne reagieren auf Kritik

Seit Jahren ist der Einsatz von Gesichtserkennungssoftware in vielen Ländern ein elementarer Teil der Polizeiarbeit. Das gilt besonders für die USA oder Großbritannien. Aber auch in Deutschland erfreut sich die Methode wachsender Beliebtheit – auch wenn der Einsatz hierzulande regelmäßig Gegenstand heftiger Diskussionen ist.

Überwachungsinstrument zu Billigpreisen?

Das Angebot von Gesichtserkennungssoftware wächst ständig. Die Anbieter wenden sich in ihren Werbekampagnen oft gezielt sowohl an die Social Media-Konzerne, als auch an Sicherheitsbehörden. Der Einsatz der Technik zum Ausbau der Überwachungsapparate stößt immer wieder auf Kritik. So auch bei der als „Rekognition“ bezeichneten Gesichtserkennungssoftware von Amazon, die seit 2018 auf dem Markt ist.

Schon lange kritisieren Bürgerrechtler, dass Amazon mit der Software ein Überwachungsinstrument zu Billigpreisen anbiete. Infolge der nach dem Tod von George Floyd neu entflammten Rassismus-Debatte in den USA kommt die Software erneut in die Kritik.

Fehlerhafte Gesichtserkennung bei schwarzer Hautfarbe

In mehreren Untersuchungen zeigte sich, dass die Recognition-Gesichtserkennungssoftware anscheinend bei Personen mit schwarzer Hautfarbe deutlich häufiger fehlerhafte Ergebnisse und Zuweisungen ausgibt als bei Personen mit weißer Hautfarbe. Durch die falschen Identifizierungen sei es leichter möglich, dass zum Beispiel Personen unter falschem Verdacht festgenommen werden.

Laut US-Aktivisten könne die Gesichtserkennungssoftware von Amazon von den US-Behörden für diskriminierende Maßnahmen gegen Schwarze missbraucht werden. Auch bei asiatisch-stämmigen Personen soll die Software weniger zuverlässig arbeiten.

Das Problem wurde allerdings nicht neu entdeckt, sondern ist schon seit längerem bekannt. Dis zeigt sich an einer Studie aus dem Jahr 2019. Aber erst vor dem Hintergrund der gesteigerten öffentlichen Aufmerksamkeit scheint sich für die Konzern-Spitze ein Handlungsbedarf ergeben zu haben.

Nun hat Amazon nun bekannt gegeben, dass die Software der US-Polizei mindestens ein Jahr lang nicht mehr zur Verfügung gestellt wird. Innerhalb dieses Zeitraumen sollen die Voraussetzungen für eine ethisch vertretbare Nutzung der Software geschaffen werden.

Geschäft mit Gesichtserkennung schadet dem Image

Andere Technologie-Unternehmen gehen sogar noch weiter als Amazon: IBM hat Anfang der Woche verkündet, dass Geschäft mit Gesichtserkennungs-Software komplett aufzugeben. Auch wenn Microsoft nicht ganz so weit geht, hat das Unternehmen jetzt ebenfalls vor, der US-Polizei keine Software mehr für die automatische Gesichtserkennung zur Verfügung stellen. Zumindest bis es eine klare Regulierung durch ein Bundesgesetz gebe.

Ob diese Entwicklung auch auf andere umstrittene Anbieter von Bilddatenbanken wie Clearview übergreift, bleibt abzuwarten.