In China alarmieren KI-Kameras die Polizei, wenn ein Banner entfaltet wird – Radio Free Asia

Ein weit verbreitetes chinesisches Videoüberwachungsunternehmen, das von westlichen Regierungen sanktioniert wird, verfügt über eine KI-Technologie, die die Behörden automatisch alarmiert, wenn eine Person beim Entfalten eines Banners entdeckt wird.

Laut IPVM, einem in den USA ansässigen Überwachungsforschungsunternehmen, das erstmals über die Existenz der Technologie berichtete, scheint die KI in Kameras von Dahua Technology ausdrücklich darauf abzuzielen, Proteste zu unterdrücken.

Dahua löschte Verweise auf das System namens „Jinn“, nachdem IPVM das Unternehmen um einen Kommentar gebeten hatte. In einer archivierten Version seiner Website wird jedoch dessen Verwendung für Zwecke der „sozialen Sicherheit“ und der „sozialen Governance“ erörtert – Begriffe, die von chinesischen Behörden häufig verwendet werden um Überwachung und Verhaftungen zu rechtfertigen.

Das Erkennungssystem ist nur ein Beispiel für das Wachstum von KI und staatlichen Tracking-Technologien in China, die sich in den letzten Jahren inmitten der COVID-19-Pandemie stark verbreitet haben.

Eine Reihe von Massenbeschaffungen von Technologie durch Polizeikräfte in ganz China haben die Fähigkeit der Behörden, gegen soziale Freiheiten vorzugehen, Bürger zu kontrollieren und, wie Kritiker sagen, von der Regierung ins Visier genommene Gruppen zu missbrauchen, erheblich verbessert.

„Es wird ein Alarm generiert“

Laut der archivierten Webseite von Dahua wurde das KI-System im Jahr 2021 eingeführt und ist ab Mai 2023 verfügbar.

Sein Debüt fiel offenbar mit einer Welle polizeilicher Investitionen in geografische Informationssysteme in ganz China im Jahr 2020 zusammen.

Es ist nicht bekannt, welche Polizeigerichtsbarkeiten diese spezielle Dahua-KI verwenden, aber das Unternehmen ist ein wichtiger Anbieter von Polizeitechnologie, sagte Charles Rollet von IPVM.

„Mit dem Banner-Alarm – das richtet sich an den chinesischen Unternehmensmarkt: die großen, meist polizeilichen Behörden“, sagte er. „Es ist für die Polizei oder irgendeine Form der Stadtverwaltung gedacht … es gibt keinen Grund, sie [Banner] automatisch zu verfolgen, es sei denn, Sie möchten grundsätzlich Proteste verfolgen.“

Der vielleicht bekannteste Protest in China der letzten Jahre – der Weißbuch-Protest gegen strikte COVID-Sperren – wurde letztes Jahr von einem Mann ins Leben gerufen, der ein Banner auf einer Brücke entfaltete – ein Hinweis auf die mögliche Relevanz der Technologie für die Polizei (obwohl dies nicht der Fall ist). Es ist bekannt, ob die Polizei in diesem speziellen Fall die Verfolgung von Entfaltungsbannern eingesetzt hat.

Dahua, das von den Regierungen der USA, Großbritanniens und Australiens sanktioniert wird, bietet eine Reihe vorausschauender KI-Technologien für die Polizei an, mit denen Zivilisten mithilfe biometrischer Daten überwacht werden können. Zuvor zeigten interne Dokumente des Unternehmens, dass es Gesichtserkennungs-KI zur Verfolgung von Uiguren bereitstellt, was zu den westlichen Sanktionen führte. Dahua bestritt rassistische Angriffe.

Eine im Jahr 2020 gefilmte Demo der Banner-entfaltenden KI wurde ebenfalls auf der Website von Dahua veröffentlicht, bevor sie gelöscht wurde. „Wenn eine Person, die ein Banner hält, im Kamerafeld erkannt wird und sich über einen bestimmten Zeitraum dort aufhält, wird ein Alarm an die Polizei ausgelöst“, erklärte die Demo.

Dahua antwortete nicht auf eine Anfrage von RFA nach einem Kommentar.

Polizei-Tech-Boom

Die Banner-Entfaltungstechnologie sei eine Fortsetzung „der Entwicklung der KI und wie diese Technologie für die chinesische Polizei wirklich verfügbar wird“, sagte Rollet.

Es ist bekannt, dass China riesige Mengen an Daten über seine Einwohner sammelt, und die schnell wachsenden KI-Technologien bieten den Behörden eine neue Möglichkeit, Informationen zu sammeln.

Eine ebenfalls von IPVM im letzten Monat aufgedeckte Ausschreibung der Polizei von Shanghai für Vorschläge für ein KI-Tracking-Projekt legt einige der Ambitionen dar, die die Behörden mit der Nutzung der umfangreichen Daten, die sie gesammelt haben, hegen.

„Die traditionelle Polizeiarbeit muss in einen digitalen, intelligenten und komfortablen vereinfachten Online-Betrieb überführt werden“, hieß es. „Das effektive Management des Modells, damit es seine größte Rolle spielen kann, ist zu einem dringenden Problem bei der Entwicklung der öffentlichen Sicherheitstechnologie geworden.“

Das Projekt zielt darauf ab, automatische Alarme zu erstellen, um die Polizei über Bewegungen bestimmter Bevölkerungsgruppen im Shanghaier Stadtteil Songjiang zu informieren, einem bevölkerungsreichen Vorort mit einer großen Anzahl von Akademikern und Universitätsstudenten.

Zu den „Zielpopulationen“, die das Projekt automatisch verfolgen möchte, gehören Uiguren; Ausländer mit illegalem Aufenthaltsstatus; Lehrkräfte und Mitarbeiter wichtiger Universitäten; in China stationierte ausländische Journalisten; Ausländer, die Xinjiang oder ähnliche Gebiete besucht haben; Personen mit COVID-Impfungen; mutmaßliche Kriminelle, Sexarbeiterinnen und Drogendealer; und Familien mit ungewöhnlichem Stromverbrauch.

Einer Mitteilung auf ihrer Website zufolge, die später entfernt wurde, vergab die Polizei Songjiang das Projekt an ein Technologiesicherheitsunternehmen, die Shanghai Juyi Technology Development Company, die offenbar auf staatliche Auftragsarbeiten spezialisiert ist.

Die Shanghai Juyi Technology Development Company antwortete nicht auf eine Bitte um Stellungnahme.

Wie bei Dahua entfernte die Polizei von Songjiang den Hinweis, nachdem IPVM ihn im Mai veröffentlicht hatte, und RFA konnte den im Dokument aufgeführten Projektmanager nicht erreichen.

Die Grenzen von Big Brother

Laut Maya Wang von Human Rights Watch gelten die 26 Kategorien von „Zielpopulationen“ im Shanghai-Projekt als „Fokuspersonal“ der chinesischen Behörden.

„Menschen, die Bittsteller sind, Menschen mit Vorstrafen, Menschen mit psychosozialen Behinderungen usw. … diese Personengruppen werden von der Polizei überwacht“, sowohl physisch als auch durch Technologien, sagte Wang gegenüber RFA.

Aber die Art und Weise, wie KI zur Verfolgung von Menschen eingesetzt wird, zeige sowohl die Raffinesse als auch die Schlichtheit, mit der chinesische Behörden über Überwachung denken, sagte Geoffrey Cain, Autor von „The Perfect Police State“, einem Buch über chinesische Überwachung.

Die von ihnen verwendeten Parameter – das Verfolgen des Entfaltens eines Banners oder das Markieren von Sprüngen im Haushaltsstromverbrauch (im Shanghai-Polizeiprojekt) – wirken tendenziell rückwärts von Verhaltensweisen, die möglicherweise nur vage mit zensierten Aktivitäten zusammenhängen, die sie präventiv unterbinden wollen auf, wie zum Beispiel Protest oder Kryptowährungs-Mining.

„Es erinnert mich an die Zeit, als dieser ganze Überwachungsstaat in den Jahren 2016 und 2017 richtig losging“, sagte Cain. „Sie hatten es auf Leute abgesehen, die plötzlich zu rauchen oder zu trinken begannen, oder auf Leute, die plötzlich, wissen Sie, die Gegenstände kauften, aus denen ein Zelt gebaut wurde.“

„Und das liegt nicht daran, dass es dafür einen bestimmten Grund gibt, sondern als Begründung würden sie angeben, dass solche Verhaltensweisen verdächtig sind. Es ist fast so, als hätten sie willkürlich etwas Ungewöhnliches gewählt“, sagte er.

„Es ist, als würden die Behörden einen Rückzieher machen und die Sache über die Tatsachen stellen.“

Diskriminierung und Gefahr

Aber es gibt echte Auswirkungen für die Zielgruppen.

Insbesondere die Massenüberwachung von Uiguren sei ein Schlüsselfaktor für ihre Verfolgung gewesen, sagte Wang von HRW.

„Wo auch immer sie in China hingehen, Uiguren werden im Wesentlichen für diskriminierende und gezielte Polizeiarbeit ausgewählt“, sagte sie. „Und das bedeutet, dass sie oft leiden – sie können oft keine Unterkunft, kein Hotel finden. Wenn sie mit dem Zug fahren, werden sie normalerweise Ermittlungen und Verhören usw. ausgesetzt.“

Laut einer Mai-Analyse der chinesischen Polizei-Geolocation-Systeme durch China Digital Times, ein spezialisiertes Medienunternehmen, kam es erstmals im Jahr 2017 und dann noch einmal im Jahr 2020 zu einer Welle von Investitionen der Polizei in diese Ortungssysteme, die während der COVID-19-Pandemie zunahm.

„Einige Verträge fielen mit anderen staatlichen Käufen von Überwachungssystemen zusammen, die speziell auf Uiguren ausgerichtet waren“, heißt es in dem Bericht. „Es gibt auch bemerkenswerte Konzentrationen bei der Beschaffung in Regionen mit einem hohen Anteil an Uiguren oder anderen Minderheiten.“

Im weiteren Sinne besteht die Sorge darin, dass „diese [KI-Überwachungs-]Systeme alle Behörden dazu befähigen, Menschenrechte auf unterschiedliche Weise zu verletzen, je nachdem, wie sie eingesetzt werden“, sagte Wang.

„Und wenn sie so billig und weithin verfügbar sind und im Rahmen der Belt-and-Road-Initiative mit chinesischer Finanzierung durch die chinesische Regierung ausgestattet sind, verbreiten sie sich mit schädlichen Auswirkungen auf die Rechte weltweit“, sagte sie.

Rollet stimmte zu. „Ich könnte mir vorstellen, dass sich das auch in anderen Ländern durchsetzt“, sagte er. „Ich denke, das größere Risiko besteht darin, dass es einen Präzedenzfall schafft und anderen Ländern Ideen gibt, was sie tun sollten, wissen Sie?“

Herausgegeben von Boer Deng

Fügen Sie Ihren Kommentar hinzu, indem Sie das Formular unten im Klartext ausfüllen. Kommentare werden von einem Moderator genehmigt und können gemäß den Nutzungsbedingungen von RFA bearbeitet werden. Kommentare werden nicht in Echtzeit angezeigt. RFA ist für den Inhalt der Beiträge nicht verantwortlich. Bitte respektieren Sie den Standpunkt anderer und bleiben Sie bei den Fakten.