KI und Viztech: Ein neues Zeitalter sichererer Online-Inhalte

Online-Medienunternehmen kämpfen damit, extremistische Inhalte zu polizeilich zu überwachen, bevor sie online erscheinen. David Fulton, CEO von WeSee, argumentiert, dass KI-gestützte Technologie gefährliche Inhalte erkennen kann, bevor sie je live gehen.

Regierungsbeamte und Akademiker debattieren gleichermaßen, wie der Anstieg online-terroristischer Inhalte am besten einzudämmen ist. Während Plattformen wie Facebook, Twitter und YouTube wachsendem regulatorischem Druck ausgesetzt sind – deutsche Gesetzgeber erließen kürzlich ein Gesetz, das große Internetfirmen verpflichtet, „offensichtlich illegale“ Inhalte innerhalb von 24 Stunden zu entfernen oder Bußgelder bis zu 57 Mio. $ zu riskieren – bleibt das Vertrauen in ihre aktuellen Moderationsfähigkeiten gering.

Im Juni veranstaltete die Harvard University die Konferenz Harmful Speech Online: At the Intersection of Algorithms and Human Behaviour, ko-organisiert vom Berkman Klein Center, dem Shorenstein Center und dem Londoner Institute for Strategic Dialogue. Das Event beleuchtete die kritische Lücke zwischen dem wachsenden Problem schädlicher Sprache und den verfügbaren Werkzeugen, um es zu bekämpfen.

Die Eröffnungsrede unterstrich, wie extremistische Inhalte öffentliche Meinung und politischen Diskurs formen, und bemerkte die severen Ressourcen- und Forschungsdefizite, die effektive Reaktionen behindern.

Automatisierte Erkennung: Der dringende Ruf

Im September trafen Führungskräfte aus UK, Frankreich und Italien mit großen Internetunternehmen bei der UN-Generalversammlung in New York zusammen. UK-Premierministerin Theresa May warnte, dass Versäumnis, terroristische Inhalte innerhalb von zwei Stunden zu erkennen und zu entfernen, empfindliche Strafen auslösen könnte. Diese Frist ist signifikant – Forschung zeigt, dass zwei Drittel der Propaganda innerhalb dieses Fensters geteilt werden, was Fragen zur Realisierbarkeit des Zeitlimits aufwirft.

Google und YouTube kündigten an, ihre KI-gestützten Content-Identifikationssysteme hochzuskalieren. Doch das Problem bleibt. Ein aktueller Telegraph-Artikel berichtete, dass 54.000 Seiten mit Bombenbauanleitungen und anderem extremistischem Propagandamaterial zwischen August letzten Jahres und Mai dieses Jahres aktiv waren, alle mit Unterstützern des Islamischen Staates verknüpft.

Cisco-Prognosen deuten darauf hin, dass das Web bis 2020 65 Billionen Bilder und 6 Billionen Videos hosten wird, wobei Bild- und Videoverkehr in weniger als drei Jahren über 80 % des gesamten Internetverkehrs ausmachen wird. Solche Volumen auf extremistische Inhalte zu überwachen, ist eine gewaltige Aufgabe – eine, der fortschrittliche künstliche Intelligenz helfen kann.

Viztech: Ein prädiktiver Ansatz

Viztech, ein Pionier in KI-basierter visueller Inhaltsanalyse, hat einen ausgeklügelten Filter entwickelt, der erwachsene und gewalttätige Inhalte – neben terroristischen Bildern – erkennt, bevor sie veröffentlicht werden. Durch Erkennen von Symbolen wie der ISIS-Flagge oder Gesichtern bekannter extremistischer Figuren kann Viztechs System Inhalte in Echtzeit kennzeichnen, lange bevor ein Nutzer interagiert.

Aufbauend auf Deep-Learning-Neuralnetzen operiert die Technologie mit Geschwindigkeiten bis zu 1.000-mal schneller als menschliche Kognition und bietet sowohl prädiktives Filtern als auch präzise Kategorisierung von Video- und Standbildern. Im Wesentlichen geht Viztech über reaktive Moderation hinaus zu proaktiver Prävention und liefert Regierungen, Forschern und Plattformen ein mächtiges Werkzeug, um das Online-Ökosystem zu schützen.

David Fulton, CEO von WeSee