KI nähert sich semantischem Verständnis: Die nächste Grenze im NLP

KI ist ein Missnomer, so wird oft suggeriert. Der erste Buchstabe – künstlich – stimmt ungefähr. Beim zweiten Wort – nun, es gibt nichts Intelligentes daran. Nehmen Sie Semantik als Beispiel: Es gibt nichts auch nur annähernd Intelligentes an künstlicher Technologie, die die Bedeutung in Sätzen, Absätzen und Büchern versteht, aus dem einfachen Grund: Sie ist unerbittlich schlecht darin.

Aber könnte sich das ändern? Kürzlich sprachen wir mit Hadayat Seddiqi, Director of Machine Learning bei Legal-Tech-Firma InCloudCounsel. Er meint, KI sei nahe daran, semantisches Verständnis als nächsten Evolutionsschritt zu erreichen. Wir fragten: „Wann erreichen wir diesen Meilenstein voraussichtlich?“

SEO: Wenn Sie ein Schriftsteller sind, der Stolz auf sein Schreiben hat, seinen Wortschatz einsetzt, um eine Idee ohne Wiederholung auszudrücken, hassen Sie wahrscheinlich SEO. Wenn Sie komplexe Argumente mögen, die sich nur über einen Satz, ein Kapitel, einen Artikel oder gar ein Buch ausdrücken lassen, dann ist SEO, weil es Sie zwingt, Argumente in zwei, drei, vier Wörter zu dämpfen – wie KI und Verständnis Semantik – der Feind. (Sehen Sie, was wir da taten?)

Wäre es nicht toll, wenn Suche, mithilfe von KI zur Semantik (da ist es wieder), Suchergebnisse auf Basis eines weitaus raffinierteren – intelligenten, wenn man so will – Verständnisses erstellen könnte, wodurch die Notwendigkeit lästiger Wiederholung entfällt!

Der NLP-Markt wird tatsächlich bis 2025 auf 22,3 Milliarden Dollar erwartet – was zeigt, wie weit die Technologie gekommen ist, besonders in Kommunikation und Business.

Aktuell werden diese Technologien in Organisationen für verschiedene Zwecke genutzt: Reputationsmonitoring von Marken für Sentiment-Analyse, Insights für Ad-Placements via Keyword-Matching oder Sense-Disambiguierung, sogar in Regulatory Compliance, um sicherzustellen, dass Produkte keine Haftung werden.

In diesem Fall liegt KIs wahre Macht, Branchen zu revolutionieren und Schlüsselinights zu bestimmen, in der Fähigkeit, Text zu lesen und Semantik (Beziehungen zwischen Wörtern) zu verstehen, um Organisationen zu helfen, Risiken weiter zu mindern und Haftungen aufzudecken. Das schafft massiven Wert in NLP.

Also: In der Geschichte von KI, die semantisches Verständnis ermöglicht, was ist der nächste Evolutionsschritt und wann erreichen wir ihn voraussichtlich?

Seddiqi sagt: „Semantisches Verständnis in KI zu erreichen, erfordert mehrere Schlüsselmeilensteine. Hilfreich ist, in iterativem Fortschritt zu denken, der uns zum semantischen Verständnis führt und was jeder Meilenstein bedeutet.“

„Ein früherer Meilenstein“, sagt Seddiqi, sind Word Vectors: „Rahmen wir diesen Meilenstein in einem häufigen Use Case, den die meisten kennen: Suchfunktionalität auf dem Computer. Jeder hat Strg+F/Cmd+F genutzt, um etwas auf dem System zu finden, das exakt Keywords matcht. Zudem nutzt eine Suchmaschine wie Google einen ‚Spellcheck‘-Komponente für potenzielle Tippfehler.

„Aber was ist mit Wörtern, die ganz anders aussehen, aber Ähnliches bedeuten? Um 2013 fand die KI-Community einen effizienten Weg, dies zu modellieren: ‚Word Vectors‘. Man kann lustige Wort-Algebra machen: König + Frau = Königin. Praktischer: Sie können Ihre Suche nun auf semantisch verwandte Wörter erweitern.“

Anstehender Meilenstein: KI-Verständnis von Semantik

„Word Vectors waren ein Gamechanger, aber sie verlangten noch, Ihre Idee in ein oder wenigen Keywords auszudrücken. Was, wenn Ihre Idee einen ganzen Satz erfordert? Das ist der nächste Meilenstein, den wir dank eines großen Forschungsschubs letztes Jahr erreichen.

„Die Idee: Sie nehmen einen Satz, encoden ihn in einen Satz- (oder Gedanken-) Vektor und finden dann ähnliche Satzvektoren. Gut encodiert, kann Ihre Suchfunktion sehr unterschiedlich aussehende Sätze finden, die dieselbe Idee ausdrücken.

„Es ist nicht unvernünftig zu sagen, diese Technologie wird in den nächsten paar Jahren reifen, basierend auf aktuellem Forschungsfortschritt.

Zukünftige Meilensteine: KI-Verständnis jenseits von Sätzen

„Ein klares hierarchisches Muster entsteht in der Entwicklung dieser Technologie. Wir kommen KI-Verständnis von Ideen auf Satzebene nahe, indem wir ähnliche Techniken von der Wortebene nutzen und hochskalieren. Das eröffnet spannende Anwendungen für KI-Verständnis von Ideen, die Absätze, ganze Dokumente oder sogar ganze Bücher erfordern.

„KIs jüngster Sprung zum Satzverständnis von Wörtern war nicht trivial, da die Fähigkeit dazu weitgehend durch Datensatzgröße und Rechenleistung limitiert war. Unsere Fähigkeit, Modelle für diese größeren Probleme zu erstellen, hing bisher von diesen zwei Ressourcenbeschränkungen ab.

„Da diese Kosten durch Fortschritte in KI-Hardware sinken, werden wir uns Modellen nähern, die größere Textsammlungen verstehen. Dies ist etwas durch OpenAIs GPT-2-Modell bewiesen, das zeigt: Derselbe Satz-Encoding-Modell-Design mit großen Datenmengen produziert Modelle, die bereits High-Level-Konzepte über viele Sätze verstehen. Zum Beispiel versteht GPT-2 genug, um ganze Nachrichtenartikel mit erstaunlicher Kohärenz zu schreiben.