GLTR: Statistisches Werkzeug erkennt KI-generierte Texte durch Vorhersagbarkeit
Forensische Analyse: Zu vorhersagbare Wörter deuten auf Maschinentext hin
Harvard und IBM Research entwickelten GLTR (Giant Language model Test Room) – interaktives Tool zur Unterscheidung menschlicher vs. maschinengenerierter Sprache.
Prinzip
KI-Sprachmodelle (trainiert auf Millionen Web-Texten) vorhersagen wahrscheinlichste Folgewörter. GLTR nutzt GPT-2 (45 Mio. Texte) und prüft: Was hätte GPT-2 an jeder Position vorhergesagt?
Visualisierung: Farbcodierung der Vorhersagbarkeit
- Grün: Hoch vorhersagbar (Top-10)
- Gelb: Mäßig vorhersagbar (Top-100)
- Rot: Leicht vorhersagbar (Top-1000)
- Lila: Nicht vorhersagbar (>Top-1000)
Maschinentext = viel Grün/Gelb. Menschentext = mehr Lila/Rot (höhere Unsicherheit, besonders Fachtexte).
Zusätzliche Histogramme
- Wortanzahl pro Vorhersagbarkeitskategorie
- Verhältnis: Wahrscheinlichkeit Top-1 vs. Top-2 Wort
- Verteilung der Prädiktionsentropien
Menschliche Evaluierung
Informatik-Studenten: Ohne Tool 50 % Erkennung, mit GLTR 72 %. Training könnte Quote weiter steigern.
Quelle: The Harvard Gazette | GitHub
Industrietechnik
- KI-Tool erkennt Genauigkeit & politische Bias in Nachrichtenquellen
- Dynamical Decoupling: Durchbruch zur Verbesserung der Quantencomputer-Leistung
- Wissenschaftler enthüllen Genetischen-Algorithmus zur Unsichtbarmachung von Objekten & Füllmaterial
- KI-gesteuertes Lastüberwachungssystem erkennt elektromechanische Fehler vor ihrem Auftreten
- Microsofts Multi-Task DNN setzt neue Maßstäbe in conversationaler KI
- Elektronen-Holografie visualisiert Nanostrukturen jenseits der Lichtwellenlängen-Grenze
- OLED-Durchbruch: Chiralen Polymere umgehen Blendschutzfilter für hellere, langlebigere Displays
- DNA-Speicher in Alltagsobjekten: 3D-gedruckter Hase trägt eigenen Bauplan
- KI-Durchbruch: GPU-beschleunigtes Tool erkennt COVID-19 auf Röntgenbildern
- Bosque: Microsofts neue schleifenfreie Programmiersprache für bessere Codequalität