KI kann Forschungsarbeiten lesen und eine Zusammenfassung in einfacher Sprache bereitstellen

• Forscher entwickeln ein neues neuronales Netz basierend auf einer bisher unerforschten Idee – Rotationen.
• Es kann bestehende Methoden ersetzen, um reale Probleme wie Textzusammenfassung, Sprachmodellierung und Fragenbeantwortung anzugehen.

Eine Forschungsarbeit ist in der Regel mit spezialisierten Ansätzen und Fachterminologien gefüllt, die für Leser ohne wissenschaftlichen Hintergrund nur schwer verständlich sind.

Kürzlich haben Wissenschaftler des MIT und des Qatar Computing Research Institute ein neues Modell für künstliche Intelligenz (KI) entwickelt, das wissenschaftliche Zeitschriften lesen und eine einfache englische Zusammenfassung in wenigen Sätzen bereitstellen kann.

Obwohl es weitaus bessere Ergebnisse liefert als bisherige Techniken, kann es Wissenschaftsautoren und -redakteure sicherlich nicht ersetzen. Diese KI kann jedoch Autoren helfen, eine größere Anzahl von Zeitschriften zu scannen und eine Vorstellung davon zu bekommen, worum es bei ihnen geht.

Das Forschungsteam versuchte ursprünglich, neuronale Netze zu entwickeln, um bestimmte physikalische Probleme anzugehen, beispielsweise das Verhalten von Licht in komplizierten technischen Materialien.

Sie erkannten bald, dass die gleiche Methodik auch für andere komplexe Rechenaufgaben wie Spracherkennung und natürliche Sprachinterpretation auf viel effizientere Weise als mit bestehenden maschinellen Lernmethoden verwendet werden kann.

Was sie tatsächlich getan haben?

In den letzten Jahren hat sich das Recurrent Neural Network (RNN) zu einem standardmäßigen künstlichen neuronalen Netzwerk entwickelt, das eine Vielzahl von Aufgaben abdeckt, von der Sprachmodellierung über die Textzusammenfassung bis hin zur Entwicklung von Chatbots-Systemen.

Es wurden verschiedene Techniken entwickelt, um die Fähigkeit zu verbessern, Informationen aus einer langen Datenkette zu korrelieren. Die beliebtesten sind Long Short-Term Memory (LSTM) und Gated Recurrent Units (GRU). Aber sie zeigen immer noch keine beeindruckenden Gedächtnisfähigkeiten oder effizienten Abruf bei synthetischen Aufgaben.

Aus diesem Grund haben Forscher einen alternativen Ansatz namens Rotational Unit of Memory (RUM) entwickelt. Im Gegensatz zu herkömmlichen neuronalen Netzen, die auf der Multiplikation von Matrizen basieren, basiert RUM auf Vektoren, die sich im mehrdimensionalen Raum drehen.

Referenz:MIT-Pressezeitschriften | doi:10.1162/tacl_a_00258 | MIT 

Es verwendet einen Vektor im mehrdimensionalen Raum (eine bestimmte Linie, die in eine bestimmte Richtung zeigt), um jedes einzelne Wort im Text darzustellen. Jedes nachfolgende Wort lenkt den Vektor in eine bestimmte Richtung in einem theoretischen Raum, der Tausende von Dimensionen enthalten kann. Der resultierende Vektor (oder eine Gruppe von Vektoren) wird dann wieder in die zugehörige Wortfolge umgewandelt.

Insgesamt macht RUM zwei Dinge:Es merkt sich komplizierte sequentielle Dynamiken und erinnert sich genau an Informationen. Es zeigt auch eine vielversprechende Leistung für die Sprachmodellierung auf Zeichenebene und die Beantwortung von Fragen.

Testen

Die Forscher testeten dieses System anhand zahlreicher wissenschaftlicher Arbeiten, einschließlich ihrer eigenen Arbeit, in der diese Ergebnisse beschrieben wurden, und verglichen die Ergebnisse mit herkömmlichen LSTM- und GRU-basierten neuronalen Netzen.

Anstatt nur Abstracts zu scannen, liest RUM das gesamte Papier, um eine einfache Zusammenfassung des Inhalts zu erstellen. Die von diesem System erstellte Zusammenfassung enthielt weniger Fachbegriffe und sich wiederholende Wörter. Obwohl es keine elegante Prosa war, trifft es die wichtigsten Datenpunkte.

Lesen Sie:AI schreibt seine eigene Poesie, die Shakespeares Werk ähnelt

Sie können dieses System bei Ihren eigenen Aufgaben ausprobieren:Code und Demo sind auf GitHub verfügbar.