Defense of Master Thesis

Abstract Gegenwärtig erfolgt die Suche nach Lösungen für konkrete Probleme meist manuell von Inge-nieuren durchgeführt, die ihrerseits als Filter und Entscheidungsträger für die Relevanz und Be-deutung von Inhalten im Internet fungieren und den Suchprozess steuern. Diese Arbeit befasstsich mit der Automatisierung einiger Prozessschritte zur Identifizierung relevanter Technologienaus Fachzeitschriftentexten. Die Arbeit lässt sich in drei Hauptaufgaben gliedern, die zur Errei-chung des gewünschten Ziels führen. Zuallererst werden mehr als 40.000 Fachzeitschriftentexte,die bereits mittels Web Crawler aus dem Internet gesammelt wurden, mit Latent DirichletAllocation (LDA) reclustert, mit dem Ziel, die Datenqualität und Datenschwächen zu verbes-sern bzw. zu beseitigen. Als Nächstes werden die so genannten Pre-trained Modelle namensBERT, XLnet und RoBERTa angewendet, um die Daten nach Teilbereichen der Industrie 4.0zu klassifizieren. Die Auswahl dieser Modelle erfolgt im Hinblick auf die Tatsache, dass sie inden letzten Jahren aufgrund ihrer Architektur, ihrer Lernstrategien und ihrer Anpassungsfähig-keit für verschiedene NLP-Aufgaben große Aufmerksamkeit auf sich gezogen haben. Schließlichwerden die gleichen Modelle zur Erstellung von Vorhersagemodellen verwendet, die neue undrelevante Technologien aus fachlichen Texten identifizieren und ihre Relevanz bewerten. DieDaten wurden ebenfalls aus dem Internet gecrawlt und von Experten nach der Relevanz ih-rer Technologien gekennzeichnet. Zum Schluss werden die Stärken sowie die Schwächen dereinzelnen Modelle bewertet und hinsichtlich ihrer Leistung bei der Klassifizierung verglichen