Neues KI-Sprachübersetzungssystem: Meta stellt neues Mega-Sprachmodell vor

• Neues KI-Sprachmodell von Meta kann über 4.000 Sprachen erkennen
• Modell ermöglicht Sprachsynthese und -transkription in über 1.100 Sprachen
• Laut eigenen Angaben schneidet das Modell besser ab als OpenAIs Whisper

Modell erkennt über 4.000 gesprochene Sprachen

Mit dem neuen KI-Sprachmodell Massively Multilingual Speech (MMS) plant das von Mark Zuckerberg geführte Unternehmen Meta, die Übersetzung, Synthese und Transkription von Sprachen zu revolutionieren. Meta beabsichtigt, das Modell unter der Open Source-Lizenz zu veröffentlichen, um anderen Forschern die Möglichkeit zu geben, die Software für die Entwicklung eigener Projekte zu nutzen. Das Unternehmen strebt es an, mithilfe dieses neuen Modells die Sprachenvielfalt zu bewahren und die Anzahl an Sprachen, mit denen Menschen mithilfe von Technologie kommunizieren können, zu erweitern.

Gemäß einer Veröffentlichung des Unternehmens hat das Modell die beeindruckende Fähigkeit, über 4.000 Sprachen zu erkennen, was im Vergleich zu bisherigen Technologien eine 40-fache Steigerung darstellt. Obwohl damit die über 7.000 auf der Erde gesprochenen Sprachen immer noch nicht vollständig abgedeckt werden, stellt das MMS-Modell bereits eine bedeutende Verbesserung im Vergleich zu den herkömmlichen Sprachmodellen dar, die bislang ungefähr 100 Sprachen erkennen können. Im Bereich der Sprachsynthese und -transkription kann das Modell in über 1.100 Sprachen verwendet werden. Die Anwendungsmöglichkeiten erstrecken sich auch auf den Bereich der Virtual und Augmented Reality, auf den Meta zunehmend seinen Fokus setzt.

Altes Testament diente als Datenquelle

Bei der Entwicklung des Modells stellte die Integration von selten gesprochenen, alten Sprachen ein herausforderndes Problem dar. Um sicherzustellen, dass auch Sprachen einbezogen werden, die typischerweise außerhalb der westlichen Welt gesprochen werden, wurden Aufnahmen religiöser Texte aus der Bibel analysiert, die in zahlreiche verschiedene Sprachen übersetzt wurden und von denen es eine Vielzahl von Aufnahmen gibt. Im Rahmen des MMS-Projekts wurde ein umfangreicher Datensatz mit Lesungen des Alten Testaments in über 1.100 Sprachen erstellt, der pro Sprache mehr als 32 Stunden an Datenmaterial umfasst. Durch die Einbeziehung weiterer religiöser Schriften konnte die Anzahl der verfügbaren Sprachen auf über 4.000 erweitert werden.

Da Sprachmodelle üblicherweise stark von den Daten abhängen, mit denen sie trainiert wurden, könnte vermutet werden, dass das Modell eine Tendenz dazu besitzt, verstärkt religiöse Sprechweisen und Texte zu erzeugen. Meta stellte allerdings fest, dass trotz des religiösen Inhalts der Audioaufnahmen, mit denen das Modell trainiert wurde, keine Verzerrung besteht, die dazu führt, dass das Modell tendenziell mehr religiöse Sprache erzeugt. Meta vermutet, dass dies auf den Ansatz zurückzuführen sein könnte, den Meta im Vergleich zu anderen großen Sprachmodellen (LLMs) oder Sequenz-zu-Sequenz-Modellen für die Spracherkennung verwendet. Dieser Ansatz ist wesentlich begrenzter und scheint dazu beizutragen, Verzerrungen zu vermeiden.

Modell laut Meta besser als OpenAIs Whisper

Da 32 Stunden pro Sprache nicht ausreichen, um herkömmliche beaufsichtigte Sprachmodelle zu trainieren, wurde das bereits von Meta entwickelte selbst-überwachende Modell wav2vec 2.0 zur automatischen Spracherkennung genutzt, um die Menge an die Daten zu reduzieren, die benötigt wird, um ein gutes Modell zu trainieren. Laut der Veröffentlichung von Meta wurden selbst-überwachende Modelle auf etwa 500.000 Stunden Sprachdaten in über 1.400 Sprachen trainiert, was ungefähr fünfmal mehr ist als bei derzeit bekannten Sprachmodellen.

Laut Meta hat sich die umfassende Datenanalyse gelohnt - im direkten Vergleich mit dem von OpenAI entwickelten Modell Whisper, das die Sprachsynthese und -transkription zu Englisch nur von 99 Sprachen erlaubt, schneidet MMS laut Angaben von Meta deutlich besser ab. Konkret haben die Entwickler von Meta festgestellt, "dass Modelle, die auf den Daten von MMS trainiert wurden, die Hälfte der Wortfehlerrate erreichen". Zusätzlich würde das MMS-Modell 11-mal mehr Sprachen abdecken. In jedem Fall ist die von Meta entwickelte Datenbank ein bedeutender Schritt darin, das kulturelle Erbe der Menschheit zu bewahren.

Redaktion finanzen.net