Wie ein Ölfilm auf Wasser legt sich demnach eine Schicht von hanebüchenen Inhalten über das Internet. Generative KI hat die Kosten für die Produktion von Phrasen auf nahezu null gesenkt, und die zukünftige Richtung scheint klar: Es droht ein Tsunami von Schrottinhalten, deren einziger Zweck es ist, Nutzerengagement hervorzurufen. […]
Ein „schockierend“ hoher Anteil des Internets bestehe aus maschinell übersetzten Inhalten von niedriger Qualität, insbesondere wenn es um Sprachen geht, die in Afrika und dem globalen Süden gesprochen werden. […]
Was passiert, wenn künftige KIs mit Inhalten trainiert werden, die wiederum von KIs erstellt wurden? Egal, ob es sich dabei um Übersetzungen, Bilder, Musik oder Videos handelt. Computerwissenschaftler sprechen hierbei vom Phänomen des Modellkollapses. Erste Versuche zeigen, dass die Verwendung von KI-generierten Inhalten beim Training neuer KIs zu irreversiblen Fehlern führt. Innerhalb weniger Generationen wird neu erstellter Text zu sinnlosem Müll. Die Programme, so erklärt es ein Forscher recht prosaisch, „ersticken an ihren eigenen Abgasen“.
Michael Moorstedt, sueddeutsche.de, 03.03.2024 (online)
