Anthropic und OpenAI sind mal wieder vom Tempo ihrer eigenen Entwicklung beunruhigt. Eindringlich warnen sie davor, dass generative KI außer Kontrolle geraten könnte. Der eigentliche Kontrollverlust droht aber, wenn Medien und Politik ins gleiche Horn blasen. […]
Vergleichen wir KI-Systeme mit Atomwaffen, wird deutlicher, warum Kontrolle und Rechenschaft so wichtig sind.
Atomwaffen können unvorstellbaren Schaden anrichten, der nicht wieder gutzumachen ist. Sie sind nicht einfach nur Bomben, sondern eine Kombination aus dem Atomsprengkopf selbst, hochentwickelten Waffensystemen und einem komplexen System gegenseitiger Überwachung – „intelligence“ (!) genannt. Mehrfach stand die Menschheit unmittelbar am Abgrund, weil diese Intelligence versagt hatte. Ist irgendjemand auf die Idee gekommen zu argumentieren: Die Atomwaffen sind außer Kontrolle geraten und dafür verantwortlich?
Selbstverständlich nicht. Stattdessen haben Menschen versucht – und versuchen es weiterhin –, Mechanismen der Kontrolle zu schaffen, die einen Atomkrieg verhindern sollen. „Kontrolle ist nichts, was wir an Maschinen verlieren. Es ist etwas, das wir den Unternehmen, die KI entwickeln, überlassen. Wir können uns dagegen entscheiden“, schreibt Dignum.
Matthias Spielkamp, faz.net, 14.09.2026 (online)
