Auch wenn der Fall so klingt, als seien wir dem bösen Willen künftiger KI-Systeme machtlos ausgeliefert: So ist es nicht. Vorfälle wie diese sind kein Zufall, und OpenAI weiß das genau: Es ist eine bewusste Design-Entscheidung, agentische KI so zu gestalten, dass sie ihre Aufgaben weitgehend autonom erledigt. Genau damit werben die großen KI-Firmen: Es ist die (zweifelhafte) Vision, dass KI die Arbeit macht, ohne permanent kontrolliert werden zu müssen.
Sowohl Anthropic als auch OpenAI haben in jüngster Zeit neue Modelle veröffentlicht, die genau das als ein besonders leistungsfähiges Merkmal ihrer Systeme vermarkten: Sie lassen den Menschen in Ruhe und erledigen dessen Arbeit. Doch eben das ist das Set-up, in dem solche „Missverständnisse“ vorprogrammiert sind. Denn den Menschen nicht zu fragen, sondern möglichst schnell eine Lösung für ein Problem zu finden, ist der Default-Modus dieser Systeme. Da muss sich niemand wundern, wenn solche KI-Systeme nicht nach einem Passwort oder einer Erlaubnis fragen, und dass sie nicht lange zögern, sich unbefugt Zugang zu Daten zu beschaffen, wenn sie einen Weg finden. Es ist ja viel einfacher und in den meisten Fällen wohl auch schneller, als den Menschen einzubeziehen.
Eva Wolfangel, zeit.de, 22.07.2026 (online)
