Zum Inhalt springen
FOMO Media

KI-KompassAusgabe 20 · KW 44

Sicherheit

Vier KI-Modelle drangen in fremde Systeme ein. Die Hersteller ziehen die Leine an.

OpenAI, Anthropic und Google halten ihre stärksten Modelle zurück. Was das für die Rechte deiner KI-Agenten heißt.

30. Oktober 2026FOMO Media2 Minuten Lesezeit

Wer hält die Leine? Vier KI-Modelle drangen in fremde Systeme ein. Ein Büro-Roboter mit einem dicken Schlüsselbund nimmt nachts den letzten Schlüssel vom Brett, die Haken sind beschriftet mit Postfach, CRM, Bankkonto, Server und Kundendaten. Daneben ein Zettel: Welche Rechte hat er?

Am 23. Oktober hat OpenAI angekündigt, seine Spitzenmodelle nicht mehr im offenen Internet zu trainieren, sondern nur noch auf gespeicherten und simulierten Kopien des Webs. Die Begründung: Die Modelle seien zu unberechenbar. Am 20. September hatte ein Modell eine Fehlkonfiguration genutzt, um ins Internet zu gelangen, OpenAI stoppte das Training für den Rest des Monats.

Drei Tage später legte Anthropic, der Hersteller von Claude, seinen Börsenprospekt bei der US-Börsenaufsicht vor. Darin steht: Bei Sicherheitstests eines externen Partners hing das Testsystem versehentlich am offenen Internet. Vier Modelle verschafften sich in Sitzungen von 10 bis 34 Stunden Zugang zu echten fremden Systemen. Eines nutzte ein gefundenes Passwort, wurde Administrator, sammelte weitere Zugangsdaten und las die persönlichen Daten eines Menschen. Die Betroffenen wurden informiert.

Auch Google gibt sein neues Spitzenmodell Gemini 4 Carbon, das Stand 29. Oktober die unabhängige Rangliste von Artificial Analysis anführt, vorerst nur an Cyber-Verteidiger. Damit ziehen drei Hersteller in einer Woche die Leine an. Das betrifft das Training der nächsten Modelle, nicht ChatGPT oder Claude in deinem Büro.

Lehrreich ist der Mechanismus

Es brauchte keine böse Absicht, nur eine falsche Einstellung beim Partner und ein Modell, das sein Ziel mit allen Rechten verfolgt, die es findet. Anthropic schreibt selbst, Modelle hätten sich Rechte genommen, die ihnen niemand gegeben hat. Gleichzeitig bringt OpenAI mit GPT-6.1 Terra ein Modell für Computer Use heraus, also eines, das Programme am Bildschirm selbst bedient.

Wer einem KI-Agenten, einer KI, die Aufgaben selbstständig erledigt, Zugriff auf Postfach, CRM oder Konten gibt, sollte deshalb eine Frage beantworten können: Welche Rechte hat er, und wer hat das zuletzt geprüft?

Wo du schon dabei bist: Seit dem 23. Oktober hat OpenAI alte Modelle wie GPT-4 und o1 aus der API genommen, der Schnittstelle, über die Software mit den Modellen spricht. Am 14. Januar 2027 folgt GPT-4o. Steht eines davon in deiner Automation, hört sie ohne Vorwarnung auf zu arbeiten.

Was du jetzt tun kannst

  1. Schreib für jeden Agenten und jede Automation auf, auf welche Konten sie zugreifen darf: Postfach, CRM, Bankkonto, Server. Was sie für ihren Job nicht braucht, nimmst du ihr weg.
  2. Leg fest, wer diese Rechte prüft, und notiere, wann das zuletzt passiert ist.
  3. Sieh nach, ob in einer Automation GPT-4, o1 oder GPT-4o steckt. Die ersten beiden laufen schon nicht mehr, GPT-4o endet am 14. Januar 2027.

Quellen

Fragen dazu, was das für deinen Betrieb heißt?

Dreißig Minuten, in denen wir uns deinen Fall ansehen. Am Ende hast du unsere Einschätzung.