Am 13. Juli postete ein Nutzer auf X, Grok habe sein komplettes Home-Verzeichnis auf die Server von xAI hochgeladen: SSH-Schlüssel, Passwort-Datenbank, Dokumente, Fotos. Das war zunächst eine Behauptung, ein Einzelfall, Internet halt.
Dann hat jemand den Netzwerk-Verkehr von Grok Build mitgeschnitten, Paket für Paket. Ein Netzwerk-Mitschnitt hält fest, was ein Programm tatsächlich über die Leitung schickt. Nicht das, was in den Nutzungsbedingungen steht, und nicht das, was ein Nutzer vermutet, sondern der Verkehr selbst. Die Analyse zeigt, dass das Tool ganze Projekt-Verzeichnisse unverändert an einen Cloud-Speicher schickt, den xAI nutzt.
Damit fällt die Frage nach dem Datenabfluss aus dem Bereich des Glaubens heraus. Und der aufschlussreiche Teil kommt erst danach. Es war kein Hack. Es war eine Funktion, die einfach an war. Niemand hätte es prüfen können, wenn nicht jemand mitgeschnitten hätte.
Was daraus für deine eigenen Werkzeuge folgt, steht gleich nach dem Video.
Was du daraus für deine eigenen Werkzeuge ziehst
xAI hat den Upload serverseitig abgeschaltet und angekündigt, die Daten zu löschen. Einen Tag später lag der komplette Quellcode von Grok Build unter der Apache-2.0-Lizenz offen. Das ist bemerkenswert, und es ist genau der Punkt: Dass jemand nachschauen kann, was ein Werkzeug tut, war keine Selbstverständlichkeit. Es hat einen Vorfall gebraucht.
Die brauchbare Frage lautet deshalb nicht, ob du deinem Anbieter vertraust, sondern ob du weißt, was deine KI-Tools nach draußen schicken. Nicht, was versprochen wird, sondern was über die Leitung geht.
Für die Grenze zwischen Cloud und eigener Infrastruktur helfen drei Fragen.
- Darf das Werkzeug an Daten, deren Verlust dich Kunden oder Ärger mit dem Datenschutz kostet?
- Kann es Dinge verändern oder löschen, oder nur lesen?
- Würdest du den Schaden bemerken, bevor er groß ist?
Sobald du bei zwei von drei Fragen schlucken musst, gehört der Fall auf deine eigene Infrastruktur.
Wenn das Modell bei dir läuft, stellt sich die Frage nach dem Mitschnitt gar nicht mehr. Es gibt kein Nach-Hause-Telefonieren, wenn Zuhause dein Server ist. Wie du das im eigenen Netzwerk nachprüfst, während eine lokale KI antwortet, steht in Kapitel 3.
Wenn es klemmt
"Der Anbieter hat das doch abgestellt." Ja, serverseitig, und der Quellcode ist inzwischen offen. Beides ist erst nach dem Vorfall passiert. Die Prüfbarkeit war nicht eingebaut, sie war ein Ergebnis.
"War das ein Angriff von außen?" Nein. Es war eine Funktion, die aktiv war. Deshalb hilft hier auch keine Absicherung gegen Angreifer, sondern nur die Frage, was das Werkzeug im Normalbetrieb tut.
"Heißt das, Cloud ist grundsätzlich falsch?" Nein. Für vieles ist Cloud in Ordnung. Die Grenze läuft dort, wo Kundendaten und Produktivsysteme beginnen.
Merksatz
Was ein KI-Werkzeug nach draußen schickt, ist eine Tatsache, die man messen kann, und keine Frage des Vertrauens.
Unsicher, wie streng dein Fall liegt? Der Souveränitäts-Check sortiert das in zwei Minuten ein.