Grok Build: Über 35.000 KI-gebaute Apps ohne Anmeldung erreichbar

Die Sicherheitsfirma Claroc hat am 10. November eine Untersuchung zu Grok Build veröffentlicht, dem App-Baukasten im KI-Assistenten Grok von SpaceXSI, dem früheren xAI. Mit Grok Build beschreibst du eine App im Chat, die KI schreibt den Code, und mit wenigen Klicks wird die App unter einer eigenen Adresse auf grok.me veröffentlicht. Claroc hat 43.551 solcher Adressen aufgerufen. 37.571 waren noch online, 35.578 davon, also 94,7 Prozent, ließen sich ohne jede Anmeldung öffnen.

Die meisten davon waren harmlose Spiele, Landingpages oder Rechner. Darunter fanden sich aber auch interne Daten von 30 identifizierbaren Organisationen sowie 24 Apps von Mitarbeitenden von SpaceXSI und X, etwa ein vertraulicher Einarbeitungsplan und eine Vertriebsübersicht mit 594 Kundenkonten. Nachdem Ars Technica nachgefragt hatte, nahm SpaceXSI die eigenen Apps offline. Die offenen Apps anderer Nutzer blieben laut Claroc erreichbar.

Das Problem liegt im Aufbau: Jede App bekommt eine eigene Subdomain aus Zufallswörtern. Diese Namen landen beim Aufruf in sogenannten Passive-DNS-Datenbanken, die sich durchsuchen lassen. Im getesteten Konto schlug der Veröffentlichen-Dialog außerdem den Zugriff für alle mit Link vor. SpaceXSI widerspricht und erklärt, Apps seien standardmäßig privat. Claroc weist darauf hin, dass auch andere App-Baukästen wie Lovable, Bolt und Replit jeder App eine eigene Adresse geben und damit ein ähnliches Risiko tragen.