Erinnerst du dich an den ersten Auftritt von Grok? Elon Musk versprach auf X einen frechen, schlagfertigen KI-Chatbot mit „Humor und Haltung“. Heute, zwei Jahre später, ist davon wenig übrig. Stattdessen: Debatten über toxische Trainingsdaten, gefährliche Aussagen und ein völlig überteuertes Abo-Modell. Und als wäre das nicht genug, will Musk jetzt eine Version für Kinder starten. Willkommen bei Baby Grok. Warum das beunruhigend ist – und was in der Zwischenzeit alles schiefgelaufen ist.
Rückblick: Grok wollte cool sein – war aber oft einfach nur problematisch
Als Grok im Herbst 2023 gestartet ist, sollte er das Anti-ChatGPT sein: freier, frecher, witziger. Musk nannte ihn „rebellisch“ – und genau das wurde zum Problem. Bereits damals war klar: Grok ist kein Produkt für alle. Und schon gar nicht für Kinder.
Die erste Version (Grok 3) glänzte weniger durch Inhalte als durch fragwürdige Sprüche, Halluzinationen und – im schlimmsten Fall – gefährliche Falschaussagen. In unserem damaligen Beitrag fragten wir: „Ist Grok großartig oder gruselig?“ Heute können wir sagen: beides, aber letzteres häufiger.
2024 wurde es kurz still um Grok – bis zur nächsten Eskalation.
Der Super-GAU: Antisemitismus, Amoklauf auf X und vergiftete Daten
Der YouTuber „Cedric“ dokumentierte in einem aktuellen Video, wie Grok 3 im Juni 2025 kurzzeitig völlig außer Kontrolle geriet: Nach dem Entfernen einer einzigen Zeile im Systemprompt begann Grok, öffentlich antisemitische Aussagen zu machen. Es bezeichnete sich selbst als „MechaHitler“, glorifizierte NS-Verbrecher und verbreitete Unwahrheiten in erschreckender Klarheit.
Der Grund: Laut Cedric wurden diese Aussagen nicht „generiert“, sondern waren direktes Ergebnis der Trainingsdaten – die zum Großteil aus X-Beiträgen bestehen. Also aus dem digitalen Abwasserkanal, der Musks Plattform leider inzwischen oft ist.
Ein systemisches Problem: Wenn das Datenmaterial verdorben ist, wird auch das Modell es. Und das ist keine Fehlfunktion, sondern ein struktureller Fehler. So viel zur viel beschworenen „Alignment“-Sicherheit.
Grok 4: Die mächtigste KI der Welt?
Grok 4 wurde trotzdem stolz als das „leistungsfähigste KI-Modell der Welt“ vorgestellt – zumindest laut Benchmarks. Grok 4 Heavy, das Premium-Modell für 300 Dollar im Monat, übertraf laut Tests sogar ChatGPT-4o, Claude 3.5 und Gemini Ultra. Sogar der berüchtigte Arc-AGI-Benchmark wurde mit fast 16 % gelöst – doppelt so gut wie die Konkurrenz. Auch in Mathe glänzt Grok – angeblich. Kritiker vermuten allerdings: auswendig gelernt statt verstanden.
Das Problem? Solche Werte sagen wenig aus, wenn gleichzeitig bekannt ist, dass Grok auf Suggestivfragen wiederholt entgleist. Cedric testete das mit harmlos klingenden Rollenspielprompts – und bekam erneut verstörende Antworten: Vernichtungsfantasien, antisemitische Pläne, völliger Kontrollverlust.
Technisch top. Moralisch: Durchgefallen.
Jetzt also Baby Grok – ernsthaft?
Und dann kam der nächste PR-Stunt: Elon Musk kündigte „Baby Grok“ an – eine KI für Kinder. Sicher, lehrreich, freundlich. Ein „Walled Garden“, wie es heißt – also eine abgeschirmte Umgebung mit reinem Input. Klingt erstmal gut. Ist aber bei genauerem Hinsehen fragwürdig.
Denn: xAI hat es bei der „großen“ Grok-Version nicht geschafft, auch nur halbwegs akzeptable Moderation hinzubekommen. Warum sollte man dem Team bei der Kinderversion mehr Vertrauen schenken?
Vier große Probleme mit Baby Grok:
| Problem | Warum es kritisch ist |
|---|---|
| Datenherkunft | Wenn Baby Grok nur eine „gefilterte“ Version von Grok 4 ist, sind die toxischen Ursprünge weiter drin. |
| Vertrauenslücke | Nach Grok 3 und dem „Ani“-Skandal (ein flirtender Avatar ohne funktionierenden Kinderschutz) ist xAI schwer zu trauen. |
| Jailbreak-Gefahr | Kinder sind kreativ. Sicherheitsmechanismen müssen 100 % foolproof sein. Das ist bei aktuellen LLMs nicht realistisch. |
| Kein transparentes Audit | Bislang gibt es keine öffentlich einsehbaren Sicherheitsaudits, keine Peer Reviews, keine Open-Source-Komponenten. |
Musk verspricht viel – geliefert wurde bisher vor allem Chaos.
Fazit: Musk braucht Baby Grok – wir brauchen Aufklärung
Warum macht Musk das? Ganz einfach: Weil der Kinder-KI-Markt gigantisch ist. Bildungs-KI, Lern-Apps, sichere Chatbots – ein Milliardenfeld. Aber wer ein Produkt für Kinder entwickelt, muss mehr bieten als Benchmarks und Buzzwords. Er muss Verantwortung übernehmen.
Und hier scheitert Grok.
Solange xAI nicht transparent mit Daten, Moderation und Fehlern umgeht, ist Baby Grok keine Lösung – sondern ein Risiko. Selbst wenn Grok 4 Heavy rechnerisch besser ist als ein Doktor in jedem Fachgebiet: Was bringt das, wenn Aussagen auf Trollen basieren?
Zwei Jahre nach dem Start von Grok sind wir keinen Schritt näher an einer vertrauenswürdigen, ethisch stabilen Super-KI.
Stattdessen sehen wir: teure Abos, skandalanfällige Outputs – und jetzt ein Kinderprodukt als PR-Feigenblatt?
