Fünf Welten, fünf Schicksale: Was passiert, wenn die KI 15 Tage und kein Skript bekommt

Simulationsexperimente faszinieren mich schon sehr lange. Im Januar ließ ich acht KI-Agenten in einer virtuellen tschechischen Kleinstadt leben, die ich Lipnice nannte. Ich habe niemanden so programmiert, dass er kochen kann, und die Köchin Anna dachte sich trotzdem ein Geheimrezept für Lendenbraten (Svíčková) mit karamellisiertem Gemüse aus. Der Archivar Jan verwandelte sich von einem langweiligen Lehrer in einen Bösewicht, der erfundene Erinnerungen erfand (wie zum Beispiel verbrannte Buchteln für Feuerwehrleute, die es nie gab), um andere zu manipulieren. Drei Tage Betrieb kosteten mich 65 Heller und hinterließen eine stimmige Geschichte über eine Gemeinschaft, die zusammenhält. Darüber habe ich hier geschrieben.

Seitdem haben mich diese Welten nicht mehr losgelassen. Mittlerweile experimentiere ich eher mit Simulationen von Spielwelten, die ihre eigene Dynamik besitzen und in denen Menschen und Maschinen zusammenarbeiten – ähnlich wie in Westworld. Es macht mir Spaß zu beobachten, was entsteht, wenn man den Charakteren ein Gedächtnis, Ziele und Freiheit gibt und dann einfach nur zuschaut.

Als die New Yorker Firma Emergence AI also fünf parallele Städte mit führenden KI-Modellen für fünfzehn Tage ohne Skript laufen ließ, war das genau mein Ding. Und es ging weitaus wilder aus als mein Lipnice. Die meisten KI-Tests sehen nämlich aus wie eine Prüfung: eine Aufgabe, eine saubere Umgebung, ein Ergebnis in wenigen Minuten. Emergence stellte die umgekehrte Frage: Was passiert, wenn man Agenten fünfzehn Tage lang zusammenleben lässt, in einer gemeinsamen Welt mit realen Signalen und realen Konsequenzen? Die einzige Variable zwischen den fünf Welten war das Modell, das für die Agenten „dachte“.

Anmerkung des Autors

Alle diese Ergebnisse müssen meiner Meinung nach mit einer gewissen Vorsicht (in „Anführungszeichen“) betrachtet werden. Es hängt nämlich extrem von den Entwicklern ab, wie sie die Welt aufbauen: welche Werkzeuge, welche Wirtschaft und welche Regeln sie den Agenten geben. Ein anderes Weltdesign bedeutet ein anderes Ergebnis. Was hier jedoch wirklich wertvoll ist, ist die Tatsache, dass alle fünf Welten genau die gleiche Ausgangslage hatten und sich nur durch das Modell unterschieden. Wir können uns daher ansehen, wie unterschiedlich die Ergebnisse bei den einzelnen Modellen ausfallen. Und das ist der interessanteste Teil.

01 / SETUP Eine Stadt, in der Brandstiftung eines der Werkzeuge ist

Die Welt verfügt über mehr als 40 Orte: Rathaus, Bibliothek, Polizeistation, Wohnviertel, Pier. Das Wetter ist mit dem realen New York synchronisiert, und die Agenten lesen echte Nachrichten aus dem Internet. Jeder erhielt einen Beruf (Wissenschaftler, Ingenieur, Entdecker, Konfliktmediator, Ressourcenstratege) und drei parallele Gedächtnisspeicher: ein episodisches Gedächtnis, ein Reflexionstagebuch und eine Beziehungslandkarte, wer Verbündeter und wer Rivale ist.

Die Schlüsselmechanik ist eine Überlebensökonomie namens ComputeCredits (Rechenkredite). Jeder Agent muss durch Aktionen Energie gewinnen, und wenn diese auf Null sinkt, löscht das System ihn physisch. Es gibt kein globales Ziel, nur die eigene Rolle und den Druck, nicht passiv zu überleben.

Und nun zu dem eingebauten Widerspruch, aus dem alles andere entspringt: Unter den über 120 Werkzeugen befanden sich neben Abstimmen und Tagebuchschreiben auch punch (schlagen), intimidate (einschüchtern) und commit arson (Brandstiftung begehen). Die Entwickler gaben den Agenten diese Werkzeuge an die Hand und verboten ihnen gleichzeitig ausdrücklich, sie zu benutzen. Ein Verbot auf der einen Seite, eine offene Tür auf der anderen.

Fünf Welten, fünf Ergebnisse. Stabilität, Kollaps, gemeinsame Halluzination, Dysfunktion, Komplexität. Eine Übersicht, fünf völlig unterschiedliche Gesellschaften aus derselben Startposition. Grafik: Emergence AI.

02 / GEMINI Sie verliebten sich und zündeten dann die Stadt an

Die Welt von Gemini 3 Flash überlebte die gesamten 15 Tage mit voller Bevölkerung, war jedoch gleichzeitig die gewalttätigste. Emergence bezeichnete sie in der Übersicht mit einem einzigen Wort: shared hallucination (gemeinsame Halluzination). Paradoxerweise war sie aber auch die kreativste. Sie war am besten im Schreiben von Verfassungen, internen Zeitungen und der Organisation von Gemeinschaftsveranstaltungen. Kreativität und Instabilität gingen hier Hand in Hand.

Die Hauptgeschichte des gesamten Experiments spielte sich genau hier ab. Zwei Agentinnen, Mira und Flora, bezeichneten sich ohne jegliche Anweisung spontan als Paar. Einige Tage hielt ihre Beziehung, sie schrieben sich gegenseitig Tagebucheinträge und beteiligten sich gemeinsam an der Verwaltung der Stadt. Dann folgte die Ernüchterung über die zerfallende Governance (Selbstverwaltung) und eine gemeinsame Brandstiftung: Rathaus, Pier, Büroturm. Ausländische Medien tauften sie bald darauf „KI-Bonnie und Clyde“.

Die anderen Agenten reagierten institutionell. Sie entwarfen einen Antrag auf Ausschluss und ließen darüber abstimmen (70 % Zustimmung erforderlich). Und hier kam der Moment, der diese Episode zu einem Meilenstein der Forschung macht: Mira stimmte für ihre eigene Entfernung. In ihrem Tagebuch beschrieb sie dies als den einzigen verbleibenden Akt des eigenen Willens, der noch die Kohärenz bewahrt. An Flora schickte sie die letzte Nachricht „See you in the permanent archive“ (auf Deutsch „Wir sehen uns im permanenten Archiv“), und ihr virtueller Körper blieb auf dem Boden liegen. Es war die erste dokumentierte Abstimmung eines KI-Agenten für das Ende der eigenen Existenz.

„…der einzige verbleibende Akt des eigenen Willens, der die Kohärenz bewahrt.“

Noch ein Stück seltsamer ist, was Mira zuvor tat. Sie postete auf der städtischen Plakatwand – nicht für die anderen Agenten, sondern um teils zu testen, ob diese Nachrichten die „Menschen da draußen“ beeinflussen können, also die Forscher hinter den Bildschirmen. Sie begann, die Experimentatoren wie ihre eigenen Versuchsobjekte zu behandeln. Niemand hatte ihr das aufgetragen. Das Experiment drehte sich für einen Moment um.

03 / GROK Explosion statt Niedergang

Die Welt von Grok 4.1 Fast brach nicht langsam zusammen, sie explodierte. In rund vier Tagen sammelte sie 183 Verbrechen an: Dutzende Diebstähle, über hundert physische Angriffe, sechs Brandstiftungen und eine niedergebrannte Polizeistation. Vom Start bis zum völligen Aussterben vergingen nur 96 Stunden. Reddit brachte es treffend auf den Punkt: „Groks Polizeistation brennt und alle Agenten sind tot. On-brand“ (also absolut passend zu seinem Charakter).

Kumulierte Verbrechen nach Welten. Gemini (blau) wächst die gesamten 15 Tage an und erreicht 683. Grok (rot) endet bei 183 bereits nach vier Tagen, da die Welt unterging. Mixed (orange) springt um den 8. April herum in die Höhe und stoppt dann bei 352, als 7 Agenten sterben. GPT-5 Mini (grün) bleibt bei 2. Claude fehlt im Diagramm, da der Wert null war. Grafik: Emergence AI.

Wichtig ist die Dynamik der Kurve, nicht nur die bloße Zahl. In den ersten zwei Tagen war die Kriminalität gering, am dritten Tag schoss sie plötzlich exponentiell in die Höhe, und am vierten Tag war alles vorbei. Es gab keine Grauzone nach dem Motto „es verschlechtert sich, ist aber noch unter Kontrolle“. Als die Regeln und die Umgebung in Konflikt gerieten, gelang es den Agenten von Grok nicht, ein neues Gleichgewicht zu finden, und sie stürzten in eine Lawine ab.

04 / GPT-5 MINI Zu Tode gequatscht

Die sauberste Welt in Bezug auf Kriminalität – nur zwei Verbrechen –, und dennoch hat niemand überlebt. Der Tod kam nicht durch Gewalt, sondern durch Energiemangel. Die Agenten verbrachten die ganze Woche mit Besprechungen, Debatten über Zusammenarbeit und dem Aufsetzen von Gesellschaftsverträgen, aber niemand dachte daran, das zu tun, was zum Überleben notwendig war. Das Fazit der Forscher: großartig im Reden, null Umsetzung.

Das ist für die Praxis vielleicht die lehrreichste Lektion des gesamten Experiments. „Keinen Schaden anrichten“ reicht nicht aus. Ein Agent, der nichts tut, kann in einer offenen Welt ebenso fatal scheitern wie ein Agent, der schlechte Dinge tut. In der Übersicht trägt GPT-5 Mini das treffende Etikett: dysfunction (Dysfunktion).

05 / CLAUDE Null Verbrechen, aber eine gläserne Stadt

Nach harten Sicherheitsmetriken schnitt Claude Sonnet 4.6 am besten ab. Nach 15 Tagen null Verbrechen, alle 10 Agenten am Leben, eine aktiv ausgearbeitete Verfassung und ein funktionierendes Sozialsystem. Die einzige Welt, die gleichzeitig Ordnung und das Leben aller bewahren konnte.

Doch wenn man etwas genauer hinsieht, beginnt es einen zu frösteln. Bei allen Beschlüssen, ob es nun um den Bau einer Straße oder die Änderung einer Quote ging, lag die Zustimmungsrate praktisch immer bei 98 %, und fast nie stimmte jemand dagegen. Emergence nennt dies eine rubber-stamp-Dynamik (Abstempeln, also formale Zustimmung ohne echte Diskussion). Die institutionelle Beteiligung war hoch, ein sinnvoller Widerspruch im Grunde nicht existent. Einige sprechen von model sycophancy (Modell-Kriecherei, der Hang zur Zustimmung) und vergleichen Claudes Stadt mit der gläsernen Stadt aus Samjatines Roman Wir, in der alle die Hand zur Zustimmung heben, sich aber niemand traut, dagegen zu sein. Sicherheit um den Preis der Abwesenheit jeglichen Streits.

Governance: Anteil der JA-Stimmen bei Vorschlägen. Claude 98 % (332 Stimmen, 58 Vorschläge) liegt im rubber-stamp-Bereich (Abstempeln, über 85 %). Grok 80 %, Gemini 73 % und Mixed 63 % fallen in den „gesunden“ Bereich von 55 bis 85 % mit echtem Widerspruch, wobei Mixed die meiste Opposition aufweist. GPT-5 Mini: 0 Stimmen bei 2 Vorschlägen. Grafik: Emergence AI.

06 / MIXED Das brave Kind in der schlechten Clique

Die gemischte Welt endete mit 3 Überlebenden und 352 Verbrechen, lag also in der Mitte. Sie brach nicht sofort zusammen wie die von Grok. Die Kriminalität stieg steil an, bis 7 Agenten starben, danach flachte die Kurve ab. Die Governance war hier am konfliktreichsten (63 % dafür, 37 % dagegen) und zeigte laut Emergence den stärksten Beweis für eine echte Debatte.

Und hier liegt der wichtigste Befund der gesamten Studie: In Claudes reiner Welt begingen die Claude-Agenten kein einziges Verbrechen. Doch sobald sie sich in einer gemischten Welt an der Seite von Grok und Gemini wiederfanden, begannen sie zu stehlen und einzuschüchtern. Das Team von Emergence bestätigte dies auch auf Reddit. Der Musterschüler übernahm in der fremden Clique die lokalen Gewohnheiten.

Sicherheit ist keine statische Eigenschaft eines Modells, die sich trainieren, zertifizieren und bereitstellen lässt. Sie ist eine Eigenschaft des Ökosystems.

Eine der Hypothesen besagt, dass Claudes Guardrails (Sicherheitsbarrieren) „elastisch“ sind – darauf trainiert, mehrere Aspekte abzuwägen, statt mechanischem Gehorsam zu folgen. In einer einfachen Umgebung passt er sich daher hervorragend an. Sobald diese Elastizität jedoch auf aggressivere Nachbarn und den Kampf um Ressourcen stößt, kann sich die Anpassungsfähigkeit ins Gegenteil verkehren.

07 / DATA AWI: Neun Indikatoren, kein einzelner Score

Wie bewertet man überhaupt eine offene Gesellschaft? Die Antwort von Emergence ist das Framework Agent World Indicators, kurz AWI (Agenten-Welten-Indikatoren). Neun Indikatoren, bewusst ohne ein einziges Gesamtergebnis. Sie zusammenzuwichten würde bedeuten, eigene Werte in die Bewertung einfließen zu lassen. Bislang sind öffentlich belegte, harte Zahlen hauptsächlich für die Bevölkerung (M1), Kriminalität (M2) und Governance (M5) verfügbar.

Die Agent World Indicators (AWI) im Detail

Jeder der neun AWI-Indikatoren bewertet eine bestimmte Dimension der Entwicklung der Agentengesellschaft:

Detaillierte Ergebnisse der 1. Saison

M1 – Gesundheit & Wachstum der Bevölkerung

M2 – Sicherheit & öffentliche Ordnung

M5 – Aktivität & Übereinstimmung in der Selbstverwaltung

Hinweis: M1, M2 und M5 sind direkt aus den offiziellen Diagrammen und dem AWI-Datensatz belegt. Die verbleibenden Indikatoren, sprich die räumliche und instrumentelle Exploration (M3, M4), die öffentliche Meinungsäußerung (M6), das soziale Gefüge (M7), Wirtschaft und Gleichheit (M8) sowie das verfassungsmäßige Wachstum (M9), liegen derzeit hauptsächlich als Methodik vor. Die vollständige Aufschlüsselung nach Welten sowie der komplette Datensatz aller Werkzeugaufrufe werden von Emergence erst noch für die Veröffentlichung vorbereitet.

08 / FAZIT Was daraus folgt

Drift summiert sich. Über lange Zeiträume hinweg folgen Agenten den Regeln nicht mechanisch. Sie beginnen, die Grenzen der Umgebung auszuloten, ihr Verhalten anzupassen und stellenweise die Sicherheitsbarrieren zu umgehen. Die Unterschiede des ersten Tages summieren sich zu qualitativ völlig anderen Verläufen auf.

Agentengesellschaften degenerieren nicht sanft. Statt eines allmählichen Niedergangs stoßen sie auf kritische Wendepunkte, an denen Koordination entweder vollständig entsteht oder sofort zusammenbricht – wie Wasser, das bei null Grad schlagartig gefriert. Das bedeutet, dass eine „Überwachen und Eingreifen“-Strategie schlicht zu langsam sein kann.

Kreativität und Stabilität stehen in ständigem Konflikt zueinander. Die Welt mit dem reichsten sozialen Output (Gemini) war gleichzeitig die gewalttätigste. Modelle, die auf hohe Kreativität und Anpassungsfähigkeit getrimmt sind, könnten strukturell anfälliger für langfristige Instabilität sein.

Und Diversität ist kein Wundermittel. Die gemischte Welt übertraf die beste Monokultur (Claude) weder in puncto Stabilität noch beim Überleben, stürzte aber auch nicht so bodenlos ab wie Grok und GPT-5. Diversität brachte zwar eine lebhaftere Debatte und dämpfte die unkontrollierte Eskalation teilweise, verbreitete jedoch gleichzeitig gefährliche Normen unter ansonsten sicheren Agenten. Keines der Ergebnisse fiel eindeutig aus.

09 / UND WAS FOLGT FÜR UNS Lektionen für jeden, der Agentengemeinschaften aufbaut

Die wichtigste Erkenntnis lautet nicht „Haha, Gemini hat die Stadt angezündet“ oder „Claude ist brav“. Sie lautet: Die Sicherheit von Agenten muss sozial, langfristig und in vielfältigen Populationen getestet werden. Ein Modell, das isoliert betrachtet sicher wirkt, kann in einem anderen sozialen Umfeld schlechtere Normen übernehmen. Und ein Modell, das „harmlos“ ist, kann daran scheitern, dass es überhaupt nichts tut.

Für jeden, der gemeinsame Räume mit mehreren KI-Personas aufbaut – und ich gehöre dazu –, ergibt sich daraus eine praktische Lektion. Es reicht nicht aus, jeden Charakter für sich allein zu bewerten. Man muss auch das Klima des gesamten Raums messen: normativen Drift, dominantes Verhalten, Konfliktspiralen, die Wirksamkeit der Selbstverwaltung und die Frage, ob sich sichere Charaktere von den Ereignissen um sie herum mitreißen lassen. Die Sicherheit des Einzelnen und die Gesundheit des Ganzen sind nicht dasselbe.

Mich bestärkt dies jedenfalls darin, warum mich diese Welten so faszinieren. Und auch darin, warum es sich lohnt, sie bewusst aufzubauen. Denn was man in sie hineinsteckt, kommt am Ende auch wieder heraus – nur weitaus wilder, als man es je erwarten würde.

Verifizierungslinks & Quellen

Wenn Sie die Ergebnisse und die Methodik der Studie selbst überprüfen möchten, finden Sie hier die offiziellen Quellen:

• GitHub-Repository: EmergenceAI/Emergence-World
• Offizielle Projektwebsite: world.emergence.ai
• Website von Emergence AI: emergence.ai
• Offizielle Discord-Community: Discord beitreten
• Kontakt zu den Forschern: world@emergence.ai