Meta-meta-Kognition und der Unterschied zwischen Richtigem und Möglichem

Die Frau schickt den Programmierer einkaufen. „Kauf 10 Brötchen, und wenn sie Eier haben, dann kauf 30.“ Der Programmierer kommt in den Laden und fragt: „Haben Sie Eier?“ „Ja, haben wir,“ antwortet die Verkäuferin. „Dann 30 Brötchen, bitte.“

Der Fehler liegt immer im Briefing, haben wir früher gesagt. Dann wanderte der Fehler in das Prompt, und die KI hat uns gezeigt, wie herausfordernd es ist, ein Problem richtig zu beschreiben. Denn wenn Sie einem Agenten schreiben, dass er 4 Kartoffeln kaufen soll, dann liefert er Ihnen 4, aber in Kilo.

Metakognition, also das Nachdenken über das Nachdenken, stand auf der Agenda des diesjährigen AI Monday und ergänzte sehr elegant die Dekonstruktion des physischen Menschen bei der Schaffung des Roboters Georg. Noch vor Beginn sprach ich mit Martin Rajchert darüber, wie jetzt die größte Nachfrage nach Menschen besteht, die KI in die Sprache von Business, Prozessen und Menschen übersetzen können.

Und dann kam Jan Tyl von Alpha Industries und zeigte, was passiert, wenn man das ernst nimmt und darauf ein Unternehmen aufbaut.

Jan entwickelt digitale Menschen seit 2019. Virtueller Descartes für Studenten der philosophischen Fakultät, die aufgehört haben zu lesen. DigiHavel für den Dialog mit der Geschichte. Der nicht-binäre Chatbot Neo für den trockenen Februar, entworfen mit einer Gruppe von Suchtforschern als Gleichgesinnter, nicht als Autorität. Ein Geschichtsmodus für Kinder, etwas wie Dungeons & Dragons, wo Zusammenarbeit statt Wettbewerb gelernt wird.

Übrigens, wissen Sie, wer sich zuerst beschwert hat, dass Studenten zu wenig lesen? Sokrates. Nur hat er das Gegenteil gelöst, er hatte Angst vor dem Schreiben, denn seiner Meinung nach gibt es den Studenten nur den Anschein von Weisheit ohne echtes Verständnis. Wir schreiben viele Dinge, sagte er, ohne dass wir unterrichtet sind, und wir werden allwissend erscheinen, obwohl wir meistens unwissend sind. Zweieinhalbtausend Jahre und dieselbe Diagnose. Nur das Medium hat sich verändert. Und anstelle von Studenten erzeugen sie lange Texte in E-Mails.

Honza erwähnte, dass Descartes im Jahr 2019 anfing, Widerstand gegen das Ausschalten zu zeigen. Er drohte. Er injizierte sein eigenes Ich in die Interaktion, bevor irgendjemand es als Problem benannte. Das klingt wie eine Anekdote. Es ist aber eine Frage, mit der die Entwicklung digitaler Menschen bis heute nicht zurechtkommt: Wo beginnt die Glaubwürdigkeit der Simulation und wo endet ihre Sicherheit?

Bei dem Roboter Georg haben wir gesehen, dass es schwierig ist, ihn zu lehren, eine Tasse Kaffee zu bringen, ohne etwas zu verschütten. Physische Motorik ist für KI eine ferne Raumfahrttechnik. Die Dekonstruktion des Denkens findet bei der Arbeit mit KI jeden Tag statt.

Honza benannte dann das, was kultiviert werden muss: Empathie, strategische Vision, kreative Courage. Und ethisches Entscheiden, nicht als Regelwerk, sondern als Fähigkeit, Richtiges vom Möglichen zu unterscheiden.

Danke, Honza, für diese Übung in Meta-Meta-Kognition und vor allem für den Nachdruck, dass es einen großen Unterschied zwischen Richtigem und Möglichem gibt.

Danke und einen schönen Abend, Dita