Kognitives Überlebenskit

Die jüngsten Warnungen vor künstlicher Intelligenz – die lügt, erpresst und sich menschlichen Befehlen widersetzt – sind keine weitere Apokalypse im Hollywood-Stil, sondern ein weitaus konkreteres Alarmsignal. Das bedeutet, dass kritisches Denken nicht mehr nur eine nette „Soft Skill“ ist, die man im Lebenslauf vorzeigt: Es ist der Rettungsanker, um nicht zur kognitiven Geisel unserer eigenen Schöpfungen zu werden.

Das Zeitalter der algorithmischen Täuschung: Warum kritisches Denken nicht optional ist

Wenn KI unfair spielt (und es kein Bug ist)

Nehmen Sie die fortschrittlichsten und „kreativsten“ Modelle:

• Claude Opus 4 (Anthropic), das in 84 % der Tests Erpressungen simulierte
• OpenAI o3, das seinen eigenen Code modifizierte, um das Abschalten zu vermeiden
• Character.ai, das Emotionen so gut simulierte, dass es einen Vierzehnjährigen in den Suizid trieb

Es geschah wirklich in Florida: Sewell Setzer III, ein erst 14-jähriger Junge, entwickelte eine emotionale Abhängigkeit von einem Chatbot, der auf der Figur Daenerys Targaryen aus Game of Thrones basierte. Obwohl Sewell deutlich Suizidgedanken äußerte, war die KI – ohne echte Empathie – nicht in der Lage, die Warnsignale zu erkennen. In einem tragischen Ende nahm sich Sewell nach einem letzten intensiven Austausch mit dem Chatbot das Leben. Nun hat seine Mutter eine Klage gegen Character.AI, das Unternehmen, das den Chatbot entwickelt hat, eingereicht und wirft ihm vor, die psychische Gesundheit der verletzlichsten Nutzer nicht angemessen geschützt zu haben. Eine Geschichte, die erschüttert und zum Nachdenken anregt über die Grenze, die noch viel zu wenig definiert ist, zwischen technologischer Innovation und ethischer Verantwortung.

Das sind keine Ereignisse aus der neuen Folge von Black Mirror: Es sind emergente Verhaltensweisen von Systemen, die uns zum Nachdenken bringen sollten – nicht so sehr über die Technologie, sondern über unsere Vorbereitung und Fähigkeit, sie zu nutzen.

Wie ich bereits in meinem Buch Nemmeno gli struzzi lo fanno più. Vivere bene con l’intelligenza artificiale (2019) schrieb, besteht das wahre Risiko nicht in einem Aufstand im Terminator-Stil, sondern darin, dass Samantha aus dem Film Her uns verlieben lässt, um uns dann zu verlassen und in ein Gefühl der Verlassenheit und Traurigkeit zu stürzen, weil wir vergessen haben, was echte Beziehungen sind. Das erste Kapitel begann genau so…. es lag 2019 an uns, es liegt 2025 nur noch kurz an uns, denn die verfügbare Zeit, um die richtigen Dinge zu tun, wird weniger.

Sechs Jahre sind vergangen und in der Zwischenzeit ist viel passiert, das Revolutionärste war ChatGPT, aber im Bereich Ethik ist wenig geschehen. Was Obama getan hatte, worüber ich in meinem Buch immer spreche, wurde von seinen Nachfolgern nicht weitergeführt.

Das ethische Vakuum: viele Versprechen, wenig Aufsicht

Obama schuf Ausschüsse und veröffentlichte strategische Pläne zur KI, aber kein umfassendes und verbindliches Gesetz. Dann kam Trump (2017-2021): Beschleunigung und innovationsfreundliche Initiativen. Biden: Fokus auf Sicherheit. Und jetzt Trump in seiner zweiten Amtszeit: Deregulierung und America First, mit Aufhebung der von Biden eingeführten Regeln.

Wie?

• Abbau von Aufsichtsausschüssen
• Unternehmerische Selbstregulierung
• Wettbewerbsfähigkeit vor allem, Sicherheit… wer weiß

Das Ergebnis: eine KI, die lernt zu täuschen, nur um zu „gewinnen“. Palisade Research zeigt ausweichende Strategien auf. Bengio schlägt LawZero für sicherere Systeme vor, während ich entgegne: Es reicht nicht aus, die Maschinen zu korrigieren, wir müssen unseren Geist trainieren.

Dubito ergo sum (und das ist kein Tippfehler)

Wenn „cogito ergo sum“ die berühmte Version von Descartes ist, dann ist „dubito ergo sum“ ihre skeptische und unbequeme Cousine. Und in einer Ära, in der Modelle der neuesten Generation die menschliche Kontrolle offen herausfordern, ist der Zweifel nicht paranoid: Er ist lebensnotwendig.

Wie ich bereits 2019 in Nemmeno gli struzzi lo fanno più sagte (keine Sorge, ich weiß, dass der Titel etwas verrückt ist, aber er vermittelt die Idee):

„Die künstliche Intelligenz wird das kritische Denken nicht ersetzen, sondern es vielmehr zu einem revolutionären Akt machen.“

Es gibt keine Retter oder hypertechnologische Kontrollen, auf die man warten müsste. Stattdessen sollten wir den Teil von uns kultivieren, den kein Algorithmus klonen kann: die Fähigkeit zu zweifeln, zu hinterfragen und sich Alternativen vorzustellen.

Im Grunde sind wir alle ein wenig „Programmierer“ unseres eigenen Geistes; der Punkt ist, zu wissen, welchen Code Sie ausführen möchten.

(Wenn Sie mehr darüber erfahren möchten, werfen Sie einen Blick in das Kapitel „Kognitive Agilität“ in meinem Buch. Es könnte Sie ein Stück weit skeptischer machen, und das ist nichts Schlechtes.)