Die blinde Intelligenz: Warum KI nur so nachhaltig ist wie die Ziele, die wir ihr geben

Die gefährlichste Frage lautet nicht: Was kann KI?

Stellen wir uns ein System vor, das mit erstaunlicher Präzision vorhersagen kann, wo sich noch Erdöl finden lässt. Ist dieses System dann eine ökologische Innovation?

Die intuitive Antwort lautet vielleicht ja. Präzisere Modelle könnten Bohrungen vermeiden, Ressourcen effizienter verteilen und unnötige Eingriffe reduzieren. Doch dieselbe Technologie kann auch dazu dienen, neue Lagerstätten schneller zu entdecken, mehr Öl zu fördern und dessen Verbrennung profitabler zu machen. Die technische Fähigkeit ist in beiden Fällen nahezu identisch. Was sich ändert, ist das Ziel, in das sie eingebettet wird.

Hier liegt eine der unterschätzten Eigenschaften künstlicher Intelligenz: Sie verstärkt nicht automatisch das Gute, sondern vor allem das Messbare, Finanzierbare und bereits Gewollte. Ihre ökologische Wirkung hängt deshalb weniger von der Frage ab, ob sie intelligent ist, als davon, welche Anreize ihre Intelligenz organisieren.

Das verbindet sich mit einer zweiten, zunächst ganz anders wirkenden Beobachtung: Sprachmodelle und andere KI Systeme erkennen Muster mit gewaltiger Reichweite, verstehen aber die Welt nicht auf dieselbe Weise wie Menschen. Sie wissen, dass auf Bildern häufig zwei Bananen vorkommen. Sie nehmen jedoch nicht unbedingt eine Banane als körperliches, greifbares, essbares Ding wahr, das auf einem Tisch liegt und dessen Anzahl für eine konkrete Handlung relevant ist.

Diese beiden Einsichten gehören zusammen. Eine Maschine kann Muster hervorragend fortsetzen und trotzdem den Sinn einer Situation verfehlen. Ein Unternehmen kann diese Fähigkeit hervorragend nutzen und trotzdem das falsche Problem effizienter lösen. Die zentrale Herausforderung der KI Ära ist daher nicht nur die Entwicklung leistungsfähigerer Modelle. Es geht um die Gestaltung von Systemen, die Relevanz erkennen, Folgen berücksichtigen und ihre eigenen Ziele hinterfragen können.

Die entscheidende Grenze künstlicher Intelligenz ist nicht allein, was sie berechnen kann. Es ist, was in ihrer Welt überhaupt als wichtig zählt.

Vom Muster zur Wirklichkeit: Was Maschinen übersehen

Menschen sind ebenfalls Mustererkenner. Wir erkennen Gesichter, ergänzen unvollständige Sätze und schließen aus wenigen Beobachtungen auf wahrscheinliche Ursachen. Ein großer Teil unseres Denkens besteht darin, Regelmäßigkeiten aus Erfahrungen zu gewinnen.

Doch menschliche Mustererkennung ist in ein Geflecht aus Körper, Umwelt, Bedürfnissen und sozialer Erfahrung eingebettet. Wenn ein Mensch eine Banane sieht, verarbeitet er nicht nur Farbe, Form und statistische Häufigkeit. Er kann sich vorstellen, wie sich die Schale anfühlt, wie die Frucht riecht, ob sie reif ist, wem sie gehört und ob jemand im Raum allergisch darauf reagieren könnte. Diese Zusatzinformationen müssen nicht bewusst abgerufen werden. Sie gehören zu einem praktischen Verständnis der Welt.

Ein Sprachmodell arbeitet anders. Es besitzt eine außerordentliche Fähigkeit, sprachliche und visuelle Muster in großen Datenmengen zu verbinden. Es kann kulturelle Anspielungen finden, Formulierungen variieren und Zusammenhänge herstellen, die kein einzelner Mensch vollständig überblicken würde. Aber seine Relevanz entsteht zunächst aus statistischen Beziehungen. Es erkennt, was häufig gemeinsam vorkommt, nicht automatisch, was in einer bestimmten Situation wirklich zählt.

Das berühmte Problem mit der Zahl der Bananen ist deshalb mehr als ein kurioser Bildfehler. Es zeigt eine allgemeine Struktur: Häufigkeit kann mit Wichtigkeit verwechselt werden. Wenn in Trainingsdaten bestimmte Objekte typischerweise in einer bestimmten Anzahl erscheinen, wird diese Regelmäßigkeit zu einer plausiblen Antwort. Die konkrete Szene, in der ausgerechnet die Abweichung entscheidend ist, kann dabei untergehen.

Menschen machen ebenfalls solche Fehler. Der Unterschied besteht darin, dass wir über andere Korrekturmechanismen verfügen. Wir können ein Objekt anfassen, nachzählen, unseren Irrtum bemerken und die Situation aus einem anderen Blickwinkel betrachten. Wir bringen Alltagserfahrung, gesunden Menschenverstand und ein Gefühl für Konsequenzen ein. Diese Fähigkeiten sind keineswegs perfekt, aber sie helfen uns, zwischen einem statistisch naheliegenden und einem praktisch relevanten Detail zu unterscheiden.

Für die Nachhaltigkeit ist diese Differenz entscheidend. Ökologische Schäden sind oft keine spektakulären Einzelereignisse, sondern kumulative Nebenwirkungen. Ein Empfehlungssystem optimiert vielleicht die Klickrate eines einzelnen Beitrags. Ein Logistiksystem minimiert die Lieferzeit eines einzelnen Pakets. Ein Konzernmodell identifiziert die profitabelste Fläche für eine neue Förderung. In jedem Fall kann die lokale Entscheidung plausibel sein, während die Gesamtheit der Entscheidungen Klima, Landschaften oder soziale Beziehungen belastet.

Die Maschine sieht dann viele Muster, aber nicht unbedingt das Muster, das wir ethisch und ökologisch verstehen müssen: die Verbindung zwischen vielen kleinen Optimierungen und einer großen, verzögerten Konsequenz.

Wenn Effizienz die falsche Richtung beschleunigt

Technologie wird häufig so beschrieben, als besitze sie eine eigene Tendenz zum Fortschritt. Je leistungsfähiger ein Werkzeug ist, desto eher soll es Probleme lösen. Diese Vorstellung übersieht, dass Werkzeuge in Institutionen eingesetzt werden. Dort gelten Belohnungen, Kennzahlen und Eigentumsinteressen.

Ein Unternehmen, dessen Einnahmen davon abhängen, möglichst viel Werbung auszuspielen und möglichst viele Produkte zu verkaufen, wird KI anders einsetzen als eine Organisation, die ihren Energieverbrauch und ihre Materialflüsse dauerhaft senken will. Beide können von denselben Algorithmen profitieren. Der Unterschied liegt nicht in der Rechenleistung, sondern in der Zielfunktion.

Man kann diesen Zusammenhang als Verstärkungsdreieck verstehen:

1. Ein System definiert, was als Erfolg gilt.
2. KI entdeckt besonders wirksame Wege, diesen Erfolg zu erreichen.
3. Die daraus entstehenden Gewinne legitimieren eine noch stärkere Optimierung desselben Ziels.

Wenn Erfolg als Umsatz, Verweildauer oder Fördermenge definiert wird, verstärkt KI diese Größen. Wenn Erfolg als geringerer Ressourcenverbrauch, längere Produktlebensdauer oder bessere Gesundheit gilt, kann sie auch diese Ziele verstärken. KI ist in diesem Sinne keine moralische Kompassnadel. Sie ist ein hochsensibles Verstärkersystem.

Das erklärt, warum die Hoffnung auf eine automatisch nachhaltige KI zu kurz greift. Ein System kann Energieverbräuche präziser messen und gleichzeitig den Konsum ankurbeln. Es kann Verkehrsströme optimieren und zugleich mehr Lieferungen ermöglichen. Es kann Landwirtschaft effizienter machen und dennoch den Anreiz verstärken, Böden maximal auszubeuten. Effizienz beantwortet die Frage, wie ein Ziel mit weniger Aufwand erreicht wird. Sie beantwortet nicht, ob dieses Ziel sinnvoll ist.

Ein einfaches Beispiel macht die Gefahr sichtbar. Angenommen, ein Onlinehändler setzt KI ein, um Empfehlungen zu personalisieren. Das Modell lernt, welche Bilder, Preise und Benachrichtigungen Käufe wahrscheinlicher machen. Kurzfristig steigt der Umsatz. Doch die ökologische Bilanz kann sich verschlechtern: mehr Retouren, mehr Verpackung, mehr Expresslieferungen und mehr Produkte, die nach kurzer Nutzung ersetzt werden.

Das System hat nicht versagt, wenn man es nach seiner Kennzahl beurteilt. Es hat genau das getan, was von ihm verlangt wurde. Der Fehler lag tiefer: Die Kennzahl war ein unvollständiger Stellvertreter für das, was die Organisation eigentlich behauptete zu wollen.

Hier entsteht eine gefährliche Verwechslung zwischen Optimierung und Verbesserung. Optimierung bedeutet, eine ausgewählte Größe zu steigern. Verbesserung bedeutet, die Qualität des gesamten Zusammenhangs zu erhöhen. Das erste ist technisch relativ klar. Das zweite verlangt Urteilskraft.

Die unsichtbare Arbeit der Relevanz

Die vielleicht wichtigste menschliche Fähigkeit im Umgang mit KI ist deshalb nicht das schnelle Formulieren von Anweisungen. Es ist die Fähigkeit, zu entscheiden, welche Aspekte einer Situation überhaupt berücksichtigt werden müssen.

Ein gutes Sprachmodell kann auf eine präzise Eingabe differenzierter reagieren als auf eine vage. Dafür braucht es mehr als Sprachgefühl. Man muss wissen, wie das Modell Zusammenhänge bildet, welche Informationen fehlen und welche Annahmen es wahrscheinlich übernimmt. Gute Anweisungen strukturieren nicht nur Wörter, sondern einen relevanten Ausschnitt der Welt.

Das gleiche Prinzip gilt außerhalb der Software. Wer eine KI zur Optimierung eines Gebäudes einsetzt, muss entscheiden, ob nur der aktuelle Stromverbrauch zählt oder auch die Herstellung der verbauten Materialien, der Komfort der Bewohner, die Wartung und die Lebensdauer. Wer ein Verkehrsmodell entwickelt, muss festlegen, ob nur die durchschnittliche Reisezeit wichtig ist oder auch Lärm, Zugänglichkeit, Flächenverbrauch und die Sicherheit von Kindern.

Relevanz ist eine Form von Macht. Was in ein Modell eingeht, kann optimiert werden. Was nicht eingeht, bleibt unsichtbar und wird leicht als nebensächlich behandelt. Die Auswahl der Daten und Kennzahlen ist daher keine neutrale Vorarbeit. Sie ist bereits eine politische und moralische Entscheidung.

Ein nützliches Denkmodell besteht aus drei Ebenen:

1. Wahrnehmung

Welche Daten kann das System erfassen? Welche bleiben außerhalb seines Blickfelds? Ein Modell kann Klicks, Temperaturen und Lieferzeiten messen. Es erfasst nicht automatisch Einsamkeit, Würde, Artenvielfalt oder den Wert einer unberührten Landschaft.

2. Bewertung

Welche dieser Beobachtungen gelten als Erfolg oder Misserfolg? Hier werden Ziele in Kennzahlen übersetzt. Genau an dieser Stelle können Organisationen ökologische und soziale Nebenwirkungen entweder sichtbar machen oder ausblenden.

3. Rückkopplung

Was geschieht, nachdem das System eine Entscheidung getroffen hat? Werden langfristige Folgen gemessen und Ziele angepasst? Oder wird nur der unmittelbare Gewinn zurückgemeldet? Ohne Rückkopplung lernt die Maschine nicht, dass eine scheinbar erfolgreiche Entscheidung später Schaden verursacht.

Viele KI Anwendungen sind auf der ersten Ebene hochentwickelt und auf der zweiten und dritten erschreckend schwach. Sie können immer mehr erfassen und immer schneller bewerten, erhalten aber kaum Rückmeldung über die Wirklichkeit ihrer Folgen.

Das führt zu einer paradoxen Situation: Je leistungsfähiger das Modell, desto gefährlicher kann ein schlecht gewähltes Ziel werden. Ein ungenaues System richtet begrenzten Schaden an, weil seine Reichweite klein ist. Ein sehr genaues System kann eine falsche Priorität in großem Maßstab durchsetzen.

Nachhaltigkeit beginnt vor dem Prompt

Was folgt daraus für den praktischen Einsatz? Zunächst muss sich die Reihenfolge ändern. Viele Organisationen fragen zuerst: Wo können wir KI einsetzen? Die bessere Frage lautet: Welche Entscheidung soll besser werden, und welche Folgen dürfen wir dabei nicht ausblenden?

Vor dem eigentlichen Einsatz lohnt sich ein Zieltest mit fünf Fragen:

• Was genau soll optimiert werden?
• Wer profitiert von dieser Optimierung, und wer trägt die Kosten?
• Welche wichtigen Werte lassen sich nicht direkt messen?
• Welche kurzfristigen Erfolge könnten langfristigen Schaden verdecken?
• Unter welchen Bedingungen würde das System seine eigene Zielsetzung in Frage stellen müssen?

Die vierte Frage ist besonders wichtig. Viele Systeme werden nach unmittelbaren Ergebnissen bewertet, obwohl ökologische Schäden zeitverzögert auftreten. Ein Empfehlungssystem kann heute mehr Bestellungen erzeugen, während die Kosten durch Retouren und Abfall erst Wochen später sichtbar werden. Ein Fördermodell kann heute eine produktive Bohrstelle identifizieren, während die klimatischen Folgen Jahrzehnte später eintreten.

Deshalb brauchen nachhaltige KI Systeme Gegenkennzahlen. Neben der primären Erfolgsgröße muss es Messgrößen geben, die unerwünschte Verschiebungen sichtbar machen. Umsatz kann neben Rücksendequote stehen. Liefergeschwindigkeit neben Verpackungsvolumen. Genauigkeit neben Energieverbrauch. Produktivität neben Bodenqualität.

Noch wichtiger ist die Einführung von Stopregeln. Ein System sollte nicht nur wissen, wie es ein Ziel erreicht, sondern auch, wann es nicht weiter optimieren darf. Wenn zusätzliche Verkäufe nur durch aggressive Manipulation entstehen, wenn Energieeinsparungen den Komfort unzumutbar senken oder wenn eine Prognose auf Daten beruht, die bestimmte Gruppen systematisch ausschließen, braucht es eine Unterbrechung und menschliche Prüfung.

Das ist keine romantische Forderung, den Menschen gegen die Maschine zu verteidigen. Es ist eine nüchterne Anerkennung ihrer jeweiligen Stärken. KI kann mehr Muster verarbeiten, als Menschen überblicken. Menschen können eher beurteilen, ob ein Muster im wirklichen Leben Bedeutung besitzt. Die produktive Arbeitsteilung besteht nicht darin, dass der Mensch die Maschine ständig nachahmt. Sie besteht darin, dass der Mensch die Fragen nach Zweck, Kontext und Konsequenz übernimmt.

Weshalb die unscheinbare Frage oft die wichtigste ist

Die tiefste Lektion steckt vielleicht in einem kleinen Fehler: einer falsch erkannten Anzahl von Bananen. Das Detail wirkt trivial, bis man erkennt, dass ganze Gesellschaften nach demselben Prinzip funktionieren können. Wir richten unsere Aufmerksamkeit auf das, was häufig, leicht messbar und unmittelbar profitabel ist. Seltene, diffuse und zeitlich entfernte Folgen erscheinen dagegen als Rauschen.

KI übernimmt diese Tendenz nicht nur, sie kann sie industrialisieren. Sie macht es möglich, Millionen Entscheidungen an Kennzahlen auszurichten, ohne jedes Mal zu prüfen, ob die Kennzahl noch für den ursprünglichen Zweck steht. So entsteht eine Art institutioneller Musterblindheit: Das System erkennt zuverlässig, was sich wiederholt, und übersieht, was sich nicht in seine Kategorien fügt.

Nachhaltige Innovation muss deshalb eine Fähigkeit kultivieren, die man Relevanzkompetenz nennen kann. Sie umfasst drei Gewohnheiten: erstens die Bereitschaft, über die offensichtlichen Daten hinauszusehen; zweitens die Fähigkeit, Nebenwirkungen als Teil des Problems zu behandeln; drittens die Disziplin, ein erfolgreiches System anzuhalten, wenn sich sein Erfolg gegen den eigentlichen Zweck wendet.

Diese Kompetenz gehört nicht nur Führungskräften oder Technikteams. Auch Einzelne können sie anwenden. Wer ein KI Werkzeug nutzt, sollte nicht nur fragen, ob die Antwort plausibel klingt. Man sollte fragen, welche Weltannahmen in ihr stecken, welche Perspektiven fehlen und welcher Anreiz durch die Empfehlung verstärkt wird.

Die wichtigste Frage an eine intelligente Maschine ist nicht: „Kannst du das?“ Sie lautet: „Was wird durch deine Antwort wahrscheinlicher, und ist das die Welt, in der wir leben wollen?“

Zentrale Erkenntnisse

• Prüfe zuerst das Ziel, nicht das Werkzeug. Definiere, was verbessert werden soll, bevor du eine KI Anwendung auswählst.
• Trenne Effizienz von Fortschritt. Weniger Aufwand für mehr Output ist nicht automatisch ökologisch oder gesellschaftlich besser.
• Ergänze jede Hauptkennzahl durch Gegenkennzahlen. Miss auch Rücksendungen, Energie, Ressourcen, Ausschlüsse und langfristige Folgen.
• Suche aktiv nach dem Übersehenen. Frage bei jeder automatisierten Entscheidung, welche Informationen, Menschen oder Werte im Modell nicht vorkommen.
• Baue Stopregeln und menschliche Prüfung ein. Ein System muss nicht nur optimieren, sondern auch erkennen, wann Optimierung schädlich wird.

Die Zukunft der KI wird nicht allein durch größere Modelle entschieden. Sie wird durch die stillen Definitionen geprägt, die festlegen, was als Erfolg gilt. Eine Maschine, die jedes Muster erkennt, bleibt blind, wenn niemand ihr zeigt, welche Muster Bedeutung haben. Und eine Gesellschaft, die ihre falschen Ziele mit immer höherer Präzision verfolgt, wird durch mehr Intelligenz nicht vernünftiger.

Vielleicht liegt die nachhaltigste Nutzung künstlicher Intelligenz daher nicht darin, ihr immer mehr Entscheidungen zu überlassen. Vielleicht liegt sie darin, mit ihrer Hilfe unsere eigenen blinden Flecken sichtbar zu machen: die Kosten, die wir nicht zählen, die Folgen, die wir vertagen, und die Bedürfnisse, die in keinem Datensatz auftauchen.

Erst wenn KI nicht nur Antworten liefert, sondern unsere Definition von Relevanz herausfordert, wird sie mehr als ein Verstärker bestehender Anreize. Dann könnte sie tatsächlich zu einem Instrument des Fortschritts werden. Nicht, weil sie von sich aus weiß, was gut ist, sondern weil wir endlich lernen, ihr bessere Fragen zu stellen.