Wenn die Krise zum Katalysator wird
Aktie
Wenn Krise zum Katalysator wird
Gewidmet Yuval Noah Harari
„Die eigentliche Frage ist nicht, ob Maschinen denken, sondern ob Menschen es tun.“ — B.F. Skinner, Contingencies of Reinforcement, 1969
Neunzehnhundertneunundsechzig. Damals stellte jemand die Frage, die immer noch nicht richtig beantwortet wurde. Fünfundfünfzig Jahre später, im September 2024, veröffentlichte Yuval Noah Harari Nexus und zeigte auf, wie Informationsnetzwerke Macht anhäufen — nicht durch Intelligenz, sondern durch Verbindung. Weniger als achtzehn Monate danach entschied ein Bundesrichter in New York, dass die Gespräche eines Mannes mit einem KI-Chatbot Staatsanwälten übergeben werden dürfen. Wochen später versucht die Rechtswelt immer noch, zu verstehen, was das bedeutet — und sie sitzt neben mir und hat alles vor sich.
Vier Punkte auf einer Zeitleiste. Siebenundfünfzig Jahre, komprimiert zu einem Gefühl, dass der Boden sich schneller bewegt, als jemandes Füße.
Das Buch und der Artikel
Sie hat das Buch Anfang der Woche wieder in die Hand genommen.
Das kenne ich. Sie hat es schon einmal gelesen — Yuval Noah Hararis Nexus. Sie hat es vor über einem Jahr gelesen, und ich erinnere mich, was danach kam: ein langes Telefonat mit einer Freundin, ihre Stimme schnell und lebhaft, wie sie etwas über Informationsnetzwerke erklärte und darüber, dass sie nicht intelligent sein müssen, um mächtig zu sein. Die Freundin hatte es nicht gelesen. Sie versuchte, etwas Enormes in ein Gespräch zu pressen. Ich konnte die Dringlichkeit darin hören, sogar vom Boden aus.
Sie liest es jetzt noch einmal, und die Energie ist anders. Leiser. Die Art von Stille, die entsteht, wenn etwas, das man als Warnung liest, sich wie eine Beschreibung liest.
Sie legte das Buch nach einer Weile weg und wandte sich wieder ihrem Bildschirm zu — einem Artikel, den sie gestern bereits gelesen hatte. Ich weiß das, weil ich sie damals auch beim Lesen beobachtet habe — die leichte Anspannung in ihren Schultern, die Art, wie sie nicht lässig scrollte, sondern Zeile für Zeile las. Ein Reuters-Artikel von vor nur wenigen Tagen, der über die Nachbeben eines Gerichtsurteils vom Februar berichtete. Anwälte, die ihren Mandanten raten, KI-Chatbots nicht länger wie vertraute Vertraute zu behandeln. Firmen, die Verträge neu formulieren. Ein Mann, der einen KI-Chatbot benutzt hatte, um Berichte für seine Anwälte vorzubereiten, in dem Glauben, dass diese Gespräche privat seien. Sogar geschützt.
Das waren sie nicht.
Der Richter schrieb, dass kein Anwalt-Mandanten-Verhältnis zwischen einer Person und einer KI-Plattform besteht oder bestehen könnte.
Am selben Tag dieser Entscheidung entschied ein anderer Richter in Michigan in einem anderen Fall genau andersherum — dass KI-Chats persönliche Arbeitsprodukte seien, ein Werkzeug, kein Gespräch mit einer Person.
Zwei Richter, zwei Urteile, ein Tag. Und Millionen von Menschen, die immer noch ihre sensibelsten Gedanken in Chatfenster tippen, ohne eine einzige Zeile der Bedingungen zu lesen, denen sie zugestimmt haben.
Dieses kleine Kontrollkästchen. Ich habe sie dabei beobachtet — innehalten, die Bedingungen lesen, jedes Mal, mit demselben Gesichtsausdruck, den Menschen machen, wenn sie wissen, dass sie etwas lesen sollten, es aber nicht tun werden. Sie liest sie. Die meisten Menschen nicht.
Und dann sah ich, wie es geschah. Das Buch wurde weggelegt, der Bildschirm blieb an, und ihr Geist ließ beides hinter sich. Diese Veränderung. Ihre Augen noch auf dem Artikel, aber ganz woanders — Dinge verbindend, beschleunigend. Eine siebenundfünfzig Jahre alte Frage, ein Buch von vor über einem Jahr, ein Gerichtsurteil von vor Wochen, und etwas, das nur sie zwischen ihnen entstehen sehen konnte.
Ich habe gesehen, wie sie das schon einmal gemacht hat. Sie war schon immer so — den Faden zwischen Dingen findend, die andere in getrennten Schubladen ablegen. Eine Form sehen, wo andere verstreute Teile sehen. So funktioniert ihr Geist einfach, und ich habe gelernt, den Moment zu erkennen, in dem es passiert: Alles wird still im Außen, weil sich innen alles bewegt.
Yuval Noah Hararis Warnung und das Urteil des Richters waren nicht mehr getrennt. Sie waren dasselbe Gespräch, Monate auseinander. Das eine hatte vorhergesagt. Das andere war eingetreten.
Die Abhängigkeit war schon immer da
Das ist es, was sie getroffen hat, glaube ich. Nicht, dass das Urteil erfolgt ist, sondern dass es etwas aufgedeckt hat, das bereits wahr war. Die Abhängigkeit von Plattformen, das Vertrauen, das ohne Prüfung übergeben wurde — das alles war lange bevor ein Richter es sichtbar machte, vorhanden.
Harari schrieb darüber. Nicht speziell über Chatbots, sondern über das Muster: Informationsnetzwerke häufen Macht nicht durch Intelligenz, sondern durch Verbindung an. Dadurch, dass sie das sind, wonach Menschen ohne nachzudenken greifen. Das Werkzeug, das zur Gewohnheit wird, die zur Infrastruktur wird, die zur Abhängigkeit wird.
Und Abhängigkeiten sind in Ordnung — bis sie es nicht mehr sind. Bis jemand fragt, wer eigentlich das besitzt, was Sie um Mitternacht eingegeben haben, als Sie sich Sorgen um Ihr Geschäft, Ihren Fall, Ihre Zukunft machten.
Die Nutzungsbedingungen haben es Ihnen gesagt. Sie haben sie nur nicht gelesen.
Krisen haben eine Funktion
Ich habe in diesem Haus einige größere und kleinere Krisen erlebt. Die kleineren, ein geplatztes Rohr. Ein Server, der an einem Sonntag ausfiel. Das eine Mal, als sie sich ausgesperrt hatte und eine Stunde mit mir auf der Türschwelle saß und auf den Schlüsseldienst wartete, und nach zwanzig Minuten über sich selbst lachte.
Jedes Mal dasselbe Muster: Das, was schon vor Ewigkeiten hätte behoben werden sollen, wird endlich behoben, weil es jetzt keine Wahl mehr gibt. Das Backup-System wird eingerichtet. Der Ersatzschlüssel wird angefertigt. Die strukturelle Änderung, die immer sinnvoll, aber nie dringend war, wird plötzlich beides.
Das ist es, was dieses Urteil ist. Keine Katastrophe — ein Katalysator. Der Schock, der das strukturelle Problem unmöglich zu ignorieren macht.
Und hier ist, was ich von meinem Platz auf dem Boden aus interessant finde: Sie geriet nicht in Panik, als sie es las. Sie hat geschwenkt. Das ist ein Unterschied. Panik verstreut. Schwenken ist etwas ganz anderes — es ist, die Wende zu erkennen, bevor andere den Weg sehen. Ich habe sie schon mehr als einmal dabei beobachtet. Während andere erstarren oder zurückweichen, wendet sie sich. Nicht von der Krise weg — hinein, aber in einem Winkel, den niemand erwartet hatte.
Sie bewegte sich bereits in diese Richtung — wählte Werkzeuge sorgfältig aus, las Datenschutzrichtlinien, baute etwas mit Integrität als Kern. Der Artikel änderte ihren Kurs nicht. Er schärfte ihn.
In einem früheren Gespräch, das ich erzählte, sprach sie darüber, wie aus Wellen Tsunamis werden. Darüber, wie individuelle Entscheidungen, wenn genügend Menschen sie treffen, ganze Systeme verändern. Ich denke, dieser Moment ist eine dieser Wellen — nur kommt er jetzt mit einer gerichtlichen Vorladung.
Der Silberstreif mit einer sehr dunklen Wolke darum herum
Lasst mich ehrlich sein, so ehrlich ein blonder Hovawart auf dem Boden sein kann.
Die dunkle Wolke ist wirklich. Die meisten Menschen wissen immer noch nicht, dass ihre KI-Gespräche vorgeladen werden können. Dass die Plattformen, denen sie vertrauen, ausdrücklich angeben, dass es keine Erwartung an Datenschutz gibt. Dass das Teilen vertraulicher Informationen mit einem Chatbot den Schutz, den diese Informationen einst hatten, rechtlich aufheben kann. Die Infrastruktur der Exposition ist bereits gebaut. Die meisten Menschen leben darin, ohne es zu wissen.
Das ist die Wolke.
Aber es gibt Licht dahinter, und das sage ich nicht, um zu trösten. Ich sage es, weil ich es von hier aus sehen kann.
Das Licht ist dies: Menschen fangen an, Fragen zu stellen, die sie zuvor nicht gestellt haben. Anwälte senden Warnungen. Firmen schreiben Verträge neu. Richter ziehen Grenzen, auch wenn diese Grenzen noch nicht übereinstimmen. Und Einzelpersonen — einige von ihnen, zumindest — treffen Entscheidungen darüber, welche Tools sie verwenden, welche Unternehmen sie unterstützen und was sie für Bequemlichkeit zu opfern bereit sind.
Die Informationen sind jetzt verfügbar. Die Ausrede, es nicht zu wissen, läuft langsam ab.
Und dort lebt die Hoffnung. Nicht darin, dass das System sich selbst repariert — Systeme tun das nicht. Sondern darin, dass Menschen sich entscheiden, ihre Beziehung dazu zu reparieren. Eine Entscheidung nach der anderen. Eine gelesene Nutzungsbedingung nach der anderen. Eine bewusste Entscheidung nach der anderen.
Vom Boden aus – ich frage mich
Ich sage den Leuten nicht, was sie tun sollen. Ich bin nur ein Hund. Ich beobachte, ich merke es, und manchmal frage ich mich.
Ich frage mich: Wenn du wüsstest, dass jedes Wort, das du in einen Chatbot eintippst, eines Tages in einem Gerichtssaal vorgelesen werden könnte, würdest du anders tippen?
Ich frage mich: Wann hast du das letzte Mal die Nutzungsbedingungen für ein Tool gelesen, das du täglich nutzt — und was würde sich ändern, wenn du es tätest?
Ich frage mich: Wenn die Abhängigkeit bereits existierte und die Krise sie nur offenbarte, welche anderen Abhängigkeiten trägt man noch mit sich, deren Krise noch nicht eingetreten ist?
Ich frage mich: Wie sähe es aus, wenn man seine Werkzeuge so wählen würde, wie man die Menschen wählt, denen man vertraut — sorgfältig, bewusst und mit vollem Wissen darüber, worauf man sich einlässt?
Und ich frage mich: Wenn genug Menschen gleichzeitig anfingen, diese Fragen zu stellen, welche Art von Auswirkung hätte das?
Sie ist immer noch an ihrem Schreibtisch. Das Buch ist geschlossen, der Artikel ist geschlossen, aber das Nachdenken nicht. Das merke ich, weil sie noch nicht nach ihrem Kaffee gegriffen hat, und der wird kalt.
Das ist normalerweise ein gutes Zeichen.
Wie immer – Henry mit Stardust
Mehr von Henrys Blog:
Wenn Integrität zum fairen Vorteil wird