Denken an KI ausgelagert: Ich hab das Ding mitgebaut und konnte es nicht erklären
Im April hab ich einen Satz in mein Handy gesprochen, der mir seitdem nicht mehr aus dem Kopf geht: „Ich hab viel von meinem Denken schon outgesourced an AI. Und das sollte, denke ich mal, nicht bei hundert Prozent sein, weil man dadurch echt auch die Fähigkeit verliert, umfangreich zu denken.“
Das war keine Kritik an der Technik. Ich arbeite jeden Tag mit KI, beim Programmieren, beim Schreiben, bei der Analyse meiner Websites. Ohne würde ich es wahrscheinlich gar nicht mehr machen.
Der Satz war eine Beobachtung an mir selbst.
Vielleicht kennst du das von der anderen Seite. Du lässt dir ein Angebot schreiben oder eine Mail an einen Kunden. Und hinterher könntest du nicht sagen, warum da genau das steht, was da steht.
Bei einer Idee hat man nicht sofort das Gesamtbild im Kopf. Man arbeitet sich durch. Genau dieses Durcharbeiten hatte ich abgegeben.
Fünf Monate später hat mich das eingeholt. Mit Stift und Papier, an einem Freitag im September. Und mit der Frage, ob ich für mein eigenes Projekt überhaupt smart genug bin.
Als ich es erklären musste, ohne nachzuschauen
Für eine Praxis verantworte ich die komplette Technik. Im Sommer haben wir eine Bestellstrecke gebaut, also den Weg vom ersten Klick des Patienten bis zur fertigen Bestellung.
Drei Systeme, die nie direkt miteinander reden: der Browser des Patienten, unsere Datenbank und die Software des Arztes. Die KI hat mit mir gebaut, Schritt für Schritt. Das Ding lief.
Dann kam der Moment, an dem ich es erklären musste. Dem Kunden, dem Anbieter der Arztsoftware, und vor allem mir selbst. Ohne Chatfenster, ohne Nachschauen. Ich steh dafür gerade, also muss ich es verstehen.
Ich hab den Ablauf dreimal wiedergegeben. Erst mündlich, dann als Skizze auf Papier, dann noch mal mit Kästchen und Pfeilen.
Zweimal hintereinander bin ich an derselben Stelle hängen geblieben. Und zwar an dem Punkt, an dem nach dem Fragebogen zwei Dinge gleichzeitig passieren, die nichts voneinander wissen: die Anzeige im Browser des Patienten und der Stand in unserer Datenbank, also der Liste, in der jeder Vorgang seinen Status hat.
In meinem Kopf war das eine Linie. In Wirklichkeit ist es eine Gabelung.
Warum das wichtig ist: Wenn Anzeige und Stand auseinanderlaufen, sieht der Patient etwas anderes als das, was im System steht. Genau so entstehen die Fehler, die später keiner mehr erklären kann.
Ich hatte in dem Moment das Gefühl, nicht smart genug dafür zu sein. Das muss ich so sagen.
Ich hatte das Ding mitgebaut. Und konnte es nicht auf ein Blatt Papier bringen.
Der Ablauf war nie in meinem Kopf gelaufen
Ich hab eine ältere Notiz von mir, die das Gegenteil sagt. Programmieren gehe ich an wie mein Körper mit dem Hirn umgeht: Wenn ich einen Stift vom Boden aufhebe, denke ich nicht über jeden Muskel nach.
Ich muss das Grundkonstrukt verstehen und damit umgehen können. Wie es ganz genau funktioniert, ist mir eigentlich egal.
Beides stimmt. Und trotzdem passt es nicht zusammen.
Der Unterschied ist die Verantwortung. Solange ich eine Website baue und abgebe, reicht das Beherrschen. Sobald ich die Technik hinter einem Betrieb verantworte, muss ich den Ablauf jemandem erklären können, der ihn nicht kennt.
Ganz ehrlich?
Was ich nicht ohne Nachschauen erklären kann, hab ich nicht verstanden.
Die KI hatte den Ablauf gebaut, ich hatte ihn gelesen, getestet und freigegeben. Nur selbst nachgezeichnet hatte ich ihn nie. Das Verständnis lag im Verlauf des Chats, nicht in meinem Kopf.
Ich erkläre zuerst, die KI korrigiert
Beim dritten Anlauf hab ich es umgedreht, und das war das Gegenteil davon, mir die Sache noch einmal erklären zu lassen.
- Ich erkläre zuerst. Mündlich oder auf Papier, ohne Hilfe, so weit ich komme. Der Fehler darf drin sein, er ist sogar der Punkt.
- Die KI korrigiert nur die falschen Stellen. Keine neue Gesamt-Erklärung, keine Zusammenfassung. Nur: hier stimmt es, hier nicht, und warum nicht.
- Dann eine Kontrollfrage, deren Antwort nur stimmt, wenn das Bild im Kopf richtig ist. Bei mir war es: „Der Patient schließt den Browser direkt nach dem Absenden. Wo steht der Vorgang jetzt?“
Zwei Erklärungen hatten die Gabelung nicht in meinen Kopf gesetzt. Eine Frage schon. Weil ich sie nur beantworten konnte, wenn ich die zwei parallelen Wege selbst gedacht hab. Seitdem kann ich den Ablauf ohne Notiz erklären.
Beim Bauen mache ich es inzwischen genauso. Ich lasse mir jeden Schritt erklären, was und warum, und teste ihn selbst im Browser, bevor der nächste kommt.
Das ist langsamer. Dafür kann ich heute jeden Schritt begründen, wenn der Anbieter der Arztsoftware nachfragt. Vorher hätte ich erst im Chat nachlesen müssen.
Wo ich die KI vorarbeiten lasse, und wo nicht
Was passiert, wenn ich das Prüfen weglasse, hab ich gemessen. In älteren Artikeln von mir standen vier Links auf Quellen, die es gar nicht mehr gibt. Alle vier hatte eine KI vorgeschlagen, keinen davon hatte ich angeklickt.
Ein bisschen ironisch war das schon: Mein neuer KI-Check hat den Müll gefunden, den eine andere KI vorher mit reingebracht hatte.
Ich will hier trotzdem nicht den Anti-KI-Typen spielen, das wäre gelogen. Ich öffne regelmäßig zwei, drei KI-Fenster auf dem MacBook, jedes an einem anderen Projekt, und arbeite parallel mit ihnen. Das macht saumäßig Spaß.
Der Unterschied liegt darin, wer was macht. Beim Programmieren läuft es bei mir nach dem Ping-Pong-Prinzip: Die KI arbeitet vor, ich prüfe, sage ihr, worum es geht, und entscheide über den nächsten Schritt. Bei meinem wöchentlichen Blick auf die Zahlen meiner Websites ist es dasselbe. Die KI sammelt und sortiert, das Urteil bleibt bei mir. Die vier toten Links waren die Stelle, an der ich genau das nicht gemacht hab.
Wenn du deine Website von ChatGPT bewerten lässt
Das betrifft nicht nur Leute, die programmieren. Im September hat eine Kundin den Entwurf ihrer neuen Website durch ChatGPT bewerten lassen und mir den Chat geschickt.
Fünfzehn Punkte, eine Liste mit zehn Maßnahmen, Ton: „vor dem Start kräftig optimieren“. Gut, dass sie ihn geschickt hat, statt gleich loszubauen.
Ich hab jeden Punkt einzeln gegen die Seite gehalten. Die KI hatte nur die Startseite und die alte Website gesehen, mehr konnte sie nicht wissen. Also beschrieben rund zwei Drittel der Punkte Dinge, die längst gebaut waren.
Drei Punkte trafen. Einer davon war richtig gut: eine Jahreszahl aus den Unterlagen der Firma, die niemand hinterfragt hatte. Auch ich nicht.
Der Reflex „die KI sagt das, also bauen“ hätte einen Umbau ausgelöst, den niemand brauchte. Der andere Reflex, „die KI hat keine Ahnung“, hätte den einen guten Punkt übersehen.
Das Prüfen hat zehn Minuten gedauert. Zehn Minuten, die man sich mit der KI eigentlich sparen wollte.
Eine Sache, die du heute machen kannst
Nimm dir eine Sache, die die KI in den letzten Wochen für dich gemacht hat. Ein Text, ein Angebot, eine Bewertung deiner Website, egal was.
Und erklär sie jemandem, laut und in eigenen Worten. Deiner Frau, deinem Meister, oder gesprochen in dein Handy, wenn niemand da ist. Ohne ChatGPT offen zu haben.
Ich hatte in dem Moment auf dem Papier das Gefühl, zu doof dafür zu sein. War ich nicht.
Es war die Stelle, an der mein Denken aufgehört hatte und das der KI angefangen. Wenn du beim Erklären hängen bleibst, ist das bei dir genau dieselbe Stelle.
Ich hab dafür ein Blatt Papier gebraucht und drei Anläufe. Allein das, was ich dabei verstanden hab, war es schon wert.
Grüße, Ivo
