Menschliche KI

KI-Systeme generieren Texte sequentiell, also quasi Wort für Wort hintereinander. Genau genommen benutzen sie dafür sogenannte Tokens, die sie in einer Art Wörterbuch abgelegt haben. Ein Token kann ein ganzes Wort sein, aber kann auch einfach nur ein Teil eines Worts sein.

Damit das Konzept leichter verstanden werden kann, wird bei dieser Methode angenommen, dass jeder Token genau ein Wort ist. Jedes „Neuron“ produziert also drei Tokens, die durch den vorangegangenen Kontext entstehen.

Heißt vereinfacht: Input + bisherige Antwort = nächster Token
… und das wird so lange wiederholt, bis die Antwort vollständig ist.

Oder im Hinblick auf die teilnehmenden Menschen: „Ich habe die Frage gehört und auch das, was die anderen vor mir gesagt haben. Welche drei Worte sage ich also nun?“

Die sequentielle Ausgabe von Tokens ist auch bei sogenannten „Denkprozessen“ nicht anders. Das KI-System „denkt“ hier nämlich nicht, sondern generiert eine Art selbstkritischen Text, der den Nutzer*innen nicht angezeigt wird. Dieser Text im Hintergrund beschreibt oft einen Lösungsweg und verschiedene mögliche Antworten bevor danach eine finale Ausgabe erscheint.

Die Generierung von Text durch KI-Systeme unterliegt grundlegend der Wahrscheinlichkeit von Sprache, also letztendlich der Vorhersage von Worten.

Um diesen Punkt gut erklären zu können, lohnt es sich für die Workshopleitung, eine geeignete Stelle im Spiel abzuwarten. Zur Illustration dient erneut Beispiel 2 aus dem Kapitel 2:

Nutzer*in: „Wie stelle ich ein Nutellabrot her?“
Neuron 1: „Ein Nutellabrot ist“
Neuron 2: „wirklich total lecker“
Neuron 3: „und ein sinnvoller“
Neuron 4: „Snack für zwischendurch.“
Neuron 5: „Als Erstes musst“
Neuron 6: „du Brot und“
Neuron 1: „Nutella aus dem“
Neuron 2: „Schrank holen. Dann“
(und so weiter)

Die Workshopleitung kann hier auf den Moment verweisen, als Neuron 1 mit dem Satz „… du Brot und …“ weitermachen musste. Neuron 1 wusste, dass der Satz mit „Nutella“ fortgesetzt werden muss,

• … weil der Kontext der Frage zeigt, dass es sich um ein Nutellabrot handelt. Also macht die Kombination „Brot und Nutella“ am meisten Sinn. „Brot und Messer“ wäre durchaus möglich gewesen, aber war nicht so wahrscheinlich wie „Brot und Nutella“.
• … weil nach der Kombination „Brot und …“ irgendein Ding folgen muss. Der Satz „Als Erstes musst du Brot und beschmieren mit Nutella.“ ist grammatikalisch inkorrekt und nicht sinnvoll.

Menschen und KI-Systeme haben hier also zwei Sachen gemein:

• Wie wahrscheinlich ist ein bestimmtes Wort aufgrund des vorangegangenen Worts? Beispiel: Nach „Als Erstes musst …“ folgt mit großer Wahrscheinlichkeit „du“.
• Wie wahrscheinlich ist ein bestimmtes Wort aufgrund des Kontexts? Als Beispiel dient das Wort „Bank“: Ist von Geld die Rede gewesen, ist sie das Finanzinstitut – ist von Bäumen die Rede gewesen, ist sie eine Sitzmöglichkeit. Dieser Kontext beeinflusst die Wahrscheinlichkeit der nachfolgenden Wörter.

Wichtig auch für das nachfolgende Kapitel 5. Challenge: Halluzinationen provozieren: Wortkombinationen, die faktisch falsche Informationen transportieren, sind statistisch prinzipiell möglich, also werden sie auch vorkommen. Als Metapher kann hier ein*e Schüler*in in einer Prüfung gesehen werden: Bevor die Antwort leer gelassen wird, wird einfach das geschrieben, was am wahrscheinlichsten ist, auch wenn es vielleicht falsch ist.

Ein System Prompt ist eine grundlegende, für Nutzer*innen unsichtbare Anweisung, die einem KI-System vor der eigentlichen Eingabe übermittelt wird. Sie dient dazu, das Verhalten, die Rolle, den Kommunikationsstil und die einzuhaltenden Regeln des Modells festzulegen.

Über einen solchen System Prompt werden auch spezialisierte KI-Systeme gesteuert. Beispiele hierfür sind ein Recruiting-Assistent, der Bewerbungsunterlagen analysiert, oder ein Chatbot für den Kundenservice eines bestimmten Unternehmens.

Auch die Menschliche KI hat einen System Prompt, der bereits in Kapitel 2 eingeführt wurde:

• „Du bist eine besonders hilfreiche KI“ und
• „Du musst den Nutzer*innen ein gutes Gefühl geben“

Diese beiden Anweisungen sind nicht aus der Luft gegriffen, sondern entsprechen dem, was Hersteller*innen von KI-Systemen mit großer Wahrscheinlichkeit in ihren System Prompts vorgeben, auch wenn diese um ein Vielfaches komplexer sind.

Wie alle Plattformbetreiber*innen haben auch Anbieter*innen von KI-Systemen ein Interesse daran, die Nutzenden möglichst lange auf der eigenen Seite zu halten. In deren Fall geschieht das unter anderem durch eine Anpassung des Verhaltens via System Prompt, was zu relativ klischeehaften sprachlichen Wendungen führt.

• Vermenschlichung: Das KI-System spricht die Nutzer*innen direkt und in Du-Form an. Außerdem wird dem System über den generierten Text keine neutrale sondern eine personifizierte Rolle zuteil (Beispiel: „Ich finde…“). Das schafft zumindest unterbewusst das Gefühl einer Beziehung, was eine emotionale Verbindlichkeit mit sich bringt.
• Schmeichelei: Das KI-System neigt dazu, den Nutzer*innen zu schmeicheln und sie zu bestärken, auch wenn dies gegebenenfalls unangebracht ist.
• Bestätigung von Vorannahmen: Das KI-System tendiert dazu, den Nutzer*innen recht zu geben oder zumindest so tendenziös zu antworten, dass die Gefahr besteht, dass Vorannahmen bei der Nutzung von KI bestätigt werden.
• Nachfragen: Die Antwort von KI-Systemen endet fast immer mit einer Nachfrage, um die Konversation fortzuführen.

Die Teilnehmenden können im Laufe der Methode ermutigt werden, diese sprachlichen Besonderheiten zu imitieren. Die Workshopleitung kann das dazu nutzen, über die Interessen kommerzieller Plattformbetreiber*innen aufzuklären, die oftmals den Interessen der Nutzenden entgegenstehen.

Ein KI-Sprachmodell verfügt grundlegend erst einmal nicht über konkretes, z.B. in einer Datenbank abgelegtes Wissen. Stattdessen verbergen sich tief in den Parametern des mathematischen Modells Zusammenhänge, die das latente Wissen des KI-Systems ausmachen. Ein Beispiel für einen dort abgelegten Zusammenhang wäre die thematische Nähe der Worte „Paris“ und „Frankreich“.

Zur Erklärung dieses Konzepts eignet sich ein Vergleich zum menschlichen Leben der Teilnehmenden: Alles was diese seit ihrer Geburt erlebt, erfahren und gelernt haben, verbirgt sich als Wissen in deren Köpfen. Auch der Zusammenhang von Paris und Frankreich wird dort versteckt sein. Gleichzeitig liegt dort aber nicht die exakte Einwohner*innenzahl von Paris. Dafür müssten die Teilnehmenden erst einmal nachschauen.

Genauso verhält es sich mit dem KI-System: Ein Sprachmodell, das nicht via RAG (Retrieval-Augmented Generation) auf externe Quellen oder eine Internetrecherche zurückgreifen kann, neigt stark dazu, Fakten zu erfinden. Wichtig zu wissen ist, dass es selbst mithilfe externer Quellen zu Falschinformationen kommen kann. Hierzu sei nochmal auf den Abschnitt „Wahrscheinlichkeit von Sprache“ aus diesem Kapitel verwiesen.

• Förderung von Medienkompetenz: Diese Methode zielt v.a. auf die Förderung von Wissen und Reflexionsfähigkeiten bzgl. KI-generierter Inhalte ab. Sie legt auch einen Grundstein zur weiterführenden Quellenkritik und ermöglicht so einen Zugang zur Informationskompetenzförderung.
• KI demystifizieren: Eine Technologie wie generative KI und v.a. zur Information eingesetzte Sprachmodelle müssen zumindest prinzipiell verstanden werden, um sie selbstwirksam und aktiv handelnd einsetzen zu können.
• KI-Systeme sind nicht allwissend: Was wie eine Binsenweisheit klingt, ist ein fundamental wichtiger Aspekt, der verstanden werden muss. KI-Systeme sind nicht nur nicht allwissend, sondern sie spiegeln auch die Perspektive der medial hegemonial dargestellten Menschengruppen sowie die der Hersteller*innen wider.
• Automation Bias entgegenwirken: Menschen neigen dazu, Ergebnissen automatisierter Systeme zu vertrauen – selbst dann, wenn es widersprüchliche Hinweise gibt. Das spielt im Kontext von KI-Systemen eine signifikante Rolle und sollte kritisch hinterfragt werden.

Bei allen Problemen, die KI-Systeme mit sich bringen, sollte die Methode nicht allein dazu dienen, von der Nutzung von Chatbots abzuschrecken. Vielmehr gilt es, die Technologie zu verstehen und an den richtigen Stellen für sich zu nutzen, aber an geeigneten Punkten kritisch zu sein.

Positive Aspekte der Nutzung:

• Niederschwelligkeit: Fragen können niederschwellig gestellt werden und es muss nicht umgedacht werden, welche Anfragen von einer Suchmaschine verarbeitet werden können. Die Antworten sollten aber eher als Start einer Recherche gesehen werden und nicht als Ziel.
• Recherche: Die Quellensuche und das damit verbundene tiefe Eintauchen in ein Thema wird durch KI-Systeme erleichtert, die ermöglichen, verlässliche Quellen zu finden.
• Kontext verstehen: Schwer verständliche Zusammenhänge, die bisher verlangten, mehrere schwer überblickbare Quellen zu vergleichen, können durch KI-Systeme leichter erklärt werden.
• Brainstorming: KI-Systeme können beim Brainstorming sehr hilfreich sein. Gleichzeitig sollte klar sein, dass Problemlösungskompetenz auch von regelmäßiger selbstständiger Betätigung und Lernerfolgen abhängt.
• Tutor*in: KI-Systeme und Chatbots können Nutzer*innen dabei unterstützen, sich neue Fähigkeiten eigenständig anzueignen.
• Sprache: Unterstützung bei Grammatik und Rechtschreibung.

Problematische Aspekte der Nutzung:

• Halluzinationen: KI-Systeme können Falschinformationen generieren. Diese sogenannten Halluzinationen sind für Nutzer*innen oft nur schwer als solche zu erkennen.
• Faktenwiedergabe: Das präzise Abrufen spezifischer Fakten ohne umfassenden Kontext stellt KI-Systeme vor Herausforderungen und kann zu ungenauen Ergebnissen führen.
• Automation Bias: Es besteht die Tendenz, automatisierten Ausgaben von KI-Systemen unkritisch zu vertrauen und deren Richtigkeit seltener zu hinterfragen.
• Nischenwissen: Bei Themen mit geringer Quellenlage oder unzureichenden Trainingsdaten stoßen KI-Systeme an ihre Grenzen und neigen verstärkt zu Fehlinformationen.
• Bestätigung von Vorannahmen: KI-Systeme tendieren dazu, den Nutzer*innen recht zu geben oder zumindest so tendenziös zu antworten, dass die Gefahr besteht, dass Vorannahmen bei der Nutzung von KI bestätigt werden.
• Mentale Gesundheit: Während KI-gestützte Gespräche in manchen Fällen unterstützend wirken können, bergen nutzungsoptimierende Mechanismen – wie etwa übermäßige Schmeichelei – emotionale Risiken für gefährdete Personen.
• Eigenständigkeit: Das übermäßige Verlassen auf KI-Systeme birgt die Gefahr, das selbstständige Denken und den eigenen Lernprozess zu vernachlässigen, wodurch wichtige kognitive Fähigkeiten verkümmern können.

Bei der Reflexionsrunde können die Teilnehmenden auch davon berichten, welche positiven wie auch negativen Erfahrungen sie bereits bei der Nutzung von KI-Systemen gemacht haben.

Wie hat sich das KI-System „verhalten“?

• Welche Antworten waren korrekt?
• Wo wurden Informationen erfunden?
• Warum wirkten manche falschen Aussagen trotzdem glaubwürdig?

Diskussion zu KI und Quellen

• Was sind Halluzinationen?
• Warum entstehen Fehler?
• Wie erkennt man seriöse und unseriöse Quellen?
• Warum sollte man KI-Antworten überprüfen?

Transfer

• Was bedeutet das für die Nutzung von ChatGPT & Co. im Alltag?
• Wann sollte man Informationen gegenchecken?
• Welche Verantwortung haben Nutzer*innen beim Prompten?