Wie funktioniert KI? Die Technik hinter den Systemen

Wie KI funktioniert – die Kurzfassung

Ein KI-System lernt, indem es sehr viele Beispiele durchrechnet und dabei Millionen kleiner Stellschrauben so lange justiert, bis seine Vorhersagen möglichst oft stimmen. Diese Stellschrauben – Fachbegriff: Parameter oder Gewichte – sind das gesamte „Wissen" des Modells. Im Einsatz wird nichts mehr gelernt: Das fertige Modell rechnet deine Eingabe einmal durch das erlernte Zahlengeflecht und gibt das wahrscheinlichste Ergebnis aus.

Alles Weitere sind Details dieses einen Prinzips. Du brauchst dafür keine Mathematik, nur ein Gefühl für vier Bausteine: das neuronale Netz, das Training, die Inferenz und die Daten.

Falls die Grundbegriffe noch neu sind, lohnt vorher der Einstieg Was ist Künstliche Intelligenz?.

Das neuronale Netz: viele einfache Schalter

Ein neuronales Netz ist lose vom Gehirn inspiriert, funktioniert aber deutlich schlichter. Es besteht aus Schichten von Knoten („Neuronen"). Jeder Knoten nimmt Zahlen entgegen, verrechnet sie mit seinen Gewichten und gibt eine neue Zahl weiter.

Wichtig ist das Zusammenspiel der Schichten. Bei einem Bild verarbeitet die erste Schicht rohe Pixelwerte und reagiert auf simple Dinge: Kanten, Helligkeitsunterschiede. Die nächste Schicht kombiniert Kanten zu Formen, die übernächste Formen zu Bauteilen wie Auge oder Rad, die letzte zu ganzen Objekten. Jede Schicht arbeitet auf einer abstrakteren Ebene als die davor. Genau das ist der Grund, warum tiefe Netze mit vielen Schichten – Deep Learning – so leistungsfähig sind. Wo die Grenze zwischen klassischem Machine Learning und Deep Learning verläuft, klärt der Artikel Machine Learning vs. Deep Learning.

Ein Netz „weiß" also nichts im menschlichen Sinne. Es enthält ein sehr großes Gefüge aus Zahlen, das erlernte Zusammenhänge codiert. Bei aktuellen Sprachmodellen liegt die Zahl der Parameter im Bereich von Milliarden bis weit darüber.

Training: aus Fehlern werden Gewichte

Das Training ist der Kern jeder KI. Vereinfacht läuft es in vier Schritten, die millionenfach wiederholt werden:

1. Vorhersagen. Das Netz bekommt ein Beispiel und gibt eine Antwort aus. Anfangs sind die Gewichte zufällig, die Antwort ist entsprechend Unsinn.
2. Fehler messen. Die Antwort wird mit der richtigen Lösung verglichen. Der Abstand ist der Fehlerwert.
3. Verantwortung zurückrechnen. Das Verfahren dahinter heißt Backpropagation: Es ermittelt, welcher Anteil des Fehlers auf welches Gewicht entfällt.
4. Nachjustieren. Jedes Gewicht wird ein winziges Stück in die Richtung verschoben, die den Fehler verkleinert.

Ein einzelner Durchlauf verändert fast nichts. Über Milliarden Durchläufe entsteht daraus ein Modell, das sinnvolle Vorhersagen trifft. Das Training großer Modelle läuft auf spezialisierten Grafikprozessoren, dauert Wochen und ist der mit Abstand teuerste Teil – die Kosten für ein Spitzenmodell liegen im hohen Millionenbereich.

Bei Sprachmodellen folgt danach eine Feinabstimmung, damit das Modell hilfreich und sicher antwortet statt nur Text fortzusetzen. Dabei bewerten Menschen Antworten, und das Modell lernt aus diesen Bewertungen.

Inferenz: was passiert, wenn du fragst

Inferenz ist der Betrieb des fertigen Modells – jede einzelne Anfrage. Der Unterschied zum Training ist grundlegend und erklärt vieles, was in der Praxis auffällt.

Daraus folgen drei Dinge, die im Alltag oft für Verwirrung sorgen:

• Das Modell lernt nicht aus deinem Chat. Was du eingibst, verändert die Gewichte nicht. Erinnert sich ein Assistent an frühere Gespräche, liegt das an einer Gedächtnisfunktion, die alte Inhalte erneut in die Eingabe schreibt – nicht am Modell selbst.
• Das Wissen hat einen Stichtag. Alles nach dem Trainingsende ist unbekannt, solange keine Websuche oder Dokumente angebunden sind. Wie dieses Nachreichen funktioniert, beschreibt RAG – Retrieval Augmented Generation.
• Jede Anfrage kostet Rechenzeit. Deshalb sind stärkere Modelle in Tarifen limitiert und ausführliche Denkschritte langsamer.

Daten sind der Treibstoff

Kein Modell ist besser als das Material, aus dem es gelernt hat. Drei Größen entscheiden über die Qualität:

• Menge. Muster werden erst über sehr viele Beispiele hinweg stabil. Moderne Sprachmodelle sind auf Textmengen im Billionen-Wort-Bereich trainiert.
• Vielfalt. Fehlt ein Fall in den Daten, ist das Modell genau dort unzuverlässig. Ein Modell, das kaum deutschsprachige Fachtexte gesehen hat, formuliert deutsche Fachsprache schwächer.
• Qualität. Fehler, Verzerrungen und einseitige Sichtweisen werden mitgelernt. Ein Modell reproduziert die Schieflagen seiner Quellen, ohne sie zu erkennen.

Für Unternehmen ist das die praktisch wichtigste Erkenntnis: Der Hebel liegt selten im Modell, fast immer in den Daten, die man ihm gibt – saubere Dokumente, klare Struktur, aktuelle Inhalte.

Wie ein Sprachmodell Text erzeugt

Sprachmodelle sind die KI-Form, mit der die meisten Menschen täglich zu tun haben. Ihr Prinzip ist erstaunlich einfach.

Zuerst wird dein Text in Token zerlegt – Wortbausteine, oft etwa vier Zeichen lang. Jedes Token wird in eine Zahlenreihe übersetzt, die seine Bedeutung im Verhältnis zu allen anderen Wörtern beschreibt. Ähnliche Begriffe liegen in diesem Bedeutungsraum nah beieinander.

Dann kommt der entscheidende Mechanismus, die Attention: Für jedes Wort gewichtet das Modell, welche anderen Wörter im Text dafür wichtig sind. In „Die Bank am Fluss war nass" verrät „Fluss", welche Bedeutung von „Bank" gemeint ist. Diese Fähigkeit, Bezüge über weite Strecken herzustellen, ist die Grundlage der Transformer-Architektur von 2017 – und damit fast aller heutigen Sprachmodelle. Tiefer steigt der Artikel Large Language Models: Grundlagen ein.

Schließlich sagt das Modell ein einziges nächstes Token voraus, hängt es an, liest den verlängerten Text erneut und sagt das übernächste voraus. Wort für Wort entsteht so die Antwort. Dass ein Modell dabei über Zeilen hinweg den Faden hält, ist ein Nebeneffekt sehr guter Vorhersagen – kein Plan, den es vorher gefasst hätte.

Woher die typischen Fehler kommen

Wenn du die Funktionsweise kennst, werden die bekannten Schwächen zu logischen Folgen:

• Halluzinationen entstehen, weil das Modell immer das plausibelste nächste Token wählt. Fehlt echtes Wissen, ist die plausibelste Fortsetzung eine erfundene, aber gut klingende Angabe.
• Rechenfehler entstehen, weil Zahlen als Token verarbeitet und nicht wirklich gerechnet werden – es sei denn, ein Werkzeug wie Code-Ausführung ist angebunden.
• Veraltete Angaben sind eine Folge des Trainingsstichtags.
• Verzerrungen stammen direkt aus den Trainingsdaten.
• Schwankende Antworten auf dieselbe Frage entstehen, weil das nächste Token bewusst mit etwas Zufall gewählt wird. Das erzeugt lebendige Sprache statt Textbausteinen.

Fazit

Hinter Künstlicher Intelligenz steckt kein Denken, sondern ein sehr großes, sorgfältig justiertes Zahlengeflecht. Im Training werden Gewichte über Milliarden Beispiele hinweg nachjustiert; in der Inferenz rechnet das fertige Modell deine Eingabe einmal durch und sagt das wahrscheinlichste Ergebnis vorher. Daten bestimmen dabei die Qualität, und die typischen Schwächen sind direkte Folgen des Wahrscheinlichkeitsprinzips. Wer das versteht, formuliert bessere Anfragen und weiß, an welchen Stellen eine Prüfung durch Menschen unverzichtbar bleibt.