LLM-Parameter: Was 70B bedeutet und welche Regler du selbst drehst

Aktualisiert im September 2026 (Veröffentlicht am 27. November 2024)

Der Begriff LLM-Parameter bedeutet zwei verschiedene Dinge. Je nach Problem suchst du eine andere Antwort.

Gemeint ist einerseits die Parameterzahl. Das ist die Menge der gelernten Daten in einem Modell. Du erkennst sie an Namen wie 7B oder 70B. Andererseits sind die Einstellparameter gemeint. Diese Werte gibst du bei jeder Anfrage mit. Dazu gehören Temperature oder Max Tokens.

Die Parameterzahl entscheidet über die Fähigkeiten des Modells. Die Einstellparameter steuern das Verhalten in deinem speziellen Fall. Dieser Artikel erklärt zuerst die Parameterzahl. Danach zeigen wir dir jeden Einstellparameter einzeln.

Was sind überhaupt LLMs?

Large Language Models sind große neuronale Netze. Sie haben aus riesigen Textmengen gelernt. Ihre Hauptaufgabe ist die Vorhersage des nächsten Wortes. Wie diese Technik genau funktioniert, steht in unserem Artikel darüber, wie große Sprachmodelle arbeiten.

Parameterzahl: was 7B, 70B und 1T bedeuten

Die Parameterzahl zeigt, wie viele Details ein Modell beim Training gelernt hat. Sie bestimmt das Wissen der KI.

Stell dir Parameter wie kleine Stellschrauben vor. Das Modell justiert diese Schrauben beim Training. Ein Modell mit dem Namen 7B hat 7 Milliarden solcher Schrauben. 70B bedeutet 70 Milliarden Schrauben, und 1T steht für eine Billion. Diese Schrauben speichern das Wissen des Modells.

Verwechsle das nicht mit Trainingswerten wie der Lernrate. Diese Werte legt der Entwickler beim Training fest. Für dich als Anwender sind sie unwichtig.

Was die Größe für Qualität, Hardware und Kosten heißt

Mehr Parameter bedeuten meistens mehr Weltwissen. Das Modell spricht mehr Sprachen und plant logischer.

Ein kleines Modell ist wie ein wendiger Stadtflitzer. Es läuft schnell, kostet wenig und passt auf normale Computer. Ein großes Modell ist wie ein schwerer Lastwagen. Es löst komplexe Aufgaben besser und spricht mehr Sprachen. Dafür ist es langsam und teuer im Betrieb.

Die Größe spürst du im Alltag an drei Stellen:

1. Preis: Größere Modelle kosten pro Wort mehr Geld.
2. Laufzeit: Das Modell braucht für jedes Wort mehr Rechenschritte.
3. Speicher: Ein 8B-Modell passt auf eine gute Grafikkarte, während ein 70B-Modell teure Spezialserver braucht.

Details zur Hardware stehen bei den lokalen LLMs und offenen Modellen. Offene Modelle tragen ihre Größe meist im Namen. Die großen kommerziellen Anbieter verraten die genaue Zahl oft nicht.

Warum sich Einstellparameter lohnen

Andere Einstellungen bringen dir beim selben Prompt völlig andere Ergebnisse. Das macht das Modell flexibel.

Für eine Extraktion aus Rechnungen willst du jedes Mal dasselbe Ergebnis. Für einen Werbetext suchst du zehn verschiedene Vorschläge. Du nutzt für beides dasselbe Modell. Wer nur den Prompt ändert, verschenkt die Hälfte der Möglichkeiten.

Alle Einstellparameter im Überblick

Die Tabelle zeigt die wichtigsten Stellschrauben. Du siehst die Wirkung und die Namen bei den drei großen Anbietern.

Eine Entwicklung ist wichtig für deinen Code. Die klassischen Regler verlieren bei neuen Modellen ihre Funktion. Anthropic ignoriert Temperature und Top-P bei Modellen nach Claude Opus 4.6. Google macht das bei den Gemini-3-Modellen genauso. Bei OpenAI sind diese Felder für Reasoning-Modelle ebenfalls gesperrt.

Bei älteren Modellen und lokalen Systemen gilt alles Folgende unverändert. Welches Modell welchen Parameter kennt, zeigt unsere LLM-Capability-Matrix.

Kreativität steuern

Mit diesen Werten bestimmst du, wie mutig das Modell Wörter auswählt.

Temperature

Temperature verändert die Abweichung von der wahrscheinlichsten Wortwahl. Niedrig heißt vorhersehbar, hoch heißt überraschend.

Wir testen den Prompt "Beschreibe einen sonnigen Tag im Park" mit drei Werten.

Bei Temperature 0,2: Der Himmel ist klar, und die Sonne scheint hell. Es ist ruhig und friedlich. Bei Temperature 0,7: Die Sonne scheint warm auf die grünen Wiesen, und Kinder lachen auf dem Spielplatz. Bei Temperature 1,0: Die Sonne tanzt auf den Wellen des kleinen Teichs, während bunte Drachen am Himmel schweben.

Bei einem Wert von 0,2 bekommst du zehn sehr ähnliche Antworten. Bei 1,0 erhältst du zehn völlig verschiedene Texte.

Top-P

Top-P begrenzt die Auswahl nach der gesammelten Wahrscheinlichkeit. Das Modell wählt nur aus den besten Wörtern.

Bei einem Wert von 0,7 sammelt das Modell die besten Wörter, bis diese zusammen 70 Prozent Wahrscheinlichkeit erreichen. Das ist flexibel. Ist sich das Modell sicher, bleiben wenige Wörter übrig. Ist es unsicher, wählt es aus vielen Wörtern.

Top-K

Top-K schneidet die Auswahl bei einer festen Zahl ab. Das Modell ignoriert alle anderen Optionen. Bei einem Wert von 10 betrachtet das Modell nur die zehn besten Wörter. Die genaue Wahrscheinlichkeit spielt keine Rolle. Das hilft gegen völlig abwegige Begriffe.

Ändere nie Temperature und Top-P gleichzeitig. Beide Werte beschneiden dieselbe Auswahl. Du weißt hinterher nicht, welcher Wert gewirkt hat. Nutze Temperature als Hauptregler und lass Top-P bei 1,0.

Länge und Abbruch steuern

Du legst mit diesen Einstellungen fest, wann das Modell aufhört zu schreiben.

Max Tokens

Max Tokens ist eine harte Obergrenze für die Antwort. Das Modell schreibt nicht kürzer, sondern bricht hart ab. Ein Token ist dabei kein ganzes Wort. Deutsche Wörter zerfallen oft in mehrere Tokens. Der Token-Counter zeigt dir den genauen Wert für deinen Text.

Jedes Token kostet Geld. Vergleiche die Kosten für verschiedene Längen im LLM-Preisrechner.

Stop Sequences

Stop Sequences beenden den Text bei einem bestimmten Wort. Das Modell hört sofort auf zu schreiben. Du setzt zum Beispiel das Wort "Benutzer:" als Stoppschild. Sobald das Modell dieses Wort erzeugt, bricht es ab. Das hilft enorm bei Listen oder festen Vorlagen.

Kontextfenster

Das Kontextfenster ist der maximale Platz für Frage und Antwort zusammen. Es ist kein Regler, sondern ein festes Limit. Ist der Text zu lang, bricht das Modell ab. Manchmal vergisst es auch den Anfang des Gesprächs. Rechne bei langen Dokumenten vorher aus, ob alles hineinpasst.

Wiederholungen dämpfen

Diese Strafen verhindern, dass das Modell immer dieselben Wörter nutzt.

Frequency Penalty

Dieser Wert bestraft häufige Wiederholungen. Je öfter ein Wort vorkommt, desto unbeliebter wird es. Ohne Strafe: Die Katze ist eine Katze, die oft draußen ist. Mit Strafe: Die Katze ist schön und liebt es, draußen zu sein.

Presence Penalty

Dieser Wert greift schon beim zweiten Auftreten eines Wortes. Das zwingt die KI zu neuen Begriffen. Das Modell meidet ein Wort, sobald es einmal gefallen ist. Der Text entfernt sich dadurch inhaltlich weiter vom Thema.

Ohne Strafe: Der Sonnenuntergang ist wunderschön. Der Sonnenuntergang ist rot. Mit Strafe: Der Sonnenuntergang ist wunderschön. Die Farben sind beeindruckend.

Repetition Penalty

Diese Strafe gibt es oft bei lokalen Modellen. Sie drückt die Wahrscheinlichkeit für benutzte Wörter direkt nach unten. Werte um 1,0 bedeuten keine Strafe. Werte über 1,2 zerstören oft feste Begriffe wie Produktnamen. Bei Modellen mit starken Wiederholungen hilft dieser Wert besser als die anderen Strafen.

Reasoning- und Thinking-Budgets

Aktuelle Modelle denken vor der Antwort nach. Du steuerst die Dauer dieser Überlegung.

Diese Modelle erzeugen zuerst unsichtbare Denkbausteine. Danach schreiben sie die sichtbare Antwort. Du wählst dafür eine Stufe oder eine feste Tokenzahl. Die genauen Namen stehen in der Anleitung der Anbieter.

Drei wichtige Punkte musst du kennen:

1. Denken kostet Geld. Ein hohes Budget erhöht die Rechnung stark.
2. Denken braucht Zeit. Der Nutzer wartet spürbar länger auf die Antwort.
3. Denken und Schreiben teilen sich oft ein gemeinsames Limit.

Bei Anthropic zählt das Denken zum Limit der Max Tokens. Erhöhst du das Limit nicht, bleibt die Antwort leer. Das ist uns in einem eigenen Massenlauf passiert. Hohes Budget lohnt sich bei Mathematik oder Code. Bei einfachen Aufgaben wie Formatierungen bleibt das Denken aus.

Format erzwingen: Structured Outputs, JSON-Modus, Tool-Aufrufe

Du kannst Antworten für Maschinen lesbar machen. Dafür gibt es drei verschiedene Wege. Structured Outputs erzwingen ein festes Schema mit genauen Feldnamen. Der JSON-Modus garantiert nur ein gültiges Format. Tool-Aufrufe lassen das Modell eine Funktion ausführen.

Für Datenbanken nutzt du Structured Outputs. Der JSON-Modus ist eine Notlösung für ältere Modelle ohne Schema-Funktion.

Weitere API-Einstellungen

Diese Werte steuern das System im Hintergrund. Sie verändern nicht direkt die Sprache.

Seed macht Ergebnisse nur ähnlich, nicht identisch. Prompt Caching lohnt sich erst bei sehr langen Texten. Prüfe in der Dokumentation, ob dein Modell diese Werte unterstützt.

Presets für typische Aufgaben

Nutze diese bewährten Startwerte für deine Tests. Passe sie danach an deine genaue Aufgabe an. Die Tabelle gilt für Modelle mit klassischen Reglern. Fehlen diese Regler bei deinem Modell, achte nur auf das Denkbudget.

Sammle immer zwanzig echte Beispiele. Ändere dann genau einen Wert. Prüfe die neuen Ergebnisse. Ein einzelner Versuch beweist gar nichts.

Was Parameter nicht lösen

Parameter machen einen schlechten Prompt nicht gut. Sie verstärken nur deine Vorgaben.

Ein Wert von 0 macht Antworten nicht wahr. Ein Modell erfindet Fakten dann einfach jedes Mal gleich. Gegen falsche Fakten helfen nur eigene Daten. Mehr dazu steht im Artikel zu Halluzinationen.

Ein unklarer Prompt bleibt unklar. Fehlt die Zielgruppe, hilft auch kein langes Nachdenken.

Hier findest du schnelle Antworten auf die wichtigsten Fragen.

Fazit

Gehe bei deinen Projekten immer in der gleichen Reihenfolge vor. Das spart Zeit und Geld.

Wähle zuerst das Modell. Schreibe dann einen klaren Prompt. Setze danach das Denkbudget. Ändere erst ganz am Schluss die Temperature. Notiere dir gut funktionierende Werte. So baust du schnell deine eigene Liste auf.