Direct Preference Optimization (DPO)
Was ist Direct Preference Optimization (DPO)? Direct Preference Optimization (DPO) ist eine Methode, mit der große Sprachmodelle (LLMs) gezielt auf menschliche Präferenzen abgestimmt werden – ohne den aufwändigen Umweg über ein separates Belohnungsmodell. Das Verfahren wurde als effizientere Alternative zu klassischem Reinforcement Learning from Human Feedback (RLHF) entwickelt und gewinnt im LLM-Marketing zunehmend an Bedeutung. […]
RLHF (Reinforcement Learning from Human Feedback)
Was ist RLHF? RLHF (Reinforcement Learning from Human Feedback) ist eine Trainingsmethode für KI-Sprachmodelle, bei der menschliche Bewertungen genutzt werden, um das Verhalten eines Modells gezielt zu verbessern. Statt ausschließlich auf Textdaten zu setzen, lernt das Modell durch direktes menschliches Feedback, welche Antworten nützlich, korrekt und sicher sind. RLHF ist heute eine der zentralen Techniken […]
Alignment Training
Was ist Alignment Training? Alignment Training bezeichnet den Prozess, bei dem ein Large Language Model (LLM) gezielt darauf trainiert wird, menschlichen Werten, Erwartungen und Verhaltensrichtlinien zu entsprechen. Das Ziel ist es, sicherzustellen, dass das Modell nützliche, wahrheitsgemäße und sichere Antworten liefert – anstatt unkontrollierte oder schädliche Ausgaben zu erzeugen. Im Marketing-Kontext ist Alignment Training besonders […]
Instruction Tuning
Was ist Instruction Tuning? Instruction Tuning ist eine Methode zur gezielten Weiterentwicklung großer Sprachmodelle (LLMs), bei der ein vortrainiertes Modell durch strukturierte Anweisungsbeispiele darauf trainiert wird, Aufgaben präzise und hilfreich zu erfüllen. Das Fokus-Keyword beschreibt den Prozess, bei dem ein Modell lernt, auf natürlichsprachliche Befehle – sogenannte Prompts – kontrolliert und aufgabengerecht zu reagieren. Ohne […]
Reranking Model
Was ist ein Reranking Model? Ein Reranking Model ist ein KI-Modell, das eine bereits vorhandene Liste von Suchergebnissen oder Dokumenten neu bewertet und in eine relevantere Reihenfolge bringt. Es arbeitet nicht als primäres Suchsystem, sondern als zweite Bewertungsschicht: Es nimmt die Ergebnisse eines ersten Abrufs entgegen und sortiert sie nach ihrer tatsächlichen Relevanz zur ursprünglichen […]
Model Hub
Was ist ein Model Hub? Ein Model Hub ist eine zentrale Plattform oder Repository, auf der vortrainierte KI-Modelle – insbesondere Large Language Models (LLMs) – gespeichert, geteilt und abgerufen werden können. Unternehmen und Entwickler nutzen einen Model Hub, um auf fertige Sprachmodelle zuzugreifen, ohne diese von Grund auf neu trainieren zu müssen. Das bekannteste Beispiel […]
Embedding Model
Was ist ein Embedding Model? Ein Embedding Model ist ein KI-Modell, das Texte, Bilder oder andere Daten in numerische Vektoren umwandelt – also in mathematische Darstellungen, die semantische Bedeutung erfassen. Diese Vektoren ermöglichen es Computern, die inhaltliche Ähnlichkeit zwischen verschiedenen Inhalten zu messen und zu vergleichen. Im Kontext von LLM-Marketing bilden Embedding Models die unsichtbare […]
Tokenizer
Was ist ein Tokenizer? Ein Tokenizer ist eine Komponente in KI-Sprachmodellen, die Texteingaben in kleinere Einheiten – sogenannte Tokens – zerlegt, bevor das Modell sie verarbeitet. Tokens sind dabei nicht zwingend einzelne Wörter: Sie können Silben, Wortteile, Satzzeichen oder auch ganze Wörter sein. Jeder Text, den ein Nutzer in ein Large Language Model (LLM) eingibt, […]
Checkpoint
Was ist ein Checkpoint? Ein Checkpoint ist ein gespeicherter Zustand eines KI-Modells zu einem bestimmten Zeitpunkt im Trainingsprozess. Er enthält alle gelernten Parameter, Gewichte und Konfigurationen, die das Modell bis zu diesem Punkt entwickelt hat. Im Kontext von Large Language Models (LLMs) ermöglicht ein Checkpoint, das Training zu unterbrechen, fortzusetzen oder auf einen früheren Stand […]
Hugging Face Model
Was ist ein Hugging Face Model? Ein Hugging Face Model bezeichnet ein vortrainiertes KI-Sprachmodell, das über die Plattform Hugging Face bereitgestellt, geteilt oder weiterentwickelt wird. Hugging Face ist eine der weltweit führenden Open-Source-Plattformen für maschinelles Lernen und bietet Unternehmen sowie Entwicklern Zugang zu Tausenden von Sprachmodellen – von kleinen, spezialisierten Modellen bis hin zu leistungsstarken […]