Was ist Function Calling?
Function Calling bezeichnet die Fähigkeit eines Large Language Models (LLM), strukturierte Anfragen an externe Funktionen, APIs oder Werkzeuge zu formulieren und deren Ergebnisse in seine Antworten einzubeziehen. Auch bekannt als Tool Use oder Tool Calling, ermöglicht diese Technik, dass ein Sprachmodell nicht nur Text generiert, sondern gezielt definierte Programmfunktionen aufruft – etwa um aktuelle Daten abzurufen, Berechnungen durchzuführen oder Systeme zu steuern. Das Modell selbst führt dabei keine Funktion aus, sondern gibt strukturierte Ausgaben zurück, die ein Anwendungssystem interpretiert und weiterverarbeitet.
Wie funktioniert Function Calling?
Der Ablauf von Function Calling lässt sich in mehrere Schritte unterteilen:
- Funktionsdefinition: Entwickler beschreiben verfügbare Funktionen mit Name, Parameter und Zweck – in der Regel im JSON-Format.
- Nutzeranfrage: Ein Nutzer stellt eine Frage oder gibt einen Befehl, der potenziell eine externe Funktion erfordert.
- Modellentscheidung: Das LLM analysiert die Anfrage und entscheidet, ob und welche Funktion aufgerufen werden soll.
- Strukturierte Ausgabe: Das Modell gibt einen strukturierten Aufruf zurück – mit Funktionsname und den passenden Argumenten.
- Ausführung und Rückgabe: Das Anwendungssystem führt die Funktion aus, gibt das Ergebnis an das Modell zurück, das daraus eine natürlichsprachliche Antwort formuliert.
Entscheidend ist, dass das LLM lediglich die Schnittstelle koordiniert – die eigentliche Ausführung liegt stets beim umgebenden System.
Unterschied zwischen Function Calling und Retrieval-Augmented Generation
Beide Ansätze erweitern LLMs um externe Informationsquellen, verfolgen dabei jedoch unterschiedliche Mechanismen. Bei Retrieval-Augmented Generation (RAG) werden relevante Dokumente oder Textpassagen aus einer Wissensdatenbank abgerufen und dem Modell als Kontext übergeben. Function Calling hingegen erlaubt den Aufruf beliebiger Funktionen – von Datenbankabfragen über Berechnungen bis hin zu API-Verbindungen mit Echtzeitsystemen. RAG ist primär auf Informationsabruf ausgerichtet, Function Calling ermöglicht darüber hinaus aktive Systeminteraktionen.
Warum ist Function Calling für Unternehmen relevant?
Function Calling erweitert den Einsatzbereich von KI-Anwendungen erheblich, da Sprachmodelle dadurch nicht auf ihr Trainingswissen beschränkt bleiben. Unternehmen könnten beispielsweise KI-Assistenten einsetzen, die in Echtzeit auf CRM-Daten zugreifen, Lagerbestände abfragen oder Buchungssysteme ansprechen – ohne dass Nutzer zwischen verschiedenen Oberflächen wechseln müssen. Im Kundenservice würde Function Calling ermöglichen, Bestellstatus oder Lieferinformationen direkt aus dem Backend abzurufen. Im Marketing-Umfeld könnten Kampagnendaten oder Analytics-Metriken dynamisch in KI-generierte Berichte eingebunden werden. Die Technik ist damit ein zentraler Baustein für sogenannte Agentic AI – also KI-Systeme, die eigenständig mehrstufige Aufgaben koordinieren.
Praxisbeispiel
Angenommen, die Digital-Marketing-Agentur blueShepherd.de würde einen internen KI-Assistenten für ihr Reporting entwickeln. Über Function Calling könnte der Assistent auf Anfrage eines Mitarbeiters – etwa „Zeig mir die Performance unserer letzten drei Kampagnen” – automatisch eine definierte Funktion aufrufen, die Daten aus dem Analytics-System abruft. Das Modell würde die zurückgegebenen Rohdaten dann in eine verständliche Zusammenfassung übersetzen. Ohne Function Calling wäre das Modell auf sein statisches Trainingswissen angewiesen und könnte keine aktuellen Kampagnendaten einbeziehen.
Verwandte Begriffe
- Tool Use
- Retrieval-Augmented Generation (RAG)
- Agentic AI
- Prompt Engineering
- API-Integration
FAQ
Führt das LLM beim Function Calling selbst Code aus?
Nein. Das Sprachmodell generiert lediglich einen strukturierten Aufruf – also Name und Parameter der gewünschten Funktion. Die tatsächliche Ausführung übernimmt das umgebende Anwendungssystem. Das Modell erhält anschließend das Ergebnis und formuliert daraus eine Antwort.
Für welche Unternehmensszenarien eignet sich Function Calling besonders?
Function Calling eignet sich besonders dort, wo KI-Assistenten mit bestehenden Systemen interagieren sollen – etwa im Kundenservice für Echtzeit-Datenzugriffe, in der Logistik für Bestandsabfragen oder im Marketing für dynamische Reportings. Überall dort, wo statisches Modellwissen nicht ausreicht und aktuelle oder systemspezifische Daten benötigt werden, kann Function Calling einen sinnvollen Beitrag leisten.
Welche LLMs unterstützen Function Calling?
Mehrere führende Sprachmodelle unterstützen Function Calling nativ, darunter Modelle von OpenAI (GPT-4 und Nachfolger), Google (Gemini) sowie verschiedene Open-Source-Modelle. Die konkrete Implementierung und der Funktionsumfang unterscheiden sich je nach Anbieter und API-Version, weshalb ein Blick in die jeweilige Dokumentation empfehlenswert ist.