Quelle: Google AI
Tool Retrieval ist ab sofort als Preview in der Gemini Interactions API verfügbar. Die Funktion ermöglicht es, Parameter-Schemas von Tools on-demand zu laden, anstatt die gesamte Tool-Bibliothek in jedem Prompt zu übermitteln.
Systemarchitektur und Skalierbarkeit
Bei der Verbindung eines Agenten mit einer wachsenden Anzahl von Tools – Dutzenden oder Hunderten – führt die Übertragung vollständiger Parameter-Schemas bei jeder Anfrage zu steigenden Input-Token-Mengen, erhöhter Latenz und abnehmender Genauigkeit bei der Tool-Auswahl. Tool Retrieval adressiert diese Schnittstellenproblematik, indem die vollständige Tool-Bibliothek im Standby gehalten wird und nur die jeweils benötigten Schemas geladen werden.
Zur Aktivierung wird ein tool_search-Tool hinzugefügt und das Flag defer_loading: true bei den zurückzustellenden Tools gesetzt. Das Modell erhält weiterhin Namen und Beschreibungen aller Tools, die eigentlichen Schemas bleiben jedoch außerhalb des Kontexts, bis sie explizit angefordert werden. Der gesamte Vorgang – Suche, Schema-Laden und Function-Call – erfolgt innerhalb eines einzelnen API-Aufrufs.
Technische Schnittstellen und Kompatibilität
Tool Retrieval ist mit Gemini 3.6 und allen nachfolgenden Modellen, einschließlich der Gemini 4 Serie, in der Interactions API kompatibel. Die Funktion integriert sich nahtlos mit Prefix-Caching, da deferred Schemas nicht im Anfang des Prompts liegen. Ebenso unterstützt sie remote MCP-Server, bei denen mit defer_loading: true alle exponierten Tools on-demand geladen werden.
Neben der serverseitigen Variante existiert eine client-seitige Implementierung (execution: "client"), die eigene Tool-Registries, Embedding-Indizes oder Berechtigungsfilter ermöglicht.
Preisgestaltung und operative Integrität
Es fallen keine separaten Kosten für Tool Retrieval an. Die Abrechnung erfolgt ausschließlich zu den regulären Token-Raten des jeweiligen Modells. Das Hinzufügen von tool_search verursacht einen kleinen festen Input-Token-Block. Geladene Schemas werden als Input-Tokens für den Rest der Konversation berechnet.
Die Architektur erfordert keine eigene Indexierung oder Hosting-Infrastruktur, da die Suche serverseitig durch Gemini erfolgt.
FAQ
Was ist der primäre Zweck von Tool Retrieval?
Tool Retrieval reduziert Input-Token-Verbrauch und Latenz bei der Arbeit mit großen Tool-Bibliotheken, indem Parameter-Schemas nur bei Bedarf geladen werden.
Wie wird Tool Retrieval aktiviert?
Durch Hinzufügen eines tool_search-Tools und Setzen von defer_loading: true auf den entsprechenden Tools.
Mit welchen Modellen ist Tool Retrieval kompatibel?
Tool Retrieval funktioniert mit Gemini 3.6 und allen späteren Modellen, einschließlich sämtlicher Gemini 4 Modelle, innerhalb der Interactions API.
Unterstützt Tool Retrieval MCP-Server?
Ja. Mit defer_loading: true auf einem mcp_server-Tool werden alle vom Server exponierten Tools on-demand geladen.
