Google представила Tool Retrieval в Gemini API для оптимизации работы с большими библиотеками инструментов
official-feed:Google AI · оригинал
Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Google запустила функцию Tool Retrieval в превью-режиме Interactions API, позволяющую моделям загружать схемы параметров инструментов по запросу, а не передавать их все сразу. Это снижает потребление токенов и задержки при работе с десятками или сотнями функций.
Функция решает проблему растущей стоимости и снижения точности выбора инструментов в агентных системах, где количество доступных API-вызовов постоянно увеличивается.
Google объявила о запуске Tool Retrieval — новой функции в Gemini API, доступной в режиме предварительного просмотра через Interactions API. Основной проблемой, которую решает этот инструмент, является неэффективность передачи полных схем параметров для каждого инструмента при каждом запросе. Когда агент подключен к десяткам или даже сотням инструментов, отправка всех схем одновременно значительно увеличивает количество входных токенов, добавляет задержку и снижает точность выбора нужной функции по мере роста списка кандидатов.
Суть механизма Tool Retrieval заключается в том, что агент сохраняет полную библиотеку инструментов в режиме ожидания, загружая схемы параметров только тогда, когда текущая задача требует их использования. Для активации функции разработчику необходимо добавить инструмент tool_search в запрос и установить флаг defer_loading: true для тех инструментов, которые нужно удерживать вне контекста. Модель по-прежнему видит имена и описания всех отложенных инструментов, что позволяет ей понимать доступные возможности, но сами схемы параметров остаются за пределами контекстного окна.
Процесс работы выглядит следующим образом: когда модели нужен конкретный инструмент, она запрашивает его по имени, API загружает полную схему, и модель выполняет вызов функции — все это происходит в рамках одного запроса. Google подчеркивает, что для этого не требуется создавать или хостить собственный индекс; поиск выполняется на стороне сервера Gemini. Единственными изменениями в коде являются добавление нового инструмента и установка флага отложенной загрузки. Разработчики могут держать наиболее часто используемые инструменты загруженными изначально, а «длинный хвост» функций — откладывать.
Функция также хорошо сочетается с кэшированием префиксов (prefix caching). Поскольку отложенные схемы не находятся в начале промпта, а загруженные схемы добавляются позже в ходе разговора, кэшированный префикс остается неизменным от хода к ходу. Кроме того, Tool Retrieval поддерживает удаленные MCP-серверы в Gemini API. Установив флаг defer_loading: true для инструмента mcp_server, разработчик может подключить крупный сервер, и все инструменты, которые он предоставляет, будут загружаться по требованию, без необходимости перечислять их вручную.
Для тех, кто поддерживает собственный реестр инструментов или фильтры разрешений, доступна клиентская реализация поиска. В этом случае инструмент tool_search настраивается с параметром execution: client, и приложение разработчика выполняет поиск. Это добавляет один дополнительный раунд обмена данными, но позволяет динамически экспонировать новые инструменты в середине разговора, например, когда пользователь подключает интеграцию.
Что касается тарификации, Tool Retrieval не имеет отдельной платы. Входные и выходные токены тарифицируются по стандартным ставкам для используемой модели. Активация tool_search добавляет небольшой фиксированный блок входных токенов, а каждая загруженная моделью схема тарифицируется как вход для остальной части разговора. Экономия достигается в том случае, если количество незагруженных схем превышает количество загруженных, что является типичным сценарием для больших библиотек инструментов.
Функция доступна для моделей Gemini 3.6 и новее, включая все модели серии Gemini 4, в рамках Interactions API. Google рекомендует разработчикам измерять эффективность на собственном трафике, чтобы оценить реальную экономию токенов. Источник: official-feed:Google AI — https://blog.google/innovation-and-ai/technology/developers-tools/gemini-api-tool-retrieval/