¿Qué significa "tool use" (o function calling) en un LLM?
Opciones
- El modelo ejecuta código directamente en tu servidor
- El modelo descarga plugins por su cuenta
- El modelo devuelve una petición estructurada con el nombre de una función y sus argumentos; tu código la ejecuta y le devuelve el resultado (Opción correcta)
- El modelo edita sus propios pesos para aprender una habilidad nueva
Respuesta
El modelo devuelve una petición estructurada con el nombre de una función y sus argumentos; tu código la ejecuta y le devuelve el resultado
Por qué
Describes las herramientas disponibles (nombre, propósito, parámetros). Cuando el modelo decide que hace falta una, responde con el nombre de la herramienta y los argumentos en lugar de texto.
Tu programa comprueba esa petición, ejecuta la función y devuelve el resultado, y entonces el modelo escribe la respuesta final.
El modelo nunca ejecuta nada por sí mismo, así que tú controlas lo que se permite.
Recuerda
El modelo pide; tu código decide y ejecuta.