El uso de herramientas ahora admite transmisión de grano fino para valores de parámetros. Esto permite a los desarrolladores transmitir parámetros de uso de herramientas sin almacenamiento en búfer / validación JSON, reduciendo la latencia para comenzar a recibir parámetros grandes.

La transmisión de herramientas de grano fino es una característica beta. Por favor, asegúrese de evaluar sus respuestas antes de usarla en producción.

Por favor, use este formulario para proporcionar comentarios sobre la calidad de las respuestas del modelo, la API en sí, o la calidad de la documentación—¡no podemos esperar a escuchar de usted!

Al usar la transmisión de herramientas de grano fino, potencialmente puede recibir entradas JSON inválidas o parciales. Por favor, asegúrese de tener en cuenta estos casos extremos en su código.

​
Cómo usar la transmisión de herramientas de grano fino

Para usar esta característica beta, simplemente agregue el encabezado beta fine-grained-tool-streaming-2025-05-14 a una solicitud de uso de herramientas y active la transmisión.

Aquí hay un ejemplo de cómo usar la transmisión de herramientas de grano fino con la API:

curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "anthropic-beta: fine-grained-tool-streaming-2025-05-14" \
  -d '{
    "model": "claude-sonnet-4-20250514",
    "max_tokens": 65536,
    "tools": [
      {
        "name": "make_file",
        "description": "Write text to a file",
        "input_schema": {
          "type": "object",
          "properties": {
            "filename": {
              "type": "string",
              "description": "The filename to write text to"
            },
            "lines_of_text": {
              "type": "array",
              "description": "An array of lines of text to write to the file"
            }
          },
          "required": ["filename", "lines_of_text"]
        }
      }
    ],
    "messages": [
      {
        "role": "user",
        "content": "Can you write a long poem and make a file called poem.txt?"
      }
    ],
    "stream": true
  }' | jq '.usage'

En este ejemplo, la transmisión de herramientas de grano fino permite a Claude transmitir las líneas de un poema largo en la llamada de herramienta make_file sin almacenar en búfer para validar si el parámetro lines_of_text es JSON válido. Esto significa que puede ver el parámetro transmitirse a medida que llega, sin tener que esperar a que todo el parámetro se almacene en búfer y se valide.

Con la transmisión de herramientas de grano fino, los fragmentos de uso de herramientas comienzan a transmitirse más rápido, y a menudo son más largos y contienen menos saltos de palabra. Esto se debe a diferencias en el comportamiento de fragmentación.

Ejemplo:

Sin transmisión de grano fino (retraso de 15s):

Fragmento 1: '{"'
Fragmento 2: 'query": "Ty'
Fragmento 3: 'peScri'
Fragmento 4: 'pt 5.0 5.1 '
Fragmento 5: '5.2 5'
Fragmento 6: '.3'
Fragmento 8: ' new f'
Fragmento 9: 'eatur'
...

Con transmisión de grano fino (retraso de 3s):

Fragmento 1: '{"query": "TypeScript 5.0 5.1 5.2 5.3'
Fragmento 2: ' new features comparison'

Debido a que la transmisión de grano fino envía parámetros sin almacenamiento en búfer o validación JSON, no hay garantía de que la transmisión resultante se complete en una cadena JSON válida. Particularmente, si se alcanza la razón de parada max_tokens, la transmisión puede terminar a la mitad de un parámetro y puede estar incompleta. Generalmente tendrá que escribir soporte específico para manejar cuando se alcance max_tokens.