Amazon Bedrock API

pip install -U "anthropic[bedrock]"

aws bedrock list-foundation-models --region=us-west-2 --by-provider anthropic --query "modelSummaries[*].modelId"

from anthropic import AnthropicBedrock

client = AnthropicBedrock(
    # 通過提供以下密鑰進行身份驗證，或使用默認的 AWS 憑證提供程序，例如
    # 使用 ~/.aws/credentials 或環境變量 "AWS_SECRET_ACCESS_KEY" 和 "AWS_ACCESS_KEY_ID"。
    aws_access_key="<access key>",
    aws_secret_key="<secret key>",
    # 可以使用 aws_session_token 提供臨時憑證。
    # 在 https://docs.aws.amazon.com/IAM/latest/UserGuide/id_credentials_temp.html 閱讀更多信息。
    aws_session_token="<session_token>",
    # aws_region 更改發出請求的 aws 區域。默認情況下，我們讀取 AWS_REGION，
    # 如果不存在，則默認為 us-east-1。請注意，我們不會讀取 ~/.aws/config 中的區域。
    aws_region="us-west-2",
)

message = client.messages.create(
    model="anthropic.claude-3-sonnet-20240229-v1:0",
    max_tokens=256,
    messages=[{"role": "user", "content": "Hello, world"}]
)
print(message.content)