Tool penggunaan komputer

​

Gambaran Umum

• Tangkapan screenshot: Melihat apa yang sedang ditampilkan di layar
• Kontrol mouse: Klik, seret, dan gerakkan kursor
• Input keyboard: Ketik teks dan gunakan shortcut keyboard
• Otomasi desktop: Berinteraksi dengan aplikasi atau antarmuka apa pun

​

Kompatibilitas model

​

Pertimbangan keamanan

​

Mulai cepat

import anthropic

client = anthropic.Anthropic()

response = client.beta.messages.create(
    model="claude-sonnet-4-20250514",  # atau model kompatibel lainnya
    max_tokens=1024,
    tools=[
        {
          "type": "computer_20250124",
          "name": "computer",
          "display_width_px": 1024,
          "display_height_px": 768,
          "display_number": 1,
        },
        {
          "type": "text_editor_20250124",
          "name": "str_replace_editor"
        },
        {
          "type": "bash_20250124",
          "name": "bash"
        }
    ],
    messages=[{"role": "user", "content": "Simpan gambar kucing ke desktop saya."}],
    betas=["computer-use-2025-01-24"]
)
print(response)

​

Cara kerja penggunaan komputer

​

Lingkungan komputasi

1. Display virtual: Server display virtual X11 (menggunakan Xvfb) yang merender antarmuka desktop yang akan dilihat Claude melalui screenshot dan dikontrol dengan tindakan mouse/keyboard.
2. Lingkungan desktop: UI ringan dengan window manager (Mutter) dan panel (Tint2) yang berjalan di Linux, yang menyediakan antarmuka grafis yang konsisten untuk berinteraksi dengan Claude.
3. Aplikasi: Aplikasi Linux yang telah diinstal sebelumnya seperti Firefox, LibreOffice, text editor, dan file manager yang dapat digunakan Claude untuk menyelesaikan tugas.
4. Implementasi tool: Kode integrasi yang menerjemahkan permintaan tool abstrak Claude (seperti “gerakkan mouse” atau “ambil screenshot”) menjadi operasi aktual di lingkungan virtual.
5. Loop agen: Program yang menangani komunikasi antara Claude dan lingkungan, mengirim tindakan Claude ke lingkungan dan mengembalikan hasil (screenshot, output perintah) kembali ke Claude.

1. Menerima permintaan penggunaan tool Claude
2. Menerjemahkannya menjadi tindakan di lingkungan komputasi Anda
3. Menangkap hasil (screenshot, output perintah, dll.)
4. Mengembalikan hasil ini ke Claude

​

Cara mengimplementasikan penggunaan komputer

​

Mulai dengan implementasi referensi kami

• Lingkungan containerized yang cocok untuk penggunaan komputer dengan Claude
• Implementasi tool penggunaan komputer
• Loop agen yang berinteraksi dengan API Anthropic dan mengeksekusi tool penggunaan komputer
• Antarmuka web untuk berinteraksi dengan container, loop agen, dan tool.

​

Memahami loop multi-agen

async def sampling_loop(
    *,
    model: str,
    messages: list[dict],
    api_key: str,
    max_tokens: int = 4096,
    tool_version: str,
    thinking_budget: int | None = None,
    max_iterations: int = 10,  # Tambahkan batas iterasi untuk mencegah loop tak terbatas
):
    """
    Loop agen sederhana untuk interaksi penggunaan komputer Claude.

    Fungsi ini menangani bolak-balik antara:
    1. Mengirim pesan pengguna ke Claude
    2. Claude meminta untuk menggunakan tool
    3. Aplikasi Anda mengeksekusi tool tersebut
    4. Mengirim hasil tool kembali ke Claude
    """
    # Siapkan tool dan parameter API
    client = Anthropic(api_key=api_key)
    beta_flag = "computer-use-2025-01-24" if "20250124" in tool_version else "computer-use-2024-10-22"

    # Konfigurasi tool - Anda harus sudah menginisialisasi ini di tempat lain
    tools = [
        {"type": f"computer_{tool_version}", "name": "computer", "display_width_px": 1024, "display_height_px": 768},
        {"type": f"text_editor_{tool_version}", "name": "str_replace_editor"},
        {"type": f"bash_{tool_version}", "name": "bash"}
    ]

    # Loop agen utama (dengan batas iterasi untuk mencegah biaya API yang tidak terkendali)
    iterations = 0
    while True and iterations < max_iterations:
        iterations += 1
        # Siapkan parameter thinking opsional (untuk Claude Sonnet 3.7)
        thinking = None
        if thinking_budget:
            thinking = {"type": "enabled", "budget_tokens": thinking_budget}

        # Panggil API Claude
        response = client.beta.messages.create(
            model=model,
            max_tokens=max_tokens,
            messages=messages,
            tools=tools,
            betas=[beta_flag],
            thinking=thinking
        )

        # Tambahkan respons Claude ke riwayat percakapan
        response_content = response.content
        messages.append({"role": "assistant", "content": response_content})

        # Periksa apakah Claude menggunakan tool apa pun
        tool_results = []
        for block in response_content:
            if block.type == "tool_use":
                # Dalam aplikasi nyata, Anda akan mengeksekusi tool di sini
                # Misalnya: result = run_tool(block.name, block.input)
                result = {"result": "Tool berhasil dieksekusi"}

                # Format hasil untuk Claude
                tool_results.append({
                    "type": "tool_result",
                    "tool_use_id": block.id,
                    "content": result
                })

        # Jika tidak ada tool yang digunakan, Claude selesai - kembalikan pesan final
        if not tool_results:
            return messages

        # Tambahkan hasil tool ke pesan untuk iterasi berikutnya dengan Claude
        messages.append({"role": "user", "content": tool_results})

​

Optimalkan performa model dengan prompting

1. Tentukan tugas yang sederhana dan terdefinisi dengan baik dan berikan instruksi eksplisit untuk setiap langkah.
2. Claude terkadang mengasumsikan hasil tindakannya tanpa secara eksplisit memeriksa hasilnya. Untuk mencegah ini, Anda dapat meminta Claude dengan Setelah setiap langkah, ambil screenshot dan evaluasi dengan hati-hati apakah Anda telah mencapai hasil yang benar. Tunjukkan pemikiran Anda secara eksplisit: "Saya telah mengevaluasi langkah X..." Jika tidak benar, coba lagi. Hanya ketika Anda mengonfirmasi langkah telah dieksekusi dengan benar, Anda harus melanjutkan ke langkah berikutnya.
3. Beberapa elemen UI (seperti dropdown dan scrollbar) mungkin sulit dimanipulasi Claude menggunakan gerakan mouse. Jika Anda mengalami ini, coba meminta model untuk menggunakan shortcut keyboard.
4. Untuk tugas yang dapat diulang atau interaksi UI, sertakan contoh screenshot dan panggilan tool dari hasil yang berhasil dalam prompt Anda.
5. Jika Anda perlu model untuk login, berikan username dan password dalam prompt Anda di dalam tag xml seperti <robot_credentials>. Menggunakan penggunaan komputer dalam aplikasi yang memerlukan login meningkatkan risiko hasil buruk sebagai akibat dari injeksi prompt. Harap tinjau panduan kami tentang mitigasi injeksi prompt sebelum memberikan kredensial login kepada model.

​

Prompt sistem

Anda memiliki akses ke serangkaian fungsi yang dapat Anda gunakan untuk menjawab pertanyaan pengguna. Ini termasuk akses ke lingkungan komputasi yang terisolasi. Anda TIDAK saat ini memiliki kemampuan untuk memeriksa file atau berinteraksi dengan sumber daya eksternal, kecuali dengan memanggil fungsi di bawah ini.

​

Tindakan yang tersedia

• screenshot - Tangkap display saat ini
• left_click - Klik pada koordinat [x, y]
• type - Ketik string teks
• key - Tekan tombol atau kombinasi tombol (misalnya, “ctrl+s”)
• mouse_move - Gerakkan kursor ke koordinat

• scroll - Scroll ke arah mana pun dengan kontrol jumlah
• left_click_drag - Klik dan seret antara koordinat
• right_click, middle_click - Tombol mouse tambahan
• double_click, triple_click - Klik ganda
• left_mouse_down, left_mouse_up - Kontrol klik yang halus
• hold_key - Tahan tombol sambil melakukan tindakan lain
• wait - Jeda antara tindakan

​

Parameter tool

​

Aktifkan kemampuan thinking di model Claude 4 dan Claude Sonnet 3.7

"thinking": {
  "type": "enabled",
  "budget_tokens": 1024
}

1. Memahami proses pengambilan keputusan model
2. Mengidentifikasi masalah atau kesalahpahaman potensial
3. Belajar dari pendekatan Claude untuk pemecahan masalah
4. Mendapatkan lebih banyak visibilitas ke dalam operasi multi-langkah yang kompleks

[Thinking]
Saya perlu menyimpan gambar kucing ke desktop. Mari saya bagi ini menjadi langkah-langkah:

1. Pertama, saya akan mengambil screenshot untuk melihat apa yang ada di desktop
2. Kemudian saya akan mencari browser web untuk mencari gambar kucing
3. Setelah menemukan gambar yang cocok, saya perlu menyimpannya ke desktop

Mari saya mulai dengan mengambil screenshot untuk melihat apa yang tersedia...

​

Memperkuat penggunaan komputer dengan tool lain

• Mengeksekusi perintah sistem (tool bash)
• Mengedit file konfigurasi atau skrip (tool text editor)
• Mengintegrasikan dengan API atau layanan kustom (tool kustom)

curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "anthropic-beta: computer-use-2025-01-24" \
  -d '{
    "model": "claude-opus-4-1-20250805",
    "max_tokens": 2000,
    "tools": [
      {
        "type": "computer_20250124",
        "name": "computer",
        "display_width_px": 1024,
        "display_height_px": 768,
        "display_number": 1
      },
      {
        "type": "text_editor_20250124",
        "name": "str_replace_editor"
      },
      {
        "type": "bash_20250124",
        "name": "bash"
      },
      {
        "name": "get_weather",
        "description": "Dapatkan cuaca saat ini di lokasi tertentu",
        "input_schema": {
          "type": "object",
          "properties": {
            "location": {
              "type": "string",
              "description": "Kota dan negara bagian, misalnya San Francisco, CA"
            },
            "unit": {
              "type": "string",
              "enum": ["celsius", "fahrenheit"],
              "description": "Unit suhu, baik 'celsius' atau 'fahrenheit'"
            }
          },
          "required": ["location"]
        }
      }
    ],
    "messages": [
      {
        "role": "user",
        "content": "Temukan penerbangan dari San Francisco ke tempat dengan cuaca yang lebih hangat."
      }
    ],
    "thinking": {
      "type": "enabled",
      "budget_tokens": 1024
    }
  }'

​

Bangun lingkungan penggunaan komputer kustom

• Lingkungan yang divirtualisasi atau dikontainerisasi yang cocok untuk penggunaan komputer dengan Claude
• Implementasi setidaknya satu dari tool penggunaan komputer yang didefinisikan Anthropic
• Loop agen yang berinteraksi dengan API Anthropic dan mengeksekusi hasil tool_use menggunakan implementasi tool Anda
• API atau UI yang memungkinkan input pengguna untuk memulai loop agen

​

Implementasikan tool penggunaan komputer

def handle_computer_action(action_type, params):
    if action_type == "screenshot":
        return capture_screenshot()
    elif action_type == "left_click":
        x, y = params["coordinate"]
        return click_at(x, y)
    elif action_type == "type":
        return type_text(params["text"])
    # ... tangani tindakan lain

for content in response.content:
    if content.type == "tool_use":
        action = content.input["action"]
        result = handle_computer_action(action, content.input)
        
        # Kembalikan hasil ke Claude
        tool_result = {
            "type": "tool_result",
            "tool_use_id": content.id,
            "content": result
        }

while True:
    response = client.beta.messages.create(...)
    
    # Periksa apakah Claude menggunakan tool apa pun
    tool_results = process_tool_calls(response)
    
    if not tool_results:
        # Tidak ada lagi penggunaan tool, tugas selesai
        break
        
    # Lanjutkan percakapan dengan hasil tool
    messages.append({"role": "user", "content": tool_results})

​

Tangani error

​

Ikuti praktik terbaik implementasi

​

Memahami keterbatasan penggunaan komputer

1. Latensi: latensi penggunaan komputer saat ini untuk interaksi manusia-AI mungkin terlalu lambat dibandingkan dengan tindakan komputer yang diarahkan manusia biasa. Kami merekomendasikan fokus pada kasus penggunaan di mana kecepatan tidak kritis (misalnya, pengumpulan informasi latar belakang, pengujian perangkat lunak otomatis) di lingkungan terpercaya.
2. Akurasi dan keandalan computer vision: Claude mungkin membuat kesalahan atau berhalusinasi saat mengeluarkan koordinat spesifik sambil menghasilkan tindakan. Claude Sonnet 3.7 memperkenalkan kemampuan thinking yang dapat membantu Anda memahami penalaran model dan mengidentifikasi masalah potensial.
3. Akurasi dan keandalan pemilihan tool: Claude mungkin membuat kesalahan atau berhalusinasi saat memilih tool sambil menghasilkan tindakan atau mengambil tindakan tak terduga untuk memecahkan masalah. Selain itu, keandalan mungkin lebih rendah saat berinteraksi dengan aplikasi niche atau beberapa aplikasi sekaligus. Kami merekomendasikan agar pengguna meminta model dengan hati-hati saat meminta tugas kompleks.
4. Keandalan scrolling: Meskipun Claude Sonnet 3.5 v2 (deprecated) memiliki keterbatasan dengan scrolling, Claude Sonnet 3.7 memperkenalkan tindakan scroll khusus dengan kontrol arah yang meningkatkan keandalan. Model sekarang dapat secara eksplisit scroll ke arah mana pun (atas/bawah/kiri/kanan) dengan jumlah yang ditentukan.
5. Interaksi spreadsheet: Klik mouse untuk interaksi spreadsheet telah meningkat di Claude Sonnet 3.7 dengan penambahan tindakan kontrol mouse yang lebih presisi seperti left_mouse_down, left_mouse_up, dan dukungan tombol modifier baru. Pemilihan sel dapat lebih andal dengan menggunakan kontrol halus ini dan menggabungkan tombol modifier dengan klik.
6. Pembuatan akun dan generasi konten di platform sosial dan komunikasi: Meskipun Claude akan mengunjungi situs web, kami membatasi kemampuannya untuk membuat akun atau menghasilkan dan berbagi konten atau terlibat dalam peniruan manusia di situs web media sosial dan platform. Kami mungkin memperbarui kemampuan ini di masa depan.
7. Kerentanan: Kerentanan seperti jailbreaking atau injeksi prompt mungkin bertahan di sistem AI frontier, termasuk API penggunaan komputer beta. Dalam beberapa keadaan, Claude akan mengikuti perintah yang ditemukan dalam konten, terkadang bahkan bertentangan dengan instruksi pengguna. Misalnya, instruksi Claude di halaman web atau yang terkandung dalam gambar dapat mengesampingkan instruksi atau menyebabkan Claude membuat kesalahan. Kami merekomendasikan: a. Membatasi penggunaan komputer ke lingkungan terpercaya seperti mesin virtual atau container dengan hak istimewa minimal b. Menghindari memberikan akses penggunaan komputer ke akun atau data sensitif tanpa pengawasan ketat c. Menginformasikan pengguna akhir tentang risiko yang relevan dan mendapatkan persetujuan mereka sebelum mengaktifkan atau meminta izin yang diperlukan untuk fitur penggunaan komputer dalam aplikasi Anda
8. Tindakan yang tidak pantas atau ilegal: Sesuai syarat layanan Anthropic, Anda tidak boleh menggunakan penggunaan komputer untuk melanggar hukum apa pun atau Kebijakan Penggunaan yang Dapat Diterima kami.

​

Harga

• Screenshot images (see Vision pricing)
• Tool execution results returned to Claude

​

Langkah selanjutnya