Pemikiran diperpanjang

"Extended thinking" (pemikiran diperpanjang) dalam mode manual memberi Anda kendali langsung atas seberapa banyak Claude berpikir. Anda menetapkan anggaran token pemikiran pada setiap permintaan dengan thinking: {type: "enabled", budget_tokens: N}, dan Claude berpikir dalam batas anggaran tersebut sebelum mulai menyusun jawaban akhirnya. Mode manual tetap berguna ketika beban kerja Anda memerlukan "latency" (latensi) yang dapat diprediksi atau kendali yang presisi atas biaya pemikiran. Halaman ini membahas cara menetapkan dan menyetel anggaran, interaksi mode manual dengan "interleaved thinking" (pemikiran berselang-seling) dan "prompt caching" (caching prompt), serta cara bermigrasi ke "adaptive thinking" (pemikiran adaptif).

Untuk mempelajari cara kerja pemikiran itu sendiri, termasuk blok pemikiran dan bentuk respons, parameter display, streaming, pemikiran dengan "tool use" (penggunaan alat), dan enkripsi, lihat ikhtisar pemikiran.

Model yang didukung

Ketersediaan pemikiran diperpanjang untuk setiap model, termasuk model yang hanya mendukung mode pemikiran diperpanjang, tercantum dalam tabel konfigurasi per model.

Cara menggunakan pemikiran diperpanjang

Berikut adalah contoh penggunaan pemikiran diperpanjang di Messages API:

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=16000,
    thinking={"type": "enabled", "budget_tokens": 10000},
    messages=[
        {
            "role": "user",
            "content": "Are there an infinite number of prime numbers such that n mod 4 == 3?",
        }
    ],
)

# Respons berisi blok pemikiran yang diringkas dan blok teks
for block in response.content:
    match block.type:
        case "thinking":
            print(f"\nThinking summary: {block.thinking}")
        case "text":
            print(f"\nResponse: {block.text}")

Untuk mengaktifkan pemikiran diperpanjang manual, tambahkan objek thinking dengan type bernilai enabled beserta nilai budget_tokens.

Parameter budget_tokens menetapkan target jumlah token yang dapat digunakan Claude untuk proses penalaran internalnya. Anggaran yang lebih besar dapat meningkatkan kualitas respons karena memungkinkan analisis yang lebih menyeluruh untuk masalah yang kompleks.

Aturan dan penyetelan anggaran

budget_tokens harus memenuhi batasan berikut:

• Minimal 1.024 token. API menolak nilai yang lebih kecil.
• Kurang dari max_tokens. Token pemikiran dihitung dalam batas max_tokens untuk giliran tersebut, sehingga anggaran harus menyisakan ruang untuk respons akhir. Satu-satunya pengecualian adalah pemikiran berselang-seling. Di sana, budget_tokens boleh melebihi max_tokens karena anggaran tersebut mencakup semua blok pemikiran dalam satu giliran asisten.
• Tanpa pre-warming cache. Karena budget_tokens harus kurang dari max_tokens, pemikiran diperpanjang tidak dapat digabungkan dengan max_tokens: 0 (pre-warming cache).

Anggaran ini adalah target, bukan batas yang ketat. Penggunaan token yang sebenarnya bervariasi sesuai tugas, dan Claude dapat berhenti bernalar jauh sebelum anggaran habis. max_tokens tetap menjadi batas mutlak untuk total output.

Pada Claude Opus 4.5, satu-satunya model khusus pemikiran diperpanjang yang mendukung effort, effort membentuk respons secara keseluruhan, sedangkan budget_tokens menetapkan kedalaman pemikiran. Tetapkan keduanya.

Untuk menyetel anggaran:

• Sesuaikan titik awal dengan tugasnya. Untuk tugas sederhana, mulailah di sekitar batas minimum 1.024 token, lalu naikkan secara bertahap untuk menemukan rentang optimal bagi kasus penggunaan Anda. Untuk tugas kompleks, mulailah dengan anggaran yang lebih besar, yaitu 16.000 token atau lebih, lalu sesuaikan dengan kebutuhan latensi dan kualitas Anda. Anggaran yang lebih tinggi memungkinkan penalaran yang lebih komprehensif, tetapi manfaat tambahannya makin berkurang tergantung tugasnya, dan latensinya meningkat. Untuk tugas penting, uji berbagai pengaturan untuk menemukan keseimbangan yang tepat.
• Untuk anggaran pemikiran di atas 32k, gunakan pemrosesan batch untuk menghindari masalah jaringan. Mendorong model berpikir melebihi 32k token menghasilkan permintaan yang berjalan lama, yang dapat terkena timeout sistem dan batas koneksi terbuka.

Untuk melacak biaya sebenarnya dari suatu anggaran, pantau field usage.output_tokens_details.thinking_tokens dalam respons. Field ini melaporkan berapa banyak token output yang ditagih yang merupakan penalaran internal. Saat streaming, rincian ini hanya muncul pada event message_delta terakhir.

Jika Anda siap meninggalkan anggaran manual, lihat Bermigrasi ke pemikiran adaptif.

Pemikiran berselang-seling dalam mode manual

"Interleaved thinking" (pemikiran berselang-seling) memungkinkan Claude berpikir di antara pemanggilan alat dalam satu giliran asisten, bernalar tentang setiap hasil alat sebelum menentukan apa yang harus dilakukan selanjutnya. Untuk konsepnya, struktur giliran, dan perilakunya pada model pemikiran adaptif, lihat pemikiran berselang-seling dalam ikhtisar pemikiran. Bagian ini membahas cara mengaktifkannya saat Anda menggunakan pemikiran manual type: "enabled".

Pada Claude Opus 4.5, Claude Sonnet 4.5 (deprecated), dan model Claude 4 sebelumnya, tambahkan header beta interleaved-thinking-2025-05-14 ke permintaan API Anda.

Generasi 4.6 berperilaku berbeda dalam mode manual:

• Claude Sonnet 4.6: header beta dengan type: "enabled" manual masih berfungsi tetapi sudah deprecated. Utamakan pemikiran adaptif, yang berselang-seling secara otomatis tanpa header.
• Claude Opus 4.6: mode manual sama sekali tidak memiliki pemikiran berselang-seling. Hanya mode adaptifnya yang berselang-seling, jadi beralihlah ke thinking: {type: "adaptive"} jika Anda memerlukan penalaran di antara pemanggilan alat pada model ini.

Claude Haiku 4.5 tidak mendukung pemikiran berselang-seling. Pada Claude API, header beta diterima tetapi diabaikan.

Dua pertimbangan lain untuk pemikiran berselang-seling dalam mode manual:

• budget_tokens dapat melebihi max_tokens di sini; aturan anggaran menjelaskan pengecualian ini.
• Pemikiran berselang-seling hanya didukung untuk alat yang digunakan melalui Messages API.

Cara platform memperlakukan header beta berbeda-beda. Claude API dan Claude Platform on AWS menerima interleaved-thinking-2025-05-14 pada model apa pun dan mengabaikannya jika tidak didukung. Diterima tidak sama dengan berpengaruh: pada model yang menolak type: "enabled" (4.7 dan yang lebih baru) atau tidak memiliki pemikiran berselang-seling dalam mode manual (Claude Opus 4.6), header tersebut tidak berpengaruh dalam mode manual; pemikiran adaptif berselang-seling secara otomatis di sana.

Platform yang dioperasikan mitra (Amazon Bedrock dan Google Cloud) juga menerima header tersebut pada model apa pun tanpa mengembalikan error, dan mengabaikannya pada model yang tidak mendukung pemikiran berselang-seling.

Struktur giliran dalam mode manual

Aturan umum struktur giliran, termasuk loop penggunaan alat dalam satu giliran, penanganan konflik di tengah giliran, dan pengaktifan atau penonaktifan pemikiran di antara giliran, dijelaskan di Pemikiran dengan penggunaan alat.

Mode manual menambahkan satu persyaratan: giliran asisten terakhir dari permintaan dengan pemikiran aktif harus diawali dengan blok pemikiran. Pemikiran adaptif tidak memiliki persyaratan ini. Mengubah konfigurasi pemikiran di antara giliran juga membatalkan caching prompt. Lihat bagian berikut.

Caching prompt dalam mode manual

Mode manual menambahkan satu aturan di atas perilaku caching yang berlaku untuk semua mode, seperti dijelaskan di pemikiran dan caching prompt. Mengubah budget_tokens di antara permintaan membatalkan breakpoint cache, sama seperti beralih mode pemikiran, karena nilai anggaran dirender ke dalam prompt. Breakpoint tingkat pesan selalu meleset setelah anggaran berubah. Apakah breakpoint alat dan prompt sistem juga meleset bergantung pada tempat model merender konfigurasi tersebut.

Dalam praktiknya, pilih satu anggaran dan pertahankan selama percakapan yang di-cache berlangsung. Contoh berikut menunjukkan pembatalan cache secara langsung: percakapan multi-giliran dengan caching tingkat pesan dijalankan pada Claude Sonnet 4.6, lalu anggaran pada permintaan ketiga diubah dari 4.000 menjadi 8.000 token:

First request - establishing cache
First response usage: { cache_creation_input_tokens: 1370, cache_read_input_tokens: 0, input_tokens: 17, output_tokens: 700 }

Second request - same thinking parameters (cache hit expected)
Second response usage: { cache_creation_input_tokens: 0, cache_read_input_tokens: 1370, input_tokens: 303, output_tokens: 874 }

Third request - different thinking budget (cache miss expected)
Third response usage: { cache_creation_input_tokens: 1370, cache_read_input_tokens: 0, input_tokens: 747, output_tokens: 619 }

Permintaan ketiga membuat ulang cache (cache_creation_input_tokens=1370, cache_read_input_tokens=0) karena anggaran berubah di antara permintaan. Untuk versi yang dapat dijalankan dari eksperimen yang sama dalam mode adaptif, di mana tingkat effort memainkan peran cache yang dimainkan budget_tokens di sini, lihat Caching prompt di halaman pengarahan.

Mekanisme bersama

Sebagian besar perilaku pemikiran berlaku untuk semua mode dan didokumentasikan satu kali di halaman Pemikiran. Semua yang ada di sana juga berlaku dalam mode manual:

• Mengontrol tampilan pemikiran
• Streaming pemikiran
• Pemikiran dengan penggunaan alat, termasuk mempertahankan blok pemikiran
• Pemikiran dan caching prompt
• Pemikiran dan "context window" (jendela konteks)
• Enkripsi pemikiran
• Harga (di halaman Mengarahkan pemikiran)

Bermigrasi ke pemikiran adaptif

Jika model Anda hanya mendukung pemikiran diperpanjang (Claude Sonnet 4.5 (deprecated), Claude Opus 4.5, Claude Haiku 4.5, dan model Claude 4 sebelumnya), tidak ada tindakan yang diperlukan saat ini: pemikiran adaptif tidak tersedia di sana, dan type: "adaptive" mengembalikan error 400. Pertahankan budget_tokens hingga Anda beralih ke model yang mendukung pemikiran adaptif, lalu terapkan pemetaan berikut.

Anda perlu bermigrasi dari type: "enabled" jika:

• Anda menggunakan Claude Opus 4.6 atau Claude Sonnet 4.6, di mana budget_tokens sudah deprecated.
• Anda menggunakan Claude 4.7 atau model yang lebih baru, seperti Claude Opus 5.5, Claude Sonnet 5, Claude Sonnet 5.5, Claude Fable 5.1, atau Claude Haiku 5.5, di mana type: "enabled" mengembalikan error 400.

Pemetaannya sederhana: hapus budget_tokens, atur thinking: {type: "adaptive"}, dan kendalikan kedalaman penalaran dengan output_config: {effort: ...} alih-alih anggaran token.

{
  "model": "claude-sonnet-4-6",
  "max_tokens": 16000,
  "thinking": {
    "type": "enabled",
    "budget_tokens": 10000
  }
}

menjadi:

{
  "model": "claude-sonnet-4-6",
  "max_tokens": 16000,
  "thinking": {
    "type": "adaptive"
  },
  "output_config": {
    "effort": "high"
  }
}

effort: "high" adalah default pada Claude Sonnet 4.6, sehingga menghilangkannya di sini menghasilkan perilaku yang identik; ini hanya ditampilkan untuk menunjukkan di mana kontrol kedalaman berada dalam mode adaptif. Claude Opus 5.5 dan Claude Haiku 5.5 memiliki default "medium", dan model lain yang mendukung effort memiliki default "high" (lihat Tingkat effort).

Perkirakan adanya perbedaan perilaku, bukan sekadar perubahan sintaks. Dengan anggaran tetap, Claude berpikir pada setiap permintaan. Dengan pemikiran adaptif, Claude menentukan apakah dan seberapa banyak berpikir pada setiap permintaan, dan pada pengaturan effort yang lebih rendah, Claude dapat melewatkan pemikiran sepenuhnya pada input yang mudah. Anda juga dapat menghapus header beta interleaved-thinking-2025-05-14 setelah bermigrasi: pemikiran adaptif berselang-seling secara otomatis, dan Claude API mengabaikan header tersebut pada model-model ini. Preservasi blok pemikiran juga berubah: Claude Opus 4.5 dan model bernomor 4.6 ke atas menyimpan blok pemikiran dari giliran sebelumnya dalam konteks dan menagihnya sebagai input, sedangkan Claude Sonnet 4.5 (deprecated), Claude Haiku 4.5, dan model sebelumnya menghapusnya; lihat preservasi blok pemikiran berdasarkan model.

Beralih mode merupakan perubahan konfigurasi pemikiran, sehingga permintaan pertama setelah peralihan membatalkan breakpoint cache, seperti yang dijelaskan dalam Caching prompt dalam mode manual.

Untuk panduan lengkap, lihat pemikiran adaptif, effort, dan panduan migrasi model.

Langkah selanjutnya