Fenomena ini dikenal sebagai “halusinasi” dan dapat terjadi ketika model mencoba mengisi kesenjangan dalam pengetahuannya atau ketika input ambigu.

Mari kita jelajahi berbagai strategi untuk meminimalkan halusinasi dan meningkatkan akurasi serta keandalan output Claude. Dengan menerapkan teknik-teknik ini, Anda dapat memastikan pengalaman pengguna yang lebih baik dan hasil yang lebih dapat dipercaya.

​
Izinkan Claude untuk mengatakan “Saya tidak tahu”

Salah satu cara efektif untuk mengurangi halusinasi adalah dengan secara eksplisit memberikan izin kepada Claude untuk mengatakan “Saya tidak tahu,” terutama ketika mengajukan pertanyaan berbasis fakta (juga dikenal sebagai “memberikan Claude jalan keluar”). Ini memungkinkan Claude untuk mengakui keterbatasannya dan menghindari menghasilkan informasi yang salah.

Berikut adalah contoh prompt yang mendorong Claude untuk mengakui ketika tidak memiliki jawaban:

Konten
SystemTolong jawab pertanyaan berikut sebaik mungkin. Jika Anda tidak yakin atau tidak memiliki cukup informasi untuk memberikan jawaban yang pasti, cukup katakan “Saya tidak tahu” atau “Saya tidak yakin.”
UserApa ibu kota Burkina Faso?

Dengan memberikan Claude “jalan keluar” yang eksplisit, Anda dapat mengurangi kemungkinan menghasilkan informasi yang tidak akurat.

Pengingat

Meskipun Claude telah membaca banyak di internet dan mengetahui hal-hal tentang dunia nyata, ia tidak memiliki akses internet. Claude dilatih pada data yang bisa berusia lebih dari setahun. Ia juga tidak mengetahui apa pun tentang peristiwa terkini.

​
Minta Claude untuk kutipan langsung

Ketika bekerja dengan dokumen panjang, meminta Claude untuk mengekstrak kutipan kata demi kata yang relevan dengan pertanyaan tertentu dapat membantu meminimalkan halusinasi. Pendekatan ini lebih efektif untuk dokumen yang lebih panjang (>300 kata) dan mungkin kurang andal untuk yang lebih pendek.

Berikut adalah contoh prompt yang meminta kutipan langsung:

PeranKonten
UserPertimbangkan dokumen berikut:
\
{{DOCUMENT}}
\

Tolong ekstrak kutipan kata demi kata dari dokumen ini yang relevan dengan pertanyaan <question>{{QUESTION}}</question>. Jika tidak ada kutipan dalam dokumen ini yang tampaknya relevan dengan pertanyaan ini, katakan “Saya tidak dapat menemukan kutipan yang relevan.”

Dengan meminta kutipan langsung, Anda dapat lebih mudah memverifikasi keakuratan informasi yang diberikan oleh Claude (dan selanjutnya membuat Claude menggunakan kutipan untuk kutipan inline). Anda juga dapat melakukan pencocokan string atau menghitung persentase tumpang tindih antara kutipan dan dokumen asli untuk memastikan model tidak berhalusinasi.

Catatan akurasi ekstraksi kutipan

Anda mungkin tidak mendapatkan reproduksi 100% dari teks dokumen asli saat meminta kutipan, tetapi Anda ingin kesetiaan menjadi tinggi. Misalnya, model mungkin menambahkan “[sic.]” jika ada kesalahan dalam dokumen, atau menambahkan konteks ke kutipan seperti dia [Brian] mengajaknya [Diana] makan malam, yang tidak apa-apa selama konten yang ditambahkan akurat.

Jika menurut Anda Claude menambahkan konten yang tidak akurat, Anda mungkin ingin menyaring tingkat tumpang tindih yang sangat tinggi dan membuat instruksi lebih ketat, misalnya, dengan menambahkan sesuatu seperti Harap pastikan kutipan Anda diambil langsung secara harfiah dari dokumen. Jangan tambahkan konten tambahan apa pun seperti disambiguasi atau komentar.

Anda dapat lebih jauh memanfaatkan kutipan langsung yang diekstrak Claude dengan memberi tahu Claude untuk menjawab hanya jika ada informasi yang relevan ditemukan pada kutipan tersebut, atau untuk mendasarkan jawabannya hanya pada informasi yang ditemukan dalam kutipan yang diekstrak. Lihat contoh prompt berbasis kutipan ini dari perpustakaan prompt kami:

Konten
SystemAnda adalah asisten peneliti ahli. Berikut adalah dokumen yang akan Anda jawab pertanyaannya:
\
{{DOCUMENT}}
\
OverviewMitigasi jailbreaks & injeksi prompt