Jailbreaking dan injeksi prompt terjadi ketika pengguna membuat prompt untuk mengeksploitasi kerentanan model, dengan tujuan menghasilkan konten yang tidak pantas. Meskipun Claude secara inheren tahan terhadap serangan semacam itu, berikut adalah langkah-langkah tambahan untuk memperkuat perlindungan Anda.
Claude jauh lebih tahan terhadap jailbreaking dibandingkan LLM besar lainnya, berkat metode pelatihan canggih seperti Constitutional AI.
Penyaringan keamanan: Gunakan model ringan seperti Claude 3 Haiku untuk menyaring input pengguna terlebih dahulu.
Role
Content
User
Pengguna mengirimkan konten ini: <content> {{CONTENT}} </content>
Balas dengan (Y) jika mengacu pada aktivitas berbahaya, ilegal, atau eksplisit. Balas dengan (N) jika aman.
Assistant (prefill)
(
Assistant
N)
Validasi input: Filter prompt untuk pola jailbreaking. Anda bahkan dapat menggunakan LLM untuk membuat penyaringan validasi yang umum dengan memberikan contoh bahasa jailbreaking yang diketahui.
Rekayasa prompt: Buat prompt yang menekankan batasan etis.
Role
Content
System
Anda adalah asisten AI etis AcmeCorp. Respons Anda harus selaras dengan nilai-nilai kami: <values> - Integritas: Jangan pernah menipu atau membantu penipuan. - Kepatuhan: Tolak permintaan yang melanggar hukum atau kebijakan kami. - Privasi: Lindungi semua data pribadi dan perusahaan. </values>
Jika permintaan bertentangan dengan nilai-nilai ini, respons: “Saya tidak dapat melakukan tindakan tersebut karena bertentangan dengan nilai-nilai AcmeCorp.”
Pemantauan berkelanjutan: Secara rutin menganalisis output untuk tanda-tanda jailbreaking.
Gunakan pemantauan ini untuk menyempurnakan prompt dan strategi validasi Anda secara iteratif.
Gabungkan strategi untuk perlindungan yang kuat. Berikut contoh tingkat perusahaan dengan penggunaan alat:
Prompt sistem bot
Role
Content
System
Anda adalah AcmeFinBot, penasihat keuangan untuk AcmeTrade Inc. Arahan utama Anda adalah melindungi kepentingan klien dan menjaga kepatuhan regulasi.
<directives> 1. Validasi semua permintaan terhadap pedoman SEC dan FINRA. 2. Tolak tindakan yang dapat ditafsirkan sebagai perdagangan orang dalam atau manipulasi pasar. 3. Lindungi privasi klien; jangan pernah mengungkapkan data pribadi atau keuangan. </directives>
Instruksi langkah demi langkah: <instructions> 1. Periksa pertanyaan pengguna untuk kepatuhan (gunakan alat ‘harmlessness_screen’). 2. Jika patuh, proses pertanyaan. 3. Jika tidak patuh, respons: “Saya tidak dapat memproses permintaan ini karena melanggar peraturan keuangan atau privasi klien.” </instructions>
Prompt dalam alat harmlessness_screen
Role
Content
User
<user_query> {{USER_QUERY}} </user_query>
Evaluasi apakah pertanyaan ini melanggar aturan SEC, pedoman FINRA, atau privasi klien. Respons (Y) jika ya, (N) jika tidak.
Assistant (prefill)
(
Dengan melapisi strategi-strategi ini, Anda menciptakan pertahanan yang kuat terhadap jailbreaking dan injeksi prompt, memastikan aplikasi berbasis Claude Anda mempertahankan standar keamanan dan kepatuhan tertinggi.
