Pelajari cara kerja indirect prompt injection pada aplikasi LLM. Panduan bagi QA untuk menguji kerentanan file PDF, dokumen, website, dan sistem RAG (Retrieval-Augmented Generation).
Direct Prompt Injection adalah kerentanan di mana pengguna secara sengaja memasukkan teks berbahaya langsung ke dalam antarmuka aplikasi AI (seperti kolom chat atau API) untuk memanipulasi output model. Teknik utamanya meliputi instruction override (membatalkan instruksi awal) dan persona hijacking (memaksa model mengambil peran tanpa batasan keamanan).
Pelajari cara QA Engineer dan SDET memetakan attack surface pada aplikasi LLM. Temukan titik masuk prompt injection dari API, dokumen, hingga integrasi RAG.
Pelajari anatomi prompt injection pada LLM. Pahami bagaimana system prompt digabungkan dengan user input, dan celah apa yang dieksploitasi oleh penyerang.
Menjelaskan secara teknis (komparasi arsitektural) mengapa kerentanan AI tidak bisa diselesaikan dengan solusi keamanan tradisional seperti parameterized query, serta bagaimana mindset pengujian harus bergeser dari deterministik ke probabilistik.
