Human-in-the-loop atau HITL adalah mekanisme yang melibatkan manusia untuk meninjau, menyetujui, memperbaiki, atau mengambil alih pekerjaan agen AI. Tujuannya bukan menambahkan approval di setiap langkah, melainkan menempatkan kontrol manusia pada keputusan yang memiliki dampak, ketidakpastian, atau kewajiban akuntabilitas.
Jika semua hasil harus diperiksa, otomasi hanya memindahkan pekerjaan. Sebaliknya, jika agen selalu bertindak sendiri, organisasi kehilangan kendali atas keputusan penting. Desain HITL perlu menemukan titik keseimbangan berdasarkan risiko dan karakter proses.
Keputusan mengenai approval perlu dibuat sebelum implementasi tools. Tim harus mengetahui siapa pemberi persetujuan, informasi apa yang ditampilkan, batas waktu respons, jalur delegasi, dan apa yang terjadi ketika permintaan tidak dijawab.
Ringkasan Utama
- Approval ditentukan oleh risiko, bukan sekadar tingkat kepercayaan model.
- Reviewer membutuhkan konteks dan alasan, bukan tombol setuju saja.
- SLA, delegasi, dan timeout harus menjadi bagian dari desain.
- Data koreksi manusia dapat memperbaiki evaluasi agen berikutnya.
Kondisi yang Membutuhkan Keterlibatan Manusia
Persetujuan dibutuhkan ketika tindakan memiliki dampak finansial, hukum, keamanan, reputasi, atau menyentuh data sensitif. Keterlibatan manusia juga relevan saat informasi tidak lengkap, terdapat konflik kebijakan, nilai transaksi melewati batas, atau hasil agen memiliki ketidakpastian tinggi.
Aktivitas rutin, dapat dipulihkan, bernilai rendah, dan telah terbukti stabil dapat diproses otomatis. Namun, organisasi tetap membutuhkan sampling, monitoring, dan jalur pelaporan agar penurunan kualitas tidak berlangsung tanpa diketahui.
- Keputusan yang sulit atau mahal untuk dibatalkan.
- Pengecualian kebijakan dan data sensitif.
- Konflik informasi atau ketidakpastian tinggi.
- Komunikasi eksternal dengan dampak reputasi.
Merancang Pengalaman Approval yang Efektif
Reviewer perlu menerima ringkasan situasi, sumber informasi, tindakan yang diusulkan, dampak, serta alasan eskalasi. Informasi tersebut harus cukup untuk mengambil keputusan tanpa mengulang seluruh pekerjaan agen dari awal.
Pilihan keputusan sebaiknya lebih kaya daripada setuju atau tolak. Reviewer dapat menyetujui dengan perubahan, meminta informasi tambahan, mengalihkan kepada spesialis, atau membatalkan tindakan. Setiap keputusan dicatat bersama identitas, waktu, alasan, dan perubahan yang dilakukan.
- Konteks, sumber, dan rekomendasi agen.
- Dampak serta parameter tindakan.
- Pilihan approve, revise, reject, atau escalate.
- Catatan keputusan untuk audit dan evaluasi.
Mengukur Apakah HITL Sudah Tepat
Terlalu banyak eskalasi menunjukkan scope agen terlalu luas, instruksi belum jelas, atau threshold terlalu ketat. Terlalu sedikit eskalasi belum tentu baik jika insiden lolos tanpa review. Ukur precision eskalasi, waktu approval, tingkat koreksi, false positive, false negative, dan dampaknya terhadap SLA.
Hasil monitoring digunakan untuk mengubah threshold serta membedakan kasus yang boleh otomatis dari kasus yang wajib ditinjau. Perubahan aturan harus melalui evaluation dan persetujuan process owner agar peningkatan otonomi tetap berbasis bukti.
- Rasio kasus yang dieskalasikan.
- Waktu tunggu dan waktu keputusan.
- Tingkat koreksi serta pembatalan.
- Insiden yang seharusnya memerlukan review.
Hubungannya dengan BPM dan BPMN
BPM menetapkan otoritas keputusan, separation of duties, SLA, dan akuntabilitas. Elemen ini menentukan siapa yang berhak menyetujui serta kondisi kapan agen harus berhenti.
BPMN memvisualisasikan user task, service task, gateway, boundary event, timer, dan jalur eskalasi. Model tersebut membuat interaksi agen dan manusia dapat diuji sebagai satu proses utuh dalam ADLC.
Dalam praktiknya, BPM memastikan proses dikelola sebagai siklus perbaikan berkelanjutan, sedangkan BPMN memberi model yang dapat dibaca bersama sebelum perilaku agen AI diterapkan melalui ADLC.
Langkah Praktis untuk Organisasi
- Klasifikasikan keputusan berdasarkan dampak dan kemampuan pemulihan.
- Tentukan threshold serta pemberi persetujuan untuk setiap kelas.
- Rancang informasi yang dibutuhkan reviewer.
- Tetapkan SLA, delegasi, timeout, dan fallback.
- Pantau koreksi dan insiden untuk menyesuaikan aturan.
Kesimpulan
Human-in-the-loop yang baik tidak membuat manusia menjadi pemeriksa semua keluaran. Mekanisme ini mengarahkan perhatian manusia ke keputusan yang memang membutuhkan pertimbangan, tanggung jawab, atau penanganan pengecualian.
Dengan ADLC, BPM, dan BPMN, approval dapat dirancang sebagai kontrol operasional yang terukur, bukan langkah tambahan yang memperlambat proses tanpa alasan.
Bacaan dan Layanan Terkait
Pertanyaan yang Sering Diajukan
Apakah semua output AI agent harus diperiksa manusia?
Tidak. Tingkat review mengikuti risiko, dampak, dan kematangan agen. Aktivitas rendah risiko dapat memakai sampling, sedangkan tindakan penting tetap memerlukan approval.
Apa beda human-in-the-loop dan human-on-the-loop?
Human-in-the-loop ikut membuat keputusan pada kasus tertentu. Human-on-the-loop mengawasi sistem dan dapat melakukan intervensi, tetapi tidak selalu menyetujui setiap transaksi.
Bagaimana mencegah approval menjadi bottleneck?
Gunakan klasifikasi risiko, threshold, konteks yang ringkas, notifikasi, delegasi, SLA, dan evaluasi berkala terhadap kasus yang sebenarnya aman untuk diotomatisasi.
Diskusikan Implementasi ADLC
Javan membantu organisasi memetakan proses, merancang agen AI, membangun integrasi, menerapkan kontrol, serta menyiapkan pengujian dan pemantauan sebelum digunakan di lingkungan produksi.