Context adalah informasi yang tersedia saat agen menjalankan tugas, sedangkan memory menyimpan informasi untuk digunakan kembali. Keduanya memengaruhi relevansi hasil, kontinuitas pekerjaan, biaya, privasi, dan risiko keputusan.
Lebih banyak konteks tidak selalu lebih baik. Dokumen yang tidak relevan dapat menurunkan kualitas, sementara riwayat terlalu panjang menambah biaya dan mengaburkan instruksi penting.
Kebijakan memory perlu mengikuti tujuan proses. Organisasi harus mengetahui apa yang disimpan, sumbernya, masa berlakunya, siapa yang dapat mengakses, dan bagaimana koreksi dilakukan.
Ringkasan Utama
- Pisahkan context sesi, knowledge retrieval, dan long-term memory.
- Simpan hanya informasi yang memiliki tujuan proses.
- Terapkan sumber, versi, masa berlaku, dan hak penghapusan.
- Uji memory terhadap relevansi, privasi, serta informasi yang saling bertentangan.
Jenis Context dan Memory
Context sesi mencakup percakapan, status tugas, dan hasil tools saat ini. Knowledge retrieval mengambil informasi dari dokumen atau database. Long-term memory menyimpan preferensi, fakta, atau ringkasan untuk interaksi berikutnya.
Ketiganya memiliki risiko berbeda. Context sesi dapat terlalu panjang, retrieval dapat mengambil sumber salah, dan long-term memory dapat mempertahankan informasi lama atau sensitif.
- Working context untuk tugas saat ini.
- Retrieval context dari sumber pengetahuan.
- Episodic memory dari interaksi sebelumnya.
- Semantic memory untuk fakta yang telah divalidasi.
Kebijakan Data dan Privasi
Memory harus mengikuti klasifikasi data, consent, retensi, dan hak akses. Agen sebaiknya tidak menyimpan seluruh percakapan secara otomatis hanya karena secara teknis memungkinkan.
Setiap memory memerlukan provenance agar tim mengetahui sumber dan waktu pembentukannya. Pengguna perlu dapat memperbaiki atau menghapus informasi yang salah sesuai kebijakan organisasi.
- Tujuan penyimpanan yang eksplisit.
- Retensi serta penghapusan terjadwal.
- Enkripsi dan kontrol akses.
- Provenance, versi, dan audit penggunaan.
Evaluation untuk Context dan Memory
Evaluation perlu menguji apakah agen mengambil konteks yang relevan, mengabaikan data yang tidak berhak digunakan, dan menangani sumber yang bertentangan. Uji juga dilakukan ketika memory kosong, salah, atau kedaluwarsa.
Monitoring produksi mencakup kualitas retrieval, ukuran konteks, biaya, koreksi pengguna, dan insiden privasi. Temuan menjadi dasar untuk memperbaiki chunking, ranking, summarization, atau kebijakan retensi.
- Precision dan relevansi retrieval.
- Ketahanan terhadap sumber bertentangan.
- Kepatuhan terhadap scope serta akses.
- Dampak context terhadap latensi dan biaya.
Hubungannya dengan BPM dan BPMN
BPM menentukan informasi apa yang dibutuhkan pada setiap aktivitas dan siapa pemiliknya. Context tidak perlu membawa seluruh data organisasi jika task hanya membutuhkan sebagian.
Data object, message, dan state dalam BPMN membantu menentukan context masuk, hasil yang perlu disimpan, serta kapan memory harus diperbarui atau dihapus melalui ADLC.
Dalam praktiknya, BPM memastikan proses dikelola sebagai siklus perbaikan berkelanjutan, sedangkan BPMN memberi model yang dapat dibaca bersama sebelum perilaku agen AI diterapkan melalui ADLC.
Langkah Praktis untuk Organisasi
- Definisikan kebutuhan konteks per task proses.
- Pisahkan retrieval dari long-term memory.
- Tetapkan provenance, retensi, dan hak akses.
- Uji informasi kosong, salah, lama, dan bertentangan.
- Pantau kualitas retrieval, biaya, serta koreksi pengguna.
Kesimpulan
Memory yang baik bukan memory yang menyimpan paling banyak informasi. Memory harus relevan, dapat ditelusuri, memiliki masa berlaku, dan mengikuti tujuan proses.
ADLC, BPM, dan BPMN membantu organisasi merancang context sebagai bagian dari proses yang terkontrol, bukan sebagai penyimpanan tanpa batas.
Bacaan dan Layanan Terkait
Pertanyaan yang Sering Diajukan
Apakah riwayat percakapan sama dengan memory?
Riwayat dapat menjadi salah satu sumber memory, tetapi memory biasanya dipilih, diringkas, diberi struktur, dan disimpan berdasarkan kebijakan.
Apakah semua agen membutuhkan long-term memory?
Tidak. Banyak proses cukup menggunakan context sesi dan retrieval. Long-term memory hanya diperlukan jika informasi lintas interaksi memberi nilai yang jelas.
Bagaimana menangani memory yang salah?
Sediakan provenance, mekanisme koreksi, invalidasi, penghapusan, dan evaluation regresi agar informasi salah tidak terus memengaruhi keputusan.
Diskusikan Implementasi ADLC
Javan membantu organisasi memetakan proses, merancang agen AI, membangun integrasi, menerapkan kontrol, serta menyiapkan pengujian dan pemantauan sebelum digunakan di lingkungan produksi.