AI agent mulai bergerak keluar dari pola “tanya lalu jawab”. Sistem ini dirancang untuk menjalankan beberapa langkah, memakai aplikasi, membaca dokumen, memanggil alat, lalu melanjutkan pekerjaan tanpa harus terus-menerus diarahkan manusia.
Namun, kemampuan bekerja lebih lama tidak otomatis membuat sebuah agent lebih bisa diandalkan. Justru ketika tugas bertambah banyak dan saling berkaitan, masalah baru muncul: konteks tercampur, prioritas berubah, informasi penting terlupakan, dan kesalahan kecil bisa terbawa ke langkah berikutnya.
Itulah salah satu arah perkembangan AI yang menarik pada 2026. Fokusnya mulai bergeser dari sekadar membuat model yang lebih pintar menjadi membangun sistem yang mampu mengelola pekerjaan nyata secara konsisten.
Masalahnya bukan hanya kecerdasan model
Bayangkan seorang asisten yang diminta mengurus laporan penjualan, memperbarui spreadsheet anggaran, memeriksa email pelanggan, dan menyiapkan bahan presentasi dalam waktu yang sama. Setiap tugas memiliki dokumen, aturan, tenggat, dan keputusan yang berbeda.
Manusia biasanya mengatasi situasi ini dengan daftar tugas, kalender, catatan, serta kebiasaan untuk memeriksa ulang pekerjaan. AI agent membutuhkan mekanisme serupa. Tanpa pengelolaan konteks dan memori yang baik, agent dapat mengingat detail dari tugas pertama ketika sedang mengerjakan tugas keempat.
Microsoft Research menggambarkan tantangan ini melalui CORPGEN, sebuah kerangka eksperimen yang menguji agent dalam lingkungan kerja dengan banyak tugas yang berjalan bersamaan. Dalam pengujian tersebut, performa sistem dasar turun ketika jumlah tugas meningkat, sementara pendekatan yang memakai perencanaan bertingkat, memori terpisah, dan pembelajaran dari pengalaman dapat menyelesaikan lebih banyak tugas. ([microsoft.com](https://www.microsoft.com/en-us/research/blog/corpgen-advances-ai-agents-for-real-work/?utm_source=openai))
Temuan ini memberi pesan penting: kemampuan agent tidak hanya ditentukan oleh model bahasa di belakangnya. Arsitektur sistem—cara menyimpan konteks, membagi pekerjaan, mengatur prioritas, dan memeriksa hasil—sama pentingnya.
AI agent perlu “ingatan kerja”, bukan sekadar konteks panjang
Banyak orang mengira solusi untuk pekerjaan panjang adalah memberikan konteks sebanyak mungkin kepada model. Padahal, memasukkan semua informasi ke dalam satu percakapan bisa membuat sistem lebih lambat, mahal, dan tetap membingungkan.
Yang dibutuhkan adalah memori yang terstruktur. Agent perlu membedakan beberapa jenis informasi:
- Konteks sementara: informasi yang hanya relevan untuk langkah yang sedang dikerjakan.
- Memori tugas: keputusan, dokumen, dan status dari pekerjaan tertentu.
- Pengetahuan jangka panjang: aturan organisasi, pola kerja, dan prosedur yang sering digunakan.
- Riwayat pengalaman: cara menyelesaikan masalah serupa pada pekerjaan sebelumnya.
Dengan pemisahan ini, agent tidak harus “membaca ulang seluruh hidupnya” setiap kali melanjutkan pekerjaan. Ia cukup mengambil informasi yang relevan pada saat yang tepat.
Riset Microsoft juga menempatkan memori persisten, pengelolaan konteks, dan kemampuan menggunakan kembali prosedur sebagai bagian penting dari pengembangan agent untuk produktivitas. ([microsoft.com](https://www.microsoft.com/en-us/research/group/m365-research/?utm_source=openai))
Bekerja berjam-jam membutuhkan cara evaluasi yang berbeda
Pengujian AI tradisional sering memakai format sederhana: berikan satu pertanyaan, lalu nilai jawabannya. Cara ini masuk akal untuk chatbot, tetapi kurang cocok untuk agent yang harus bekerja selama berjam-jam.
Dalam pekerjaan panjang, kualitas tidak hanya ditentukan oleh jawaban terakhir. Kita juga perlu melihat apakah agent:
- menyimpan keputusan penting tanpa mencampurnya dengan tugas lain;
- menunggu informasi atau perubahan yang memang belum tersedia;
- menyadari ketika sebuah langkah gagal;
- mengulang tindakan dengan cara yang aman;
- menghasilkan file atau keputusan yang benar-benar dapat digunakan.
Microsoft Research memperkenalkan SentinelBench untuk menguji agent pemantauan yang bekerja dalam alur panjang dan menghadapi perubahan lingkungan. Pendekatan semacam ini lebih mendekati pekerjaan nyata, karena kondisi di luar sistem dapat berubah meskipun agent tidak sedang melakukan tindakan. ([microsoft.com](https://www.microsoft.com/en-us/research/articles/sentinelbench-a-benchmark-for-long-running-monitoring-agents/?utm_source=openai))
Artinya, ukuran keberhasilan agent seharusnya bukan hanya “berapa banyak langkah yang dilakukan”, tetapi “berapa banyak hasil yang benar dan bisa dipertanggungjawabkan”. Agent yang sangat aktif tetapi sering mengambil tindakan keliru bisa lebih berbahaya daripada agent yang lebih lambat namun tahu kapan harus berhenti.
Risiko baru: kesalahan yang berlangsung lama
Chatbot biasanya membuat kesalahan dalam satu jawaban. Agent dapat membawa kesalahan itu ke dalam rangkaian tindakan berikutnya.
Misalnya, agent salah memahami nama kolom pada spreadsheet. Jika tidak ada pemeriksaan, ia mungkin menghitung angka yang keliru, memasukkan hasilnya ke laporan, lalu mengirimkan laporan tersebut melalui email. Satu kesalahan awal berubah menjadi rangkaian kesalahan yang tampak rapi.
Karena itu, agent membutuhkan batasan yang jelas. Beberapa tindakan sebaiknya selalu meminta persetujuan manusia, terutama yang berkaitan dengan:
- mengirim email ke pihak eksternal;
- mengubah data produksi;
- menghapus file atau catatan;
- membuat transaksi atau pembelian;
- mengambil keputusan yang berdampak pada pelanggan atau karyawan.
Penelitian tentang AgentRx dari Microsoft Research juga menunjukkan arah penting lain: ketika agent gagal, sistem perlu membantu menemukan langkah pertama yang benar-benar menyebabkan kegagalan, bukan hanya melaporkan bahwa hasil akhirnya salah. ([microsoft.com](https://www.microsoft.com/en-us/research/blog/systematic-debugging-for-ai-agents-introducing-the-agentrx-framework/?utm_source=openai))
Apa artinya bagi kita?
Bagi pengguna biasa, perubahan ini berarti kita tidak perlu terburu-buru menyerahkan pekerjaan penuh kepada agent hanya karena demo-nya terlihat mengesankan. Cara yang lebih aman adalah memilih pekerjaan yang memiliki batas, aturan, dan hasil yang mudah diperiksa.
Contoh penggunaan yang relatif cocok antara lain:
- mengumpulkan informasi dari beberapa dokumen lalu membuat ringkasan;
- memeriksa daftar tugas dan menandai pekerjaan yang belum lengkap;
- membandingkan isi dua dokumen;
- menyiapkan draf laporan berdasarkan data yang sudah tersedia;
- memantau perubahan tertentu lalu memberi notifikasi.
Untuk pekerjaan yang lebih sensitif, gunakan pola human-in-the-loop: agent mengerjakan bagian persiapan dan analisis, sementara manusia tetap menyetujui keputusan final.
Yang bisa dilakukan sekarang
- Mulai dari satu alur kerja. Jangan langsung meminta agent mengurus seluruh proses bisnis. Pilih satu pekerjaan yang berulang dan mudah diukur.
- Tentukan titik pemeriksaan. Misalnya, agent boleh membuat draf email, tetapi tidak boleh mengirimkannya tanpa persetujuan.
- Simpan status pekerjaan secara eksplisit. Gunakan kolom seperti “belum dimulai”, “menunggu data”, “perlu ditinjau”, dan “selesai”.
- Catat alasan keputusan. Ini membantu manusia memeriksa apakah agent memakai sumber dan aturan yang benar.
- Uji dengan kasus gagal. Berikan data kosong, format salah, atau instruksi yang ambigu untuk melihat apakah agent berhenti dengan aman.
Perkembangan AI agent tidak hanya soal model yang semakin mampu berpikir. Tantangan sebenarnya adalah membuat sistem yang dapat menjaga konteks, mengatur banyak pekerjaan, mendeteksi kegagalan, dan tetap berada dalam kendali manusia.
Dalam praktiknya, agent terbaik mungkin bukan yang paling banyak melakukan tindakan. Bisa jadi, yang paling berguna adalah agent yang tahu apa yang harus dikerjakan, apa yang harus ditunda, dan kapan harus meminta bantuan.
Sumber & bacaan lebih lanjut
- CORPGEN advances AI agents for real work — Microsoft Research
- M365 Research — Microsoft Research
- SentinelBench, a Benchmark for Long-Running Monitoring Agents — Microsoft Research
- Agentic Innovation — Microsoft Research
- Systematic debugging for AI agents: Introducing the AgentRx framework — Microsoft Research
– Rio Yotto @rioyotto