Bila kita mau jujur, tiap zaman memiliki teknologi yang memaksa manusia bercermin, mencermati dirinya. Sejak era revolusi industry, mesin uap memaksa manusia memahami tenaga dan eksploitasi. Listrik memaksa manusia memahami waktu dan produktivitas. Internet memaksa manusia memahami konektivitas dan identitas. Kecerdasan buatan, khususnya AI agentik, memaksa manusia memahami sesuatu yang jauh lebih intim: bagaimana kita membuat keputusan, bagaimana kita memberi makna, dan bagaimana kita mempercayai.
Paparan ini tidak dimaksudkan sebagai gagasan yang mencemaskan atau menenangkan, melainkan sebagai undangan reflektif. Tantangan terbesar AI bukan terletak pada kecerdasannya, melainkan pada kecenderungan manusia untuk menyerahkan tanggung jawab berpikir kepada sistem yang tampak lebih cepat, lebih rapi, dan lebih konsisten daripada dirinya sendiri. Bagi generasi muda, AI hadir bukan sebagai inovasi eksperimental, melainkan sebagai lingkungan hidup. Mereka belajar, bersosialisasi, dan membangun identitas diri di ruang yang semakin dimediasi oleh algoritma. Relasi ini berisiko berkembang menjadi relasi ketergantungan, bukan kolaborasi. Namun fenomena ini juga menunjukkan bahwa masa depan tidak bersifat deterministik belaka. AI dapat pula menjadi alat refleksi, penguat nalar kritis, dan mitra kreatif jika manusia tetap memegang peran sebagai penentu nilai: sebagai subyek!Agentic AI berbeda dari teknologi sebelumnya karena ia mampu meniru proses mental manusia secara persuasif. Ia tidak hanya menghitung, tetapi menjelaskan. Ia tidak hanya memberi rekomendasi, tetapi membangun narasi. Dalam konteks ini, keamanan AI tidak lagi dapat dipisahkan dari pendidikan kesadaran diri. Manusia yang tidak memahami bagaimana pikirannya dapat dipengaruhi akan selalu menjadi titik terlemah dalam sistem apa pun, seaman apa pun kode dan regulasinya. Agentic AI adalah istilah yang merujuk pada sistem kecerdasan buatan yang memiliki kemampuan bertindak sebagai agen semi-otonom.
Berbeda dari AI reaktif yang hanya merespons input, agentic AI mampu menetapkan tujuan, memecah tujuan tersebut menjadi rencana aksi, memilih alat, dan menyesuaikan strategi berdasarkan umpan balik lingkungan. Konsep ini berkembang dari riset artificial agents dan reinforcement learning yang dipelopori sejak 1990-an, namun menjadi relevan secara luas setelah munculnya large language models yang mampu melakukan reasoning multi-langkah (Russell & Norvig, 2021). Tak berlebihan bila fenomena AI agentik ini bakal bergegas mampu menetapkan sub-tujuan, memilih strategi, menunda atau mengubah rencana, serta berinteraksi dengan lingkungan dan agen lain secara berkelanjutan.
Perbedaan ini tampak sederhana, tetapi secara konseptual sangat radikal. Jika AI generatif konvensional ibarat kalkulator linguistik yang canggih, maka agentic AI lebih menyerupai aktor semi-otonom dalam ekosistem digital. Pada titik ini, kendali dan otoritas sang mesin sangat berpeluang tak terkendali dan menggeser sang subyek hanya sebagai pengguna pasif tanpa kreativitas bernas berakar dalam dirinya sebagai ciptaan Tuhan tertinggi, ini yang menggelisahkan.
Bagi Indonesia, refleksi ini memiliki bobot historis. Bangsa yang besar bukan hanya bangsa yang mengadopsi teknologi tercepat, tetapi bangsa yang mampu menempatkan teknologi dalam kerangka kebijaksanaan dan kesadaran (awareness) kolektif. Bukan pula sekedar proyek elit teknokrat (yang memangsa anggaran dan memicu manipulasi), melainkan proyek peradaban. Ia menuntut keberanian untuk mengatakan tidak pada efisiensi yang mengorbankan kemanusiaan, dan keberanian untuk memperlambat inovasi demi ketahanan jangka panjang.
AI governance adalah kerangka institusional, hukum, dan normatif untuk mengarahkan pengembangan dan penggunaan AI. Dalam era agentic AI, governance menjadi lebih kompleks karena objek yang diatur bersifat adaptif dan otonom. Governance ini menentukan apakah agentic AI menjadi penguat kesejahteraan atau sumber ketidakstabilan. Bagi Indonesia, tantangan governance terletak pada kapasitas institusional dan literasi publik. Tanpa pemahaman yang memadai, governance berisiko menjadi simbolik sebagaimana banyak terjadi. Governance AI Indonesia harus bersifat adaptif, berbasis pembelajaran, dan kontekstual.
Epilog ini ditutup dengan satu refleksi sederhana namun mendasar: mesin dapat belajar dari data masa lalu, tetapi hanya manusia yang mampu bertanggung jawab atas masa depan. Selama tanggung jawab itu tidak dialihkan, kecerdasan buatan akan tetap menjadi alat. Sebaliknya, tatkala tanggung jawab itu dilepas, AI berhenti menjadi teknologi dan mulai menjadi risiko eksistensial manusia. Hal ini seyogyanya adalah pengingat bahwa masa depan masih dapat kita bentuk, selama kita bersedia berpikir, menguji, dan menjaga nilai-nilai manusia di tengah kemajuan mesin nan cerdas. Hasil yang dapat diukur dari pendekatan ini bukan hanya penurunan insiden atau peningkatan kepatuhan, melainkan tumbuhnya generasi pengguna AI yang sadar, kritis, dan berani bertanggung jawab. Dalam konteks Indonesia, nilai gotong royong sejati dan musyawarah hakiki tanpa rekayasa muslihat dapat dijadikan landasan budaya untuk menolak dominasi agen non-manusia dalam pengambilan keputusan sosial. Selamat mengarungi 2026 bersama AI agents.
Lereng Semeru 2026
*) Greg Teguh Santoso, akademisi doktor di bidang Knowledge Management, pemikir lepas-bebas demi Nusa Pertiwi
