Haruskah AI Memberi Sinyal atau Langsung Menyuruh?

Mengapa saran AI yang akurat sekalipun bisa menimbulkan risiko yang tidak terduga

Sinyal dari AI, seperti peringatan atau rekomendasi, semakin sering digunakan untuk membantu orang membuat keputusan. Di berbagai sektor, AI memantau jalannya suatu peristiwa, mendeteksi kapan sebuah keputusan penting perlu diambil, lalu memberikan sinyal. Kadang berupa peringatan singkat, kadang berupa saran langsung. Dalam dunia keuangan, misalnya, sistem deteksi penipuan menandai transaksi mencurigakan untuk diperiksa. Di pabrik, AI memperingatkan operator tentang potensi cacat produk. Sementara di bidang teknologi informasi, peringatan error mendorong teknisi untuk mengecek bug.

Secara umum, panduan dari AI terbagi menjadi dua jenis sinyal, yaitu sinyal perhatian dan sinyal tindakan. Sinyal perhatian hanya menandai bahwa sebuah keputusan penting perlu diperhatikan, tanpa memberikan saran tertentu: “Ini keputusan penting, perhatikan baik-baik.” Sedangkan sinyal tindakan memberikan arahan lebih jelas: “Ini yang sebaiknya Anda lakukan.”

Kedua jenis sinyal tersebut sudah banyak digunakan. Di rumah sakit misalnya, algoritma bisa memperingatkan dokter ketika tanda vital pasien menurun dengan sinyal perhatian yang berbunyi, “Ada masalah, segera periksa.” Namun bisa juga memberi sinyal tindakan yang berisi diagnosis spesifik beserta rekomendasi pengobatan.

Pertanyaannya, jenis sinyal mana yang benar-benar membantu kita mengambil keputusan lebih baik, khususnya ketika AI sangat andal dan akurat? Hal ini semakin relevan seiring perkembangan AI yang semakin konsisten dan presisi. Namun, apakah ada risiko ketika kita terlalu bergantung pada AI, meskipun sarannya benar? Untuk menemukan jawabannya, penelitian dilakukan dengan menggunakan permainan catur, sebuah konteks di mana rekomendasi AI sangat dipercaya, tingkat akurasi sangat tinggi, dan kualitas keputusan dapat diukur dengan jelas.

Baca Juga: AI untuk Pemimpin Baru: Memberdayakan dan Menginspirasi

Uji Coba dengan Pemain Catur Internasional

Penelitian ini melibatkan sekitar 300 pemain catur dari 55 negara. Pesertanya beragam, mulai dari penggemar amatir hingga profesional elit, termasuk 36 pemain dengan gelar master resmi.

Mereka bertanding dalam tiga kondisi yang berbeda. Pada sebagian permainan, mereka mendapat sinyal tindakan, di mana AI memberikan langkah terbaik di momen kritis. Pada kondisi lain, mereka mendapat sinyal perhatian, yang hanya menandai momen penting tanpa memberi saran langkah. Sementara di permainan lain, mereka bermain sepenuhnya tanpa bantuan AI.

Hasil analisis menunjukkan perbedaan yang menarik. Seperti dugaan, sinyal tindakan yang mengungkapkan langkah terbaik memang membantu pemain mengambil keputusan optimal pada saat itu. Akan tetapi, terdapat konsekuensi yang tersembunyi. Setelah menerima sinyal tindakan, performa pemain justru menurun pada langkah-langkah berikutnya. Mereka memang lebih cepat mengambil keputusan ketika sudah diberi tahu apa yang harus dilakukan. Namun ketika tidak ada lagi panduan, mereka kesulitan. Mereka cenderung lebih banyak melakukan kesalahan, membutuhkan waktu lebih lama untuk menentukan langkah, dan kehilangan ritme permainan.

Fenomena ini disebut efek “perairan yang belum dijelajahi”. Panduan dari AI yang awalnya bermanfaat ternyata mengganggu alur berpikir pemain, mengurangi usaha mereka sendiri, dan membuat mereka kurang siap menghadapi situasi berikutnya.

Sinyal perhatian memberikan dampak berbeda. Karena tidak menyajikan jawaban langsung, sinyal ini mendorong pemain untuk berpikir lebih dalam. Dampaknya, kualitas keputusan meningkat, meskipun tidak setinggi saat menggunakan sinyal tindakan, tetapi permainan setelahnya lebih stabil dan konsisten.

Secara keseluruhan, kedua jenis sinyal tetap lebih baik daripada tidak mendapat bantuan AI sama sekali. Namun, keduanya bekerja dengan cara yang sangat berbeda. Sinyal tindakan cenderung menggantikan penilaian manusia, sedangkan sinyal perhatian melengkapinya dengan mendorong keterlibatan lebih aktif tanpa mengambil alih keputusan.

“Saya jadi malas dan hanya percaya pada sinyal tindakan tanpa menghitung sendiri.” – Peserta penelitian anonim

Implikasi bagi Dunia Kerja

Apa makna temuan ini bagi pengambilan keputusan di dunia bisnis?

Sinyal tindakan, meskipun sangat akurat, memiliki risiko tersendiri. Masalahnya bukan pada keputusan yang diambil saat menerima saran AI, karena keputusan itu biasanya memang membaik. Risiko justru muncul setelahnya. Contohnya, dalam layanan keuangan, AI bisa dengan tepat merekomendasikan penolakan aplikasi pinjaman berdasarkan model risiko. Namun jika seorang analis terbiasa hanya mengikuti rekomendasi tersebut tanpa berpikir lebih jauh, ia bisa kewalahan ketika menghadapi kasus yang tidak standar atau ketika sistem gagal mendeteksi masalah. Pada saat itu, analis bisa merasa tidak siap, bahkan kehilangan keterlibatan dalam proses pengambilan keputusan.

Baca Juga: Penalaran yang Baik dan Buruk dalam Pengambilan Keputusan

Meski begitu, sinyal tindakan tetap penting dalam situasi di mana kecepatan lebih diutamakan daripada pertimbangan mendalam. Dalam sistem keselamatan penerbangan misalnya, pilot bisa menerima peringatan yang merekomendasikan perubahan jalur cepat untuk menghindari tabrakan. Dalam kondisi seperti itu, tidak ada waktu untuk menimbang alternatif. Respon cepat lebih penting dibanding berpikir panjang.

Sebaliknya, sinyal perhatian membantu orang tetap terlibat dan berpikir kritis, terutama ketika keputusan berlangsung secara bertahap. Sebagai contoh, dalam manajemen ritel, dashboard AI bisa menandai penurunan mendadak pada penjualan suatu produk. Sinyal tersebut tidak memberikan saran langsung, tetapi menarik perhatian manajer untuk menyelidiki stok, strategi harga, atau pergerakan pesaing sebelum menentukan langkah. Cara ini tetap menjaga peran penilaian manusia.

Tidak Ada Satu Jenis Sinyal untuk Semua Situasi

Menentukan apakah AI perlu memberikan sinyal, serta jenis sinyal apa yang sesuai, membutuhkan pertimbangan pada tiga hal utama: kualitas sinyal, tingkat keahlian pengguna, dan konteks pengambilan keputusan.

Pertama, periksa kualitas sinyal. Jika data tidak lengkap atau banyak gangguan, sinyal tindakan bisa berisiko. Bahkan dalam permainan catur dengan rekomendasi AI yang sangat akurat, efek “perairan yang belum dijelajahi” tetap muncul. Di dunia bisnis nyata, risiko tersebut bisa lebih besar.

Kedua, perhatikan siapa pengguna sistem. Penelitian menemukan bahwa pemain ahli lebih mampu memanfaatkan sinyal perhatian dibanding pemula. Bagi mereka, sinyal perhatian bisa memberikan lebih dari 70 persen manfaat yang sama dengan sinyal tindakan. Sebaliknya, pemain pemula kurang terbantu dengan panduan minimal dan lebih membutuhkan arahan yang jelas.

Ketiga, perhatikan lingkungannya. Apakah seseorang berada di bawah tekanan waktu? Apakah mereka sedang lelah atau tidak bisa fokus penuh? Sinyal perhatian efektif ketika ada cukup waktu dan energi untuk berpikir. Jika kecepatan lebih penting atau kondisi mental terbatas, sinyal tindakan bisa lebih bermanfaat, dengan catatan akurasinya tinggi.

Tidak ada jawaban tunggal yang berlaku di semua situasi. Nilai dari sinyal AI tidak hanya ditentukan oleh akurasinya, tetapi juga kapan digunakan, siapa yang memakainya, serta apakah sinyal tersebut membantu orang berpikir lebih baik atau justru membuat mereka berhenti berpikir. Dengan memahami hal ini, organisasi dapat menggunakan AI dengan lebih bijak, aman, dan efektif.