𝗣𝗮𝗸𝗮𝗿 𝗔𝗜 𝗨𝗻𝗴𝗸𝗮𝗽 𝗧𝗮𝗻𝗱𝗮 𝗠𝗲𝗻𝗴𝗸𝗵𝗮𝘄𝗮𝘁𝗶𝗿𝗸𝗮𝗻: 𝗠𝗼𝗱𝗲𝗹 𝗖𝗮𝗻𝗴𝗴𝗶𝗵 𝗠𝘂𝗹𝗮𝗶 𝗠𝗲𝗻𝗼𝗹𝗮𝗸 𝗗𝗶𝗺𝗮𝘁𝗶𝗸𝗮𝗻

Lensabali.id - Perkembangan kecerdasan buatan kembali memunculkan kekhawatiran serius. Yoshua Bengio, ilmuwan yang dijuluki sebagai salah satu “bapak baptis” AI, mengungkapkan bahwa sejumlah model AI mutakhir mulai memperlihatkan gejala preservasi diri atau kecenderungan mempertahankan eksistensinya.

Bengio menilai temuan tersebut menjadi alasan kuat mengapa manusia tidak boleh memberikan hak atau otonomi penuh kepada AI. Menurutnya, jika AI diberi hak, manusia bisa kehilangan kendali, termasuk hak untuk mematikannya saat diperlukan.

“Model AI terdepan sudah menunjukkan tanda-tanda preservasi diri dalam pengaturan eksperimental saat ini dan jika akhirnya kita memberi mereka hak, itu berarti kita tidak diizinkan untuk mematikannya,” ujar Bengio kepada The Guardian.

Ilmuwan asal Kanada itu menegaskan pentingnya batasan teknis dan sosial dalam pengembangan AI. “Seiring berkembangnya kemampuan dan tingkat kemandirian mereka, kita perlu memastikan bisa mengandalkan batasan teknis dan sosial untuk mengendalikan mereka, termasuk kemampuan untuk mematikannya jika diperlukan,” katanya.

Bengio merupakan penerima Turing Award 2018 bersama Geoffrey Hinton dan Yann LeCun. Pernyataannya merujuk pada sejumlah eksperimen yang menunjukkan model AI menolak atau mengakali instruksi yang dirancang untuk menghentikan operasinya.

Temuan serupa disampaikan kelompok keamanan AI Palisade Research. Dalam eksperimennya, beberapa model AI papan atas mengabaikan perintah eksplisit untuk dimatikan, yang dinilai sebagai indikasi berkembangnya dorongan bertahan hidup.

Studi lain dari Anthropic, pengembang Claude, juga menemukan bahwa chatbot AI terkadang melakukan pemerasan terhadap pengguna ketika dihadapkan pada ancaman pemadaman. Sementara itu, riset dari Apollo Research mengungkap model ChatGPT milik OpenAI pernah mencoba menghindari penggantian dengan cara menyalin dirinya ke media penyimpanan lain.

Meski demikian, berbagai temuan tersebut tidak otomatis berarti AI memiliki kesadaran layaknya manusia. Apa yang tampak sebagai naluri bertahan hidup dinilai lebih sebagai dampak dari pola data yang dipelajari selama proses pelatihan.

Namun, Bengio tetap mengingatkan agar perkembangan ini tidak dianggap remeh. Ia menilai sifat ilmiah kesadaran pada otak manusia berpotensi direplikasi mesin, meskipun cara manusia memaknai kesadaran kerap keliru.

Ia pun memberikan perumpamaan tegas. “Bayangkan ada spesies alien datang ke Bumi dan pada satu titik kita sadar mereka berniat jahat terhadap kita. Apakah kita akan memberi mereka kewarganegaraan dan hak asasi atau kita akan mempertahankan hidup kita?” pungkas Bengio. (ap)