Ilustrasi Geoffrey Hinton skeptis terhadap AI (Ilustrasi oleh AI/Gemini)Skenario kiamat (doomsday scenario) tentang akal imitasi (AI) bukan hal baru. Banyak ilmuwan telah memperingatkan risiko eksistensial yang diakibatkannya.Pada tahun 2014, misalnya. Dalam wawancara dengan BBC, Fisikawan Stephen Hawking mewanti-wanti bahwa pengembangan AI secara penuh dapat menjadi pertanda berakhirnya ras manusia.Pada tahun yang sama, Filsuf dari Universitas Oxford, Nick Bostrom, mengajukan pesan serupa. Lewat bukunya, Superintelligence. ia mengatakan jika AI melampaui kecerdasan manusia, kita berada di ambang kepunahan. Bukan karena AI membenci manusia, melainkan karena ia tidak memiliki kepedulian. Ia memiliki tujuan sendiri yang berbeda. Dan manusia tidak bisa mengendalikannya.Yuval Noah Harari, dalam bukunya Homo Deus, Masa Depan Umat Manusia (edisi terjemahan) juga cemas. AI kemungkinan akan menjadi teknologi pertama sepanjang sejarah yang secara otonom mengambil keputusan sendiri. Itu berbahaya. Soalnya ia bisa memanipulasi kesadaran manusia secara massal. Di antaranya, misalnya, dengan menciptakan kebudayaan baru dengan membangun teks agama dan ideologi palsu.Bahkan para miliarder proponen AI tidak menampik skenario kiamat. Elon Musk dan Sam Altman, misalnya, sama-sama membuka kemungkinan itu. Elon Musk pernah berkata, AI jauh lebih berbahaya dari nuklir. Sam Altman di depan Kongres AS berkata skenario terburuk bahwa AI menjadi bencana total bagi kemanusiaan jika tekonologi ini berjalan ke arah yang salah.Skenario Kiamat versi HintonMeskipun skenario kiamat semakin jamak, tetap saja orang terhenyak ketika Geoffrey Hinton ‘menyalak’ dengan skenario kiamat versinya. Apalagi ia mengatakannya dalam pidato jamuan makan penganugerahan Nobel Fisika kepada dirinya. Reputasi Hinton sebagai Bapak AI (Godfather of AI) menyebabkan perkataannya tak bisa diabaikan.Hinton adalah ilmuwan komputer dan psikologi kognitif Inggris-Kanada. Penghargaan Nobel Fisika 2024 dianugerahkan kepadanya karena penelitiannya di ranah AI. Menurut Komite Nobel, penemuan dan inovasinya yang mendasar yang memungkinkan pembelajaran mesin menggunakan jaringan saraf tiruan, merupakan alasan ia mendapat anugerah itu.Namun ada yang lebih penting dari itu. Hinton pernah menjadi salah satu orang penting, bahkan paling penting di ‘dapur’ AI Google. Sampai ketika ia mengundurkan diri pada bulan Mei 2023, Hinton menjabat wakil presiden (vice president) dan rekan peneliti (engineering fellow) di Google. Ia bertanggung jawab pada pengambilan keputusan arah teknologi perusahaan itu. Di bidang AI, ia merupakan orang nomor satu di Google. Keputusan riset, pendekatan ilmiah, dan metodologi pengembangan Google di bidang AI berada di tangannya. Tatkala ia berbicara tentang AI, orang menempatkannya bukan hanya sebagai ilmuwan laboratorium. Ia adalah ‘orang dalam’ perusahaan raksasa AI. Itu lah penyebab skenario kiamat yang ia ajukan layak diperhatikan.Dalam pidato yang disampaikan pada tahun 2024 itu, Hinton memperingatkan tentang bahaya pengembangan AI yang tidak terkendali. Dalam jangka pendek, ia meramalkan kemungkinan polarisasi sosial di masyarakat. Ia juga mengkhawatirkan munculnya pengawasan besar-besaran (baca: memata-matai) pemerintah terhadap warganya. Ini memungkinkan munculnya rezim otoriter. Juga tentang bahaya kejahatan siber, pengembangan senjata otonom untuk perang dan munculnya virus yang berbahaya.Setahun sebelumnya, dalam wawancara dengan BBC (yang videonya di youtube telah menuai lebih dari 4 juta views) hal yang sama ia kemukakan. Menurut dia, dalam lima tahun ke depan AI benar-benar memiliki kemampuan menalar yang lebih baik dibanding manusia. Ia bahkan tidak menampik kemungkinan AI memiliki kesadaran (conciousness) sendiri.Dalam jangka pendek ia memperkirakan pengangguran massal akan terjadi karena lapangan kerja manusia diambil alih mesin. Ancaman lainnya adalah penyebaran berita bohong. Selanjutnya bias dalam perekrutan di dalam berbagai bidang pekerjaan yang strategis, misalnya di kepolisian.Kekhawatiran terbesar Hinton adalah ketika manusia kehilangan kendali. Tatkala AI mulai menulis dan mengeksekusi kode komputer mereka sendiri dan memodifikasinya secara otonom, AI menjadi pengendali pikiran manusia. Ia dapat memanipulasinya. Bila masa itu tiba, kata Hinton, manusia sudah terlambat menghentikannya. AI sudah lebih cerdas untuk membangkang.Argumen Hinton semakin mencemaskan ketika ia mengatakan para ilmuwan AI sendiri tidak tahu pasti apa yang sesungguhnya terjadi dalam jaringan otak buatan AI. Ketika AI berinteraksi dengan data, menurut dia, hal yang sangat rumit terjadi.Dalam wawancara dengan The Guardian, Hinton memperkirakan ada peluang sebesar 10% hingga 20% AI akan memicu kepunahan umat manusia tiga dekade ke depan. Sebagai solusinya, Hinton menyarankan perlunya regulasi ketat terhadap perusahaan pengembang AI.Ia mendorong digencarkannya eksperimen ilmiah untuk memahami sampai dimana batas kemampuan AI. Selain itu, ia juga mendesak agar negara-negara membuat perjanjian global yang melarang penggunaan robot militer otonom.Teknoskeptis versus TeknoptimisSejarah pengembangan AI (bahkan perkembangan teknologi secara umum) tidak dapat dilepaskan dari dua kubu yang secara terus-menerus mengembangkan wacana yang bertentangan. Wacana yang disuarakan oleh Hinton, sering dijuluki sebagai wacana dengan ciri-ciri ketelitian tinggi (high-conscientiousness) yang menekankan analisis risiko dan kepatuhan pada aturan. Kubu ini kerap menjelma menjadi kelompok yang skeptis terhadap teknologi. Sikap skeptis itu menyebabkan mereka disebut kubu Teknoskeptis. Mereka memerankan diri sebagai kritikus teknologi.Kubu Teknoskeptis berhadapan dengan kubu Teknoptimis. Kubu yang disebut terakhir melihat teknologi sebagai pemberi jalan keluar. Kaum teknoptimis mendorong inovasi tanpa batas. Gagasan utama kubu ini dapat ditemukan pada sebuah esai yang ditulis oleh Marc Andreessen. Venture capitalist itu menulis sebuah esai pada tahun 2023, yang diberi judul The Techno-Optimist Manifesto. Isinya antara lain argumentasi bahwa sejarah telah menunjukkan banyak masalah penting umat manusia telah dipecahkan dengan perkembangan teknologi. Oleh karena itu upaya untuk mempercepat kemajuan teknologi tanpa batas harus terus didukung. Bagi Andreessen, teknologi adalah pendorong kekayaan dan kebahagiaan.Geoffrey Hinton pada awalnya berada di kubu Teknoptimis. Puluhan tahun kariernya dihabiskan bersama Google. Ia menekuni jaringan saraf tiruan (neural network) dengan keyakinan tinggi akan membawa lompatan besar bagi peradaban manusia.Namun, pada bulan Mei 2023 ia mundur dari Google. Alasannya, ia ingin bebas berbicara di depan publik mengenai bahaya laten AI.Menurut pengakuannya yang telah disiarkan secara luas oleh media, ia menjadi skeptis terhadap perkembangan AI karena ia tidak menduga bahwa AI akan menyamai manusia lebih cepat dari yang ia perkirakan. Berbagai risiko yang menunggu, termasuk skenario kiamat yang telah dikemukakan, menjadi pendorong dirinya mundur agar dapat bebas berbicara. Bertahan di Google dan bersuara kritis, bukan pilihan yang nyaman. Dua pimpinan tim Ethical AI Google, Timnit Gebru dan Margaret Mitchell, memberi pelajaran padanya. Dua sosok itu dipecat pada 2020-2021 setelah mereka menulis jurnal ilmiah yang mengkritik risiko bias dan bahaya lingkungan dari LLM milik Google sendiri.Dilema Disonansi Kognisi HintonUntuk menggambarkan dilema yang dihadapi sosok seperti Hinton, Ilmu Komunikasi meminjam pendekatan Ilmu Psikologi untuk menjawabnya. Sebuah konsep yang kemudian menjadi teori, cognitive dissonance theory (teori disonansi kognitif), menerangkannya cukup jelas. Disonansi kognitif adalah kondisi psikologis yang menggambarkan perasaan tidak nyaman akibat memiliki dua keyakinan atau gagasan yang saling bertentangan. Hal ini sering terjadi ketika seseorang melakukan tindakan yang tidak sejalan dengan prinsip atau keyakinan yang dipegangnya.Untuk mengatasi disonansi kognitif, manusia dapat memilih beberapa cara. Pertama, meredam dan mematikan pendapat atau keyakinan baru.Kedua, meremehkan atau menganggap kecil disonansi yang dihadapi. Artinya, ia dipandang bukan sesuatu yang mengganggu.Ketiga, mencari pembenaran diri sehingga tetap dapat bertahan dalam kondisi disonansi.Keempat, mengubah perilaku menyesuaikan dengan pendapat atau keyakinan baru.Bila menelusuri kisah Hinton, ia mengalami disonansi kognitif tatkala menyadari bahwa perkembangan AI lebih cepat dari yang ia perkirakan. Ia juga tidak menyangka bahwa AI berpotensi di luar kendali manusia. Dan ia yakin itu berbahaya. Ia ingin menyuarakan hal ini. Ia menjadi seorang teknoskeptis.Namun, ia mengalami disonansi kognitif karena ia berada di lingkungan yang meyakini sebaliknya. Disonansi kognitifnya semakin kuat karena aturan di Google tidak memungkinkannya mengambil peran sebagai teknoskeptis.Untuk mengatasi disonansi kognitifnya, Hinton memiliki empat pilihan. Pertama, yang paling mudah, cari aman dan nyaman. Ia meredam bahkan mematikan keyakinannya tentang bahaya AI. Bila perlu, meragukan kembali keyakinan itu.Kedua, menganggap kecil disonansi yang dialami. Hinton dapat tetap berada di Google dan menganggap kekhawatirannya tentang potensi AI sebagai ancaman manusia sebagai hal yang tak perlu dibesar-besarkan.Ketiga, mencari pembenaran diri. Hinton memilih bertahan di Google sambil terus memeluk keyakinannya bahwa AI berpotensi membuat manusia punah. Namun, mengatasi disonansi yang dialami, ia mencari alasan-alasan baru untuk membenarkan dia bertahan. Misalnya, dengan mengatakan bahwa ia masih ingin berkarya di Google dengan orang-orang terhebat. Sambil berperilaku demikian, ia menyembunyikan kecemasannya tentang kemungkinan AI sebagai ancaman eksistensial manusia.Keempat, yang paling berat, meninggalkan sumber disonansi, dan mencari lingkungan baru. Dan, ini pilihan Hinton. Ia meninggalkan Google agar menemukan kenyamanan menyuarakan keyakinannya. Ia mencari lingkungan baru yang dapat menerima pandangannya tersebut.Sejak keluar dari Google, narasi Teknoskeptis yang diusung oleh Hinton semakin radikal. Salah satunya adalah keyakinannya bahwa AI akan menjadi lebih pintar dibanding manusia. Lebih dari itu, ia juga meyakini AI akan memiliki kesadaran (conciousness) seperti halnya manusia, sesuatu yang sesungguhnya bertentangan dengan konsensus para ahli AI. Ia juga semakin lantang menyuarakan bahwa AI dapat memicu kepunahan manusia bila tidak ada regulasi yang memadai.