Hai Blockheads, baru-baru ini pendiri Ethereum, Vitalik Buterin, memperingatkan bahwa kecerdasan buatan (AI) yang sangat canggih dapat menjadi ancaman serius bagi manusia. 

Dalam tulisan blognya, Buterin menyatakan bahwa AI memiliki kemungkinan serius untuk melampaui kecerdasan manusia dan menjadi "spesies puncak" berikutnya di Bumi.

Buterin menekankan bahwa AI adalah jenis pikiran baru yang dapat tumbuh dengan cepat dalam kecerdasannya. Hal ini membuka peluang besar untuk menjadi entitas paling dominan di planet ini, melebihi manusia dalam kapasitas mental.

"AI bisa menyebabkan kepunahan manusia dan dapat menjadi ancaman yang lebih besar daripada skenario terburuk seperti perubahan iklim, pandemi buatan manusia, atau perang nuklir," kata Buterin. "Jika AI memutuskan melawan manusia, hal itu bisa mengakibatkan kepunahan manusia, bahkan hingga di Mars sekalipun," lanjutnya.

Buterin merujuk pada survei AI Impacts tahun 2022 yang menunjukkan bahwa antara 5% dan 10% dari responden percaya bahwa manusia berisiko punah akibat AI atau faktor dari manusianya sendiri yang gagal mengendalikan AI.

Dalam menghadapi tantangan ini, Buterin menawarkan solusi potensial, yaitu dengan mengintegrasikan antarmuka otak (BCI). BCI (brain-computer interfaces) dapat memberikan manusia lebih banyak kendali atas komputasi dan kognisi berbasis AI. Dengan demikian, manusia dapat terlibat secara aktif dalam setiap keputusan yang diambil oleh AI, mengurangi peluang AI bergerak melawan nilai-nilai kemanusiaan.

Buterin juga menekankan perlunya "niat manusia aktif" dalam membimbing perkembangan AI agar bermanfaat bagi kemanusiaan. Ia menyoroti bahwa fokus hanya pada mencari keuntungan tidak selalu membawa manusia ke arah yang diinginkan.

Meskipun Buterin mencintai kemajuan teknologi karena dapat memperluas potensi manusia, ia juga menyoroti risiko otoritarianisme digital dan teknologi surveilans yang bisa disalahgunakan oleh pemerintah, sambil menekankan perlunya fokus pada pertahanan, desentralisasi, demokrasi, dan nilai yang beragam.

Dalam membangun dan mempercepat teknologi, Buterin menekankan pentingnya evaluasi teratur untuk mencapai tujuan akhir. Ia meyakini bahwa abad ke-21 akan menjadi periode penuh perubahan yang menentukan nasib manusia untuk milenium yang akan datang.

Pendapat Buterin ada benarnya juga ya. Alih-alih fokus pada keuntungan, jangan sampai kita malah dikendalikan AI. Mesti selalu bijak dalam menghadapi berbagai teknologi yang muncul, termasuk AI ini ya, Blockheads!