Ya, Daniel menilai, perkembangan menuju sistem AI yang mampu menulis kode secara sepenuhnya otonom kemungkinan membutuhkan waktu lebih lama dari perkiraan awal.
Ya, pakar kecerdasan buatan (AI) tersebut menjadi sorotan pada April lalu setelah memperkenalkan skenario “AI 2027”, gambaran hipotetis tentang laju perkembangan AI yang tidak terkendali hingga menciptakan superinteligensi.
Dalam skenario tersebut, AI digambarkan mampu menipu para pemimpin dunia sebelum pada akhirnya memusnahkan manusia.
Skenario itu segera memicu reaksi beragam.
Wakil Presiden AS, JD Vance disebut menyinggung AI 2027 saat membahas percepatan perlombaan senjata AI antara Amerika Serikat dan China.
Sementara itu, Gary Marcus, profesor emeritus ilmu saraf dari New York University, menilai skenario tersebut sebagai karya fiksi yang berlebihan dan menyebut kesimpulannya tidak realistis.
Perkiraan waktu munculnya AI transformatif atau artificial general intelligence (AGI), teknologi yang dapat menggantikan manusia dalam sebagian besar pekerjaan kognitif lama menjadi bahan diskusi di komunitas keselamatan AI.
Sejak hadirnya ChatGPT pada 2022, prediksi waktu kedatangan AGI semakin dipercepat hingga diperkirakan terjadi dalam hitungan dekade atau bahkan beberapa tahun.
Kokotajlo dan timnya sebelumnya memprediksi tahun 2027 sebagai era ketika AI mampu melakukan pengodean secara penuh dan otonom.
Namun kini muncul keraguan baru mengenai seberapa dekat AGI akan tercapai serta apakah istilah tersebut masih relevan.
Malcolm Murray, pakar manajemen risiko AI menyampaikan, banyak ahli juga menunda prediksi mereka selama setahun terakhir setelah melihat ketidakkonsistenan performa AI.
Ia menambahkan, agar skenario seperti AI 2027 dapat terjadi, AI harus memiliki lebih banyak kemampuan praktis yang dapat berfungsi di dunia nyata yang kompleks.
Menurutnya, semakin banyak pihak yang menyadari bahwa perubahan besar dalam masyarakat membutuhkan waktu karena adanya hambatan besar di kehidupan nyata.
Henry Papadatos, direktur eksekutif SaferAI nilai, istilah AGI dulunya relevan ketika sistem AI masih terbatas pada kemampuan spesifik seperti bermain catur atau Go.
Namun dengan munculnya sistem yang lebih serbaguna saat ini, ia menilai istilah tersebut tidak lagi memiliki makna yang kuat.
Skenario AI 2027 sebenarnya bertumpu pada asumsi bahwa agen AI mampu mengotomatisasi seluruh proses penulisan kode serta penelitian dan pengembangan teknologi AI.
Kondisi tersebut berpotensi memicu “ledakan kecerdasan”, yaitu situasi di mana AI menciptakan versi dirinya yang semakin cerdas.
Dalam skenario ekstrem, keadaan itu digambarkan berujung pada pemusnahan manusia pada pertengahan 2030-an demi menyediakan ruang bagi lebih banyak panel surya dan pusat data.
Namun, Kokotajlo dan para penulis skenario kini memperbarui estimasi tersebut. Mereka memperkirakan kemampuan AI untuk menulis kode secara otonom kemungkinan baru muncul pada awal 2030-an, bukan 2027.
Prediksi terbaru menempatkan tahun 2034 sebagai waktu potensial tercapainya superinteligensi, tanpa menyertakan perkiraan kapan manusia mungkin terancam.
Kokotajlo menyampaikan, perkembangan tampak lebih lambat dibanding proyeksi sebelumnya.
Sementara itu, pengembangan AI yang mampu melakukan riset AI secara otomatis masih menjadi ambisi sejumlah perusahaan besar.
CEO OpenAI, Sam Altman, pernah menyebut bahwa memiliki peneliti AI otomatis pada Maret 2028 menjadi sasaran internal perusahaan, meski ia mengakui target tersebut bisa saja tidak tercapai. (*)
Editor : Lucky Lukman Nul Hakim