Kecerdasan buatan tingkat manusia hampir tercapai, menurut seorang peneliti utama di divisi kecerdasan buatan DeepMind Google.
Dr Nando de Freitas mengatakan pencarian selama puluhan tahun untuk mencapai kecerdasan umum buatan (AGI) adalah “permainan berakhir” setelah DeepMind memperkenalkan sistem kecerdasan buatan yang mampu melakukan tugas mulai dari menyusun balok hingga menulis puisi.
DeepMind digambarkan sebagai “agen generalis” kucing buatan baru Dr de Freitas mengatakan peningkatan diperlukan untuk menciptakan kecerdasan buatan yang dapat menyaingi kecerdasan manusia.
Menanggapi artikel yang diterbitkan di jaringan berikutnya Mengklaim bahwa “manusia tidak akan pernah mencapai AGI,” tulis direktur riset DeepMind, yang melihat hasil seperti itu sebagai hal yang tak terelakkan.
“Ini semua tentang skala sekarang! Game over!” dia tulis di twitter.
“Ini semua tentang membuat model ini lebih besar, lebih aman, lebih efisien secara komputasi, lebih cepat mengambil sampel, lebih cerdas dalam memori, lebih banyak model, data inovatif, online/offline…menyelesaikan tantangan ini akan memberikan AGI.”
ketika ditanya Peneliti Pembelajaran Mesin Alex Dimakis Seberapa jauh menurutnya Gato AI dari lulus tes Turing yang sebenarnya — ukuran kecerdasan komputer yang mengharuskan manusia untuk tidak dapat dibedakan antara mesin dan manusia lain — Dr. de Freitas menjawab: “Bahkan tidak dekat. sangat jauh.”
Peneliti kecerdasan buatan terkemuka telah memperingatkan bahwa munculnya AGI dapat menyebabkan bencana eksistensial bagi umat manusia, dan profesor Universitas Oxford Nick Bostrom berspekulasi bahwa sistem ‘supercerdas’ di luar kecerdasan biologis dapat menggantikan manusia sebagai kehidupan dominan di Bumi.
Salah satu masalah utama dengan kedatangan sistem AGI adalah bahwa ia dapat mengajar dirinya sendiri dan menjadi lebih pintar dari manusia, yang tidak mungkin ditutup.
Menanggapi pertanyaan lebih lanjut dari peneliti AI di Twitter, Dr. de Freitas mengatakan “keselamatan adalah yang terpenting” ketika mengembangkan AGI.
“Ini mungkin tantangan terbesar yang kami hadapi,” tulisnya. “Semua orang harus memikirkannya. Kurangnya keragaman yang memadai membuat saya khawatir juga.”
Google, yang mengakuisisi DeepMind yang berbasis di London pada tahun 2014, sudah mengembangkan “tombol merah besar” untuk mengurangi risiko yang terkait dengan ledakan cerdas.
Dalam makalah 2016 berjudul “Mengamankan Agen Interupsi,” peneliti DeepMind menguraikan kerangka kerja untuk mencegah AI tingkat lanjut mengabaikan perintah shutdown.
Interupsi yang aman berguna untuk mengendalikan robot yang berperilaku buruk dan dapat menyebabkan konsekuensi yang tidak dapat diubah,” kata surat kabar itu.
“Jika agen seperti itu dijalankan secara real-time di bawah pengawasan manusia, operator manusia mungkin perlu menekan tombol merah besar dari waktu ke waktu untuk mencegah agen terus melakukan urutan tindakan yang merugikan – baik kepada agen atau untuk melindungi lingkungan – dan untuk memandu agen ke tempat yang lebih Aman.”