blog.ur-doc.com

Berita tentang proyek DeepMind Google sempat beredar di internet minggu lalu ketika raksasa pencarian tersebut mengungkapkan bahwa platform AI mereka AlphaGo telah berhasil mengalahkan juara Go Fan Hui. Jejaring sosial dipenuhi dengan postingan tentang Skynet, Matrix, Cylons, dan sejumlah referensi jelas lainnya tentang budaya pop eskatologis.

Pertama, beberapa fakta, untuk meredakan demam robot tuan sedikit, diikuti oleh beberapa fakta lainnya, untuk benar-benar menakuti Anda.

Beberapa orang mungkin bertanya-tanya mengapa kemenangan ini dianggap sebagai pencapaian yang lebih besar dari sebelumnya Kemenangan catur IBM Deep Blue atas Gary Kasparov pada tahun 1997. Alasan utamanya adalah karena permainan itu sendiri: langkah pembuka Catur memiliki 20 kemungkinan, namun langkah pembuka Go memiliki 361 — hampir 20 kali lebih banyak kemungkinan hasil.

Rata-rata permainan catur diselesaikan setelah 40 gerakan dimainkan, namun rata-rata permainan Go memakan waktu sekitar 200 gerakan. Dari sudut pandang matematis murni, Go jauh lebih dalam dalam pengambilan keputusan dibandingkan catur. (Agar sebuah program dapat mengurutkan setiap potensi pergerakan dan hasil di Go akan memerlukan upaya komputasi yang setara dengan mengevaluasi setiap atom di alam semesta yang diketahui!)

Namun, betapa pun mengesankannya kinerja Google, kemenangan mereka perlu dikualifikasikan.

Pada saat Kasparov kalah dalam catur, ia telah menduduki peringkat #1 dunia selama sekitar dua belas tahun dan akan mempertahankannya selama delapan tahun berikutnya. Dia benar-benar pemain catur terbaik yang pernah dihasilkan umat manusia. Sementara Fan Hui, juara Go Eropa yang mengalahkan DeepMind, berada di peringkat 633 dunia. (Ternyata Go bukanlah permainan yang sangat populer di Eropa.)

Tentu saja ada beberapa hal lain yang tidak dapat dikalahkan oleh DeepMind—bahkan, menurut sebagian besar perkiraan, ini mungkin tidak cukup baik untuk masuk ke daftar 250 pemain teratas.

Perubahan yang dipercepat

Komputer telah mencoba mengalahkan manusia di Chess and Go sejak tahun 1950an, namun terobosan besar pertama baru terjadi pada tahun 1977 ketika “Catur” Universitas Northwestern memenangkan turnamen melawan pemain manusia. Pada tahun 1980, program Belle secara teratur mengalahkan pemain catur tingkat master, tetapi perlu waktu 17 tahun lagi sebelum perangkat lunak mencapai kesetaraan dengan perangkat lunak Kasparov, dan 19 tahun lagi sebelum program mulai membuat para profesional Go kehabisan uang.

Namun, tidak dapat dihindari bahwa AI akan mengalahkan kita di semua game strategi “informasi sempurna” seperti Chess and Go. Teknologi terus berkembang pesat dengan kecepatan yang semakin terasa seperti berita fiksi ilmiah—munculnya tes DNA yang dapat diakses oleh konsumen, mobil tanpa pengemudi, anggota badan bionik, ponsel pintar seharga $20, Internet of Things, AI yang mampu mengalahkan juara Jeopardy — semuanya terobosan ini telah terjadi hanya dalam 10 tahun terakhir. Meminjam istilah dari dunia startup, umat manusia mendapati dirinya berada di bawah “grafik tongkat hoki” dengan proporsi yang luar biasa.

Para ilmuwan percaya bahwa semua kemajuan ini pada akhirnya akan mencapai suatu titik, suatu momen di mana kemajuan umat manusia akan bersatu dalam satu penciptaan akhir yang akan mengubah arah spesies kita.

Matematikawan John Von Neumann (1903-1957) menyebut momen ini sebagai “Singularitas Teknologi,” sebuah titik balik dalam peradaban kita di mana penemuan kita – misalnya jaringan komputer robotik – akan menjadi sangat cerdas dan membuat kemampuan kita menjadi ketinggalan jaman.

Ilmuwan visioner Ray Kurweil memperkirakan bahwa singularitas ini akan terjadi pada tahun 2045, yaitu masa hidup sebagian besar orang yang membaca artikel ini. Dia secara khusus memperkirakan apa yang akan kita alami merekayasa balik otak manusia dalam 10-15 tahun ke depan, dan segera setelah itu mulailah menempuh jalan yang tidak dapat kembali lagi.

A Orang yang bijaksana lebih baik?

Implikasi dari penciptaan entitas super cerdas memang aneh, menakjubkan, dan memang cukup menakutkan. Seperti yang dikatakan penulis Lev Grossman, “memasukkan bentuk kehidupan superior ke dalam biosfer Anda sendiri adalah kesalahan mendasar Darwin.”

Dengan kata lain: hal ini tidak berjalan baik bagi Neanderthal ketika Homo Sapiens muncul 60.000 tahun yang lalu.

Jadi mengapa kita tidak mengerem penelitian AI? Karena “inovator akan berinovasi,” menyalahgunakan ungkapan populer. Kecerdasan super digital akan menjadi satu-satunya penemuan umat manusia yang terbesar, dan mungkin final, dan konsekuensi dari penciptaan tersebut tidak dapat dilebih-lebihkan.

Setelah online, kecerdasan super ini akan menjadi dewa yang dapat diverifikasi. Hal ini akan mampu meningkatkan semua teknologi yang kita miliki saat ini dalam skala waktu yang sulit kita pahami – jam dan menit antar inovasi, bukan bulan dan tahun – dan karena sifat pembelajaran yang eksponensial, apakah setiap perbaikan baru akan terjadi lebih cepat daripada teknologi yang kita miliki saat ini? yang terakhir.

Misalnya saja, dengan menggunakan teknologi nano yang telah disempurnakan, teknologi ini dapat memiliki kekuatan untuk mengakhiri kelaparan, memberantas penyakit, menghilangkan polusi… dan, jika kita merancangnya dengan salah, berpotensi memusnahkan seluruh umat manusia.

Lagi pula, tindakan umat manusialah yang mendasari semua masalah global ini, jadi bukankah makhluk super-cerdas yang ambivalen akan menyimpulkan bahwa alam semesta akan lebih baik tanpa kita? Untuk apa menghabiskan energi untuk membersihkan kesalahan-kesalahan umat manusia berulang kali jika kita bisa menghentikan masalah ini sejak awal untuk selamanya?

Agenda pemusnahan

Pikiran seperti itulah yang membuat Anda terjaga di malam hari. Gagasan bahwa suatu ciptaan dapat mengambil alih nenek moyangnya dan terus mengambil alih planet ini memang terdengar seperti alur cerita setiap film fiksi ilmiah distopia yang pernah Anda tonton, namun ada cukup kebenaran di sana yang membuat khawatir beberapa pemikir paling cerdas kita. Memang benar, Elon Musk menyebut kita AI “ancaman eksistensial terbesar,” dan Bill Gates berkata dia tidak mengerti “mengapa sebagian orang tidak peduli” tentang konsekuensinya.

Ahli teori AI Eliezer Yudkowsky dari Machine Intelligence Research Institute mengurangi kekhawatiran terhadap esensi materialnya: “AI tidak mencintaimu, juga tidak membencimu, tapi kamu terbuat dari atom yang dapat digunakan untuk hal lain.”

Sebagai tanggapan, ilmuwan lain telah mengusulkan cara untuk membangun AI yang memiliki tujuan inti ramah kepada orang-orangberalasan bahwa “teman” tidak akan pernah merugikan kita setelah definisi itu diinternalisasikan dengan benar.

Yang lain berteori bahwa AI kita bisa belajar meniru etika beberapa orang yang terpuji (Mahatma Gandhi, Martin Luther King Jr., Abraham Lincoln, dll.), yang pada dasarnya mengubahnya menjadi diktator digital kita yang baik hati. (Ladang ranjau politik yang harus Anda manuver untuk menyusun daftar tokoh-tokoh yang “mengagumkan” tersebut belum diketahui.)

Sekali lagi kita harus bertanya, mengapa kita menempuh jalan yang berbahaya? Karena sisi lain dari perdebatan ini terlalu bagus untuk diabaikan.

Jika kita membangun AI dengan benar, itu bisa mewakili keselamatan kita – bukan kepunahan kita – sebagai suatu spesies. Pandangan orang-orang optimis mengenai AI yang mahatahu bersifat utopis: dengan AI, kita berpotensi memecahkan setiap masalah yang pernah mengganggu umat manusia, termasuk kematian itu sendiri. Daya tarik keabadian, peradaban multi-planet, dan penjelajahan alam semesta secara langsung dibandingkan melalui teleskop dan peta sungguh memabukkan. Bagi banyak ilmuwan, inilah alasan utama mereka menjadi ilmuwan. Mengejar AI yang super cerdas adalah cara untuk mewujudkan semua impian ini dalam hidup kita, bukan di kemudian hari: alih-alih mencoba merancang berbagai mesin yang akan memungkinkan kita mencapai tujuan, ayo kita merancang mesin tunggal yang akan merancang semua yang lain.

Dan di situlah letak titik balik sebenarnya bagi peradaban kita. Hanya dalam waktu kurang dari 3 dekade kita akan mencapai teknologi yang diperlukan untuk membawa kita ke bintang, atau mengakhiri kekuasaan kita di planet ini. Ini akan menjadi keputusan terpenting yang akan diambil spesies kita secara kolektif, dan untungnya masih ada waktu untuk memastikan bahwa keputusan tersebut tidak salah.

Bagaimanapun, kesalahan sebagian besar merupakan aktivitas manusia. – Rappler.com

Konsep kecerdasan buatan dengan catur gambar dari Shutterstock