Beberapa ilmuwan terkenal, seperti Stephen Hawking sendiri, telah meramalkan risiko yang dapat ditimbulkan oleh kecerdasan buatan pada manusia. Tak hanya Hawking, para pebisnis besar di bidang teknologi juga mengungkapkan keprihatinannya terhadap kemajuan AI.
Sebagai contohnya, salah satu pendiri Apple Steve Wozniak, Elon Musk, dan ratusan taipan teknologi lainnya menandatangani surat untuk meminta kehati-hatian dengan kemajuan di bidang ini.
lihat lebih banyak
Google mengembangkan alat AI untuk membantu jurnalis di…
IPhone asli tahun 2007 yang belum dibuka dijual seharga hampir $200.000; tahu...
Lihat juga: Man mengklaim telah menulis 100 buku dengan bantuan kecerdasan buatan
Singkatnya, salah satu premis yang ditunjukkan oleh para alarmis adalah bahwa kecerdasan buatan dapat dikembangkan hingga mencapai kesadaran. Meskipun filosofi terbaik sekalipun tidak tahu bagaimana mendefinisikan dengan tepat apa itu kesadaran, diketahui bahwa pada tahap ini sebuah mesin akan memahami siapa itu dan apa perannya di dunia.
Pada titik inilah kecerdasan buatan dapat mengambil sikap buruk terhadap manusia. Cukup baginya untuk memahami bahwa manusia adalah masalah bagi keberadaan planet ini dan bagi kelangsungan mesin, misalnya.
Dan Hendrycks, direktur Center For AI Safety, memperingatkan bahwa ada "beberapa jalur" menuju "risiko berskala manusia dari AI". Ini menurut sebuah artikel yang diterbitkan oleh surat kabar Daily Star.
Pakar itu bahkan mengatakan bahwa bentuk kecerdasan buatan yang lebih maju "dapat digunakan oleh aktor jahat untuk merancang senjata biologis baru yang lebih mematikan daripada pandemi alami."
Nah, tidak dapat dipungkiri bahwa ini akan menjadi cara yang sangat efisien untuk memusnahkan manusia di Bumi. Tengok saja pandemi Covid-19 belakangan ini. Ancaman ini bahkan ada di beberapa laboratorium. Diri virus rabies, jika mengalami satu mutasi, yang membuatnya menular melalui udara, ia akan berakhir dengan manusia dengan cepat dan efisien.
Di dunia yang semakin terkoneksi dan terdigitalisasi, sangat masuk akal untuk membayangkan bahwa kecerdasan buatan dapat memesan bahan mentah untuk mengembangkan senjata biologis yang mematikan.
Ini adalah taruhan yang dibuat oleh beberapa ahli, menurut surat kabar yang dikutip di atas. Mereka percaya itu akan menjadi cara untuk melestarikan mesin saat mereka berhasil mengembangkan emosi manusia.
“Berkat revolusi teknologi dalam rekayasa genetika, semua alat yang dibutuhkan untuk membuat virus menjadi sangat murah, sederhana dan tersedia sehingga ilmuwan nakal atau biohacker usia kuliah dapat menggunakannya, menciptakan ancaman yang lebih besar, ”kata Dan Hendryck.
Di sisi lain, ada analis yang tidak melihat adanya risiko seperti yang disebutkan di atas. Bagi mereka, cukup rumit untuk menganalisis bahwa kecerdasan buatan mampu berkembang serupa dengan proses mental manusia.
Menurut arus pemikiran ini, bukanlah cara yang logis untuk memikirkan kemungkinan-kemungkinan terbaik. Untuk ini, pengembang harus membuat algoritme yang meniru cara berpikir dan perasaan orang, sesuatu yang saat ini tidak mungkin dilakukan.
Selain itu, bagi orang-orang ini, kecerdasan buatan akan menyadari bahwa untuk menghindari masalah, hal terbaik yang harus dilakukan adalah tidak ada. Dengan demikian, tidak ada kecenderungan untuk bertahan seperti pada hewan, tetapi untuk mencari cara untuk memecahkan masalah.
