AI ‘Godfather’ Geoffrey Hinton memperingatkan adanya jebakan saat dia meninggalkan Google

Seorang pria yang secara luas dianggap sebagai bapak kecerdasan buatan (AI) telah berhenti dari pekerjaannya, memperingatkan bahaya yang ditimbulkan oleh perkembangan di lapangan.

Jeffrey Hinton, 75, mengumumkan pengunduran dirinya dari Google dalam sebuah pernyataan kepada New York Times, mengatakan dia sekarang menyesali pekerjaannya.

Dia mengatakan kepada BBC bahwa beberapa risiko AI chatbots “sangat menakutkan”.

“Saat ini, mereka tidak lebih pintar dari kita, sejauh yang saya tahu. Tapi saya pikir mereka akan segera.”

Penelitian perintis Dr. Hinton tentang pembelajaran mendalam dan jaringan saraf membuka jalan bagi sistem AI saat ini seperti ChatGPT.

Tetapi psikolog kognitif dan ilmuwan komputer Inggris-Kanada mengatakan kepada BBC bahwa chatbots dapat segera menyalip informasi yang disimpan oleh otak manusia.

“Apa yang kita lihat sekarang adalah bahwa hal-hal seperti GPT-4 melampaui tingkat akal sehat seseorang dan menyembunyikannya untuk waktu yang lama. Dalam hal penalaran, itu tidak begitu bagus, tetapi sudah demikian. Penalaran sederhana.

“Dan mengingat tingkat kemajuannya, kami berharap segalanya membaik dengan sangat cepat. Jadi kami harus memperhatikan hal itu.”

Dalam artikel New York Times, Dr. Hinton merujuk pada “aktor jahat” yang mencoba menggunakan AI untuk “perbuatan buruk”.

Ketika ditanya oleh BBC untuk menguraikan, dia menjawab: “Ini semacam skenario terburuk, semacam skenario mimpi buruk.

“Misalnya, Anda bisa membayangkan beberapa aktor jahat [Russian President Vladimir] Putin memutuskan untuk memberi robot kemampuan untuk membuat sub-target mereka sendiri.”

Ini pada akhirnya dapat menciptakan “sub-tujuan seperti ‘Saya ingin memiliki lebih banyak kekuatan,'” ilmuwan tersebut memperingatkan.

Dia menambahkan: “Saya sampai pada kesimpulan bahwa kecerdasan yang kita kembangkan sangat berbeda dengan kecerdasan yang kita miliki.

“Kami adalah sistem biologis dan ini adalah sistem digital. Dan perbedaan besarnya adalah dengan sistem digital, ada banyak salinan dengan bobot yang sama, model dunia yang sama.

“Dan semua replika ini dapat belajar secara individu, tetapi membagikan pengetahuan mereka secara instan. Jadi, seperti Anda memiliki 10.000 orang, dan setiap kali seseorang mempelajari sesuatu, semua orang secara otomatis mengetahuinya. Dan chatbot ini dapat mempelajari lebih dari satu orang.”

Dr Hinton juga mengatakan ada alasan lain untuk meninggalkan pekerjaannya.

“Satu, saya 75. Jadi sudah waktunya untuk pensiun. Dan yang lainnya adalah, saya ingin mengatakan beberapa hal baik tentang Google. Dan jika saya tidak bekerja di Google, mereka akan lebih kredibel.”

Dia tidak ingin mengkritik Google dan menegaskan bahwa raksasa teknologi itu telah bertindak “sangat bertanggung jawab”.

Jeff Dean, kepala ilmuwan Google, mengatakan dalam sebuah pernyataan: “Kami berkomitmen untuk pendekatan AI yang bertanggung jawab. Kami terus belajar memahami risiko yang muncul sambil berinovasi dengan berani.”