Kecerdasan Buatan Semakin Canggih, Diprediksi Beralih dari AI ke AGI

Dalam sebuah makalah, Robert Sparrow dari Monash University dan Adam Henschke dari University of Twente menyebutkan karena skenario perang seperti itu mungkin terjadi, muncul kekhawatiran etis apakah AI harus diberi wewenang untuk mengirim manusia ke potensi kematian mereka.

"Akhirnya, mengejar kemenangan mungkin membutuhkan penyerahan komando ke mesin dan kemenangan dapat ditentukan oleh kekuatan mana yang memiliki AI yang lebih baik," katanya.

Bagaimana mencegah AGI lepas kendali?

Profesor Paul Salmon dari Queensland's University of the Sunshine Coast setuju bahwa AGI menimbulkan risiko eksistensial bagi manusia. Ia menyarankan kita bertindak sekarang agar siap untuk kedatangan AGI, meskipun beberapa dekade lagi.

"Jika kita baru mulai mengkhawatirkan AGI saat sudah muncul, itu sudah terlambat," katanya.

"Kita perlu memahami bagaimana merancang AGI agar aman, etis, dan dapat digunakan. Bagaimana mengelola risiko dan bagaimana mengendalikannya," ujar Prof Salmon.

Dalam posting blognya bulan lalu, Sam Altman dari OpenAI memaparkan rencana perusahaannya untuk pengembangan AGI.

Dia mengatakan OpenAI semakin berhati-hati dengan merilis model AI-nya saat AGI semakin dekat.

Perusahaannya, katanya, memiliki klausul tentang membantu organisasi lain meningkatkan keselamatan daripada berlomba dengan mereka dalam pengembangan AGI tahap akhir.