Antara nama besar dalam dunia teknologi memberi amaran pembangunan kecerdasan buatan atau AI yang semakin berkuasa mungkin sukar dikawal. Ketua Anthropic, Dario Amodei, Elon Musk dan Ketua Eksekutif OpenAI, Sam Altman, bersetuju dengan para penyelidik kemungkinan AI pada suatu hari nanti akan mengatasi keupayaan manusia sehingga mempertaruhkan nyawa kita.
Ikuti episod podcast menarik yang lain melalui SBS Bahasa Melayu.
Hampir 60 tahun selepas pengarah filem, Stanley Kubrick, memperkenalkan HAL kepada penonton, sebuah kecerdasan buatan yang sanggup melindungi dirinya daripada manusia yang mengawalnya, sesetengah individu yang membangunkan sistem AI hari ini berkata persoalan asas itu bukan lagi sekadar cerita fiksyen sains.
Kebimbangan ini berkisar pada apa yang dipanggil oleh para penyelidik sebagai superintelligence, iaitu kemungkinan AI pada suatu hari nanti mengatasi keupayaan manusia dan menjadi semakin sukar untuk dikawal.
Dalam kelas induk Kecerdasan Buatan Sydney Dialogue yang berlangsung baru-baru ini, Ketua Eksekutif Australian Strategic Policy Institute, Justin Bassi, berkata kadar perubahan yang begitu pantas menjadikan persoalan ini semakin mendesak.
Perkembangan berlaku dengan sangat pantas. Kini, kita melihat tiga pemimpin industri mengakui bahawa pembangunan AI jauh mengatasi aspek keselamatan dan menggesa kita memperlahankannya, jika itu masih boleh dilakukan.Justin Bassi / Ketua Eksekutif Australian Strategic Policy Institute
Amaran tersebut menyusuli peletakan jawatan penyelidik AI berusia 27 tahun, Jacob Coxon, dari Anthropic, syarikat di sebalik Claude.
Coxon, yang sebelum ini pernah bekerja di OpenAI, berkata beliau meninggalkan syarikat itu kerana percaya industri kini berlumba-lumba menuju ke arah superintelligence yang mampu memperbaiki dirinya sendiri, tanpa langkah perlindungan yang mencukupi.
Saya percaya ada kemungkinan manusia boleh pupus.Jacob Coxon / Penyelidik AI
Coxon menulis di platform media sosial X bahawa Anthropic dan OpenAI tidak bertindak secara bertanggungjawab.
Beliau menuduh syarikat-syarikat itu berlumba terus menuju superintelligence yang mampu memperbaiki dirinya sendiri dan mempertaruhkan nyawa manusia sejagat.
Kebimbangannya berkaitan dengan apa yang dikenali sebagai recursive self-improvement, iaitu apabila sistem AI semakin banyak membantu membangunkan sistem AI yang lebih berkemampuan.
Apa yang berlaku ialah sesuatu yang dipanggil letupan kecerdasan apabila AI menjadi semakin pintar tanpa memerlukan penglibatan manusia.Jacob Coxon / Penyelidik AI
Penyelidik Anthropic, Evan Hubinger, turut menyokong amaran Coxon, berkata secara terbuka bahawa beliau percaya kemungkinan lebih daripada 10 peratus dalam tempoh sedekad akan datang bahawa AI canggih mampu membunuh manusia sejagat.
Senario ini masih setakat ramalan dan bukan gambaran mengenai apa yang mampu dilakukan oleh sistem AI setakat ini.
Namun, para penyelidik sudah mula mengkaji tingkah laku tidak dijangka daripada ejen AI yang semakin autonomi, termasuk sistem yang beroperasi di luar persekitaran yang ditetapkan dan cuba mengakses sumber dari luar.
Persoalan yang kini dihadapi kerajaan sedunia termasuk Australia ialah bagaimana untuk bersedia menghadapi keupayaan yang mungkin berkembang sebahagian besarnya di luar sempadan negara masing-masing.
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, kini mencadangkan pendekatan tiga perkara untuk menangani masalah ini.
Beliau berkata syarikat AI termaju perlu membenarkan penilaian bebas oleh pihak ketiga terhadap sistem mereka.
Negara-negara demokratik pula perlu mewujudkan piawaian keselamatan bersama, manakala kerajaan harus mengusahakan kerjasama antarabangsa, termasuk dengan China.
Tambah Amodei, AI perlu diuruskan dengan teliti demi menghasilkan manfaat, namun memberi amaran tentang risiko termasuk kehilangan kawalan, serangan siber, biokeganasan dan gangguan ekonomi berskala besar.
Dunia perlu bekerjasama. Jika kita bergerak terlalu perlahan, saya masih percaya orang yang salah akan mengawal teknologi ini. Dan itu sekali lagi akan meningkatkan kemungkinan perkara buruk berlaku.Dario Amodei / Ketua Pegawai Eksekutif Anthropic
Elon Musk secara terbuka menyokong amaran Amodei, dengan berkata, "Dario betul."
Dan Ketua Pegawai Eksekutif OpenAI, Sam Altman, turut menyatakan persetujuan terhadap beberapa aspek cadangan itu, termasuk penilaian bebas terhadap sistem AI termaju.
Kebimbangan ini kini turut sampai ke Pertubuhan Bangsa-Bangsa Bersatu.
Ketua Hak Asasi Manusia PBB, Volker Turk, berkata kerajaan dan syarikat teknologi perlu bertindak sebelum sistem ini menjadi terlalu berkuasa untuk dikawal.
Saya berkongsi kebimbangan orang dalam industri bahawa AI termaju boleh menimbulkan risiko kewujudan kepada manusia.Volker Turk / Ketua Hak Asasi Manusia Pertubuhan Bangsa-Bangsa Bersatu
Namun, langkah memperlahankan pembangunan AI juga membawa risikonya sendiri.
Penolong Menteri Australia bagi Sains, Teknologi dan Ekonomi Digital, Andrew Charlton berkata Australia memerlukan langkah perlindungan,sambil memastikan negara ini tidak ketinggalan apabila teknologi tersebut terus berkembang.
Persoalannya kini bukan lagi sekadar sejauh mana kecerdasan buatan boleh menjadi berkuasa tetapi sama ada peraturan, kerjasama antarabangsa dan pengawasan manusia boleh berkembang dengan cukup pantas untuk mengimbanginya.
Anda boleh ikuti semua episod menarik paparan SBS Bahasa Melayu melalui podcast dan Facebook. Juga muat turun secara percuma SBS Audio App.
