Google DeepMind Temukan Cara Hentikan AI yang Bertindak Diluar Batas

google deepmind

Google DeepMind Temukan Cara Hentikan AI yang Bertindak Diluar Batas – Dalam beberapa tahun belakangan, Deep Mind, anak perusahaan milik Google membuat sebuah langkah besar dalam dunia Artificial Intelligence. Google sudah meneliti lebih jauh tentang keamanan dari penggunaan AI dan kali ini DeepMind bekerjasama dengan Universitas Oxford mengeluarkan sebuah makalah yang isinya menjelaskan tentang pembuatan metode tombol matikan paksa yang bisa digunakan untuk menghentikan AI yang bertindak diluar batas.

Dalam makalah itu, DeepMind memiliki pemikiran bahwa agen cerdas dari artificial intelligent tidak selamanya bekerja optimal ketika berinteraksi dengan dunia nyata. Karenanya, hal ini penting supaya manusia bisa mencegah AI dalam melakukan tindakan yang berbahaya dan bisa kembali ke situasi yang lebih aman. Makalah tersebut menjabarkan bahaya itu sendiri sebagai lingkungan sekitar atau agen itu sendiri.

Metode ini dibuat oleh peneliti untuk memastikan AI tidak melindungi dirinya sendiri ketika prosesnya diinterupsi oleh manusia. Selama AI terus berkembang dan menerima hadiah berupa pengetahuan yang didapatkan ketika sudah menyelesaikan suatu pekerjaan, mungkin saja AI akan mempelajari untuk menghindari gangguan dari manusia tersebut dan mengelakkan tombol tersebut.

Peneliti menyadari bahwa beberapa algoritma seperti Q-Learning bisa diinterupsi, disaat algoritma yang lainnya masih membutuhkan modifikasi untuk bisa menerapkan hal yang sama. Bagaimanapun, hal ini masih belum jelas apakah bisa diterapkan ke semua algoritma pembelajaran.

Industri teknologi lainnya sudah memulai hal yang sama untuk memastikan bahwa AI tidak bekerja diluar batas. Tahun kemarin, Elon Musk, Peter Thiel, dan yang lainnya membuat sebuah perusahaan peneliti non-profit untuk memastikan AI dibangun dalam keadaan yang nantinya diharapkan tidak hanya menguntungkan manusia, namun juga aman. Musk mengulas kembali tujuan dari OpenAI pada Code Conference baru-baru ini.

Dilihat 477 kali

Related Posts

About The Author

Game dan app reviewer, kontributor nyeleneh yang kadang juga nulis.