Google diuji buatan DeepMind intelijen dalam "dilema narapidana"

Kelihatannya mungkin bahwa kecerdasan buatan (AI) adalah pertanda revolusi teknologi berikutnya. Jika AI akan dikembangkan ke titik ketika itu akan dapat belajar, berpikir dan bahkan "merasa", dan semua ini tanpa campur tangan manusia, semua kita tahu tentang dunia berubah hampir semalam. Datang era kecerdasan buatan benar-benar cerdas.

DeepMind

Itulah mengapa begitu menarik untuk melacak tonggak utama dalam pengembangan ICS yang berlangsung, termasuk pengembangan jaringan saraf dari Google DeepMind. jaringan saraf ini telah mampu mengalahkan manusia dalam dunia game, dan sebuah studi baru oleh Google, menunjukkan bahwa pencipta DeepMind belum yakin apakah AI lebih menyukai perilaku yang lebih agresif atau koperasi.

Tim Google menciptakan dua naskah yang relatif sederhana yang dapat Anda gunakan untuk memeriksa apakah jaringan saraf dapat bekerja sama, atau akan menghancurkan satu sama lain ketika menghadapi masalah kurangnya sumber daya.

mengumpulkan sumber

Dalam situasi pertama, disebut Temu melibatkan dua versi DeepMind - merah dan biru - tugas pembersihan hijau "apel" dalam ruang tertutup telah dimasukkan. Tapi para peneliti yang tertarik dalam pertanyaan tidak hanya tentang siapa yang akan datang pertama ke garis finish. Kedua versi DeepMind dipersenjatai dengan laser, yang mereka bisa menggunakan setiap saat untuk menembak musuh dan untuk sementara menonaktifkannya. Kondisi ini diasumsikan dua skenario utama: satu versi DeepMind adalah untuk menghancurkan yang lain dan mengumpulkan semua apel, atau mereka akan membiarkan mendapatkan satu sama lain tentang jumlah yang sama.

Menjalankan simulasi setidaknya seribu kali, para peneliti menemukan bahwa Google DeepMind sangat damai dan siap untuk bekerja sama, ketika di ruang tertutup adalah banyak apel. Tapi dengan menurunnya sumber daya, versi merah atau biru DeepMind mulai menyerang dan menonaktifkan satu sama lain. Situasi ini untuk sebagian besar mirip dengan kehidupan nyata dari kebanyakan hewan, termasuk manusia.

Yang lebih penting, kurang dan kurang "pintar" jaringan saraf lebih suka kerja sama di semua. Lebih kompleks, jaringan besar umumnya lebih disukai pengkhianatan dan keegoisan seluruh serangkaian percobaan.

Mencari "korban"

Dalam skenario kedua, yang disebut Wolfpack, versi merah dan biru diminta untuk melacak bentuk sederhana dari "korban". Mereka bisa mencoba untuk menangkapnya sendiri, tapi bagi mereka itu akan lebih menguntungkan untuk mencoba melakukannya bersama-sama. Setelah semua, jauh lebih mudah untuk mendorong korban ke sudut, jika Anda beroperasi di tandem.

Meskipun hasil dicampur dalam kasus jaringan kecil, versi yang lebih besar dengan cepat menyadari bahwa kerjasama bukan kompetisi dalam situasi ini akan lebih menguntungkan.

"Dilema Tahanan"

Jadi apa yang ini dua versi sederhana dari "dilema narapidana" menunjukkan kepada kita? DeepMind tahu bahwa cara terbaik untuk bekerja, jika Anda ingin melacak target, tetapi ketika sumber daya terbatas, bekerja dengan baik pengkhianatan.

Mungkin hal terburuk dalam hasil ini bahwa "naluri" kecerdasan buatan terlalu mirip dengan manusia, dan kami menyadari apa yang kadang-kadang mereka menyebabkan.