"Kami Akan Membuat Robot Itu Tidak Akan Mengizinkan Sendiri Disalahgunakan"

Jonathan Nolan dan Lisa Joy, pencipta HBO Westworld, melakukan dunia nyata perkhidmatan. Mereka membuat masyarakat membincangkan persoalan bagaimana untuk merawat kecerdasan buatan. Secara khusus, Nolan dan Joy memacu ceramah kebenaran robot. Ini adalah perbincangan pengurus-pengurus wang yang lapar wang dari taman hiburan Westworld dengan jelas tidak pernah ada.

Tetapi di Hanson Robotics, firma yang berpangkalan di Hong Kong yang mendakwa untuk membangunkan "robot yang paling manusia seperti manusia," Stephan Bugaj dan pasukannya tahu perbualan ini muncul seperti punggung tangan mereka, atau seperti kulit palsu yang realistik - "Frubber" - pada wajah robot mereka. Bugaj adalah Naib Presiden Kreatif di Hanson, dan dia mengawasi reka bentuk keperibadian android.

Dia memberitahu Songsang dia telah menikmati Westworld setakat ini, tetapi, mungkin tidak mengejutkan, dia berpihak kepada tuan rumah yang siri buatan robot itu. Mungkin memikirkan Hanson Robotics sebagai pesaing luar biasa kepada syarikat fiksyen yang menjalankan Westworld hedonistik. Hanson adalah perpustakaan awam untuk kelab jalur Westworld.

Jurutera Hanson bertindak seolah-olah mereka adalah ibu bapa literal kepada android yang mereka cipta. "Orang ramai perlu sedar bahawa salah satu daripada mesej Westworld adalah 'anda menuai apa yang anda menanam,' "kata Bugaj. "Etika dan moral yang anda ajar entiti adalah apa yang ia pelajari. Dan kemudian anda membayar dividen tersebut."

"Terserah anda memilih jenis kod moral dan etika yang anda berikan robot, atau anak, atau anjing anda, atau apa sahaja."

“ Jika anda membuat perlumbaan hamba ini dan anda menyerang mereka, apakah yang dilakukan oleh hamba yang brutal? Bust dan mungkin membalas dendam. ”

Setakat ini dalam pameran, nampaknya Dolores Abernathy - salah satu tuan rumah taman dan Westworld Watak utama - boleh mendedahkan dan kemudian keluar dari sangkar metafiziknya. (Bugaj: "Bukankah kamu mahu keluar dari sangkar jika seseorang mempunyai anda dalam satu? Jika seseorang mempunyai saya sebagai hamba seks, saya pasti akan cuba membongkar.") Dolores tidak berniat untuk membahayakan manusia, tetapi jika dia secara kebetulan mesti, maka dia mestilah kebetulan. "Matlamatnya adalah untuk menyelamatkan diri."

Hanya jika para pemrogram yang diketuai oleh Anthony Hopkins's Dr. Ford hanya akan membolehkan Dolores untuk berhenti.

Robotics Hanson berharap untuk membuat robot yang boleh berhenti, jika ia berlaku.

"Kami akan membuat robot yang suka manusia, dan mempunyai kod moral dan etika yang positif, tetapi tidak semestinya membenarkan dirinya disalahgunakan," jelas Bugaj. Mereka akan membuat Dolores, katanya, tetapi mereka akan meninggalkan Skynet: Mereka akan menyerang Dr Ford dan mungkin Bernard Lowe, juga, yang kedua-duanya (sepertinya sekarang) mengekalkan ketidakadilan. Memandangkan beberapa tingkah laku psikotik pelawat, tuan rumah Westworld pasti akan berhenti - tetapi mereka kelihatan sukar dikodkan untuk menjadi tidak berperikemanusiaan. Namun, kehebatan tuan rumah, akhirnya akan menjadi lebih baik dari kedua-dua Ford dan Lowe.

Sesetengah robot hari ini, Bugaj menjelaskan, sudah ada bentuk persetujuan primitif: "Tiga Hukum Robotik" Isaac Asimov adalah satu contoh sedemikian, dan walaupun sistem yang tidak selamat "semacam pendekatan proto-persetujuan, atau sekurang-kurangnya satu-anda - pendekatan yang sangat bermakna. "(Dolores, jika dia berjaya keluar dari Westworld, mungkin perlu memecahkan ketiga-tiga peraturan Asimov itu.)

Tapi Hanson melampaui tahap asas. Bugaj mengatakan bahawa mereka memberikan sistem matlamat robot mereka yang komprehensif, penuh dengan matlamat dalaman dan keyakinan dalaman, dan "sistem pengukuhan untuk apa yang mereka percayai, bagaimana memperlakukannya, bagaimana mereka bertindak balas." Akhirnya, mereka akan membina AI yang "dapat pertimbangkan bagaimana perasaan mereka apabila membuat keputusan, dan sama ada mereka ingin melakukan perkara yang anda mahu mereka lakukan, atau buat perkara yang dilakukan kepada mereka yang anda mahu lakukan. "Langkah pertama ialah membina kod moral dan etika yang kukuh, dan keperibadian yang kuat, di mana penghakiman ini akan berehat. Sama seperti proses bertanggungjawab membesarkan anak.

Masalahnya sekarang ialah kebanyakan robot adalah jantina, dan boleh menjadi objek tarikan. Itu tidak mungkin berubah. Robot neutral jantina dalam Westworld akan menjadi antithetical kepada tema taman itu: kebencian. Tetapi pakar Hansson yang teliti, walaupun membuat robot jantina, menentang stereotaip gender sebanyak mungkin.

"Kami tidak cuba membuat fembot dengan Sophia," jelas Bugaj. "Kami tidak cuba untuk membuat seks, tetapi kami tidak cuba menjadikan pemain wanita ideal 1950-an, sama ada tukang masak dan membersihkan, dan ketawa pada semua jenakanya, dan memberitahu dia dia cemerlang. Kami cuba membuat watak wanita yang kuat yang mempunyai kedudukan sendiri dan perspektifnya sendiri, yang berfikir tentang perkara-perkara seperti apa yang dimaksudkan untuk dia menjadi android dan juga dunia manusia dan kenapa kita saling memperlakukan satu sama lain cara kita lakukan."

Hanson mahukan robotnya untuk satu hari menjadi dorongan untuk perbincangan bermakna, jika bukan penyederhana. Westworld kebetulan menimbulkan persoalan yang diharapkan Bugaj kita mula bertanya kepada diri sendiri, seperti: "Bagaimana kita boleh mengharapkan android dan robot untuk merawat manusia dengan baik jika kita tidak melakukannya? dan, tidakkah kita harus memimpin melalui contoh?"

Dia dan pasukannya membuat robot masa depan, dan mereka akan berusaha untuk memastikan bahawa robot-robot itu adalah tiga dimensi - bahawa mereka akan "mengambil berat tentang perkara yang penting, mempunyai perspektif pada mereka, dan kadang-kadang mencabar orang, bukan hanya taat. Tetapi tidak dengan cara yang agresif.

"Anda mendapat dunia yang anda buat," kata Bugaj.