Robot ini Telah Belajar Bagaimana Mengatakan 'Tidak' kepada Manusia

Robot, seperti manusia, perlu belajar bila mengatakan "tidak." Jika permintaan tidak mungkin, akan menyebabkan kemudaratan, atau mengalihkan perhatian mereka dari tugas di tangan, maka ia adalah demi kepentingan 'bot dan manusia sama untuk diplomatik tidak, Terima kasih untuk menjadi sebahagian daripada perbualan.

Tetapi bila hendak balik ceramah mesin? Dan dalam keadaan apa? Jurutera cuba memikirkan bagaimana untuk menanamkan perasaan ini bagaimana dan bila menentang pesanan manusia.

Tonton robot Nao enggan berjalan ke hadapan, tahu bahawa berbuat demikian akan menyebabkan dia jatuh ke tepi meja:

Perkara mudah, tetapi tentu penting untuk bertindak sebagai pemeriksaan ke atas kesalahan manusia. Penyelidik Gordon Briggs dan Matthias Scheutz dari Tufts University telah membangunkan algoritma kompleks yang membolehkan robot menilai apa yang diminta oleh manusia, membuat keputusan sama ada ia perlu melakukannya, dan bertindak dengan sewajarnya. Penyelidikan telah dibentangkan pada mesyuarat baru-baru ini Persatuan untuk Kemajuan Kepintaran Buatan.

Robot itu menanyakan kepada dirinya sendiri satu siri soalan yang berkaitan dengan sama ada tugas itu boleh dilakukan. Adakah saya tahu bagaimana untuk melakukannya? Adakah saya mampu melakukannya secara fizikal sekarang? Adakah saya secara fizikal dapat melakukannya? Adakah saya dapat melakukannya sekarang? Adakah saya diwajibkan berdasarkan peranan sosial saya untuk melakukannya? Adakah ia melanggar apa-apa prinsip normatif untuk melakukannya?

Hasilnya adalah robot yang kelihatannya tidak hanya bijak tetapi, suatu hari, bahkan bijak.

Perhatikan bagaimana Nao mengubah fikirannya tentang berjalan maju selepas janji-janji manusia untuk menangkapnya. Akan mudah untuk membayangkan senario yang berbeza, di mana robot berkata, "Tidak boleh, kenapa saya harus mempercayai anda?"

Tetapi Nao adalah makhluk sosial, dengan reka bentuk. Untuk menggembirakan manusia berada dalam DNAnya, maka diberikan maklumat bahawa manusia bercadang untuk menangkapnya, dia melangkah secara membuta tuli ke dalam jurang. Pasti, jika manusia itu menipu kepercayaannya, dia akan digoyang, tetapi dia juga percaya. Ia adalah cara Nao.

Sebagai rakan kongsi robot menjadi lebih canggih, jurutera robot perlu bergelut dengan soalan-soalan ini. Robot perlu membuat keputusan bukan sahaja untuk memelihara keselamatan mereka sendiri, tetapi pada soalan etika yang lebih besar. Bagaimana jika manusia meminta robot untuk membunuh? Untuk melakukan penipuan? Untuk memusnahkan robot lain?

Idea etika mesin tidak boleh dipisahkan dari kecerdasan buatan - bahkan kereta tanpa pemandu masa depan akan perlu direkayasa untuk membuat pilihan kehidupan atau kematian bagi pihak kami. Perbualan itu semestinya menjadi lebih kompleks daripada sekadar menyampaikan pesanan berbaris.