Kecerdasan Buatan dan Etika Manusia

Selama beberapa tahun terakhir, MIT Media Lab, telah menangani pertanyaan etis yang muncul dengan adanya kecerdasan buatan. Kompas moral apa yang harus dirujuk oleh piranti cerdas di masa depan?

Iyad Rahwan adalah salah satu pakar terkemuka dunia tentang masalah seperti itu. Ia dan timnya mengembangkan survei yang disebut Mesin Moral, untuk mengeksplorasi etika guna pemrograman kendaraan otonom - seperti jika terjadi kecelakaan.


Keterangan: Video ini telah memiliki terjemahan Bahasa Indonesia. Jangan lupa aktifkan Subtitle/CC YouTube ke Bahasa Indonesia.

[Iyad Rahwan] Sebagian besar waktu, orang tidak ingat apa pun, dan orang tidak punya waktu untuk bereaksi. Semuanya terjadi dengan sangat cepat, jadi mereka hanya terkejut, mungkin mereka melihat sesuatu di depannya dan mereka hanya berbelok ke arah yang kebetulan, atau mungkin mereka hanya panik dan menginjak rem.

[Iyad] Jadi, Anda tidak dapat mengharapkan manusia untuk melakukan "hal yang benar." Dalam skala waktu yang kecil. Kecuali mereka membuat keputusan sebelumnya, seperti apakah mereka minum alkohol dan mengemudi, atau apakah mereka tahu mereka akan melewati lampu merah, maka Anda dapat menyalahkan mereka, tapi jika tidak, Anda tidak bisa menyalahkan manusia.

[Iyad] Tetapi dengan mesin, karena kecepatan elektronik, karena mobil otonom mengevaluasi keadaan lingkungan jutaan kali per detik, maka waktu berjalan lebih lambat untuk mesin dan mereka mampu menghitung ulang situasi dan mungkin menghitung ulang strategi.


Dan di sinilah kita dapat membuat penilaian yang berpotensi lebih baik daripada pilihan acak yang digunakan manusia dalam situasi ini. Nah "pemikiran lebih baik" ini adalah pertanyaan yang sangat menarik namun tidak terlalu jelas. Mari kita lihat kasus, di mana kita memiliki orang versus orang.

[Iyad Rahwan] Jadi sekarang kita ada kasus, kendaraan yang memiliki dua orang di dalamnya. Dan itu harus berbelok dan menabrak penghalang, sehingga orang akan tewas di dalam mobil, atau mobil akan lurus dan membunuh pejalan kaki, yang menyeberang secara ilegal, yang adalah wanita, dan orang-orang di mobil adalah laki-laki. Jadi sekarang situasi menjadi sangat rumit dengan sangat cepat.

[Iyad] Haruskah Anda memprioritaskan wanita daripada pria, atau haruskah semua orang sama, haruskah Anda memprioritaskan pejalan kaki daripada penumpang? Jika Anda mempertimbangkan bahwa orang-orang menyeberang secara ilegal dalam kasus ini. Jadi seperti yang Anda lihat, ketika Anda memiliki beberapa dimensi,
menjadi tidak jelas, apa hal yang benar untuk dilakukan.

A atau B? Siapa yang harus mati? Wanita lebih tua yang menyeberang saat rambu merah? Atau anak di dalam mobil? Pilihan apa yang harus dilakukan algoritma AI?

Survei Iyad menyajikan berbagai skenario, masing-masing dengan dilema uniknya sendiri. Responden diminta untuk memilih bagaimana algoritma harus memutuskan.

[Iyad Rahwan] Jadi sebagai hasilnya, kami memiliki 40 juta keputusan, dan masih dihitung, dari orang-orang di seluruh dunia, dan itu memungkinkan kami untuk mulai menganalisis apa yang disepakati orang, tapi juga bagaimana perbedaannya?

Jadi, apakah ada pengaruh budaya pada penilaian moral kita?

[Iyad Rahwan] Orang-orang cenderung selalu setuju untuk menyelamatkan lebih banyak nyawa, menyelamatkan anak-anak, menyelamatkan orang yang menyeberang secara legal, lebih daripada orang yang tidak menyeberang secara legal, dsb. Bagian yang paling menarik adalah Anda dapat memilih negara, seperti Jerman, Anda bisa lihat bagaimana mereka dibanding rata-rata global.

[Iyad] Anda bisa melihat... misalnya di Jerman mereka lebih memilih tidak bertindak. Jadi jika Anda tidak harus memutuskan, Anda lebih suka langsung saja. Jangan ambil keputusan.


Ini berarti orang Jerman tidak suka mengambil keputusan?

[Iyad Rahwan] Ya.

Orang Jerman tidak suka membuat keputusan. "Augen zu und durch!" Tutup mata Anda dan jalan. Jalan saja. Jadi ini berarti, dengan kata lain, Anda bisa melihat penerimaan teknologi dalam mengambil keputusan. Mobil berjalan lurus. Oke. Takdir!

Perbandingan antara Jerman dan Perancis mengungkapkan perbedaan budaya. Orang Perancis cenderung ingin menyelamatkan wanita dan ada fokus yang lebih kuat pada anak-anak.

Dan berlawanan dengan orang Jerman, orang Perancis tidak ingin membiarkan banyak hal pada takdir, mereka ingin mesin membuat keputusan.

[Iyad Rahwan] Mesin itu adalah semacam cermin. Untuk pertama kalinya sesuatu yang Anda lakukan secara bawah sadar atau mungkin secara instinktif, dalam kasus kecelakaan, Anda hanya bertindak secara kebetulan, sekarang Anda harus membuat pilihan yang sadar, dan mesin memaksa Anda untuk membuat pilihan, betul? Anda tidak dapat menyerahkan pada kebetulan, karena pada akhirnya Anda harus memprogram sesuatu.

Mobil tanpa pengemudi belum siap untuk turun di jalan raya dan masih banyak masalah implikasi etis.

Source: DW Documentary. Film karya Tilman Wolff dan Ranga Yogeshwar. 

Posting Komentar

0 Komentar