Pro & Kontra Kecerdasan Buatan (AI) & Algoritm Komputer (DW Documentary Full Episode)

Kecerdasan buatan membuat langkah cepat. Ada pembicaraan tentang evolusi baru yang secara mendasar dapat mengubah kehidupan di planet kita. Kecerdasan buatan atau AI, memiliki potensi untuk merevolusi setiap aspek kehidupan sehari-hari: pekerjaan, mobilitas, kedokteran, ekonomi dan komunikasi.

Tapi akankah AI membuat kedokteran lebih baik dan dokter tidak berguna? Kapan mobil yang mengemudi sendiri memadati jalanan kita? Akankah robot cerdas merebut pekerjaan kita, dan apakah kita sedang menuju distopia, dunia tanpa privasi dan pengawasan total?


Keterangan: Video ini telah memiliki terjemahan Bahasa Indonesia. Jangan lupa aktifkan Subtitle/CC YouTube ke Bahasa Indonesia.

Apa sebenarnya kecerdasan buatan dan berapa banyak yang bisa dilakukannya? Apa yang akan berubah, dan apa yang akan tetap menjadi fantasi murni?

Untuk menjawab pertanyaan ini, kami memulai perjalanan yang menarik, untuk bertemu para ilmuwan yang bekerja untuk masa depan kita, di Amerika Serikat, Inggris, Jerman dan Cina.

Perhentian pertama kami: Silicon Valley di California. Apple, Google, dan Facebook memiliki kantor pusat di sini. Ini adalah pusat revolusi digital.

Industri teknologi telah mengubah wajah wilayah San Francisco Bay. Perusahaan startup baru diluncurkan setiap hari, harga sewa telah meledak dan kecerdasan buatan adalah kata kunci.

Supermarket jenis baru belum lama ini dibuka di sini: Amazon Go.

Yang Anda perlukan di sini sebuah aplikasi. Pegang ponsel Anda ke pemindai dan Anda masuk.

Ketika Leonardo menunjukkan kepada saya menu-menu baru Amazon dan menjelaskan asisten digital Alexa yang dapat membantu saya memasak di rumah, saya berada di bawah pengawasan terus-menerus.

Di rak mana saya berhenti... Produk apa yang saya minati?

Di langit-langit: sensor dan kamera. Pengenalan gambar cerdas menangkap setiap gerakan saya: Apa yang saya ambil dari rak, apa yang saya taruh kembali, apa yang saya ambil?

Bidang ini masih dalam tahap uji coba, tapi Amazon berencana untuk membuka 50 supermarket seperti itu pada tahun ini saja.

Akhir dari proses belanja. Tinggal keluar. Tidak ada lagi antrean, tidak ada kasir. Saya merasa seperti pencuri toko ketika saya pergi. Kenyamanan dengan harga privasi. Begitu keluar, kuitansi belanja langsung muncul di ponsel.

Terpaut satu blok, ada sebuah café robot. Laboratorium tes lain untuk masa depan. Pesanan berdasarkan aplikasi dan layar sentuh... Alat perdagangan yang semakin banyak di mana-mana.

Kopi pertama saya yang disajikan oleh robot. Jadi inilah cita rasa masa depan...


AI akan mengubah pengalaman belanja kita. Tapi apa yang akan terjadi pada para pekerja?

Universitas Stanford berada di garis depan penelitian AI global, dengan anggaran tahunan sebesar Rp 95 miliar. Saya ingin tahu: Bagaimana kecerdasan buatan akan mengubah dunia kedokteran?

Para peneliti di sini telah mengembangkan algoritma kecerdasan buatan, yang bisa melakukan skrining sinar-X untuk penyakit tertentu. 

Ilmuwan komputer Pranav Rajpurkar menunjukkan kepada saya betapa mudah menggunakannya. Ambil gambar sinar-X dengan ponsel Anda, unggah gambar dan beberapa detik kemudian, Anda mendapatkan diagnosis.

[Pranav Rajpurkar] Itu adalah massa, dan itu mengatakan bahwa benda yang ada di sini mungkin adalah tumor. Dan saya bisa melihatnya di situ.

Oke jadi aplikasi itu memberi Anda informasi, ada kemungkinan untuk pneumonia, nodul, edema, penumpukan cairan. Dan itu berfungsi dengan cepat. Nah bagaimana cara kerjanya dan bagaimana Anda berhasil mencapai itu?

[Pranav Rajpurkar] Kami mulai dengan jumlah besar data rontgen toraks, yang dirilis oleh NIH, dan ini berisi foto sinar-X dan kemudian juga label dari berbagai patologi. Jadi di sini ada gambar dan di gambar ini dikatakan memiliki patologi 1, 2, dan 3. Dan kami memiliki seratus ribu gambar ini. Jadi kami melatih sebuah model yang dapat mengambil input sinar-X dan menghasilkan output probabilitas beberapa patologi berbeda pada sinar-X ini.

Kecerdasan buatan menirukan otak manusia. Jaringan raksasa dari hampir 100 miliar sel saraf yang saling terhubung.

Secara sederhana, inilah cara kerja sel-sel otak: impuls yang masuk diteruskan dalam efek domino dari satu neuron ke neuron berikutnya. Sirkuit yang ditimbulkannya menghubungkan neuron itu dan sirkuit inilah yang kecerdasan buatan mencoba menyimulasi: sebagai jaringan kerja saraf digital.

Seperti otak kita, jaringan buatan ini mampu untuk belajar - bagaimana mengidentifikasi tuberkulosis, misalnya. Mula-mula jaringan memerlukan pelatihan. Data sinar-X pasien tuberkulosis dikirimkan ke sistem. Awalnya itu sulit mengidentifikasi kondisi secara benar. Tapi setiap kali data sinar-X masuk,
struktur jaringan diadaptasi dan kemampuan diagnostiknya meningkat. Diperlukan beribu-ribu set data klinis untuk melatih mesin itu.

Hanya setelah jaringan dioptimalkan dengan cara ini, sistem dapat secara tepat mengidentifikasi foto sinar-X yang tidak dikenal.

Tapi seberapa akurat kecerdasan buatan dibandingkan keahlian dokter?

[Pranav Rajpurkar] Kami sebenarnya telah melakukan tes ini dua kali pada saat ini. Satu kali dengan gambar data dari NIH, Institut Kesehatan Nasional di mana kami meminta kelompok ahli radiologi menganalisis gambar rontgen dan kemudian kami membandingkan akurasi model dengan ahli radiologi.


[Pranav] Dan kami menemukan bahwa mereka sangat mirip dalam hal akurasi pada kebanyakan patologi, pada beberapa darinya model ahli radiologi lebih unggul dan pada tiga dari mereka ahli radiologi mengungguli model. Dan kemudian kami mengulangi percobaan, kali ini menggunakan rangkaian data dari Stanford, yang baru-baru ini kami rilis, yaitu 200 ribu gambar sinar-X toraks dan kemudian kami memiliki gambar rontgen yang sama di mana kami memiliki tiga ahli radiologi patologi, mereka ini sangat jarang, yang sangat terlatih, untuk memutuskan apa kesimpulan untuk rangkaian gambar ini.

[Pranav] Lalu kami membandingkan kesimpulan ahli radiologi dengan algoritma dan menemukan mereka memiliki tingkat kinerja yang sama. Ini semua ahli radiologi Stanford, jadi mereka sangat terlatih...

Membaca foto sinar-X secara akurat adalah proses yang rumit, tapi kecerdasan buatan membuat kemajuan cepat. Ketika tiba pada mengidentifikasi atau mengenali gambar sederhana, komputer telah melampaui akurasi manusia.

Jika saya melihat gambar Anda, selalu ada probabilitas. Jadi ada kasus di mana mesin tidak benar-benar yakin, apa yang akan menjadi keputusan yang jelas untuk mengatakan, oke ini, saya tidak tahu... pneumonia atau sesuatu lainnya?

[Pranav Rajpurkar] Ya. Saya pikir bagus untuk berbicara dalam konteks probabilitas, karena probabilitas juga merupakan komponen dalam algoritma, ketidakpastian model, pada masalah tertentu. Saya pikir satu kesulitan dengan probabilitas adalah hal itu menyulitkan manusia untuk menafsirkan hasil dari itu. Apakah makna probabilitas 88 persen atau 92 persen dalam hal keputusan yang harus dokter ambil di rumah sakit?

[Pranav] Jadi saya pikir salah satu hal yang bisa kita coba lakukan di masa depan daripada menunjukkan probabilitas yang tepat, mungkin kita bisa menunjukkan kategori seperti, tidak mungkin, atau patologi ini mungkin, atau sangat mungkin.

Dalam perawatan kesehatan, kecerdasan buatan mendorong sebuah revolusi. Para ilmuwan menggunakan algoritma kecerdasan buatan untuk menyaring data yang tampaknya sepele, misalnya gerakan naik turun dari ayunan langkah kita setiap hari.

Mereka mencari pola mencolok, yang bisa berfungsi sebagai tanda peringatan dini penyakit.

Para ilmuwan di kota Birmingham, Inggris, sedang mengolah metode diagnostik revolusioner.

Saat ini, tidak ada tes khusus untuk mendeteksi penyakit Parkinson, yang menyulitkan diagnosisnya. Kecerdasan buatan bisa mengubah itu.

Max Little adalah ahli matematika pada Universitas Aston.

Perubahan suara bisa menjadi indikator awal Parkinson. Max dan timnya telah mengumpulkan ribuan rekaman suara dan memasukkannya ke algoritma yang mereka kembangkan yang mendeteksi perbedaan dalam pola suara antara orang dengan dan tanpa kondisi itu.

Dalam studi berbasis laboratorium dari rekaman itu, algoritma itu mampu mengidentifikasi secara tepat diagnosis hampir 99%.

Pekerjaan Max Little adalah contoh dari perubahan luas yang dibawa AI ke bidang kedokteran. Bukan hanya dokter yang menggunakan kecerdasan buatan untuk mengembangkan metode diagnostik baru - tapi ilmuwan data, programmer dan ahli matematika seperti Max Little.

Salah satu contoh: Ketika seseorang berjalan, sensor di smartphone mereka mencatat gerakan naik dan turun dari lenggang mereka. Tapi informasi apa yang dapat diperoleh dari data tersebut?

[Max Little] Jika kita mengukur pola perilaku berjalan seseorang maka seseorang yang sehat mungkin memiliki kurva hasil ukuran sensor yang terlihat seperti itu...

Oke, jadi itu hanya semacam gerakan naik turun...

[Max Little] Ya, pinggul mereka naik dan turun seperti itu, dalam kecepatan mereka. Tapi jika Anda melihat orang berpenyakit Parkinson, mereka mungkin punya langkah kecil seperti ini dan mereka mungkin tidak teratur atau memiliki pola seperti itu. Atau mereka bahkan mungkin diam dan berhenti seperti itu.

[Max] Jadi Anda bisa melihat adanya perbedaan. Anda juga dapat melatih algoritma misalnya untuk memilih fitur seperti berapa jarak waktu antara puncak-puncak ini. Dan juga bisa melakukan sama dengan ini dan itu akan melakukannya dengan sangat tepat. Dan dengan melakukan itu, kita dapat mengukur misalnya ada variabilitas besar di antara ini dan itu...

[Max] Keuntungan dari algoritma benar-benar datang ketika... misalnya Anda mungkin memiliki seseorang terukur dalam pola yang terlihat seperti ini, dan ada satu perubahan kecil yang mungkin terjadi. Beberapa variasi yang sangat kecil dalam sekuens waktu sangat cepat di kejadian ini. Bahkan bagi mata profesional, sebab mereka tidak punya tingkat ketepatan itu, mereka mungkin tidak dapat mendeteksi bahwa ada sesuatu di luar variasi kisaran normal.


[Ma] Tapi tentu saja algoritma, yang terhubung dengan sensor berketepatan tinggi,
akan dapat menentukan perbedaan itu. Dan dalam hal ini, orang tersebut mungkin memiliki gejala awal penyakit.

Jadi, ini berarti bahwa orang ini, dengan bantuan algoritma, dapat didiagnosis memiliki Parkinson, sementara dokter sendiri tidak sampai menemukannya.

Itu untuk pertama kalinya dimungkinkan untuk mendeteksi gejala awal Parkinson, dan memungkinkan intervensi dini.

Tapi apa lagi yang diungkapkan oleh data pada smartphone kita?

Saat ini Anda sudah memiliki aplikasi, yang melacak aktivitas Anda. Jadi sebenarnya data itu mungkin sudah ada di sana.

[Max Little] Data secara potensial dapat berada di sana. Itu betul. Tetapi ada etika tentang apakah kita dapat engumpulkan data semacam itu dan menggunakannya untuk tujuan seperti ini. Jelas kami tidak bisa hanya mengumpulkan data ini dan mulai mendiagnosis orang. Kita bisa, tetapi kita tidak benar-benar mau. Ada alasan kuat untuk tidak melakukannya. Dan mungkin ada alasan bagus untuk melakukannya juga, tapi itu adalah hal yang perlu dibahas dalam peraturan yang jelas.

Setelah wawancara kami, Max Little memberi tahu saya bahwa ia mendapat tawaran menggiurkan untuk bergabung dengan raksasa teknologi untuk membuka peluang bisnis baru. Namun ia menolak tawaran mereka.

Kecerdasan buatan tidak diragukan akan meningkatkan kemampuan dokter untuk mendeteksi dan mendiagnosis penyakit.

Namun di tengah semua peluang yang ditawarkan AI, ada kebutuhan mendesak untuk regulasi.

Kami sedang dalam perjalanan ke Cina, negara yang telah mengalami perubahan yang menakjubkan dalam beberapa tahun terakhir.

Ibu kotanya Beijing, ramai. Seluruh negara haus akan kemajuan dan berada di jalur cepat menuju masa depan. Waktu bergerak lebih cepat di sini.

Pada tahun 2030, Cina bertujuan menjadi pemimpin global di bidang kecerdasan buatan. Ada banyak hal yang mengindikasi, ia akan memenuhi sasaran itu, karena pemerintah telah membiayai program subsidi senilai miliaran Euro.

Robot-robot ini bukan merakit mobil. Mereka adalah daya tarik besar di Smart Restaurant terbaru Beijing. Kecerdasan buatan di dapur dan pelayan yang diotomatisasi.

Saya memiliki janji pertemuan di sini dengan peneliti desain Gesche Joost. Seorang mantan duta besar internet untuk pemerintah Jerman. Ia saat ini melakukan penelitian di Universitas Tongji di Shanghai.

Saya bertanya kepadanya, bagaimana kesannya tentang Cina?

[Gesche Joost] Ada rasa lapar yang nyata di kota ini dan menyenangkan berbicara dengan orang-orang muda, karena mereka ingin menjadi motor perubahan. Mereka bekerja siang dan malam. Mereka punya model baru keseimbangan kehidupan kerja, itu disebut 9-9-6. Saya berpikir: Apa maksud Anda 9-9-6? Dan mereka berkata, kami bekerja dari pukul 9 pagi sampai 9 malam, enam hari seminggu. Itu sebenarnya model yang lebih baik sekarang, karena sebelumnya mereka bekerja hampir tanpa henti. Tapi tak ada yang berhenti, tak ada yang menginjak rem. Mereka bekerja seperti orang gila, sebab mereka ingin membawa perubahan.

[Gesche] Restoran ini menelan biaya Rp 290 milyar. Hanya satu restoran. Mereka berinvestasi dalam jumlah besar untuk mendigitalisasi seluruh operasi. Tidak hanya ada robot yang menyajikan makanan, seluruh dapur didigitalkan. Sistem memonitor pendingin, memonitor rantai suplai, ada dashboard untuk segalanya. Semuanya terhubung ke jaringan di sini. Apakah teknik itu berfungsi, dan aspek yang bisa mereka terapkan di restoran lain dalam rantai ini. Itu yang terjadi di sini, mereka mencoba ide dan berpikir besar!

Tapi bagaimana dengan privasi?

[Gesche Joost] Keamanan dan privasi adalah dua sisi mata uang yang sama. Anda sering mendengar di sini, AI menjadi penunjang keselamatan publik. Misalnya kamera pengintai di mana-mana, telah secara dramatis meningkatkan kemampuan mengatasi kejahatan. Sulit bagi kita untuk mengerti itu karena privasi dan hak-hak pribadi sangat penting bagi Jerman. Tapi di sini ada tradisi dan penanganan yang berbeda untuk masalah itu.

Saya terpesona oleh Cina. Tapi itu juga membingungkan saya. Bagaimana mereka bisa menggabungkan - peradaban tinggi Cina kuno dan negara industri modern - dengan kamera pengintai di mana-mana?

Distrik Longgang di Shenzen. Di jantung wilayah ekonomi Cina yang berkembang pesat, di utara Hong Kong, kami mengunjungi pusat pengendali Smart City. Monitor raksasa menampilkan data seluruh kota dalam waktu riil.

Jumlah penghuni baru di lingkungan itu, untuk merencanakan sekolah. Tingkat pasokan air, waktu padam listrik. Semua informasi ini dikumpulkan, dikompilasi dan dievaluasi - menggunakan kecerdasan buatan.

Proyek percontohan ini dikembangkan bersama raksasa teknologi Cina Huawei. Chief Engineer Chen Bang Tai memberi tahu saya, kota ini sekarang beroperasi secara lebih efisien.

Jadi yang Anda lakukan di sini adalah perencanaan kota?

[Chen Bang Tai] Ya, sistem itu sangat membantu. Ini adalah ranjang pasien di rumah sakit. Saat ini ada 15 ribu dokter dan perawat... dan 7600 tempat tidur.

Jadi, apakah Shenzen saat ini sehat atau sakit?

Sistem pengawasan pintar memindai seluruh kota. Struktur ilegal, seperti yang ada di atap ini, dengan cepat diidentifikasi dan dihancurkan.

Bagi saya, ada di dalamnya terasa seperti adegan film fiksi ilmiah. Petugas keamanan bekerja dengan streaming langsung bodycam, memeriksa jalan-jalan kecil. Ini adalah pengawasan total.

Chen menunjukkan pada saya bagaimana kamera yang dipasang di dapur restoran, termasuk juga mengawasi kebersihan. Tapi tidakkah para koki bersedia dipantau setiap saat?

[Chen Bang Tai] Sistem mencatat semua orang yang menggunakan gambar ini. Siapa pun yang melihat mereka tanpa izin, akan dihukum.

Transparansi total untuk tujuan kemajuan. Chen mengatakan, penduduk distrik Longgang menyetujuinya.

Menyeberang saat lampu merah dilarang dan pelanggarnya langsung diidentifikasi.

Lihat di sini! Anda melanggar sekali dan secara langsung skor kredit sosial Anda turun.

Tingkat pengawasan total ini, tidak  terpikirkan di barat, tapi di sini di Cina mereka memandangnya berbeda. Ini mendorong penurunan kejahatan.

Apa yang dikatakannya di sini?

[Staf Pegawas] Laki-laki, remaja tanpa kacamata.

Remaja?

[Staf Pegawas] Ya, tiba-tiba Anda seorang remaja.

Saya suka pengenalan wajah di Cina. Wajah saya dianggap remaja.

Transparansi masyarakat secara total demi kepentingan efisiensi. Beberapa di antaranya tampak bermanfaat, tapi apakah kita benar-benar ingin mengukur, mengawasi dan menganalisis semuanya, hanya karena secara teknis memungkinkan?

Tidakkah itu tentunya akan membawa kita ke jalan kediktatoran data? Mungkin kepercayaan lebih baik daripada pengawasan cerdas.

Silicon Valley... sebuah sinonim untuk inovasi dan kebebasan tanpa batas. Pemain terbesar di bidang AI atau kecerdasan buatan berkantor di sini. Tapi markas mereka tersembunyi di balik bangunan bertingkat rendah yang tidak mencolok.

Facebook. Kita menggunakan layanan mereka, mempercayakan data kita kepada mereka, tetapi perusahaan itu tidak terlihat bagi publik. Tetapi selfie di gerbang masuknya masih diperbolehkan.

Di sebelahnya, Apple. Pengunjung hanya dapat mengunjungi model 3-D kampus baru, non-karyawan tidak boleh masuk ke gedung itu.

Apa yang terjadi di dalam? Semuanya rahasia.

Kami ingin mengunjungi Google di sini di California, dan meminta wawancara beberapa minggu sebelum kedatangan kami. Tapi yang kami peroleh hanyalah taktik mengulur-ulur waktu. Seperti para pengunjung ini, Google membiarkan kami di luar.

Selain toko kecil, ini satu-satunya wahana pengunjung yang bisa diakses oleh publik. Patung-patung Android. Tempat ini bahkan memiliki lokasi khusus di Google Maps. Selamat datang di Google!

[Pembaca Berita] Google kembali menjadi sorotan badan pengawas persaingan Uni Eropa. Facebook menolak untuk menjawab pertanyaan. Google didenda Rp 39 triliun oleh Badan Anti Monopoli Uni Eropa.

Kekuatan perusahaan-perusahaan ini semakin besar dalam kehidupan sehari-hari kita, dan pengaruh politik yang semakin meningkat.

Google mengeluarkan lebih dari Rp 98 milyar setahun hanya untuk melobi Brussels. Daftar Transparansi Uni Eropa mencatat lebih dari 200 pertemuan dengan perwakilan Google, sejak 2014. Google adalah pelobi tersibuk di Brussels, ibukota Uni Eropa.

Kami akhirnya mendapatkan wawancara kami - bukan di California, tapi di Munich, Jerman. Dengan salah satu karyawan yang bekerja paling lama: Jens Redmer.

Seberapa penting kecerdasan buatan, AI, untuk Google?

[Jens Redmer] AI sangat penting bagi kami, sehingga dua tahun lalu kami mengubah citra seluruh Divisi Riset kami menjadi Google AI. AI menjadi bagian penggerak penting dalam proses pengembangan produk kami. AI terutama juga mendorong bagian penting dari upaya kami untuk meningkatkan kualitas produk. 

[Jens] Ambil contoh mesin terjemahan. Melalui penggunaan algoritma mesin, kami membuat kemajuan lebih cepat dalam dua tahun terakhir, dibandingkan yang kami lakukan selama 10 tahun sebelumnya. Masyarakat tidak diragukan lagi akan semakin banyak menggunakan layanan ini, serta penggunaan AI lainnya di tahun-tahun mendatang.

[Jens] Kuncinya adalah itu semua dilakukan secara bertanggung jawab, berdasarkan prinsip transparansi. Kita perlu menjelaskan cara kerja, mengapa itu dibutuhkan, ke mana perginya data para pengguna. Bagaimana mereka bisa mengawasinya, cara mereka bisa menghapusnya, jika mereka ingin menghapusnya atau meneruskannya. Pengguna harus harus dapat melakukan kontrol penuh atas datanya.

Tapi bagaimana dengan teknologi seperti Google Home, mikrofon pintar yang ada di kamar tamu orang?

[Jens Redmer] Google Home tidak ikut mendengarkan. Ada chip kecil pada perangkat yang mendengarkan apa yang disebut 'hot word'. Itu menunggu perintah "ok google" atau "hey google". Dan kemudian mikrofon hanya diaktifkan untuk mengirim perintah suara, untuk permintaan pencarian, ke internet, ke server Google. Itu yang kemudian menyajikan hasilnya.

Nah, sebagai wartawan sains, saya tentu saja ingin tahu tentang masa depan.

Ini ada permohonan hak paten pada September 2016. Aplikasi paten Google ini menunjukkan secara rinci tentang apa yang dapat disimpulkan dari suara-suara dalam rumah tangga: berapa lama kita menyikat gigi, apakah kita berdebat, atau apakah teman serumah sedang sakit.

Ini lebih tentang menangkap suasana dan kebiasaan dibanding kata-kata. Ini adalah pengajuan hak paten Google, yang dapat diakses publik.

[Jens Redmer] Saya tidak tahu apa-apa tentang permohonan hak paten khusus ini. Kami memiliki serangkaian pengajuan hak paten setiap tahun. Kebanyakan darinya adalah layanan imajiner, fiktif, yang seperti di banyak perusahaan lainnya, tidak pernah diterapkan ke dalam layanan nyata. Jadi saya tidak bisa berkata apa pun tentang paten khusus ini saat ini.

Hak paten untuk layanan imajiner, fiktif? Kegiatan lobi Google di Uni Eropa,  setidaknya adalah hal yang benar-benar nyata.

Seberapa sering intervensi Google di Uni Eropa?

[Jens Redmer] Saya pikir pertanyaan lebih penting adalah arti yang tersirat di balik itu, yakni: Bagaimana etika perusahaan menangani pengembangan produk? Dan kami telah menetapkan aturan sesuai dengan prinsip yang memandu tindakan, riset, dan pengembangan produk kami sendiri. Dan itu juga memengaruhi keputusan bisnis kami.

Di wilayah asalnya di Amerika Serikat, Google menghadapi tekanan politik yang meningkat.

Di Washington kami bertemu Barry Lin, kepala lembaga think tank Open Market Institute. Ia memperingatkan bahaya yang ditimbulkan oleh pengaruh raksasa teknologi itu.

[Barry Lin] Kita diberi tahu bahwa di masyarakat kita, orang-orang yang membawa informasi ke ruang publik, yang berbicara kepada pers, yang berbicara dengan perwakilan kita di Kongres, bahwa mereka mewakili diri mereka sendiri, mereka berbicara atas nama mereka sendiri, dan bukan atas nama orang lain. Bahwa mereka bukan antek, bahwa mereka bukan boneka.

[Barry] Tapi faktanya hari ini, dalam masyarakat kita, ini berlaku di sini di Washington, juga di Eropa, masyarakat kita dipenuhi dengan boneka, dengan para kaki tangan, yang mewakili kepentingan Google, Facebook, dan Amazon.

Menguatnya monopoli perusahaan teknologi besar, memicu semakin kerasnya seruan untuk regulasi di Washington.

[Barry Lin] Ketika Anda memiliki monopoli, apakah itu atas retail, apakah itu atas penelitian, maka itu berarti bahwa masyarakat tidak benar-benar memiliki kemampuan untuk memahami bagaimana informasi itu digunakan, bagaimana kekuatan itu digunakan. Monopoli itu saja, kecuali jika diatur secara ketat oleh publik, adalah suatu bahaya.

[Barry] Google ingin menguasai dunia. Mereka bermaksud mengarahkan pikiran kita, antara orang dan orang, komunikasi kita antara orang dengan orang, transaksi kita dan bisnis antara orang dan perusahaan. Mereka bermaksud mengarahkan semua yang mereka bisa. Mereka ingin tahu apa yang terjadi di termostat kita di rumah kita, mereka ingin tahu apa yang kita tonton di televisi. Mereka berada pada tingkat keangkuhan,
yang bahkan para Stalinis pun tidak pernah membayangkan akan memaksakannya.

Google, Facebook, Amazon. Akankah pengaruh raksasa teknologi terus tumbuh? Apa yang dapat dilakukan untuk membatasi kekuatan monopoli mereka?

Satu hal yang jelas: Kecerdasan buatan memperkuat cengkeraman mereka pada kekuasaan. Ada kebutuhan mendesak untuk memikirkan kembali kebijakan anti monopoli.

Mobilitas adalah bidang lain, di mana AI memperkuat lajunya inovasi. Dalam waktu dekat, itu dapat menempatkan mobil otonom di jalanan kota. Tetapi seberapa realistiskah visi ini?

Kami berkunjung ke Boston, ke Massachusetts Institute of Technology yang bergengsi. Sertac Karaman adalah pakar terkemuka di bidang mobil otonom atau tanpa pengemudi. Ia dan timnya sedang mengerjakan prototipe kendaraan otonom.

[Sertac Karaman] Saya pikir kami telah memlengkapi beberapa item dengan komputer dan mesin. Salah satunya adalah semua pemetaan ini, dan lokalisasi, semua teknologi bekerja dengan sangat baik. Komputer bisa mengetahui di mana mereka berada, dengan ketelitian sentimeter, kadang-kadang dalam milimeter. Jauh lebih dari yang dibutuhkan untuk mengemudi. Komputer tidak dapat melihat sekeliling dan memahami di mana orang lain berada. Tapi bukan itu yang dibutuhkan untuk mengemudi.

[Sertac] Yang benar-benar diperlukan adalah memahami apa yang akan terjadi selanjutnya. Dalam tiga detik berikutnya, lima detik, menit berikutnya, bahkan mungkin jam berikutnya. Dan itulah bagian kunci yang hilang. Dan saya pikir masalah yang ada pada saat ini adalah sangat sulit bagi Anda untuk menjelaskan kepada saya, bagaimana Anda mengerti apakah seseorang akan menggunakan trotoar atau akan menggunakan penyeberangan
dan menyeberang jalan. 

[Sertac] Kadang-kadang Anda melihat pada wajah seseorang dan impresi wajah memberi petunjuk, dan Anda akan melambat. Kadang-kadang tidak. Mereka mungkin melihat ke arah yang sama, mereka mungkin berdiri di lokasi yang sama, dengan hanya sedikit impresi wajah, mungkin hanya cara mereka berdiri. Dan sayangnya intuisi semacam itu, firasat dan sebagainya, sangat sulit bagi kami untuk memprogramnya ke dalam komputer.

Itu berfungsi di lingkungan laboratorium yang sederhana. Tapi dalam lingkungan nyata, algoritma masih benar-benar kewalahan. Tapi bukan berarti itu menghalangi pembuat iklan...

Tes mengemudi kami tidak lain dari serangkaian gangguan. Berhenti darurat yang tidak bisa dijelaskan penyebabnya... dan satu lagi pada upaya kedua. Sensor pada kendaraan ini kewalahan menghadapi pejalan kaki itu. Dan di sini, mobil pintar mengabaikan mobil yang membelok ke jalur kami.

Berbicara dengan para insinyur MIT, akirnya menjadi jelas, bahwa untuk membangun mobil yang mengemudi sendiri, pengembang perlu memenuhi skala besar persyaratan teknis.

[Sertac Karaman] Apa yang saya pikir tentang mobil yang sepenuhnya otonom, saya kira saya akan sangat terkejut jika itu dapat terjadi dalam kurang dari 10 tahun. Namun, saya akan sangat terkejut, saya orang yang memiliki kepercayaaan tinggi, saya akan sangat terkejut jika itu tidak terjadi dalam 20-30 tahun.

[Sertac] Saya pikir itu akan terjadi pada suatu saat. Tapi saya berpikir bahwa orang masih meremehkan kondisinya saat ini, untuk membuat mobil Anda sepenuhnya otonom dalam setiap kondisi, setiap keadaan, setiap hal. Itulah adalah bagian yang sangat sulit.

Mengemudi bukanlah proses sepele seperti yang mungkin Anda pikirkan. Dan itu karena Anda terus harus memerhatikan apa yang terjadi di sekitar Anda. Pengendara sepeda, pejalan kaki, kadang-kadang Anda harus menebak-nebak, apakah seseorang ingin menyeberang jalan atau tidak? Sulit membayangkan semua itu dikalkulasi secara otomatis.

Kendaraan yang bisa mengemudi sendiri harus bisa mengatasi semua hal ini juga. Ini saya sedang menghadapi truk yang memutar. Saya mungkin harus mundur sekarang, jika dia tidak berhasil memutar.

Apakah dia ingin menyeberang jalan atau tidak? Sejumlah orang bahkan jalan saja langsung. Mobil yang sepenuhnya otonom adalah impian yang jauh, tapi sistem asisten pengemudi yang sudah berkembang saat ini sudah membuat jalan kita lebih aman.

Sebuah kecelakaan, direkam videonya dari mobil yang dilengkapi dengan asisten rem darurat. Urutan peristiwa dapat dilihat dalam gerakan lambat. Mobil merah di depan tidak melihat kemacetan yang ada di depannya. Tidak ada lampu rem yang tampak, tapi sensor pendeteksi jarak di mobil ini mencatat kemacetan, mengerem, dan mencegah tabrakan lebih lanjut.

Tapi prinsip mana yang harus memandu keputusan yang dibuat oleh teknologi dalam situasi kecelakaan?

Selama beberapa tahun terakhir, MIT Media Lab, telah menangani pertanyaan etis yang muncul dengan adanya kecerdasan buatan. Kompas moral apa yang harus dirujuk oleh piranti cerdas di masa depan?

Iyad Rahwan adalah salah satu pakar terkemuka dunia tentang masalah seperti itu. Ia dan timnya mengembangkan survei yang disebut Mesin Moral, untuk mengeksplorasi etika guna pemrograman kendaraan otonom - seperti jika terjadi kecelakaan.

[Iyad Rahwan] Sebagian besar waktu, orang tidak ingat apa pun, dan orang tidak punya waktu untuk bereaksi. Semuanya terjadi dengan sangat cepat, jadi mereka hanya terkejut, mungkin mereka melihat sesuatu di depannya dan mereka hanya berbelok ke arah yang kebetulan, atau mungkin mereka hanya panik dan menginjak rem.

[Iyad] Jadi, Anda tidak dapat mengharapkan manusia untuk melakukan "hal yang benar." Dalam skala waktu yang kecil. Kecuali mereka membuat keputusan sebelumnya, seperti apakah mereka minum alkohol dan mengemudi, atau apakah mereka tahu mereka akan melewati lampu merah, maka Anda dapat menyalahkan mereka, tapi jika tidak, Anda tidak bisa menyalahkan manusia.

[Iyad] Tetapi dengan mesin, karena kecepatan elektronik, karena mobil otonom mengevaluasi keadaan lingkungan jutaan kali per detik, maka waktu berjalan lebih lambat untuk mesin dan mereka mampu menghitung ulang situasi dan mungkin menghitung ulang strategi.

Dan di sinilah kita dapat membuat penilaian yang berpotensi lebih baik daripada pilihan acak yang digunakan manusia dalam situasi ini. Nah "pemikiran lebih baik" ini adalah pertanyaan yang sangat menarik namun tidak terlalu jelas. Mari kita lihat kasus, di mana kita memiliki orang versus orang.

[Iyad Rahwan] Jadi sekarang kita ada kasus, kendaraan yang memiliki dua orang di dalamnya. Dan itu harus berbelok dan menabrak penghalang, sehingga orang akan tewas di dalam mobil, atau mobil akan lurus dan membunuh pejalan kaki, yang menyeberang secara ilegal, yang adalah wanita, dan orang-orang di mobil adalah laki-laki. Jadi sekarang situasi menjadi sangat rumit dengan sangat cepat.

[Iyad] Haruskah Anda memprioritaskan wanita daripada pria, atau haruskah semua orang sama, haruskah Anda memprioritaskan pejalan kaki daripada penumpang? Jika Anda mempertimbangkan bahwa orang-orang menyeberang secara ilegal dalam kasus ini. Jadi seperti yang Anda lihat, ketika Anda memiliki beberapa dimensi,
menjadi tidak jelas, apa hal yang benar untuk dilakukan.

A atau B? Siapa yang harus mati? Wanita lebih tua yang menyeberang saat rambu merah? Atau anak di dalam mobil? Pilihan apa yang harus dilakukan algoritma AI?

Survei Iyad menyajikan berbagai skenario, masing-masing dengan dilema uniknya sendiri. Responden diminta untuk memilih bagaimana algoritma harus memutuskan.

[Iyad Rahwan] Jadi sebagai hasilnya, kami memiliki 40 juta keputusan, dan masih dihitung, dari orang-orang di seluruh dunia, dan itu memungkinkan kami untuk mulai menganalisis apa yang disepakati orang, tapi juga bagaimana perbedaannya?

Jadi, apakah ada pengaruh budaya pada penilaian moral kita?

[Iyad Rahwan] Orang-orang cenderung selalu setuju untuk menyelamatkan lebih banyak nyawa, menyelamatkan anak-anak, menyelamatkan orang yang menyeberang secara legal, lebih daripada orang yang tidak menyeberang secara legal, dsb. Bagian yang paling menarik adalah Anda dapat memilih negara, seperti Jerman, Anda bisa lihat bagaimana mereka dibanding rata-rata global.

[Iyad] Anda bisa melihat... misalnya di Jerman mereka lebih memilih tidak bertindak. Jadi jika Anda tidak harus memutuskan, Anda lebih suka langsung saja. Jangan ambil keputusan.

Ini berarti orang Jerman tidak suka mengambil keputusan?

[Iyad Rahwan] Ya.

Orang Jerman tidak suka membuat keputusan. "Augen zu und durch!" Tutup mata Anda dan jalan. Jalan saja. Jadi ini berarti, dengan kata lain, Anda bisa melihat penerimaan teknologi dalam mengambil keputusan. Mobil berjalan lurus. Oke. Takdir!

Perbandingan antara Jerman dan Perancis mengungkapkan perbedaan budaya. Orang Perancis cenderung ingin menyelamatkan wanita dan ada fokus yang lebih kuat pada anak-anak.

Dan berlawanan dengan orang Jerman, orang Perancis tidak ingin membiarkan banyak hal pada takdir, mereka ingin mesin membuat keputusan.

[Iyad Rahwan] Mesin itu adalah semacam cermin. Untuk pertama kalinya sesuatu yang Anda lakukan secara bawah sadar atau mungkin secara instinktif, dalam kasus kecelakaan, Anda hanya bertindak secara kebetulan, sekarang Anda harus membuat pilihan yang sadar, dan mesin memaksa Anda untuk membuat pilihan, betul? Anda tidak dapat menyerahkan pada kebetulan, karena pada akhirnya Anda harus memprogram sesuatu.

Mobil tanpa pengemudi belum siap untuk turun di jalan raya dan masih banyak masalah implikasi etis.

Kecerdasan buatan memiliki potensi yang sangat besar, untuk menunjang kehidupan sehari-hari, kedokteran, atau mobilitas. Tetapi kita juga perlu melihat diluar hal-hal teknis.

Apa makna dari tujuan kemajuan itu? Algoritma kecerdasan buatan tidak bisa menjawab pertanyaan itu. Hanya manusia yang bisa melakukannya.

Source: DW Documentary. Film karya Tilman Wolff dan Ranga Yogeshwar. 

Posting Komentar

0 Komentar