Kenapa Kita Masih Mempercayai Amazon? Bagaimana Gergasi Big Tech Gagal Melindungi Masyarakat

Amazon mungkin menjangkakan banyak perhatian orang ramai apabila ia mengumumkan di mana ia akan menubuhkan ibu pejabat barunya - tetapi seperti banyak syarikat teknologi baru-baru ini, ia mungkin tidak menjangkakan bagaimana negatif tindak balas itu. Di wilayah-wilayah terpilih di New York dan Virginia yang dipilih oleh Amazon, ahli-ahli politik tempatan membidas ancaman pembayar cukai yang dijanjikan kepada syarikat itu. Wartawan merentas spektrum politik menyuarakan tawaran - dan media sosial dipenuhi dengan suara New Yorkers dan Virginians yang menegaskan rintangan.

Begitu juga, ayat-ayat bahawa Facebook mengeksploitasi teori konspirasi anti-Semitik untuk melemahkan legitimasi pengkritiknya menunjukkan bahawa bukannya berubah, Facebook lebih suka meneruskan serangan itu. Walaupun Amazon dan Apple menyaksikan nilai pasaran stok mereka secara ringkas atas $ 1 trilion, eksekutif teknologi telah diseret sebelum Kongres, berjuang untuk berhati-hati mengambil sikap terhadap ucapan kebencian, terjebak menutupi salah laku seksual, dan melihat pekerja mereka sendiri memprotes tawaran perniagaan.

Dalam sesetengah kalangan, ini dilihat sebagai kehilangan kepercayaan orang ramai terhadap firma teknologi yang berjanji untuk memperbaharui dunia - sosial, alam sekitar, dan politik - atau sekurang-kurangnya sebagai kekecewaan dengan cara syarikat-syarikat ini telah mengubah dunia. Tetapi syarikat teknologi perlu melakukan lebih daripada sekadar mendapatkan kepercayaan orang ramai; mereka perlu membuktikan bahawa mereka sepatutnya berada di tempat pertama - yang apabila diletakkan dalam konteks sejarah kritikan dan keraguan teknologi, mereka tidak melakukannya.

Looking Away From the Problems

Syarikat-syarikat teknologi besar digunakan untuk membentangkan projek-projek mereka dalam bahasa-bahasa yang tidak jelas dan positif, yang mengaburkan politik dan dasar awam, melampaui pemisahan dan - dengan mudah - mengelakkan pengawasan. Google pernah mengingatkan pekerja mereka: "Jangan jahat." Facebook bekerja untuk "menjadikan dunia lebih terbuka dan bersambung." Siapa yang dapat menentang cita-cita itu?

Ulama memberi amaran mengenai bahaya platform seperti ini, jauh sebelum banyak pengasas mereka dilahirkan. Pada tahun 1970, pengkritik sosial dan sejarawan teknologi Lewis Mumford meramalkan bahawa matlamat apa yang beliau sebut sebagai "computerdom" akan "memberikan dan mengolah kuantiti data yang tidak berkesudahan, untuk memperluas peranan dan memastikan penguasaan sistem kuasa. "Pada tahun yang sama, esei seminal oleh pemikir feminis, Jo Freeman, memberi amaran tentang ketidakseimbangan kuasa yang wujud dalam sistem yang kelihatannya menjadikan semua orang sama.

Begitu juga, pada tahun 1976, saintis komputer Joseph Weizenbaum meramalkan bahawa dalam dekad yang akan datang orang akan mendapati diri mereka dalam keadaan kesusahan kerana mereka semakin bergantung kepada sistem teknikal yang tidak jelas. Amaran yang tidak terhitung banyaknya telah dikeluarkan sejak itu, termasuk biasiswa penting baru-baru ini seperti penerokaan maklumat Safiya Noble tentang bagaimana pencarian Google meniru semulajadi perkauman dan jantina dan ulama media Siva Vaidhyanthan menyatakan bahawa "masalah dengan Facebook adalah Facebook."

Syarikat-syarikat teknologi berkuasa dan kaya, tetapi hari-hari mengelak daripada pengawasan mungkin berakhir. Masyarakat Amerika nampaknya mula mengesyaki bahawa gergasi teknologi tidak siap, dan mungkin tidak bersedia, untuk mengambil tanggungjawab terhadap alat yang mereka luncurkan di dunia.

Selepas pilihan raya presiden AS 2016, kebimbangan masih tinggi bahawa kerajaan Rusia dan asing lain menggunakan platform media sosial yang ada untuk menyemai perpecahan dan ketidakpuasan dalam masyarakat di seluruh dunia.

Facebook masih belum menyelesaikan masalah dalam privasi data dan ketelusan yang menyebabkan skandal Cambridge Analytica. Twitter adalah megaphone pilihan untuk Presiden Donald Trump dan rumah untuk mengganggu jumlah ucapan kebencian ganas. Masa depan pejabat korporat Amazon sedang membentuk perebutan pelbagai pihak di kalangan pegawai yang dipilih dan orang yang mereka anggap mewakili.

Adakah itu Jahil atau Naivete?

Melihat keadaan sekarang dengan sejarah kritikan teknologi dalam fikiran, sukar untuk tidak menyimpulkan bahawa syarikat-syarikat teknologi layak mendapat krisis yang mereka hadapi. Syarikat-syarikat ini meminta orang ramai untuk mengamanahkan mereka dengan e-mel mereka, data peribadi, sejarah carian dalam talian, dan maklumat kewangan, sehingga banyak syarikat-syarikat ini bangga sehingga mereka mengenali individu lebih baik daripada yang mereka kenal sendiri. Mereka mempromosikan sistem terkini mereka, termasuk "penceramah pintar" dan "kamera pintar," berusaha untuk memastikan setiap momen yang bangun pengguna - dan momen tidur juga - boleh dipantau, memberi lebih banyak data ke dalam algoritma membuat wang mereka.

Namun, seolah-olah tidak dapat dielakkan, syarikat-syarikat ini terus menunjukkan betapa tidak pantas kepercayaan mereka, membocorkan data, berkongsi maklumat peribadi, dan gagal menghalang peretasan, kerana mereka perlahan-lahan mengisi dunia dengan tekno-paranoia yang menggangu sebuah episod "Mirror Hitam."

Tanggapan firma teknologi untuk setiap wahyu baru sesuai dengan corak standard: Selepas skandal muncul, syarikat terlibat menyatakan kecemasan bahawa apa-apa yang salah, berjanji untuk menyiasat, dan berjanji untuk melakukan yang lebih baik di masa depan. Beberapa waktu - hari, minggu, atau bulan - kemudian, syarikat itu mendedahkan bahawa skandal itu adalah hasil langsung dari bagaimana sistem itu direka, dan melepaskan seorang eksekutif yang kecewa untuk menyatakan kemarahan pada orang yang merosakkan menggunakan orang jahat yang didapati untuk sistem mereka, tanpa mengakui bahawa masalahnya adalah sistem itu sendiri.

Zuckerberg sendiri memberitahu Senat Amerika Syarikat pada April 2018 bahawa skandal Cambridge Analytica telah mengajarnya "kita mempunyai tanggungjawab untuk tidak hanya memberi alat kepada orang, tetapi untuk memastikan bahawa alat itu digunakan untuk kebaikan." Itu pelajaran yang sangat penting untuk dilewatkan semasa membuat syarikat berbilion dolar.

Membina semula dari Apa yang Kiri

Menggunakan sebarang teknologi - dari pisau ke komputer - membawa risiko, tetapi apabila sistem teknologi meningkatkan saiz dan kerumitan, skala risiko ini cenderung meningkat juga. Teknologi hanya bermanfaat jika orang boleh menggunakannya dengan selamat, dengan cara di mana faedah lebih besar daripada bahaya, dan jika mereka dapat yakin bahawa mereka memahami, dan menerima, potensi risiko. Beberapa tahun yang lalu, Facebook, Twitter, dan Google mungkin telah muncul kepada kebanyakan orang sebagai kaedah komunikasi yang berbahaya yang membawa lebih banyak kepada masyarakat daripada yang mereka ambil. Tetapi dengan setiap skandal baru, dan tindak balas yang terharu, semakin banyak orang melihat bahawa syarikat-syarikat ini menimbulkan bahaya serius kepada masyarakat.

Seperti yang menggoda kerana mungkin menunjuk pada butang "mati", tidak ada penyelesaian yang mudah. Gergasi teknologi telah menjadikan diri mereka sebagai sebahagian dari kehidupan sehari-hari untuk ratusan juta orang. Mencadangkan bahawa orang berhenti hanya mudah, tetapi tidak dapat menyedari betapa banyak orang yang bergantung pada platform ini - dan bagaimana terperangkap mereka mungkin merasa dalam keadaan yang semakin tidak dapat ditolerir.

Akibatnya, orang membeli buku tentang bagaimana buruk Amazon - dengan memerintahkan mereka di Amazon. Mereka menjalankan carian Google untuk artikel mengenai berapa banyak maklumat yang diketahui Google mengenai setiap pengguna individu. Mereka tweets tentang berapa banyak mereka membenci Twitter dan menyiarkan artikel Facebook tentang skandal terbaru Facebook.

Syarikat-syarikat teknologi mungkin mendapati diri mereka berkuasa atas asas pengguna yang semakin teruk, kerana platform mereka menyebarkan ketidakpuasan lebih jauh dan lebih luas dari yang mungkin di masa lalu. Atau mereka mungkin memilih untuk menukar diri secara dramatik, memecahkan diri, mengubah beberapa kawalan ke keputusan demokratik pengguna mereka, dan mengambil tanggungjawab untuk membahayakan platform dan produk mereka telah dilakukan kepada dunia. Setakat ini, seolah-olah industri itu tidak melampaui permintaan maaf yang setengah dibakar sambil terus menjalankan perniagaan seperti biasa. Mudah-mudahan itu akan berubah. Tetapi jika masa lalu adalah panduan, mungkin tidak.

Artikel ini pada asalnya diterbitkan pada Perbualan oleh Zachary Loeb. Baca artikel asal di sini.