Teknologi Pengiktirafan Muka FBI Tidak Menghormati Privasi dan Hak Anda

Siapa pengawas pemantau? Pejabat Akauntabiliti Kerajaan, seperti yang dijelaskan oleh tajuknya. Laporan baru-baru ini GAO mengenai penggunaan teknologi pengenalan muka kerajaan mendapati jalannya kepada orang ramai pada hari Rabu. Pada asasnya, kita mendapat keadaan. Keadaan yang buruk. Pendek kata: Dengan program pengiktirafan wajahnya, FBI melanggar privasi anda dan tidak memberitahu anda mengenainya. Tambahan pula, FBI tidak menguji untuk memastikan bahawa program-program ini adalah tepat dan boleh dipercayai.

FBI dan biometrik pergi balik - hubungan penyayang bermula dengan pangkalan data cap jari. Tetapi ia jauh lebih jauh dari itu, sekarang. "Biometrik," kepada FBI dan mengikut GAO, bermaksud "pengiktirafan automatik individu berdasarkan ciri biologi dan tingkah laku mereka." Pada tahun 2011, FBI melancarkan perintis "Pengenalan Generasi Seterusnya" (NGI); empat tahun kemudian, pada bulan April, 2015, ia beroperasi sepenuhnya.

NGI sebahagiannya menggunakan Sistem Photo Interstate (IPS) untuk biometrik yang dipanggil ini. Pangkalan data ini - sebagai tambahan kepada pangkalan data luaran dari syarikat swasta - menyediakan agensi kerajaan dengan akses kepada lebih dari 411 juta muka foto (penduduk A.S. semasa hanya 319 juta). Jabatan Kehakiman mendakwa bahawa kebanyakan gambar-gambar ini berasal daripada tembakan cawan - "Lebih 80 peratus daripada gambar di NGI-IPS adalah jenayah" - tetapi mereka juga berkerjasama dengan pelbagai negeri untuk mendapatkan akses kepada lesen pemandu dan gambar pasport. GAO mengatakan bahawa saat ini a suspek adalah "ditempah untuk jenayah," dia berada dalam buku - iaitu dalam NGI-IPS.

Apa yang tidak jelas dari laporan itu ialah berapa banyak yang FBI menyelam dengan foto media sosial anda. FBI mendakwa ia tidak termasuk mereka dalam NGI-IPS, tetapi ia menggunakannya:

"… gambar yang diambil dari kamera keselamatan atau foto media sosial tidak didaftarkan ke NGI-IPS … Menurut FBI, pangkalan data foto luaran tidak mengandungi gambar atau foto peribadi dari media sosial, dan FBI tidak mengekalkan foto-foto ini; ia hanya menentang mereka."

Tetapi perlu diperhatikan betapa banyak media sosial emas boleh. Apl foto komputer anda mempunyai keupayaan untuk mengenali anda dan rakan anda. Facebook juga, dan ia sangat mengganggu untuk mengkatalogkan setiap orang dalam foto. Setiap kali anda menggunakan kanta Snapchat, Snapchat memetakan kontur unik wajah anda. Dan ia tidak berhenti di sana - teknologi ini praktikal di mana-mana.

Walau apa pun, bukan hanya FBI yang berseronok dengan wajah anda: akses memanjangkan ke jabatan polis tempatan. (Ada juga ini: "Sistem pengenalan wajah Jabatan Pertahanan digunakan untuk menyokong para ahli perang di lapangan untuk mengenalpasti pejuang musuh.") FBI adalah satu-satunya agensi dengan langsung akses, tetapi orang lain hanya dapat meminta akses. Sebaik sahaja akses diberikan, agensi yang berkenaan menghantar foto kepada FBI dan meminta sejumlah potensi perlawanan. (Foto mungkin resolusi tinggi, tetapi, mengetahui kamera keselamatan, mungkin tidak.) Sekali di sana, NGI-IPS menjalankan foto melalui pangkalan datanya, dan kemudian, GAO berkata, "analisis manusia mesti dilakukan." Pasukan daripada "29 pakar imej biometrik terlatih di FACE Penilaian Perbandingan Analisis Bawah Perkhidmatan" kemudian memberikan perkataan terakhir. Akhirnya, bilangan potensial yang diperlukan untuk mencari jalan kembali kepada agensi. Ia kemudiannya sampai ke agensi itu untuk menentukan sama ada suspek yang jelas ini adalah suspek sebenar.

Inilah cara ia berfungsi:

"Khususnya, teknologi mengekstrak ciri-ciri dari wajah dan meletakkannya ke dalam format-sering dirujuk sebagai cetakan rupa-yang boleh digunakan untuk pengesahan, antara lain. Setelah cetakan dibuat, teknologi dapat menggunakan algoritma pengenalan wajah untuk membandingkan faceprints antara satu sama lain untuk menghasilkan nilai skor tunggal yang mewakili tahap persamaan antara kedua-dua wajah."

Bergantung kepada kebiasaan anda dengan fiksyen sains, yang mungkin atau mungkin tidak kelihatan seperti sistem yang boleh dipercayai dan boleh dipercayai. Ianya bukan. Inilah a seksyen pengepala dalam laporan GAO:

"FBI Mempunyai Maklumat Terhad Mengenai Keupayaan Keupayaan Teknologi Pengiktirafan Wajahnya."

Semua FBI tahu bahawa, apabila ia lakukan menguji kadar ketepatan 50-potensi-kecocokan program - yang dilakukannya, tanpa mengira, dengan pangkalan data ujian, dan bukan pangkalan data sebenar - ia adalah 86 peratus tepat. FBI telah "tidak menilai ketepatan pencarian pengenalan wajah NGI-IPS dalam penetapan operasinya - pengaturan di mana foto yang terdaftar, bukannya database pengetesan foto - digunakan untuk melakukan pencarian untuk penyiasatan." jaga betapa tepatnya sistem pengiktirafan wajah syarikat swasta yang digunakan: tidak ada audit.

Lapan puluh enam peratus tepat. Dalam erti kata lain: kira-kira empat dari lima bintang. Jika restoran sushi tempatan anda mempunyai empat daripada lima bintang, anda mungkin mempertimbangkan untuk mengambil pesanan. Tetapi seperti jumlah ulasan yang rendah boleh merosot rating restoran, jadi juga tinggi bilangan perlawanan yang berpotensi boleh mengawal ketepatan NGI-IPS. Lima puluh pertandingan berpotensi adalah agensi maksimum yang boleh meminta; sistem mungkin meludah sedikit sahaja dua. GAO mengatakan bahawa senarai yang lebih kecil, sistem yang kurang tepat.

Terdapat juga perkara positip yang salah. "Para pegawai FBI menyatakan bahawa mereka tidak menilai seberapa sering NGI-IPS menghadapi pencarian pengecualian yang salah menyesuaikan seseorang ke pangkalan data (kadar positif palsu)." Positif palsu adalah - mengampuni bahasa saya - fuck-up serius, kerana mereka "boleh mengubah anggapan tradisional tidak bersalah dalam kes-kes jenayah dengan meletakkan lebih banyak beban kepada defendan untuk menunjukkan dia bukan siapa sistem itu mengenalinya. "Sistem itu boleh memecah sama ada akhir persamaan: jika foto itu tidak berkualiti, kadar kejayaan merosot; jika perisian itu berkualiti rendah, kadar kejayaan merosot. Kadar kejayaan rendah bermakna banyak positif palsu.

Gao, setelah menyelesaikan laporannya, memberikan Jaksa Agung Amerika Loretta Lynch dan Pengarah FBI James Comey enam cadangan. Intipati: Jabatan Kehakiman mempunyai masalah kelegapan. Orang ramai mungkin tahu bahawa privasinya dilanggar, tetapi orang ramai tidak tahu secara khusus bagaimana privasinya sedang dilanggar. Juga, Jabatan Kehakiman mesti membetulkan kekurangan pengawasan untuk memastikan bahawa terdapat privasi minimum yang tersembunyi. Akhirnya, Jabatan Kehakiman mesti memastikan - walaupun secara retroaktif - bahawa program-program ini boleh dipercayai.

Jabatan Kehakiman hanya bersetuju, dengan penuh, dengan satu cadangan. Ia "dipersetujui sebahagian" dengan dua lagi, tetapi menolak baki tiga - dua daripadanya cuba menetapkan garis panduan ketepatan.