31 Kata-Kata Bijak Cathy O'Neil: Inspirasi Hidup Dan Motivasi

"Jelas semakin banyak transparansi yang kami miliki sebagai auditor, semakin banyak yang bisa kami dapatkan, tetapi tujuan utamanya adalah untuk memahami karakteristik penting tentang algoritma kotak hitam tanpa harus harus memahami setiap detail terperinci dari algoritma tersebut."

--- Cathy O'Neil

#Algoritma #Auditor #Transparansi

"Saya tahu bagaimana model dibangun, karena saya membangunnya sendiri, jadi saya tahu bahwa saya menanamkan nilai-nilai saya ke dalam setiap algoritma tunggal yang saya buat dan saya memproyeksikan agenda saya ke algoritma tersebut."

--- Cathy O'Neil

#Algoritma #Tahu #Dibangun di

"Perancang algoritme Facebook memilih untuk membiarkan kami melihat apa yang dibicarakan teman kami. Mereka memilih untuk menunjukkan kepada kita, dalam beberapa hal, lebih dari itu. Dan itu adalah keputusan desain yang mereka dapat putuskan berbeda. Mereka bisa berkata, "Kami akan menunjukkan kepada Anda hal-hal yang mungkin belum pernah Anda lihat sebelumnya." Saya pikir mereka mungkin mengoptimalkan algoritme mereka untuk menghasilkan uang paling banyak, dan itu mungkin berarti menunjukkan kepada orang-orang hal-hal yang sudah mereka setujui, atau lebih mungkin setuju dengan itu."

--- Cathy O'Neil

#Berpikir #Algoritma #Orang-orang

"Saya tidak berpikir ada orang yang pernah diberitahu bahwa mereka dijatuhi hukuman dua tahun ekstra karena skor residivisme mereka tinggi, atau diberitahukan bahwa polisi detak ini kebetulan berada di lingkungan mereka memeriksa kantong orang untuk pot karena algoritma kepolisian yang prediktif. Itu bukan cara kerjanya."

--- Cathy O'Neil

#Berpikir #Algoritma #Orang-orang

"Percakapan nasional tentang hak kulit putih, tentang rasisme yang dilembagakan, gerakan Black Lives Matter, saya pikir, terjadi sebagian besar karena pelebaran dan perluasan pemahaman kita tentang ketidaksetaraan. Percakapan itu dimulai oleh Occupy."

--- Cathy O'Neil

#Berpikir #Black Lives Matter #Hitam

"Dengan konstruksi, dunia data besar dibungkam dan disegmentasi dan dipisahkan sehingga orang-orang sukses, seperti saya - teknolog, orang kulit putih berpendidikan, sebagian besar - mendapat manfaat dari data besar, dan orang-orang di sisi lain dari spektrum ekonomi, terutama orang kulit berwarna, yang menderita karenanya. Mereka menderita secara individual, pada waktu yang berbeda, pada saat yang berbeda. Mereka tidak pernah mendapatkan penjelasan yang jelas tentang apa yang sebenarnya terjadi pada mereka karena semua skor ini adalah rahasia dan kadang-kadang mereka bahkan tidak tahu bahwa mereka sedang dinilai."

--- Cathy O'Neil

#Orang-orang #Dunia #Tahu

"Saya berpendapat bahwa salah satu masalah utama dengan kepercayaan buta kami pada algoritma adalah bahwa kami dapat menyebarkan pola diskriminatif tanpa mengakui segala jenis niat."

--- Cathy O'Neil

#Algoritma #Jenis #Pola

"Ada banyak cara berbeda yang bisa membuat algoritma salah, dan apa yang kita miliki sekarang adalah sistem yang kami asumsikan karena itu adalah teknologi baru yang mengilap dengan aura matematika yang sempurna dan tidak memerlukan pemeriksaan lebih lanjut. Tentu saja, kita tidak pernah memiliki asumsi itu dengan jenis teknologi lainnya."

--- Cathy O'Neil

#Algoritma #Asumsi #Cara

"Karena pengalaman saya di Occupy, alih-alih mengajukan pertanyaan, "Siapa yang akan mendapat manfaat dari sistem ini yang saya terapkan dengan data?" Saya mulai mengajukan pertanyaan, "Apa yang akan terjadi pada yang paling rentan?" Atau "Siapa yang akan kalah dalam sistem ini? Bagaimana ini akan mempengaruhi orang yang paling miskin?" Yang merupakan pertanyaan yang sangat berbeda dari "Bagaimana ini meningkatkan kehidupan orang-orang tertentu?""

--- Cathy O'Neil

#Orang-orang #Lakukan itu #Orang

"Saya ingin mencegah orang memberi mereka terlalu banyak kekuatan. Saya melihatnya sebagai sebuah pola. Saya ingin itu segera berakhir."

--- Cathy O'Neil

#Orang-orang #Memberi #Pola

"Itulah yang kami lakukan ketika kami bekerja di perusahaan teknologi Silicon Valley: Kami berpikir tentang siapa yang akan mendapat manfaat dari ini. Itu hampir satu-satunya hal yang kita pikirkan."

--- Cathy O'Neil

#Berpikir #Silikon #Bukit silikon

"Begitu banyak dari masyarakat kita secara keseluruhan yang mengarahkan kita untuk memaksimalkan gaji atau bonus kita. Pada dasarnya, kami hanya berpikir dalam hal uang. Atau, jika bukan uang, maka, jika Anda berada di dunia akademis, itu prestise. Ini jenis mata uang yang berbeda. Dan ada dimensi tak terukur dari semua pekerjaan ini, yaitu apakah itu meningkatkan dunia."

--- Cathy O'Neil

#Seandainya #Berpikir #Dunia

"Penargetan mikro adalah kemampuan kampanye untuk profil Anda, untuk mengetahui lebih banyak tentang Anda daripada yang Anda tahu tentang itu, dan kemudian untuk memilih apa yang akan ditampilkan kepada Anda."

--- Cathy O'Neil

#Tahu #Kemampuan #Menunjukkan

"Ini adalah hal standar yang Anda dengar dari orang-orang pemula - bahwa produk mereka entah bagaimana meningkatkan dunia. Dan jika Anda mengikuti alasannya, Anda akan pergi ke suatu tempat, dan saya akan memberi tahu Anda di mana Anda dapatkan: Anda akan mendapatkan deskripsi tentang apa yang terjadi pada para pemenang di bawah sistem yang mereka bangun."

--- Cathy O'Neil

#Seandainya #Orang-orang #Dunia

"Pelatihan yang diterima seseorang ketika menjadi teknisi, seperti ilmuwan data - kita dilatih dalam matematika atau ilmu komputer atau statistik - sepenuhnya terpisah dari diskusi etika."

--- Cathy O'Neil

#Statistik #Ilmu Komputer #Teknisi

"Kebanyakan orang tidak memiliki keterkaitan dalam pikiran mereka dengan apa yang mereka lakukan dan dengan etika. Mereka pikir mereka entah bagaimana bergerak melewati pertanyaan moralitas atau nilai atau etika, dan itu adalah sesuatu yang tidak pernah saya bayangkan benar."

--- Cathy O'Neil

#Berpikir #Orang-orang #Pikiran

"Kita tidak bisa begitu saja membuang sesuatu di luar sana dan menganggap itu berfungsi hanya karena ada matematika di dalamnya."

--- Cathy O'Neil

#Asumsi #Matematika

"Untuk alasan apa pun, saya tidak pernah memisahkan teknis dari etika."

--- Cathy O'Neil

#Alasan #Etis

"Kami telah belajar pelajaran kami dengan keuangan karena mereka membuat ledakan besar yang hampir mematikan dunia. Tetapi hal yang saya sadari adalah bahwa mungkin tidak pernah ada ledakan dalam skala krisis keuangan yang terjadi dengan data besar."

--- Cathy O'Neil

#Dunia #Terbuat #Sangat besar

"Dengan algoritma residivisme, misalnya, saya khawatir tentang hasil rasis. Dengan tes kepribadian [untuk perekrutan], saya khawatir menyaring orang-orang dengan masalah kesehatan mental dari pekerjaan. Dan dengan algoritma model nilai tambah guru [digunakan di New York City untuk menilai guru], saya benar-benar khawatir bahwa itu tidak bermakna. Itu hampir pembangkit angka acak."

--- Cathy O'Neil

#Algoritma #Orang-orang #Guru

"Putus yang saya alami adalah bahwa orang membenci Wall Street, tetapi mereka menyukai teknologi."

--- Cathy O'Neil

#Orang-orang #Jalan-jalan #Dinding

"Mungkin tidak akan pernah ada saat ketika semua orang berkata, "Ya Tuhan, data besar itu mengerikan.""

--- Cathy O'Neil

#Momen #Besar #Mungkin

"Saya pikir ada masalah inheren yang model benar-benar tidak akan pernah bisa mengatasinya, yaitu ketika seseorang datang dengan cara baru dalam melakukan sesuatu yang benar-benar luar biasa, model tidak akan mengenalinya. Mereka hanya tahu bagaimana mengenali keunggulan ketika mereka bisa mengukurnya."

--- Cathy O'Neil

#Berpikir #Tahu #Cara

"Tujuan paling penting yang ada dalam pikiran saya adalah meyakinkan orang untuk berhenti secara buta mempercayai algoritma dan berasumsi bahwa mereka secara inheren adil dan objektif."

--- Cathy O'Neil

#Algoritma #Asumsi #Orang-orang

"Terutama dari pengalaman saya sebagai ahli dalam dana lindung nilai - saya dengan naif masuk ke sana berpikir bahwa saya akan membuat pasar lebih efisien dan kemudian seperti, oh Tuhan, saya bagian dari sistem mengerikan yang meledakkan dunia ekonomi, dan saya tidak ingin menjadi bagian dari itu."

--- Cathy O'Neil

#Berpikir #Dunia #Ingin

"Occupy memberi saya lensa untuk melihat diskriminasi sistemik."

--- Cathy O'Neil

#Diskriminasi #Lensa

"Ketika saya memikirkan apakah saya ingin mengambil pekerjaan, saya tidak hanya berpikir apakah itu menarik secara teknis, meskipun saya mempertimbangkannya. Saya juga mempertimbangkan pertanyaan apakah ini baik untuk dunia."

--- Cathy O'Neil

#Berpikir #Dunia #Ingin

"Google sangat besar sehingga Anda tidak tahu apa yang dilakukan orang tertentu."

--- Cathy O'Neil

#Lakukan itu #Ide ide #Orang

"Ketika orang tidak diberi pilihan oleh sistem penilaian rahasia, sangat sulit untuk mengeluh, sehingga mereka bahkan sering tidak tahu bahwa mereka telah menjadi korban."

--- Cathy O'Neil

#Orang-orang #Tahu #Keras

"Orang-orang merasa seperti mereka berteman dengan Google, dan mereka percaya pada "Do No Evil" yang dikatakan Google. Mereka lebih memercayai Google daripada memercayai pemerintah, dan saya tidak pernah memahaminya."

--- Cathy O'Neil

#Orang-orang #Jahat #Kata

"NSA membeli data dari perusahaan swasta, sehingga perusahaan swasta adalah sumber dari semua barang ini."

--- Cathy O'Neil

#Perusahaan #Sumber #Barang

Kata-Kata Bijak Cathy O'Neil: Inspirasi Hidup dan Motivasi