Ketika dia memimpin tim AI Etis Google, Timnit Gebru adalah orang dalam terkemuka yang mempertanyakan pendekatan industri teknologi terhadap kecerdasan buatan.

Itu sebelum Google mendorongnya keluar dari perusahaan lebih dari setahun yang lalu. Kini Gebru mencoba melakukan perubahan dari luar sebagai pendiri Distributed Artificial Intelligence Research Institute atau DAIR.

Lahir dari orang tua Eritrea di Ethiopia, Gebru berbicara dengan The Associated Press baru-baru ini tentang betapa buruknya prioritas AI Big Tech — dan platform media sosial berbahan bakar AI — melayani Afrika dan di tempat lain. Lembaga baru ini berfokus pada penelitian AI dari perspektif tempat dan orang-orang yang paling mungkin mengalami kerugiannya.

Dia juga salah satu pendiri grup Black in AI, yang mempromosikan pekerjaan dan kepemimpinan Black di lapangan. Dan dia dikenal karena ikut menulis studi penting tahun 2018 yang menemukan bias rasial dan gender dalam perangkat lunak pengenalan wajah. Wawancara telah diedit agar panjang dan jelas.

T: Apa dorongan untuk DAIR?

J: Setelah saya dipecat dari Google, saya tahu saya akan masuk daftar hitam dari sejumlah besar perusahaan teknologi besar. Yang tidak saya inginkan — akan sangat sulit untuk bekerja di lingkungan seperti itu. Aku hanya tidak akan melakukan itu lagi. Ketika saya memutuskan untuk (memulai DAIR), hal pertama yang muncul di benak saya adalah saya ingin itu didistribusikan. Saya melihat bagaimana orang-orang di tempat-tempat tertentu tidak dapat memengaruhi tindakan perusahaan teknologi dan arah yang diambil oleh pengembangan AI. Jika ada AI yang akan dibangun atau diteliti, bagaimana Anda melakukannya dengan baik? Anda ingin melibatkan komunitas yang biasanya terpinggirkan agar mereka bisa mendapat manfaat. Ketika ada kasus di mana seharusnya tidak dibangun, kami dapat mengatakan, ‘Yah, ini tidak boleh dibangun.’ Kami tidak membahasnya dari perspektif solusionisme teknologi.

T: Apa saja aplikasi AI yang paling mengkhawatirkan yang perlu mendapat perhatian lebih?

J: Apa yang membuat saya tertekan adalah bahkan aplikasi yang sekarang banyak orang tampaknya lebih sadar akan bahayanya — aplikasi tersebut meningkat daripada menurun. Kami telah berbicara tentang pengenalan wajah dan pengawasan berdasarkan teknologi ini untuk waktu yang lama. Ada beberapa kemenangan: sejumlah kota dan kotamadya telah melarang penggunaan pengenalan wajah oleh penegak hukum, misalnya. Tapi kemudian pemerintah menggunakan semua teknologi ini yang telah kami peringatkan. Pertama, dalam peperangan, dan kemudian untuk menahan para pengungsi — sebagai akibat dari peperangan itu — keluar. Jadi di perbatasan AS-Meksiko, Anda akan melihat segala macam hal otomatis yang belum pernah Anda lihat sebelumnya. Cara nomor satu di mana kami menggunakan teknologi ini adalah dengan menjauhkan orang-orang.

T: Dapatkah Anda menjelaskan beberapa proyek yang sedang dikejar DAIR yang mungkin tidak terjadi di tempat lain?

J: Salah satu hal yang kami fokuskan adalah proses penelitian ini. Salah satu proyek awal kami adalah tentang penggunaan citra satelit untuk mempelajari apartheid spasial di Afrika Selatan. Rekan peneliti kami (Raesetje Sefala) adalah seseorang yang dibesarkan di kotapraja. Bukan dia yang mempelajari komunitas lain dan masuk ke dalamnya. Dia melakukan hal-hal yang relevan dengan komunitasnya. Kami sedang mengerjakan visualisasi untuk mencari cara mengomunikasikan hasil kami kepada masyarakat umum. Kami berpikir dengan hati-hati tentang siapa yang ingin kami jangkau.

Q: Mengapa penekanan pada distribusi?

J: Teknologi mempengaruhi seluruh dunia saat ini dan ada ketidakseimbangan besar antara mereka yang memproduksi dan mempengaruhi perkembangannya, dan mereka yang merasakan kerugiannya. Berbicara tentang benua Afrika, itu membayar biaya besar untuk perubahan iklim yang tidak disebabkannya. Kemudian kami menggunakan teknologi AI untuk mencegah pengungsi iklim. Itu hanya hukuman ganda, kan? Untuk membalikkan itu, saya pikir kita perlu memastikan bahwa kita mengadvokasi orang-orang yang tidak berada di meja, yang tidak mendorong perkembangan ini dan mempengaruhi masa depannya, untuk dapat memiliki kesempatan untuk melakukan itu.

T: Apa yang membuat Anda tertarik dengan AI dan visi komputer?

A: Saya tidak membuat hubungan antara menjadi seorang insinyur atau ilmuwan dan, Anda tahu, perang atau masalah perburuhan atau semacamnya. Untuk sebagian besar hidup saya, saya hanya memikirkan mata pelajaran apa yang saya sukai. Saya tertarik dengan desain sirkuit. Dan kemudian saya juga menyukai musik. Saya bermain piano untuk waktu yang lama dan saya ingin menggabungkan beberapa minat saya bersama-sama. Dan kemudian saya menemukan grup audio di Apple. Dan kemudian ketika saya kembali untuk mengambil master dan Ph.D., saya mengambil kelas pemrosesan gambar yang menyentuh visi komputer.

T: Bagaimana pengalaman Google Anda mengubah pendekatan Anda?

J: Ketika saya berada di Google, saya menghabiskan begitu banyak waktu untuk mencoba mengubah perilaku orang. Misalnya, mereka akan mengorganisir sebuah lokakarya dan mereka akan memiliki semua laki-laki — seperti 15 dari mereka — dan saya hanya akan mengirimi mereka email, ‘Dengar, Anda tidak bisa hanya mengadakan lokakarya seperti itu.’ Saya sekarang menghabiskan lebih banyak energi saya untuk memikirkan apa yang ingin saya bangun dan bagaimana mendukung orang-orang yang sudah berada di pihak yang benar dalam suatu masalah. Saya tidak dapat menghabiskan seluruh waktu saya hanya untuk mencoba mereformasi orang lain. Ada banyak orang yang ingin melakukan sesuatu secara berbeda, tetapi tidak dalam posisi berkuasa untuk melakukan itu.

T: Apakah menurut Anda apa yang terjadi pada Anda di Google telah membuat Anda lebih memperhatikan beberapa kekhawatiran yang Anda miliki tentang model pembelajaran bahasa? Bisakah Anda menggambarkan apa itu?

T: Sebagian dari apa yang terjadi pada saya di Google terkait dengan makalah yang kami tulis tentang model bahasa besar — ​​sejenis teknologi bahasa. Pencarian Google menggunakannya untuk memberi peringkat kueri atau kotak tanya jawab yang Anda lihat, terjemahan mesin, koreksi otomatis, dan banyak hal lainnya. Dan kami melihat ketergesaan ini untuk mengadopsi model bahasa yang lebih besar dan lebih besar dengan lebih banyak data, lebih banyak daya komputasi, dan kami ingin memperingatkan orang-orang agar tidak terburu-buru itu dan memikirkan tentang potensi konsekuensi negatifnya. Saya tidak berpikir koran itu akan membuat gelombang jika mereka tidak memecat saya. Saya senang bahwa itu membawa perhatian pada masalah ini. Saya pikir akan sulit untuk membuat orang berpikir tentang model bahasa besar jika bukan karena ini. Maksudku, aku berharap aku tidak dipecat, tentu saja.

T: Di A.S., apakah ada tindakan yang Anda cari dari Gedung Putih dan Kongres untuk mengurangi beberapa potensi bahaya AI?

A: Saat ini tidak ada regulasi. Saya ingin semacam hukum sehingga perusahaan teknologi harus membuktikan kepada kami bahwa mereka tidak menyebabkan kerugian. Setiap kali mereka memperkenalkan teknologi baru, tanggung jawab ada pada warga untuk membuktikan bahwa ada sesuatu yang berbahaya, dan itupun kita harus berjuang untuk didengar. Bertahun-tahun kemudian mungkin ada pembicaraan tentang regulasi — kemudian perusahaan teknologi beralih ke hal berikutnya. Bukan itu cara perusahaan obat beroperasi. Mereka tidak akan diberi imbalan karena tidak melihat (ke dalam potensi bahaya) — mereka akan dihukum karena tidak melihat. Kita perlu memiliki standar semacam itu untuk perusahaan teknologi.

related post : Setelah bertahun-tahun persaingan, Uber menempatkan taksi NYC di aplikasinya