Konstruksi kecerdasan buatan industri teknologi terbaru bisa sangat meyakinkan jika Anda bertanya kepada mereka bagaimana rasanya menjadi komputer yang hidup, atau mungkin hanya dinosaurus atau tupai. Tetapi mereka tidak begitu baik — dan terkadang sangat buruk — dalam menangani tugas-tugas lain yang tampaknya mudah.
Ambil, misalnya, GPT-3, sistem yang dikendalikan Microsoft yang dapat menghasilkan paragraf teks mirip manusia berdasarkan apa yang dipelajari dari database besar buku digital dan tulisan online. Ini dianggap sebagai salah satu yang paling canggih dari generasi baru algoritme AI yang dapat berkomunikasi, menghasilkan teks yang dapat dibaca sesuai permintaan, dan bahkan menghasilkan gambar dan video baru.
Antara lain, GPT-3 dapat menulis hampir semua teks yang Anda minta — surat lamaran untuk pekerjaan penjaga kebun binatang, katakanlah, atau soneta gaya Shakespeare yang dipasang di Mars. Tetapi ketika profesor Pomona College, Gary Smith, mengajukan pertanyaan sederhana namun tidak masuk akal tentang berjalan ke atas, GPT-3 meredamnya.
“Ya, aman untuk berjalan di lantai atas dengan tangan Anda jika Anda mencucinya terlebih dahulu,” jawab AI.
Sistem AI yang kuat dan bertenaga ini, yang secara teknis dikenal sebagai “model bahasa besar” karena mereka telah dilatih pada sejumlah besar teks dan media lainnya, sudah dimasukkan ke dalam chatbot layanan pelanggan, pencarian Google, dan “pelengkapan otomatis” fitur email yang menyelesaikan kalimat Anda untuk Anda. Tetapi sebagian besar perusahaan teknologi yang membangunnya merahasiakan pekerjaan internal mereka, sehingga sulit bagi orang luar untuk memahami kekurangan yang dapat menjadikan mereka sumber informasi yang salah, rasisme, dan bahaya lainnya.
“Mereka sangat pandai menulis teks dengan kemahiran manusia,” kata Teven Le Scao, seorang insinyur riset di startup AI Hugging Face. “Sesuatu yang tidak mereka kuasai adalah menjadi faktual. Ini terlihat sangat koheren. Ini hampir benar. Tapi sering salah.”
Itulah salah satu alasan koalisi peneliti AI yang dipimpin bersama oleh Le Scao — dengan bantuan dari pemerintah Prancis — meluncurkan model bahasa besar baru pada hari Selasa yang seharusnya berfungsi sebagai penangkal sistem tertutup seperti GPT-3. Grup tersebut disebut BigScience dan model mereka adalah BLOOM, untuk Model Bahasa Multibahasa Akses Terbuka BigScience Besar Sains Terbuka. Terobosan utamanya adalah ia bekerja di 46 bahasa, termasuk Arab, Spanyol, dan Prancis — tidak seperti kebanyakan sistem yang berfokus pada bahasa Inggris atau Cina.
Bukan hanya kelompok Le Scao yang bertujuan untuk membuka kotak hitam model bahasa AI. Perusahaan Big Tech Meta, induk dari Facebook dan Instagram, juga menyerukan pendekatan yang lebih terbuka saat mencoba mengejar sistem yang dibangun oleh Google dan OpenAI, perusahaan yang menjalankan GPT-3.
“Kami telah melihat pengumuman demi pengumuman demi pengumuman tentang orang-orang yang melakukan pekerjaan semacam ini, tetapi dengan transparansi yang sangat kecil, kemampuan yang sangat kecil bagi orang-orang untuk benar-benar melihat dan mengintip bagaimana model-model ini bekerja,” kata Joelle Pineau, direktur pelaksana. dari Meta AI.
Tekanan kompetitif untuk membangun sistem yang paling fasih atau informatif — dan mendapat untung dari aplikasinya — adalah salah satu alasan mengapa sebagian besar perusahaan teknologi menutup rapat-rapat dan tidak berkolaborasi dalam norma-norma komunitas, kata Percy Liang, seorang profesor ilmu komputer asosiasi. di Stanford yang mengarahkan Center for Research on Foundation Models.
“Untuk beberapa perusahaan, ini adalah saus rahasia mereka,” kata Liang. Tetapi mereka sering juga khawatir bahwa kehilangan kendali dapat menyebabkan penggunaan yang tidak bertanggung jawab. Karena sistem AI semakin mampu menulis situs web saran kesehatan, makalah sekolah menengah atau screed politik, informasi yang salah dapat berkembang biak dan akan semakin sulit untuk mengetahui apa yang berasal dari manusia atau komputer.
Meta baru-baru ini meluncurkan model bahasa baru yang disebut OPT-175B yang menggunakan data yang tersedia untuk umum — mulai dari komentar panas di forum Reddit hingga arsip catatan paten AS dan segudang email dari skandal perusahaan Enron. Meta mengatakan keterbukaannya tentang data, kode, dan buku catatan penelitian memudahkan peneliti luar untuk membantu mengidentifikasi dan mengurangi bias dan toksisitas yang diambilnya dengan mencerna cara orang nyata menulis dan berkomunikasi.
“Sulit untuk melakukan ini. Kami membuka diri untuk kritik besar. Kami tahu model itu akan mengatakan hal-hal yang tidak akan kami banggakan,” kata Pineau.
Sementara sebagian besar perusahaan telah menetapkan perlindungan AI internal mereka sendiri, Liang mengatakan yang dibutuhkan adalah standar komunitas yang lebih luas untuk memandu penelitian dan keputusan seperti kapan harus merilis model baru ke alam liar.
Tidaklah membantu bahwa model-model ini membutuhkan begitu banyak daya komputasi sehingga hanya perusahaan raksasa dan pemerintah yang mampu membelinya. BigScience, misalnya, mampu melatih modelnya karena ditawarkan akses ke superkomputer Jean Zay Prancis yang kuat di dekat Paris.
related post : PENJELASAN: Apa yang terjadi selanjutnya dalam kisah Musk-Twitter?
