Sebagai sebahagian dari siri Women in AI TechCrunch yang berterusan, yang bertujuan untuk memberi pengiktirafan yang layak kepada wanita-wanita yang memfokuskan diri dalam AI, TechCrunch mewawancarai Lakshmi Raman, pengarah AI di CIA. Kami berbual tentang perjalanannya menjadi pengarah serta penggunaan AI oleh CIA, dan keseimbangan yang perlu dikekalkan antara menerima teknologi baru sambil bertanggungjawab menggunakannya.

Raman telah lama berada dalam bidang perisikan. Beliau menyertai CIA pada tahun 2002 sebagai pembangun perisian selepas mendapat ijazah sarjana dari University of Illinois Urbana-Champaign dan ijazah sarjana muda dalam sains komputer dari University of Chicago. Beberapa tahun kemudian, beliau membina kerjaya dalam pengurusan di agensi itu, akhirnya memimpin usaha sains data keseluruhan CIA.

Raman berkata bahawa beliau bertuah kerana memiliki contoh wanita dan pendahulu sebagai sumber bimbingan di CIA, mengingat pangkat yang didominasi oleh lelaki dalam sejarah bidang perisikan.

“Dalam kerjaya mereka, setiap wanita perlu menavigasi cabaran yang ada,” katanya.

Dalam peranan beliau sebagai pengarah, Raman mengatur, mengintegrasikan, dan memacu aktiviti AI di seluruh CIA. “Kami percaya bahawa AI adalah untuk menyokong misi kami,” katanya. “Ia adalah manusia dan mesin bersama-sama yang terdepan dalam penggunaan AI kami.”

AI bukan sesuatu yang baru bagi CIA. Menurut Raman, agensi itu telah meneroka aplikasi sains data dan AI sejak awal tahun 2000, terutama dalam bidang pemprosesan bahasa semula jadi, penglihatan komputer, dan analitik video. CIA cuba untuk sentiasa berada di barisan hadapan terkini, seperti AI generatif, dengan pelan kerja yang didasarkan oleh industri dan akademia.

“Apabila kami memikirkan kuantiti data yang besar yang kami perlu teliti di dalam agensi, penapisan kandungan adalah satu bidang di mana AI generatif boleh membuat perbezaan,” kata Raman. “Kami sedang memerhati perkara-perkara seperti bantuan carian dan penemu, bantuan ideasi, dan membantu kami untuk menghasilkan hujah yang bertentangan bagi membantu mengurangkan kecenderungan analitik kami.”

Terdapat rasa kecemasan dalam komuniti perisikan Amerika Syarikat untuk menggunakan sebarang alat yang mungkin membantu CIA menangani ketegangan geopolitik yang semakin meningkat di seluruh dunia, dari ancaman keganasan yang didorong oleh perang di Gaza hingga kempen maklumat palsu yang dilancarkan oleh aktor asing seperti China dan Russia. Pada tahun lalu, Projek Kajian Khas Persaingan, satu kumpulan penasihat berprestij yang memberi tumpuan kepada AI dalam keselamatan negara, menetapkan tempoh dua tahun bagi perkhidmatan perisikan domestik untuk melampaui peringkat eksperimen dan projek perintis yang terhad untuk menerima AI generatif pada skala yang lebih besar.

Salah satu alat yang digerakkan oleh AI generatif yang dibangunkan oleh CIA, Osiris, agak mirip dengan ChatGPT daripada OpenAI, tetapi disesuaikan untuk kegunaan perisikan. Ia merangkumkan data – buat masa ini, hanya data yang tidak dielas dan yang tersedia secara awam atau perdagangan – dan membolehkan analis menggali lebih dalam dengan mengajukan soalan lanjutan secara ringkas.

Osiris kini digunakan oleh ribuan analis bukan sahaja di dalam tembok CIA, tetapi juga di seluruh 18 agensi perisikan Amerika Syarikat. Raman tidak mendedahkan sama ada ia dibangunkan di dalam atau menggunakan teknologi daripada syarikat-syarikat pihak ketiga, tetapi beliau menyatakan bahawa CIA mempunyai rakan kongsi dengan pembekal terkenal.

“Kami menggunakan perkhidmatan komersial,” kata Raman, menambah bahawa CIA juga menggunakan alat AI untuk tugas seperti terjemahan dan memberitahu analis pada waktu senggang tentang perkembangan penting yang mungkin berlaku. “Kami perlu dapat bekerjasama rapat dengan industri swasta untuk membantu menyediakan bukan sahaja perkhidmatan dan penyelesaian yang besar, namun juga perkhidmatan khusus daripada vendor yang mungkin belum pernah difikirkan.”

Sebuah teknologi yang membebankan

Terdapat banyak alasan untuk skeptis mengenai penggunaan AI oleh CIA.

Pada Februari 2022, Senator Ron Wyden (D-OR) dan Martin Heinrich (D-Mexico Baru) mendedahkan dalam surat terbuka bahawa CIA, walaupun secara umumnya dihalang daripada menyiasat warganegara dan perniagaan Amerika, mempunyai sebuah repository data rahsia dan tidak didedahkan yang termasuk maklumat yang dikumpulkan tentang warga Amerika Syarikat. Dan pada tahun lalu, laporan Pejabat Ketua Pengetahuan Negara menunjukkan bahawa agensi perisikan Amerika Syarikat, termasuk CIA, membeli data mengenai warga Amerika daripada broker data seperti LexisNexis dan Sayari Analytics dengan sedikit pengawasan.

Sekiranya CIA pernah menggunakan AI untuk merenungkan data ini, banyak warga Amerika pasti akan membantah. Ini akan menjadi satu pelanggaran yang jelas terhadap kebebasan sivil dan, disebabkan oleh kekurangan AI, boleh menghasilkan keputusan yang tidak adil.

Beberapa kajian telah menunjukkan bahawa algoritma jenayah boleh diramalkan daripada firma seperti Geolitica mudah dipengaruhi oleh kadar penangkapan dan cenderung untuk secara tidak wajar membezakan komuniti kulit hitam. Kajian lain menunjukkan maklumat pengenalan wajah menghasilkan kadar peniduaan yang lebih tinggi bagi orang kulit berwarna daripada orang kulit putih.

Selain bias, walaupun AI terbaik hari ini sesekali mengimajinasi atau menghasilkan fakta dan angka sebagai tindak balas kepada pertanyaan. Ambil perisian ringkasan mesyuarat Microsoft sebagai contoh, yang kadang-kadang menarik kutipan kepada orang yang tidak wujud. Kita boleh bayangkan bagaimana ini boleh menjadi masalah dalam kerja perisikan, di mana kejituan dan kebolehpercayaan adalah sangat penting.

Raman yakin bahawa CIA tidak hanya mematuhi undang-undang AS tetapi juga “mengikuti semua panduan etika” dan menggunakan AI “secara yang mengurangkan kecenderungan”.

“Saya panggil ia satu pendekatan yang berfikir [kepada AI],” katanya. “Saya katakan bahawa pendekatan yang kami ambil adalah satu di mana kami ingin pengguna kami memahami sebanyak mungkin tentang sistem AI yang mereka gunakan. Membina AI yang bertanggungjawab bermakna kita perlu melibatkan semua pemegang kepentingan; itu bermakna pemaju AI, bermakna pejabat privasi dan hak asasi manusia kami [dan sebagainya].”

Ke arah yang Raman maksudkan, sama ada sistem AI direka untuk melakukan apa saja, penting bahawa pereka sistem membuat jelas bidang di mana ia mungkin tidak mencukupi. Dalam satu kajian baru-baru ini, penyelidik North Carolina State University mendapati bahawa alat AI, termasuk pengenalan wajah dan algoritma pengesanan tembakan, digunakan oleh polis yang tidak kenal teknologi atau kelemahan mereka.

Dalam satu contoh penganiayaan AI penguatkuasa undang-undang yang mungkin disebabkan oleh kebodohan, NYPD dilaporkan sekali menggunakan foto selebriti, gambar terdistorsi, dan sketsa untuk menghasilkan padanan pengenalan wajah terhadap suspek dalam kes di mana rakaman pengawasan tidak memberikan hasil.

“Sebarang keluaran yang dihasilkan AI harus difahami dengan jelas oleh pengguna, dan itu bermakna, jelas, pembabitan konten yang dihasil AI dan memberikan penjelasan yang jelas tentang bagaimana sistem AI berfungsi,” kata Raman. “Segala yang kita lakukan di agensi, kami mematuhi keperluan undang-undang kami, dan kami memastikan pengguna kami dan rakan kongsi dan pemegang kepentingan kami memahami semua undang-undang, peraturan, dan panduan yang berkaitan dalam mengggunakan sistem AI kami, dan kami mematuhi semua peraturan ini.”

Saya berharap benar reporter tersebut menulis dengan telus.



Source link

Buku : Anda & Kereta ( Asas Penjagaan Kereta ) -Dato' Ir Haji Mohamad Dalib , Mantan Pengarah Kejuruteraan Automotif JPJ
Shopee.com.my
5.0
RM33.00
Buku : Anda & Kereta ( Asas Penjagaan Kereta ) -Dato' Ir Haji Mohamad Dalib , Mantan Pengarah Kejuruteraan Automotif JPJ
Kerusi Lipat Luaran Kerusi Lounge Perkhemahan, Memancing, Pantai, Kerusi Pengarah, Kerusi Lounge dengan Tempat Duduk Bol
Shopee.com.my
5.0
RM159.00
Kerusi Lipat Luaran Kerusi Lounge Perkhemahan, Memancing, Pantai, Kerusi Pengarah, Kerusi Lounge dengan Tempat Duduk Bol
-41%
Executive Chair Office Chair Director Computer Ergonomic High Back Chair Kerusi Pengarah
Shopee.com.my
5.0
RM699.00 RM1,184.75
Executive Chair Office Chair Director Computer Ergonomic High Back Chair Kerusi Pengarah
-38%
Director Chair Boss Chair Office Chair CEO Solid Wood Base Adjust High Ergonomic Kerusi Pengarah
Shopee.com.my
5.0
RM799.00 RM1,288.71
Director Chair Boss Chair Office Chair CEO Solid Wood Base Adjust High Ergonomic Kerusi Pengarah
Buku : Anda & Kereta ( Asas Penjagaan Kereta ) -Dato' Ir Haji Mohamad Dalib , Mantan Pengarah Kejuruteraan Automotif JPJ
Shopee.com.my
5.0
Buku : Anda & Kereta ( Asas Penjagaan Kereta ) -Dato' Ir Haji Mohamad Dalib , Mantan Pengarah Kejuruteraan Automotif JPJ
Kerusi Lipat Luaran Kerusi Lounge Perkhemahan, Memancing, Pantai, Kerusi Pengarah, Kerusi Lounge dengan Tempat Duduk Bol
Shopee.com.my
5.0
Kerusi Lipat Luaran Kerusi Lounge Perkhemahan, Memancing, Pantai, Kerusi Pengarah, Kerusi Lounge dengan Tempat Duduk Bol
Executive Chair Office Chair Director Computer Ergonomic High Back Chair Kerusi Pengarah
Shopee.com.my
5.0
Executive Chair Office Chair Director Computer Ergonomic High Back Chair Kerusi Pengarah
Director Chair Boss Chair Office Chair CEO Solid Wood Base Adjust High Ergonomic Kerusi Pengarah
Shopee.com.my
5.0
Director Chair Boss Chair Office Chair CEO Solid Wood Base Adjust High Ergonomic Kerusi Pengarah

Leave a Reply