Ketua Eksekutif Anthropic, Dario Amodei, khawatir tentang kemungkinan mata-mata, mungkin dari China, mencuri “rahsia algoritma” yang bernilai tinggi dari syarikat AI terkemuka di AS — dan dia ingin kerajaan AS mengambil tindakan.
Dalam satu acara di Council on Foreign Relations pada hari Isnin, Amodei menyatakan bahawa China terkenal dengan “spionaj industri berskala besar” dan syarikat AI seperti Anthropic hampir pasti menjadi sasaran. Sebagai contoh, jika anda mempunyai satu baris kod berharga yang datang dengan harga $100 juta, tentu ada pihak yang akan berusaha mencurinya!
“Banyak rahsia algoritma ini, ada rahsia $100 juta yang hanya beberapa baris kod,” katanya. “Dan saya yakin ada pihak yang cuba mencurinya, dan mungkin mereka berjaya.”
Amodei menekankan bahawa lebih banyak bantuan dari kerajaan AS untuk melawan risiko ini adalah “sangat penting,” walaupun dia tidak menyebut secara spesifik jenis bantuan yang perlu. Mungkin mereka boleh buat seperti superhero dalam filem, melindungi rahsia-rahsia ini dengan cara yang lebih berkesan!
Anthropic enggan memberi komen kepada TechCrunch tentang kenyataan ini secara khusus, tetapi merujuk kepada cadangan mereka kepada Pejabat Dasar Sains dan Teknologi Rumah Putih (OSTP) awal bulan ini.
Dalam dokumen tersebut, Anthropic mencadangkan agar kerajaan persekutuan bekerjasama dengan pemimpin industri AI untuk meningkatkan keselamatan di makmal AI terdepan, termasuk bekerja dengan agensi perisikan AS dan sekutu mereka.
Kenyataan Amodei ini selaras dengan pendirian kritisnya terhadap pembangunan AI di China. Dia pernah menyeru agar dikenakan kawalan eksport yang ketat terhadap cip AI ke China dan juga menyatakan bahawa DeepSeek memperoleh markah “terburuk” dalam ujian keselamatan data bioweapon yang dijalankan oleh Anthropic.
Kebimbangan Amodei, seperti yang ditulis dalam esei beliau “Machines of Loving Grace,” adalah tentang bagaimana China mungkin menggunakan AI untuk tujuan autoritarian dan ketenteraan. Ibarat menyimpan harapan kepada Superman tetapi di sisi lain bimbang tentang Lex Luthor yang sentiasa datang dengan rancangan jahat.
Pendirian ini telah membawa kepada kritikan dari sebahagian komuniti AI yang berpendapat AS dan China seharusnya lebih bekerjasama dalam bidang AI. Mereka beranggapan, jika tidak, kita berisiko membina sistem yang begitu berkuasa sehingga kita tidak dapat mengawalnya. Seperti pesawat tanpa juruterbang yang memenuhi langit, bisa jadi hal itu menakutkan!
