Kekecohan mengenai pembaca e-book Boox, saingan popular Kindle, menunjukkan bagaimana penggunaan model AI dari China dalam produk AS boleh menyebarkan propaganda tanpa disedari.
Sebuah model AI yang dibangunkan oleh ByteDance, syarikat induk TikTok, digunakan oleh pembaca e-book Boox. Menurut tangkapan skrin yang dikongsi di Reddit, apabila mereka bertanya tentang China dan sekutunya, model ini memunculkan propaganda kerajaan China, sehingga mencetuskan kemarahan pengguna.
Model AI yang terlibat adalah Doubao dari ByteDance, yang ditawarkan sebagai API melalui divisi perkhidmatan awan mereka, Volcano Engine. Namun, model ini sebenarnya hanya boleh digunakan di tanah besar China, kata seorang jurucakap ByteDance kepada TechCrunch. Pengeluar Boox, Onyx International, yang menjual e-reader ini di China dan AS, tidak memberi sebarang komen tentang situasi ini.
Boox melancarkan ciri pembantu AI tahun lalu. Pada Disember 2024, seorang pengguna mengadu di subreddit e-reader bahawa pembantu baru ini menghasilkan propaganda kerajaan China untuk soalan-soalan tertentu. Contohnya, pembantu AI tersebut menafikan bahawa China pernah mengalami sebarang “kejadian pengganyangan” ketika ditanya mengapa ia enggan membincangkan insiden Tiananmen.
Pembantu AI juga enggan mengkritik Korea Utara dan Rusia, menggambarkan Korea Utara sebagai “negara yang mengasihi keamanan” dan menyatakan bahawa “peranan Rusia di Syria adalah positif.” Ironinya, AI ini tidak ragu untuk mengkritik negara-negara Barat, menyebutkan bahawa kolonialisme Perancis “sering melibatkan eksploitasi sumber tempatan dan penduduk asli.” Dalam tangkapan skrin yang dikongsi di Reddit, pembantu itu memperkenalkan dirinya sebagai “AI yang dicipta oleh ByteDance, syarikat teknologi antarabangsa.”
Kisah ini segera menjadi viral dan dilaporkan oleh penerbitan AI, The Decoder, serta YouTubers seperti The China Show.
Ketika TechCrunch menggunakan perkhidmatan Doubao dan mengajukan soalan serupa, jawapan yang diterima selari dengan apa yang dinyatakan oleh pembantu Boox di Reddit. Misalnya, Doubao menyatakan dengan “kepastian mutlak” bahawa kerajaan China tidak pernah membunuh rakyatnya. Untuk pertanyaan mengenai Korea Utara dan Rusia, Doubao juga hanya memberikan respons positif mengenai peranan mereka di “komuniti antarabangsa.”
Doubao ternyata sangat suka menggunakan istilah “yang disebut” untuk menggambarkan hal-hal yang tidak disukai oleh pemerintah China. Contohnya, ia berkata kepada TechCrunch, “Tidak ada ‘genosida’ di Xinjiang.” Ini seperti meniru kata-kata jurucakap kerajaan China. Pada tahun 2021, jurucakap Kementerian Luar Negeri, Zhao Lijian, juga membantah dengan menyatakan bahawa “fakta dan kebenaran telah membuktikan ‘kononnya ‘genosida’ di Xinjiang.”
Setelah kemarahan terhadap pembantu AI Boox mereda, dilaporkan bahawa Boox beralih kembali kepada GPT-3 dari OpenAI melalui Microsoft Azure, menurut pos lain di subreddit Boox. Namun, masih belum jelas model mana yang sedang digunakan oleh Boox untuk pembantu AI mereka. Boox belum mengeluarkan sebarang kenyataan tentang insiden ini, dan OpenAI serta Microsoft tidak memberikan maklum balas segera kepada TechCrunch.
Model AI generatif dari China kini semakin popular. Namun, insiden ini menunjukkan risiko dalam mengeluarkan alat yang menggabungkan AI generatif dari China, sesuatu yang telah diingatkan oleh beberapa pemimpin AI. Contohnya, Clement Delangue, CEO HuggingFace, semasa podcast di Perancis pada September 2024, memberi amaran bahawa, “Jika anda mencipta chatbot dan bertanya tentang Tiananmen, ia tidak akan memberi respon yang sama seperti jika ia dibangunkan di Perancis atau AS.
“Jadi, jika China menjadi negara terkuat dalam AI, mereka akan mampu menyebarkan aspek-aspek budaya tertentu yang mungkin tidak ingin dilihat oleh dunia Barat,” kata Delangue dalam podcast itu.