OpenAI telah membina satu alat yang boleh menangkap pelajar yang meniru dengan meminta ChatGPT menulis tugasan mereka – tetapi menurut The Wall Street Journal, syarikat tersebut sedang berbincang sama ada untuk benar-benar melepaskannya.
Dalam kenyataan yang diberikan kepada TechCrunch, seorang jurucakap OpenAI mengesahkan bahawa syarikat sedang menyelidik kaedah pembubuhan cap teks yang diterangkan dalam cerita Journal, tetapi mengatakan syarikat itu mengambil pendekatan yang ‘berhati-hati’ kerana ‘kompleksiti yang terlibat dan impaknya yang mungkin terhadap ekosistem yang lebih meluas di luar OpenAI’.
‘Kaedah pembubuhan cap teks yang kita sedang mengembangkan adalah teknikalnya menjanjikan, tetapi mempunyai risiko penting yang sedang kita timang-timang semasa kita menyelidik alternatif, termasuk kerentanan kepada pengelak oleh pihak yang tidak bertanggungjawab dan potensi untuk memberi kesan secara berlebihan kepada kumpulan seperti penutur bukan bahasa Inggeris,’ kata jurucakap tersebut.
Ini akan menjadi pendekatan yang berbeza daripada usaha-usaha sebelum ini untuk mengesan teks yang dihasilkan oleh AI, yang kebiasaannya tidak berkesan. Malah OpenAI sendiri menutup pengecam teks AI sebelumnya tahun lalu kerana ‘kadar ketepatan yang rendah’.
Dengan pembubuhan cap teks, OpenAI akan memberi tumpuan secara eksklusif kepada mengesan penulisan dari ChatGPT, bukan dari model-model syarikat lain. Ini dilakukan dengan membuat perubahan kecil kepada cara ChatGPT memilih perkataan, pada dasarnya mencipta cap tak kelihatan dalam penulisan yang kemudiannya boleh dikesan oleh alat berasingan.
Selepas penerbitan cerita Journal, OpenAI juga mengemas kini kemas kini blog Mei tentang penyelidikan mereka mengenai mengesan kandungan yang dihasilkan oleh AI. Kemas kini itu mengatakan pembubuhan cap teks telah terbukti ‘sangat tepat dan berkesan malah berkesan menentang pemalsuan tempatan, seperti mengubah kata-kata,’ tetapi kurang berdaya tahan menentang pemalsuan yang global; seperti menggunakan sistem penterjemahan, menukar kata-kata dengan model generatif lain, atau meminta model untuk menyisipkan aksara khas di antara setiap perkataan dan kemudian memadam aksara tersebut.’
Akibatnya, OpenAI menulis bahawa kaedah ini ‘mudah dielakkan oleh pihak yang tidak bertanggungjawab.’ Kemas kini OpenAI juga mengulangi pendapat jurucakap tentang penutur bukan bahasa Inggeris, menulis bahawa pembubuhan cap teks boleh ‘mengotorkan penggunaan AI sebagai alat penulisan yang berguna untuk penutur bukan pengucapan Inggeris.’
