Kehadiran deepfake yang menyeramkan adalah salah satu produk sampingan paling merbahaya dari kebangkitan AI. Banyak perusahaan sudah mengalami kerugian berjuta-juta dolar akibat penipuan yang melibatkan deepfake ini, dan implikasinya juga dapat mempengaruhi keselamatan negara. Kini, sebuah startup yang membangun alat untuk membantu pemerintah dan perusahaan dalam mengesan dan menghentikan deepfake serta peniruan dalam audio, video, dan gambar, baru saja mengumumkan pendanaan menarik dengan klien dan pelabur yang sangat mengagumkan.
GetReal — yang diasaskan oleh Hany Farid, salah satu pelopor dalam pengesanan media deepfake — telah mengumpul dana sebanyak $17.5 juta yang akan digunakan untuk penyelidikan dan pembangunan, pengambilan pekerja, dan perkembangan perniagaan.
Dengan pendanaan itu, syarikat ini melancarkan platform forensik sebagai perkhidmatan, yang termasuk antara muka web, API, dan integrasi untuk menjalankan analisis media sebagai perkhidmatan. Antara ciri menariknya adalah papan pemantau pendedahan ancaman; alat “Inspect” yang khusus ditujukan untuk melindungi eksekutif berprofil tinggi daripada ditipu; alat “Protect” untuk menyaring media; dan “Respond,” yang melibatkan pasukan manusia di GetReal untuk melakukan analisis yang lebih mendalam.
Forgepoint Capital, pakar dalam keselamatan siber dan AI, memimpin pusingan pembiayaan Siri A ini dengan penyertaan dari Ballistic Ventures, Evolution Equity, dan K2 Access Fund.
Ballistic Ventures memainkan peranan penting dalam pusingan ini. GetReal ditubuhkan di bawah bimbingan VC tersebut dari 2022 hingga pelancarannya dari stealth pada bulan Jun 2024. Ballistic juga memimpin pusingan benih GetReal sebesar $7 juta yang turut disertai oleh Venrock, Artisanal, Qudit, dan Silver Buckshot.
Selain itu, Ballistic penting kerana pendiri firma tersebut, Ted Schlein, adalah pengerusi dan salah satu co-founder GetReal. Sebelum Ballistic, Schlein memimpin Kleiner Perkins.
“Hany sebagai perkhidmatan”
GetReal berada dalam dunia keselamatan siber yang lebih luas, khususnya dalam bidang forensik siber yang sedang berkembang pesat. Startup yang berpangkalan di San Mateo ini berusaha untuk mengisi jurang dalam pasaran akibat kekurangan bakat dan pengetahuan dalam bidang ini.
“Jika kamu fikir keselamatan siber sudah kekurangan pekerja, bersiaplah untuk forensik,” kata Matt Moynahan, CEO GetReal.
Moynahan bukanlah pengasas startup ini; dia bergabung dengan GetReal ketika masih dalam fasa stealth setelah menghabiskan lebih dari 30 tahun memimpin syarikat keselamatan siber terkemuka seperti Symantec, Arbor Networks, Veracode, dan Forcepoint.
“Sejujurnya, saya rasa saya tidak pernah melihat ancaman yang begitu meluas,” katanya mengenai kemampuan untuk mencipta dan menggunakan deepfake dengan niat jahat.
Dia menggambarkan virus sebagai ancaman “baru” jika dibandingkan. “Apa yang telah kita lihat selama 20 tahun terakhir adalah ancaman berpindah kepada pengguna akhir,” katanya. Aplikasi “fun” yang membolehkan orang mencipta deepfake adalah sebahagian dari masalah itu, tetapi lingkungan kerja kini juga memainkan peranan. “Dari perniagaan tradisional hingga ke dunia digital dan awan, semuanya telah berubah.”
Moynahan juga menekankan bahawa phishing membuktikan bahawa orang pintar pun boleh ditipu dengan mudah, dan ini menunjukkan tanda buruk untuk masa depan.
GetReal sebenarnya dicetuskan oleh Farid, seorang akademik terkemuka (kini di UC Berkeley) yang dianggap sebagai pelopor dalam teknik pengesanan manipulasi imej digital. Farid sudah memahami risiko deepfake sebelum istilah itu wujud.
Sebagaimana Farid menjelaskan kepada TechCrunch, walaupun bekerja sebagai akademik dan penyelidik, dia telah menerapkan pengetahuannya secara tidak formal selama bertahun-tahun untuk melayani organisasi media, tim hukum (setelah imej digital diakui di mahkamah), dan lainnya. Pada tahun 2022, dia berganding dengan Schlein untuk menterjemahkan pengalaman itu menjadi sebuah perniagaan, iaitu mengkod proses penyelidikan tersebut.
“Tiada orang yang menyelidiki aspek ini seperti Hany,” kata Moynahan. “Tetapi Hany tidak bisa berskala. Jadi, kami mengubah Hany menjadi sebuah ‘perkhidmatan Hany’ di awan.”
Farid juga mencatat bahawa walaupun teknologi yang sedang dibangunkan bergantung pada cara aplikasi baru berfungsi — terdapat banyak terbalik teknik yang dilakukan di GetReal — pengetahuan yang dimiliki tetap relevan.
“Terdapat teknik yang kami kembangkan 20 tahun lalu yang masih berfungsi hingga hari ini,” katanya, sambil menolak untuk menjelaskan apa teknik tersebut. “Kita tidak perlu memberitahu segala-galanya tentang apa yang kita lakukan, tetapi ia cukup rumit untuk dilaksanakan.”
Kesan Signal: teks masih akan datang
Rundingan Siri A yang diumumkan juga melibatkan beberapa penyokong strategik, termasuk Cisco Investments, Capital One Ventures, dan In-Q-Tel, sebuah firma pelaburan yang erat kaitannya dengan CIA.
Daftar syarikat strategik ini mencerminkan jenis syarikat yang berminat atau telah mulai menggunakan produk GetReal, kata Alberto Yépez, salah satu pengasas Forgepoint yang memimpin pelaburan itu.
Semasa membuat pemeriksaan, Yépez mendapati bahawa industri yang sangat teratur — seperti institusi kewangan — sudah meminta produk seperti ini, dan CISOs di sana telah dihubungi atas arahan lembaga pengarah mereka.
“Mereka mengangkat isu [peniruan deepfake] setelah CEO mereka terlibat dalam wawancara suara yang telah ditiru,” kata Yépez. Mereka bukan hanya ditiru tetapi juga ditipu. Antara pelanggan yang dinamakan termasuk John Deere dan Visa.
Bagi kerja kerajaan, Yépez menyatakan, “Mereka juga memiliki beberapa keutamaan di ruang ini.”
Keutamaan tersebut termasuk agensi pengintipan dan pegawai kerajaan yang sedang ditipu untuk bertindak, atau tidak bertindak, berdasarkan informasi palsu dari pihak jahat. Namun, mereka belum lagi meluaskan kepada peniruan berbasis teks.
Itu adalah sesuatu yang baru dibincangkan minggu ini, ketika editor The Atlantic — yang tersilap ditambah ke dalam grup chat Signal yang merancang serangan ketenteraan di Yemen — awalnya menyangka itu adalah penipuan wawasan. Anehnya, chat itu ternyata sangat nyata dan melanggar prosedur keselamatan negara.
Farid menekankan bahawa teks bukan dalam skop GetReal saat ini. “Ini adalah sesuatu yang berbeza,” katanya. Namun, dalam jangka panjang, mereka merancang untuk memperluaskan skop untuk merangkumi semua jenis ancaman deepfake dan peniruan.
