Para analis mengatakan, keterbukaan soal penggunaan AI memang diperlukan, tetapi itu saja tidak cukup.
“Perusahaan masih bisa mengeksploitasi kerentanan pengguna lewat desain yang menciptakan kesan langka, rasa cemburu, eksklusivitas, atau desakan emosional,” kata Wong.
China sendiri sudah mengatur persoalan tersebut untuk pasar domestiknya.
Aturan sementara mengenai layanan interaksi AI “antropomorfik” yang berlaku sejak 15 Juli mewajibkan penyedia memberi tahu pengguna bahwa mereka sedang berbicara dengan mesin. Peringatan harus kembali muncul lewat pop-up jika pengguna menunjukkan tanda ketergantungan, sementara durasi penggunaan harus diberitahukan setiap dua jam pemakaian tanpa henti.
Namun, dalam kasus ini AI digunakan di luar negeri tanpa diberitahukan kepada pengguna.
“Jika Beijing ingin menunjukkan diri sebagai kekuatan AI yang bertanggung jawab, kasus seperti ini tetap menjadi catatan,” kata Wong, “karena memperlihatkan kesenjangan antara narasi besar tentang AI yang ‘aman’ atau ‘bermanfaat’ dan kenyataan komersial sehari-hari dalam penerapan AI.”
Ditanya soal sulitnya menangani kasus semacam ini, Hanley mengatakan, penipuan daring secara umum memanfaatkan celah antarnegara dan antarplatform, mulai dari media sosial, aplikasi kencan, bank, bursa kripto hingga perusahaan telekomunikasi, yang masing-masing memiliki kepentingan sendiri.
Alat pendeteksi apa pun yang dibuat untuk melawan mereka “bisa jadi sudah usang enam bulan kemudian karena para penipu terus berkembang”.
“Kita seperti sedang berlomba senjata AI dengan mereka, tetapi kita kalah karena saya rasa pihak kita belum punya strategi yang terpadu.”
“Dan saya rasa apa yang kita lihat baru puncak gunung es,” kata Hanley.
Dalam modus penipuan kencan lainnya, kata Hanley, perempuan di pusat-pusat penipuan bahkan diminta melakukan panggilan video dengan target sepanjang hari.
AI membuat praktik semacam itu bisa dilakukan dalam skala jauh lebih besar: mesin dapat menjalankan ribuan percakapan sekaligus.
Menurut Wong dari HKU, penggunaan manusia agar bot terlihat nyata justru menjadi bagian yang paling tidak mengejutkan.
“Penipuan yang memanfaatkan emosi kini bisa dilakukan dalam skala lebih besar, semakin mengandalkan data, dan semakin sulit dideteksi.”
Namun, tantangan sebenarnya, tulis Wong, “bukan sekadar membuat teman virtual lebih jujur soal identitasnya, tetapi mempertanyakan mengapa begitu banyak orang terdorong mencari perhatian dan kepedulian melalui layanan berbayar yang hanya berupa simulasi”.
Calix kini kembali menggunakan aplikasi kencan biasa, tetapi “lebih berhati-hati”. Ketika ditanya bagaimana ia akan mengenali AI yang menyamar sebagai manusia, ia mengaku tidak yakin.
“Mungkin tanyakan sesuatu yang aneh, atau suruh mereka, ‘Coba foto sambil pegang garpu,’ atau semacamnya.”

