Site icon News Today

ChatGPT akan beri watermark tersembunyi pada tulisan, begini cara kerjanya


CARA KERJA WATERMARK CHATGPT

OpenAI menjelaskan bahwa teknologi watermark miliknya yang disebut “textGrain” menambahkan sinyal statistik pada pilihan kata yang dibuat oleh model. Detektor kemudian akan mencari sinyal tersebut untuk memverifikasi apakah sebuah teks dihasilkan menggunakan ChatGPT atau Codex.

Menurut OpenAI, textGrain akan mampu menyamai, bahkan melampaui, performa seluruh pendekatan lain yang telah diuji. Meskipun demikian, OpenAI sendiri mengakui bahwa teknologi tersebut tidak selalu bekerja sesuai harapan.

“Detektor dapat membuat dua jenis kesalahan: detektor bisa melaporkan adanya watermark ketika sebenarnya watermark tersebut tidak ada, yang disebut false positive, atau gagal mendeteksi watermark yang sebenarnya ada, yang disebut false negative,” tulis OpenAI dalam situsnya.

OpenAI juga mengakui bahwa teks yang lebih pendek lebih sulit dideteksi, sementara proses penyuntingan dapat melemahkan watermark tersebut.

Selain itu, sistem pendeteksi watermark tidak dapat menentukan seberapa besar kontribusi manusia terhadap sebuah teks, siapa pemiliknya, siapa yang membuatnya, maupun apakah informasi yang terkandung di dalam teks tersebut akurat.

Untuk saat ini, OpenAI akan memperkenalkan watermark teks kepada seluruh pengguna di semua paket ChatGPT di Eropa. Sistem tersebut belum akan diluncurkan secara global.

OpenAI menyebut bahwa pendekatan regional ini akan memberinya ruang untuk belajar dari masukan yang diperoleh melalui penggunaan teknologi tersebut di dunia nyata.



Source link

Exit mobile version