Apakah identifikasi model AI benar-benar seandal itu? Sekarang sebagian besar eksperimen pengenalan sidik jari didasarkan pada satu asumsi—penyedia model adalah baik, dan tidak akan secara aktif menghapus watermark atau identifikasi. Kedengarannya cukup idealis.

Tapi bagaimana dengan kenyataannya? Dalam ekosistem di mana model diperdagangkan, digabungkan, dibagi, dan dikemas ulang, asumsi ini sama sekali tidak berdasar. Begitu model memasuki tahap sirkulasi, risiko penandaan identifikasi yang diubah, dihapus, atau bahkan dipalsukan meningkat drastis. Mekanisme identifikasi Anda mungkin berfungsi sempurna di laboratorium, tetapi di dunia nyata bisa menjadi tidak berguna. Inilah mengapa keamanan model memerlukan desain teknologi yang lebih mendalam — tidak bisa hanya bergantung pada asumsi baik.