Pentingnya Literasi Media di Era Deepfake

Mendeteksi konten yang dihasilkan oleh AI (kecerdasan buatan) dapat menjadi tugas yang sulit. Seiring meningkatnya model AI, semakin sulit mengetahui apa sebenarnya yang dilihat orang secara daring. Untuk mengatasi masalah ini, komunikator harus fokus pada peningkatan literasi media konsumen dan industri, membekali mereka dengan keterampilan yang mereka butuhkan untuk memahami perbedaan antara fakta dan fiksi.
Perusahaan dapat memanfaatkan AI sambil menjaga kepercayaan merek, pentingnya transparansi dalam kampanye berbasis AI, dan mengapa saat ini sangat penting bagi individu untuk mengendalikan literasi media mereka sendiri. Hal itu semua perlu dipertegas di era digital saat ini yang kian samar antara konten (gambar/video) asli dan buatan yang dibuat dengan bantuan AI.
Mengapa literasi media penting?
Alat deteksi AI seperti Pindrop, AI Art Detector Maybe, dan WeVerify dapat membantu mengidentifikasi media yang dimanipulasi. Meskipun alat-alat ini berharga, mereka juga memiliki keterbatasan. Alat-alat ini kesulitan mengimbangi kemajuan pesat dalam konten yang dihasilkan AI, sehingga menyulitkan mengidentifikasi deepfake1 dan bentuk manipulasi digital lainnya. Pada bulan Juli, Elon Musk, CEO X (sebelumnya Twitter), membagikan video deepfake buatan AI yang meniru Wakil Presiden Kamala Harris di X, tanpa mengungkapkan bahwa itu adalah parodi. Konten yang dihasilkan AI tidak lagi hanya tentang penggunaan ulang video yang sudah ada dari para selebritas. Beberapa video yang beredar hampir tidak dapat dibedakan dari kenyataan dan menggambarkan kejadian yang sebenarnya tidak pernah terjadi.
Hal ini termasuk rekaman palsu tokoh masyarakat yang melakukan kejahatan dan rekaman palsu Harris yang terlibat dalam hubungan romantis fiktif dengan kandidat presiden saat itu dan yang sekarang menjadi Presiden AS, Donald Trump. Barang palsu yang canggih ini sering kali dibuat menggunakan alat AI seperti Grok-2 yang tersedia pada platform X milik Musk. Menjelang pemilu AS pada November 2024, deepfake semacam itu berpotensi menyesatkan pemilih dan memengaruhi proses pemilu.
Seiring makin canggihnya AI, makin sulit pula penggunaannya untuk mendeteksi konten gambar dan video asli dan palsu. Ketika AI generatif2 Tiongkok HailuoAI dan KlingAI diperkenalkan, mereka mengejutkan dunia AI dengan keakuratannya dalam menghasilkan gambar naga, panda, dan bahkan kehidupan orang-orang di pedesaan Tiongkok. Kehadiran kedua AI generatif ini memungkinkan keduanya mengungguli RunwayML, LumaLabs hingga SoraAI buatan dari OpenAI.
Ketika kemajuan dalam kecerdasan buatan membuat pendeteksian menjadi lebih sulit, literasi media harus ditingkatkan dengan memberikan kesempatan kepada pengguna untuk mempertanyakan dan menganalisis konten yang mereka temui. Literasi media memerlukan kewaspadaan, termasuk memeriksa sumber semua informasi yang Anda lihat online, memiliki skeptisisme yang sehat terhadap media digital, dan lebih waspada terhadap misinformasi.
Menyeimbangkan Inovasi AI dan Kepercayaan Merek
AI menghadirkan peluang dan tantangan bagi bisnis. Di satu sisi, AI dapat meningkatkan pembuatan konten, membantu bisnis tetap kompetitif di pasar yang terus berubah. Di sisi lain, kepercayaan berlebihan terhadap AI juga membawa risiko menyebabkan hilangnya kebenaran dan keandalan.
Banyak perusahaan percaya mereka harus memilih antara menggunakan AI untuk inovasi atau menghindarinya untuk menjaga kepercayaan. Namun hal ini tidak harus terjadi. Dengan memandang AI sebagai alat yang melengkapi, bukan menggantikan, kreativitas manusia, bisnis dapat mendorong batasan sambil mempertahankan kepercayaan yang membangun reputasi merek. Pendekatan ini memerlukan investasi dalam teknologi seperti Adobe Content Credentials. Teknologi dari Adobe ini memberi pembuat video, audio, dan gambar cara yang dapat diverifikasi untuk menandai karya mereka dan membuatnya dapat dilihat oleh semua orang yang mengaksesnya.
Peran Transparansi dan Kepercayaan dalam Pemasaran Berbasis AI
Seiring semakin lazimnya konten yang dihasilkan AI, perusahaan perlu memperjelas tentang bagaimana dan kapan AI boleh digunakan. Transparansi ini menjaga kepercayaan konsumen, yang semakin sadar dan khawatir terhadap potensi manipulasi oleh AI. Apakah Anda menggunakan AI untuk membuat konten atau tidak, nada dan merek Anda harus memiliki suara konsisten yang dapat dikenali oleh audiens Anda.
Media yang diperoleh juga memberikan bukti sosial yang kuat yang dapat menjadi lebih berharga daripada media milik sendiri karena penggunaan konten berbasis AI meningkat. Karena keasliannya, konten media yang diperoleh adalah alat yang lebih efektif untuk membangun kepercayaan dan otoritas dengan audiens Anda di pasar yang semakin kompetitif.
Meskipun perusahaan dan pembuat konten daring berupaya menggunakan AI secara bertanggung jawab dan menjaga kepercayaan, manipulasi AI terhadap gambar, video, dan berkas audio tetap menjadi masalah.
Untuk memerangi ancaman yang berkembang ini, penting untuk mempromosikan literasi media di semua segmen masyarakat. Lembaga pendidikan, perusahaan teknologi, dan organisasi media harus bekerja sama untuk mengembangkan program literasi komprehensif yang memberi orang keterampilan yang mereka butuhkan untuk bertahan hidup di dunia digital.
Di era deepfake, literasi media bukan sekadar pilihan, tetapi keharusan. Meskipun alat deteksi AI dapat membantu mengidentifikasi konten palsu, alat tersebut tidaklah sempurna. Solusi sesungguhnya adalah memberdayakan individu dengan kemampuan untuk mengevaluasi secara kritis media yang mereka konsumsi.
1 Deepfake adalah teknologi kecerdasan buatan (AI) yang digunakan untuk membuat konten palsu, seperti video, suara, atau foto. Teknologi ini dapat mengubah wajah atau suara seseorang menjadi tampak sangat nyata.
2 AI generatif atau generative AI adalah kecerdasan buatan (AI) yang dapat membuat konten baru seperti teks, gambar, musik, audio, dan video. AI generatif bekerja dengan menganalisis data yang sudah ada untuk menghasilkan konten baru yang serupa.
Disadur dari tulisan Jordan Mitchell adalah Pendiri Growth Stack Media.