Paus amaran tentang ‘perosak’ deepfakes

(SeaPRwire) –   Sang Paus mengakui beliau peribadi menjadi mangsa fitnah AI-dijana

Paus Francis telah memberi amaran tentang potensi bahaya yang ditimbulkan oleh kecerdasan buatan, dengan menyatakan teknologi yang maju dengan pesat itu boleh membawa kepada “penyelewengan realiti” tanpa “pengawalseliaan etika.”

Dalam mesej panjang yang diterbitkan pada Rabu, Francis berkata perkembangan terkini dalam AI adalah “menarik dan membingungkan,” tetapi juga menimbulkan persoalan yang lebih mendalam tentang hubungan manusia dengan teknologi. “Bagaimana kita dapat kekal sepenuhnya manusia dan memandu transformasi budaya ini untuk tujuan yang baik?” beliau menulis.

”Sistem kecerdasan buatan boleh membantu untuk mengatasi kejahilan dan memudahkan pertukaran maklumat antara pelbagai bangsa dan generasi,” Paus menulis. “Namun, pada masa yang sama, ia boleh menjadi sumber ‘pencemaran kognitif’, penyelewengan realiti melalui naratif yang sebahagian atau sepenuhnya palsu, dipercayai dan disiarkan seolah-olah ia benar.”

Paus terus menyentuh “masalah berpanjangan tentang disinformasi dalam bentuk berita palsu,” dengan menyatakan beliau sendiri pernah menjadi mangsa ‘deepfakes’ – imej atau audio AI-dijana yang sangat meyakinkan, biasanya digunakan untuk memperdayakan tokoh awam.

”Teknologi simulasi di sebalik program-program ini boleh berguna dalam bidang tertentu, tetapi ia menjadi terpesong apabila ia menyelewengkan hubungan kita dengan orang lain dan dengan realiti,” Francis teruskan.

Revolusi digital boleh membawa kita kepada kebebasan yang lebih besar, tetapi bukan jika ia mengurung kita dalam model-model yang kini dipanggil ‘bilik gema’.

Pemimpin gereja itu digambarkan dalam imej palsu tahun lalu, menunjukkan beliau memakai . Imej palsu itu dilaporkan dijana menggunakan Midjourney, alat seni berasaskan AI, menurut penciptanya yang mengaku. Imej itu menjadi viral di media sosial, memperdayakan banyak pengguna.

Walaupun manusia seharusnya “meninggalkan ramalan bencana” tentang masa depan AI, Francis mendakwa bahawa teknologi itu boleh “akhirnya mencipta kasta baru berdasarkan capaian maklumat” dan membangkitkan “bentuk baru penindasan dan ketidaksamaan.” Untuk mengelakkan hasil yang paling buruk, beliau menekankan keperluan untuk “memahami, menghargai dan mengawal selia alat-alat yang, dalam tangan yang salah, boleh membawa kepada skenario yang mengganggu.”

“Seperti setiap produk kecerdasan dan kemahiran manusia, algoritma tidak neutral. Oleh itu, ada keperluan untuk bertindak secara pencegahan, dengan mencadangkan model pengawalseliaan etika, untuk mencegah kesan penggunaan sistem kecerdasan buatan dan memerangi penyalahgunaannya,” beliau berkata, dengan menyeru untuk “perjanjian antarabangsa mengikat” yang mengawalselia penggunaan dan pembangunan AI.