UK menyasarkan Elon Musk’s X dengan denda dan kemungkinan larangan kerana penyalahgunaan deepfake Grok

(SeaPRwire) –   Pihak itu memperkeras tindakan menentang penderaan seksual yang dijana oleh AI pada Isnin selepas menteri mengesahkan kemungkinan larangan terhadap platform media sosial Elon Musk, X, dalam tengah siasatan yang semakin meluas dan syarikat itu berkemungkinan dikenakan denda yang berat.

Langkah dramatik ini diikuti dengan pelancaran siasatan oleh Ofcom, pengawal selia komunikasi UK, tentang sama ada X telah melanggar kewajipan undang-undangnya di bawah Akta Keselamatan Dalam Talian UK dan berlaku selepas laporan bahawa chatbot AI bawaan platform itu, Grok, telah digunakan untuk menjana dan berkongsi imej deepfake bersifat seksual wanita dan kanak-kanak.

Grok dilancarkan pada 2023 tetapi ciri penjana imejnya, Grok Imagine, telah ditambah pada 2025 dengan mod khusus untuk menjana kandungan dewasa.

Setiausaha Negara Sains, Inovasi dan Teknologi Liz Kendall menggambarkan penggunaan terbaru alat AI yang disalahgunakan untuk menjana imej eksplisit seksual dan tanpa persetujuan sebagai “sangat mengganggu”.

Kendall juga memberi amaran bahawa syarikat media sosial akan dipertanggungjawabkan jika mereka gagal bertindak.

“Saya mengalu-alukan kecemasan Ofcom dalam melancarkan siasatan rasmi hari ini,” kata Kendall, menurut… “Adalah penting bagi Ofcom untuk menyelesaikan siasatan ini dengan cepat kerana orang ramai – dan yang paling penting, mangsa – tidak akan menerima sebarang kelewatan.”

Dalam kenyataan yang dikongsi kemudian pada Isnin, Kendall berkata alat AI Grok telah digunakan untuk mencipta dan mengedarkan imej intim yang merendahkan dan tanpa persetujuan.

“Tiada wanita atau kanak-kanak sepatutnya hidup dalam ketakutan kerana imej mereka dimanipulasi secara seksual,” katanya sebelum menambah, “Kandungan yang telah diedarkan di X adalah menjijikkan. Ia bukan sahaja menghina masyarakat yang beradab, ia adalah haram.”

Kendall menambah bahawa berkongsi atau mengancam untuk berkongsi imej intim deepfake tanpa persetujuan, termasuk imej orang yang berpakaian seluar dalam, merupakan kesalahan jenayah di bawah undang-undang UK.

Beliau memberi amaran bahawa Ofcom mempunyai kuasa untuk mengeluarkan denda atau hukuman sehingga 10% daripada hasil kompaun syarikat di seluruh dunia.

“Tetapi X tidak perlu menunggu siasatan Ofcom selesai,” kata Kendall. “Mereka boleh memilih untuk bertindak lebih awal untuk memastikan bahan yang memfitnah dan haram ini tidak boleh dikongsi di platform mereka,” beliau memberi amaran.

Ofcom telah berkata ia “segera berhubung” dengan X pada 5 Januari, menuntut penjelasan tentang langkah-langkah yang diambil untuk melindungi pengguna UK dan menetapkan tarikh akhir jawapan pada 9 Januari.

Walaupun xAI, syarikat lain yang diasaskan oleh Musk, memberi maklum balas, Ofcom berkata ia memutuskan untuk membuka siasatan rasmi selepas mengkaji bukti yang ada “sebagai perkara keutamaan tertinggi”.

Dalam kenyataan yang dikongsi pada Isnin, Ofcom berkata, “Laporan tentang Grok digunakan untuk mencipta dan berkongsi imej intim haram tanpa persetujuan dan bahan penderaan seksual kanak-kanak di X telah menjadi perkara yang sangat membimbangkan.”

“Platform mesti melindungi orang di UK daripada kandungan yang haram di UK, dan kami tidak akan teragak-agak untuk menyiasat jika kami mengesyaki syarikat gagal menjalankan kewajipannya, terutamanya jika terdapat risiko bahaya kepada kanak-kanak,” kenyataan itu berkata.

Seperti yang dilaporkan sebelum ini oleh… chatbot itu mengaku dalam siaran awam di X bahawa ia telah menjana dan berkongsi imej AI yang menggambarkan dua gadis muda berpakaian seksual, menyebut kejadian itu sebagai “kegagalan dalam langkah perlindungan” dan meminta maaf atas kesan buruk yang ditimbulkan.

Dalam tengah kritikan yang semakin meningkat, Grok mengesahkan ia telah mula menyekat beberapa ciri penjanaan dan penyuntingan imej kepada pelanggan berbayar. Chatbot itu berkata had itu dilaksanakan untuk mengelakkan penyalahgunaan lebih lanjut.

Musk juga menuduh Kerajaan UK “fasisme” pada Isnin kerana “menangkap beribu-ribu orang kerana siaran media sosial”.

Pengasas syarikat Tesla yang berjuta-juta itu telah membalas siaran di X yang mendakwa negara itu menangkap lebih ramai orang kerana siaran media sosial berbanding “mana-mana negara di dunia”.

Seiring dengan siasatan Ofcom, kerajaan UK mengumumkan bahawa undang-undang yang menjadikan jenayah penciptaan imej intim tanpa persetujuan yang dijana oleh AI akan berkuat kuasa minggu ini.

Kendall berkata tanggungjawab tidak hanya terletak pada individu.

“Platform yang menyiarkan bahan sedemikian mesti dipertanggungjawabkan, termasuk X,” katanya.

Jika mereka tidak bertindak, katanya dia “bersedia untuk mengambil langkah lebih jauh”.

Sementara itu, jurucakap rasmi Perdana Menteri UK Keir Starmer berkata kehadiran kerajaan di platform itu “dalam proses semakan” dan bahawa “semua pilihan ada di atas meja”.

… juga melaporkan pada Isnin bahawa Malaysia dan Indonesia telah menjadi negara pertama yang menyekat Grok.

… Digital telah menghubungi Elon Musk dan pejabat Perdana Menteri Keir Starmer untuk komen.

The Associated Press and Reuters contributed to this report.