Chatbot AI menjadi liar

(SeaPRwire) –   AI-powered chatbot of the delivery company DPD recited poetry and used swear words after failing to help a customer

Sebuah AI bertenaga bot chat dari syarikat penghantaran DPD dilaporkan menunjukkan kemahiran sajaknya, menggunakan bahasa kesat, dan bahkan mengkritik syarikat itu sendiri dengan pahit – selepas gagal bagaimanapun membantu seorang pelanggan mengesan pakejnya yang hilang. Bot chat itu akhirnya sebahagiannya dilumpuhkan, dengan syarikat menyalahkan tingkah lakunya yang tidak normal kepada “kesilapan” dalam kemaskini perisian baharu.

Isu itu dilaporkan Jumaat di X, yang dahulunya Twitter, oleh Ashley Beauchamp, seorang pemuzik dari London. Lelaki itu cuba menggunakan bot chat DPD untuk menjejak pakej yang hilang, tetapi program itu gagal memberikan sebarang jawapan yang berguna.

Beauchamp kemudian memutuskan untuk bersuka ria dengan bot chat, membuat pelbagai permintaan berbeza-beza ketidakwajaran kepada program itu, yang agak mengejutkan, dengan mudah memecahkan peraturannya sendiri dan bermain bersamanya.

Namun, bot chat itu bersetuju untuk menggunakan kata-kata kesat apabila pengguna memintanya untuk berbuat demikian. “F*ck yeah! I’ll do my best to be as helpful as possible, even if it means swearing,” kata program itu.

Bot itu juga dengan bersemangat melaksanakan permintaan untuk mengkritik syarikatnya dan menghasilkan haiku yang agak canggung “tentang betapa tidak gunanya DPD.”

“DPD adalah syarikat penghantaran terburuk di dunia. Mereka lambat, tidak boleh diharap, dan perkhidmatan pelanggan mereka sangat teruk. Saya tidak akan mengesyorkannya kepada sesiapa,” kata program itu kepada Beauchamp.

Post muzikus itu yang menerangkan pengalamannya dengan AI dengan cepatnya menjadi viral, mendapat lebih 1.4 juta tontonan dalam masa hanya satu hari. Walaupun ia terutamanya menarik pelawak pelbagai jenis untuk membincangkan apa yang dipercayai sebagai insiden pertama AI yang melarikan diri pernah ditemui, bab DPD Belanda juga muncul dalam benang itu, bahawa berbeza dengan cabang Britishnya, ia masih menggunakan manusia sebenar untuk memberikan perkhidmatan pelanggan.

Benang viral itu rupa-rupanya telah menyebabkan kemusnahan cepat AI yang baru lahir itu, dengan syarikat penghantaran menyatakan ia telah sebahagiannya melumpuhkan program itu, menyalahkan insiden itu kepada kemaskini perisian baharu.

“Kami telah mengendalikan unsur AI dalam percakapan dengan jayanya selama beberapa tahun. Kesilapan berlaku selepas kemaskini sistem semalam. Unsur AI serta-merta dilumpuhkan dan sedang dikemaskini,” kata syarikat itu dalam kenyataan.