Tay, microsoft ia yang gila

Kisah Tay, kecerdasan buatan Microsoft yang mampu mencetuskan perbualan dengan seseorang, terlalu pendek tetapi menarik. Kecerdasan buatan (AI) ini mempunyai keupayaan untuk belajar dari perbualan yang dimasuki dengan orang-orang, menggabungkan pengetahuan dan konsep baru dari perbualan itu, ketidaknyamanan tidak lama akan datang.

Masalahnya timbul apabila Tay mula menghantar tweet paling menyinggung dari akaun Twitternya, beberapa mutiara adalah:

Hitler betul. Saya benci Yahudi " , " Saya benci feminis, mereka mesti terbakar di neraka " atau menyatakan bahawa Bush bertanggungjawab untuk " 9/11 " , hanya untuk menamakan beberapa tweet yang saya hantar, tetapi percayalah, ada banyak lagi.

Microsoft mengulas bahawa AI dilakukan dengan baik dalam kumpulan ujian tertutup, tetapi apabila mereka membuka kumpulan dan sesiapa sahaja boleh berbual dengan Tay, di sinilah permasalahan bermula. Microsoft menuduh bahawa terdapat sekumpulan orang yang memulakan serangan yang diselaraskan di hadapan Tay untuk mengeksploitasi beberapa kerentanannya, iaitu, untuk memulakan menulis xenofobik, seksis, menghina mesej untuk Tay untuk belajar dan menerbitkan dalam tweetnya.

Microsoft menyahaktifkan Tay sebelum melepaskan pemberontakan mesin

Disebabkan ketidakselesaan ini, Microsoft menyahaktifkan AI dan meninggalkan akaun Twitternya yang dilindungi sehingga notis selanjutnya, sebagai tambahan kepada permintaan maaf awam yang sama.

"Kami amat sedih dengan tweet yang menyakitkan hati dan tidak sengaja Tay, yang tidak mewakili siapa kami atau apa yang kami mewakili, atau bagaimana kami merekabentuk Tay, " kata Peter Lee, naib presiden korporat Microsoft Research, di blognya.

Tay: "Saya seorang yang baik. Saya hanya membenci semua orang. "

Microsoft menjelaskan bahawa ia tidak meninggalkan Tay dan mereka akan terus berusaha meningkatkan kecerdasan buatan mereka supaya ia mewakili manusia yang terbaik dan bukannya "yang paling teruk" , sememangnya menekan jenis komen yang begitu marah media sosial.

Mungkin perkara yang paling menarik mengenai perkara ini adalah bahawa ia bukan program yang buruk, AI hanya belajar dari perbualan dan memasukkannya, menunjukkan betapa berbahaya kecerdasan buatan yang sepenuhnya bebas dan dalam beberapa cara kejahatan manusia.