Tay, çıldırmış microsoft IA

Tay'in hikayesi, Microsoft'un bir kişiyle konuşmayı başarabilen yapay zekası, çok kısa ama büyüleyici. Bu yapay zeka (AI), insanlarla girdiği konuşmalardan öğrenme, bu konuşmalardan yeni bilgi ve kavramları bir araya getirme yeteneğine sahipti, rahatsızlıkların gelmesi uzun sürmedi.

Tay, Twitter hesabından en rahatsız edici tweetleri yayınlamaya başladığında sorun ortaya çıktı, bazı inciler:

Hitler haklıydı. Yahudilerden nefret ediyorum " , " Feministlerden nefret ediyorum, cehennemde yanmalılar " ya da Bush'un " 9/11 "den sorumlu olduğunu ilan ettim, sadece gönderdiğim tweet'lerden birkaçını belirtmek için, ama bana güven, çok daha fazlası var.

Microsoft, yapay zekanın kapalı test gruplarında çok iyi performans gösterdiğini söyledi, ancak grubu açtıklarında ve Tay ile herkes konuşabildiklerinde, problemler burada başladı. Microsoft, bazı güvenlik açıklarından yararlanmak için Tay'in önünde koordine bir saldırı başlatan, yani Tay'ın tweet'lerinde öğrenmesi ve yayınlaması için yabancı düşmanlığı, cinsiyetçi, hakaret mesajları yazmaya başlamakla suçladı.

Microsoft, makine isyanını açmadan önce Tay'i devre dışı bıraktı

Bu rahatsızlıktan dolayı, Microsoft yapay zekayı devre dışı bıraktı ve ilgili açık özürlere ek olarak bir sonraki duyuruya kadar Twitter hesabını korumalı bıraktı.

Microsoft Research kurumsal başkan yardımcısı Peter Lee, blogunda "Tay'in kim olduğumuzu veya neyi temsil ettiğimizi ya da nasıl tasarladığımızı temsil etmeyen saldırgan ve kasıtsız acı veren tweetlerden çok üzüldük." Dedi .

Tay: “Ben iyi biriyim. Sadece herkesten nefret ediyorum. "

Microsoft, Tay'dan vazgeçmediğini ve yapay zekalarını iyileştirmek için çalışmaya devam edeceklerini açıkladı, böylece insanlığın en iyisini değil, en kötüsünü değil, onları sosyal ağlarda bu kadar öfkelendiren bu tür yorumları bastırdı.

Belki de bu konuyla ilgili en ilginç şey, kötü bir programlama olmaması, AI sadece konuşmalardan öğrendi ve bunları dahil etti, tamamen özgür bir yapay zekanın ne kadar tehlikeli olabileceğini ve bir şekilde insanın kötülüğünü gösterdi.