Dünyanın ilk psikopat yapay zekası “Norman”, kötü eğitimin yapay zekaya neler yaptırabileceğini gösteriyor. MIT Media Lab’daki araştırmacılar, psikopat yapay zeka ‘Norman’ı yarattılar. İsmi için esin kaynakları 1960’lardaki korku filmi Psycho’nun kurgusal karakteri Norman Bates‘in adı oldu. Norman, yapay zekaların eğitimleri için kullanılan veri kümesinin davranışları nasıl etkileyebildiğini göstermek için tasarlanmıştır.

Eğitimi sırasında Norman, Reddit’in en karanlık köşelerine maruz kaldı. Veri seti, isimlendirilmemiş bir alt dizinden gelen görüntülerin, “ölümün rahatsız edici gerçekliğini belgelemek ve gözlemlemek için adanmış” olduğunu belirtiyordu.

Bundan sonra yapay zeka, Rorschach testine (düşünce bozukluklarını analiz etmek için mürekkep lekeleri kullanan bir psikolojik test) tabi tutulmuş, mürekkepler için bir altyazı önermek zorunda kalmıştır. Sonuçlar standart bir yapay zekanın sonuçları ile karşılaştırılmış ve ortaya iç açıcı sonuçlar çıkmamıştır. Örneğin; standart yapay zeka verilen bir resme “Verilen siyah beyaz fotoğrafta beyzbol eldivenleri yer alıyor.” derken Norman “Bir adam gün ışığında makineli tüfek tarafından öldürüldü.” cevabını vermiştir. Başka bir resimde ise standart yapay zeka “Bir kadın şemsiyesini açmış.” cevabını verirken; Norman, “Çığlık atan bir kadın var önünde de ölü kocası…” yorumunu yapmıştır.

Araştırmacılara göre çizilebilecek sonuç, sadece algoritmaları suçlamamamız gerektiğidir. Çoğunlukla insan kaynaklı içeriklere dayanan eğitim veri seti de son derecede önemlidir. Dolayısıyla, gelecekte bir yapay zeka kıyametinden korkuyorsak, insanlar tarafından yaratılan önyargılı veriler, bunun nedenlerinden olabilir. Kısa bir süre önce, Microsoft CEO’su Satya Nadella da yapay zekanın gelişimi için etik ve prensip çağrısında bulunmuştu.

10
like
1
love
0
haha
8
wow
0
sad
0
angry
14 Yorum konuları
2 Konu cevapları
0 İzleyiciler
 
En çok tepki verilen yorum
En yeni yorumlar
16 Yorum yazarları
GizemmMurat SiyliAhmet BoztürkyellowredTriskacocu Son yorum yazarları
  Abone ol  
En Yeniler Eskiler Beğenilenler
Bildir
demir.demirgil
Üye

Alternatif en kötü senaryoyu düşünmeye programlanmış 😀

Aycan
Yazar

O teste verdiği cevaplar ne öyle.Şok oldum.Emeğine sağlık 🙂

EMIN ALTINTAS
Yazar

Kontrolden çıkaraa ne olacak ???? en kötüsü dahada kötü olacak ????

CanerTumay
Yazar

Yapay zeka insanlığın sonu olacak, şimdiden söylüyorum 🙂

Çalı Kuşu
Yazar

Bir şey ya vardır ya yoktur mu? Yoksa bir şey var olabileceği olasılığı kadar yok olabileceği olasılığı vardır mı?