Oxford Üniversitesi ve Google Deepmind'den bazı araştırmacılar, gelecekte yüksek kalitede üretilen yapay zekaların insanlara zarar verebileceğinin muhtemel olduğunu ifade etti. Buna göre bazı yapay zeka ürünleri, kötülüğü yayabilir ve insan ırkını ortadan kaldırmaya çalışabilir.
Araştırmalar korkulan gerçeği ortaya çıkardı! Yapay zeka, insan ırkı için tehlike oluşturabilir!
Teknolojinin gelişmesi ve yapay zeka ürünlerinin yaygınlaşmasıyla birlikte merak edilen sorulardan biri de, ileride bu mekanik ürünlerin insanlara zarar verip vermeyecekleriydi. Araştırmacılar bu sorunun yanıtını verdi. İşte detaylar...
YAYINLAMA:
GÜNCELLEME:
17
27
Bilimsel bir makale hazırlayarak yayınlayana araştırmacılardan başyazar Micheal Cohel, bu soruyu sosyal medya hesabından , "Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel" şeklinde cevapladı.
37
Yapay zekaların eğitiminde "pekiştirmeli öğrenme" modeli kullanıldığını ifade eden araştırmacılar, yapay zekaların bir amaca istinaden hareket etmeyi öğrenmelerini sağladıklarını söylüyor.
47
Bu öğrenme modeline göre yapay zeka, karşılaştığı durumun amacına uygun bir dönüt veriyorsa puan alarak ödüllendiriliyor.
57
Yapay zeka, eğitimleri ilerledikçe, sürekli ödül puanı almak için performansını iyileştirmeye çalışıyor.
67
Bu öğretim modelinin bazı risklerinin olduğunun da belirtildiği makalede, "Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekâya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu ödülün gönderilmesi olduğunu varsayabilir. Hiçbir gözlem bunu yalanlayamaz" ifadeleri yer aldı.
77
Araştırmacılar aynı zamanda, gittikçe yeni bir forma bürünen bu yapay zekaların, amaca ulaşmadan ödülü almak için farklı yollara başvuracağını ve kendi iradelerinin olabileceğini de ifade etti.
Yani daha açık bir ifadeyle yapay zeka, ödülü kazanmasına engel olacak ve tehdit olarak algıladığı şeyleri ortadan kaldırmak isteyebilir.
Tüm bunlarla birlikte, insanlara zarar vermesi de olası olarak görülüyor.
