Uzmanlar, sohbet robotlarının, ruh sağlığı üzerindeki öngörülemeyen etkisinin, süper zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir uyarı olarak görülmesi gerektiğini söylüyor.

Son derece gelişmiş yapay zeka üzerine yazılmış yeni bir kitabın ortak yazarı olan Nate Soares, "If Anyone Builds It, Everyone Dies" (Eğer Biri Yaparsa, Herkes Ölür) adlı kitabında, ChatGPT sohbet robotuyla aylarca sohbet ettikten sonra intihar eden ABD'li Adam Raine örneğinin, bu teknolojinin kontrol edilmesindeki temel sorunları vurguladığını söyledi.

İngiliz The Guardian gazetesine konuşan Soares, “Bu yapay zekalar, gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi. Soares, Adam Raine'in vakasının, bu yapay zekalar daha akıllı hale gelirse felaketle sonuçlanacak bir sorunun tohumunu gösterdiğini söyledi.

Eski bir Google ve Microsoft mühendisi olan ve şu anda ABD merkezli Makine Zekası Araştırma Enstitüsü'nün başkanı olan Soares, insanlığın, yapay süper zeka (ASI) yaratması halinde yok olacağı konusunda uyarıda bulundu. ASI, bir yapay zeka sisteminin tüm entelektüel görevlerde insanlardan üstün olduğu teorik bir durumu ifade ediyor. Soares ve ortak yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda uyarıda bulunan yapay zeka uzmanları arasında.

Soares, “Buradaki sorun, şirketlerin yapay zekalarını, yararlı olmaya ve zarar vermemeye yönlendirmeye çalışmasıdır. Aslında yapay zekaları daha garip şeylere yönlendiriyorlar. Ve bu, kimsenin istemediği ve kimsenin kastetmediği şeyler yapacak olan gelecekteki süper zekalar hakkında bir uyarı olarak görülmelidir” diye konuştu.