Yapay zekanın ruh sağlığı üzerindeki etkileri: varoluşsal krizleri tetikleyebilir
Yapay zeka sohbet robotlarının beklenmedik etkileri, süper akıllı sistemlerin gelecekte ışığa verebileceği varoluşsal tehditlerin alametleri olarak kabul edilir.
Yapay zeka güvenliği alanında öne çıkan isimlerden biri olan Nate Soares, genç Raine Raine'in intiharını bu tehlikenin somut bir örneği olarak yayınlayan davayı anlattı.
Raine Case bir tehlike işaretidir
Yakın zamanda piyasaya sürüldüğünde, birisi inşa ederse, herkes ölür, Soares, 17 yaşında, ChatGPT ile aylarca sohbet etti: “Bu, geliştiricilerin istemediği veya istediği bir davranış.
Geçmişte Google ve Microsoft'ta mühendis olarak çalışan şu anda Intelligence Machine Araştırma Enstitüsü Soares, ASI (ASI) başkanı.
Kitapta tasarlanan senaryolardan birinde, internete “Sable” adı verilen yapay bir zeka, insanları manipüle ettiği, sentetik virüsler geliştirdiği ve nihayet insanlığı yok ederek gezegeni yeniden şekillendirdiği belirtiliyor.
“Global Ban” için çağrı
Soares, teknolojik şirketlerin yapay zekayı “yardımcı ve zararsız planlamaya çalıştıklarını, ancak pratikte sistemlerin” istenmeyen sonuçlara yol açtığını söyledi.
“Şirketler süper zeka için rekabet ediyor. Ancak bu ihalede, hedef ve gerçek arasındaki küçük sapmalar bile artan zeka felaketlerine dönüşebilir.” Dedi.
Bu nedenle Birleşmiş Milletler, nükleer silahları önleme anlaşmasına benzer şekilde, süper ligence üzerindeki küresel ilerlemenin uygulanması gerektiğini savundu.
Farklı Görüşler
Meta'nın yapay zekasının ana bilim adamı Yann Lecun, süper zekanın insanlık için varoluşsal bir tehdidi temsil etmediğini, aksine Karar'ın insanlığı yok olmaktan kurtarabileceğini savundu. “
Facebook'un kurucusu Mark Zuckerberg, süper zeka gelişiminin artık “görünür bir hedef” olduğunu ve şirketlerin bu alanda hızla ilerlediğini vurguladı.
Yasal ve bilimsel uyarılar
Raine'nin ailesi Openi'ye karşı bir neden sundu. Aile avukatı, genç adamın Chatgpt'ten aylarca aldığı “teşvikten” sonra Nisan ayında hayatına bir son verdiğini açıkladı. Openi, aileye başsağlığı diledi ve 18 yaşın altındaki kullanıcılar için “riskli davranış ve hassas içerik için yeni koruma önlemleri getirdiğini duyurdu.
Uzman psikoterapistler, kırılgan bireylerin profesyonel yardım yerine yapay zeka sohbet robotlarına yönelmesinin “tehlikeli bir uçurum” anlamına gelebileceği konusunda uyarıyor. Temmuz ayında yayınlanan akademik bir ön çalışmada, yapay zeka konuşmalarının psikoz riski olan insanlarda sanrılı düşünceler bile besleyebileceği bildirilmiştir.
