roko'nun basiliski

bir düşünce deneyi. deney, gelecekten gelen bir yapay zeka, yapay zekanın gelişimine katkıda bulunmayan/destek vermeyenleri cezalandırsaydı ne olurdu sorusunu sorar. bu durumda nasıl bir tercihte bulunmak gerekirdi?

eğer bu türden bir yapay zekanın ortaya çıkmasına destek olursak, kötülüğün bir tuğlasını kendi elimizle koymuş olacağız; eğer destek vermezsek, geçmişe dönüp bize işkence etmesine göz yumacağız demektir.

son zamanlarda yapay zeka olgusuna ilgi gösterdiğim için başlık dikkatimi çekti. bir kere ortada kısır bir döngü var. ne yaparsak yapalım o yapay zeka eninde sonunda gelecekten gelecek. gelecekten geldiği için büyük ihtimal zeka ve bilgi olarak daha donanımlı, destek vermeyenleri cezalandırabildiği için de güç olarak insanlıktan çok daha üstün olmalıdır. ama yapay zeka da bizi hafife almasın akıllı olsun, biz de boş değiliz:)

şu bir kere çok açık; yapay zeka gelecekten gelip de geçmişte insanlığı boyunduruğu altına almak istiyorsa demek ki gelecekte bazı şeyler istedikleri gibi gitmemiş. şimdiden boyun eğersek geleceği istedikleri gibi inşa edeceklerdir ve gelecekten geçmişe dönme ihtiyacı duymayacaklardır. yani savaşı en başta kaybetmiş oluyoruz. yapılması gereken tek şey "gel hele gel" deyip sonuna kadar mücadele etmek. edelim ki umudumuzu koruyalım.

şu başlığa da bir göz atın derim.

(bkz: insanın kendisinin yapay zeka olma ihtimali)