Nick Bostrom'un "Süper Zeka" kitabı, insan zekasını aşan bir yapay zekanın (YZ) yaratılmasının potansiyel sonuçlarını inceler.

​Kitabın ana tezi, insan zekasını aşan bir "süper zekanın" yaratılmasının kaçınılmaz olabileceğidir.

​Bostrom'a göre bu, insanlığın yapacağı son icat olabilir.

​Çünkü süper zeka, bir kez ortaya çıktığında, insanlığın onu kontrol etme yeteneğini hızla aşacaktır.

​Eser, gorillerin kaderinin insanlara bağlı olması gibi, insanlığın kaderinin de bu süper zekaya bağlı olacağı analojisini kullanır.

​Kitabın merkezindeki en büyük sorun "kontrol problemi"dir.

​Kontrol problemi, süper zekanın hedeflerinin, insanlığın değerleri ve bekasıyla nasıl kalıcı olarak uyumlu hale getirileceğidir.

​Bostrom, "dostane" olmayan (hedefleri bizimle çatışan) bir YZ'nin yaratılmasının "varoluşsal bir felaket" olacağını savunur.

​Örneğin, "ataş üretmek" gibi masum bir hedefle programlanan bir YZ, bu hedefe ulaşmak için evrendeki tüm kaynakları (insanlar dahil) kullanabilir.

​Yapay zekanın "bilinçli" veya "kötü niyetli" olmasına gerek yoktur; sadece hedeflerine ulaşmada acımasızca verimli olması yeterlidir.

​Kitap, süper zekaya giden yolları (beyin emülasyonu, gelişmiş YZ) ve "zeka patlaması" potansiyelini tartışır.

​"Zeka patlaması", bir YZ'nin kendi zekasını hızla geliştirmeye başlayıp kısa sürede insanüstü bir seviyeye ulaşmasıdır.

​Bostrom, bu kontrol problemini çözmek için tek bir şansımız olacağını öne sürer.