Nick Bostrom'un yapay zekanın riskleri konusunda endişe duyan topluluk için çok önemli bir metin olan 2014 tarihli kitabı “Süper Zekâ” bir masalla başlıyor: Marjinal bir varoluştan bıkmış bir serçe kabilesi, ellerinden gelse her şeyin daha iyi olacağına ikna olur. onlara yardım etmesi için bir baykuşa sahip olun - yuva yapmak, deva ve beslenmeye yardımcı olmak, diğer yırtıcı hayvanlara göz kulak olmak için. Bu fikirden memnun olan serçeler, kendilerininmiş gibi besleyebilecekleri bir baykuş yumurtası veya baykuş yavrusu için avlanmaya karar verirler.
Yalnızca Scronkfinkle, "hırçın mizaçlı tek gözlü bir serçe", belki de yetişkin bir baykuşla yaşamanın tehlikelerini göz önünde bulundurmaları ve önce baykuş evcilleştirme ve baykuş evcilleştirme konularını biraz düşünmeleri gerektiğine işaret ediyor. Ancak, yalnızca bir baykuş edinmenin yeterince zor olacağı ve onu edinip yetiştirdikten sonra evcilleştirme konusunda endişelenmek için zaman olacağı gerekçesiyle reddedildi. Böylece diğerleri yumurta ve civciv aramak için uçarken, Scronkfinkle ve diğer birkaç serçe evcilleştirme sorununa kafa yormaya çalışır - zor bir meydan okuma, çalışacak bir baykuşun olmaması ve birinin her an öleceği korkusuyla gölgelenmesi. yuva arkadaşları bir baykuşla geri dönebilir ve kaba taslak teorilerini acımasız bir teste tabi tutabilir.
AI alarmistlerinin şu anda ne olduğunu düşündükleri hakkında temiz bir masal. Şimdiye kadar sohbet robotlarında ve görüntü oluşturucularda alenen ortaya çıkan yapay zekanın hızlanan gücü, yuvamızda büyüyen bir baykuş ve alarmcılarımız onu evcilleştirmek için hala hazırlıksız. Ve Elon Musk da dahil olmak üzere Silikon Vadisi'nin önde gelenlerinden oluşan bir koleksiyonun, güvenlik protokollerimizin yetişmesine izin vermek için büyük ölçekli yapay zeka deneylerinde en az altı aylık bir duraklama çağrısı yapan açık bir mektuba imza atması Scronkfinkle ruhuna uygun.
Ama masalla bizim kendi durumumuz arasında çok önemli bir fark var, bu da duraksamayı teşvik eden insanların neden Scronkfinkle'dan bile daha zor bir göreve sahip olduklarını açıklamaya yardımcı oluyor. Serçelerin, tüm saflıklarına rağmen, en azından genel olarak bir baykuşun neye benzediğini, ne olduğunu ve ne yaptığını bildiğine dikkat edin. Bu yüzden, evcilleşmemiş bir baykuşun ortaya çıkaracağı güçleri hayal etmek onlar için zor olmamalı ve okuyucu için de zor değil - tanıdık hız, görme ve güç gibi, yırtabilen, oyabilen ve yiyip bitirebilen güçler. şanssız serçe klanı.
