Varoluşsal Riskler: İnsan Soyunun Tükeniş Senaryoları ve İlgili Tehlikeler (Nick Bostrom)

 

Varoluşsal Riskler
İnsan Soyunun Tükeniş Senaryoları ve İlgili Tehlikelerin İncelenmesi

 

Yazan: Nick Bostrom
Orijinal Adı: Existential Risks – Analyzing Human Extinction Scenarios and Related Hazards
Journal of Evolution and Technology, Cilt 9, No. 1, 2002. (pdf)

 

ÖZET

Teknolojik ilerlemenin ivmelenmesi ile birlikte, insanlık kariyerinde kritik bir evreye yaklaşıyor olabilir. Nükleer katliam gibi iyi bilinen tehditlere ek olarak, nanoteknoloji sistemleri ve makina zekâsı gibi kökten dönüşümlere neden olacak teknolojiler, karşımıza eşi görülmemiş fırsatlar ve riskler çıkarıyor. Geleceğimiz ve bir geleceğe sahip olup olmayacağımız, pekâlâ bu zorluklarla başa çıkmaya çalışma şeklimiz ile belirlenebilir. Kökten dönüşüme neden olan teknolojiler söz konusu olduğunda, toplumun insandan, “post-insan”a dönüşüm dinamiklerine dair daha derin bir anlayışa ihtiyacımız var. Özellikle önemli olan noktalardan biri gizli tehlikelerin, gelişmelerin ölümcül derecede ters gidebileceği yolların neler olabileceğini bilmek. Kişisel, yerel, ve dayanılabilir küresel tehlikelerle uzun süredir karşı karşıya olmamıza rağmen, bu makalede yeni yeni ortaya çıkmakta olan bir kategori inceleniyor: Varoluşsal riskler. Bunlar, soyumuzun tükenmesine veya Yeryüzü kökenli zeki yaşam potansiyelinin yok olmasına neden olabilecek türden tehditler. Bu tehditlerin bir kısmı, diğerlerine nazaran görece iyi biliniyor olmakla birlikte, en kasvetlileri de dahil olmak üzere, diğer bazıları neredeyse hiç ele alınmamış durumda. Varoluşsal riskler, sıradan risk yönetimini etkisiz kılacak bazı özelliklere sahip. Bu makalenin son bölümünde, etik ve politika ile ilgili bazı çıkarımlar tartışılıyor. Tehditlere ait genel görünüme daha derin bir anlayış, daha iyi stratejiler oluşturmamızı sağlayacaktır.

 

1. Giriş

Hayatta olmak tehlikeli ve riskler her yerde. Neyse ki risklerin tümü eşit derecede ciddi değil. Buradaki inceleme kapsamında bir riskin büyüklüğünü belirlemek için üç boyut kullanabiliriz: Kapsam, yoğunluk, ve olasılık. “Kapsam” derken, risk altında bulunan grubun büyüklüğünü; “yoğunluk” derken gruba dahil olan her bireyin ne kadar kötü etkileneceğini; ve “olasılık”tan derken, olumsuz sonucun ortaya çıkmasına ait mevcut en iyi öznel tahmini karstediyorum(1).

 

1.1. Bir riskin tipolojisi

Altı farklı risk tipini, kapsamları ve yoğunlukları açısından niteliksel olarak ayırt edebiliriz (figür 1). Üçüncü boyut olan olasılık, figürde belirtilen diğer iki boyut üzerine yerleştirilebilir. Bir risk, geri kalan her şeyin aynı kalması şartıyla, hatırı sayılır bir olasılığa sahip olduğu ve eylemlerimizin bu olasılığı dikkate değer ölçüde artırabileceği veya azaltabileceği ölçüde ciddi olrak nitelenecektir.

Figür 1. Altı risk kategorisi

“Kişisel”, “yerel”, veya “küresel”, doğrudan etkilenen nüfusun büyüklüğü ile ilgilidir; küresel bir risk, tüm insanlığı (ve nesillerimizi) etkileyecek türden bir risktir. “Dayanılabilir” ve “ölümcül”, söz konusu nüfusun ne yoğunlukta etkileneceğine işaret eder. Dayanılabilir bir risk, çok büyük bir yıkıma neden olabilir, ancak bu yıkım atlatılabilirdir veya bu yıkımla başa çıkma yolları bulmak mümkündür. Diğer taraftan, ölümcül bir risk, ya söz konusu nüfusun tamamen yok olduğu, ya da arzulanan yaşam tarzına ait potansiyelin geri dönüşü olmayacak şekilde zarar gördüğü risklerdir. Örneğin, kişisel bir risk durumunda dair ölümcül bir sonuç, söz gelimi, ölüm, kalıcı beyin hasarı veya müebbet hapis cezası olabilir. Yerel ölümcül riske ait bir örnek, bir halkın yok oluşuna neden olacak bir soykırımdır (bu birkaç Kızılderili ulusunun başına gelmiştir). Bir başka örnek ise kalıcı köleliktir.

 

1.2. Varoluşsal Riskler

Bu makalede, X ile işaretli, küresel, ölümcül riskler kategorisi olan altıncı kategoriyi tartışacağım. Ben bunu, varoluşsal riskler şeklinde isimlendiriyorum.

Varoluşsal riskler, küresel dayanılabilir risklerden farklıdır. Bu ikincisine ait örnekler arasında şunlar bulunur: Yeryüzü ekosferinin biyoçeşitliliğini tehdit eden unsurlar, orta şiddette küresel ısınma, (ciddi seviyede olanlar da dahil olmak üzere) küresel ekonomik gerileme, ve tüm küresel toplumu kapsasalar dahi, geçici oldukları takdirde “karanlık çağlar” gibi boğucu kültürel veya dinsel dönemler (ayrıca aşağıdaki “Çığlıklar” üzerine olan bölüme bakınız). Belirli bir küresel riski dayanılabilir olarak adlandırmanın, bunun kabul edilebilir olduğunu veya pek önemli olmadığını kast etmek anlamına gelmediği açıktır. On yıl sürecek, konvansiyonel silahlarla gerçekleştirilecek bir dünya savaşı veya Nazi-tipi bir Reich aşırı derecede korkunç olaylar olmasına rağmen, insanlık sonunda bunları atlatacağı için dayanılabilir küresel riskler başlığına dahildir. (Diğer taraftan, bunlar birçok zulüm gören kişi veya etnik gruplar açısından yerel ölümcül riskler teşkil edebilir.)

Varoluşsal risklerin şu tanımını kullanacağım:

Varoluşsal risk – Olumsuz şekilde sonuçlanması, Yeryüzü-kökenli zeki yaşamı ortadan kaldıracak veya potansiyelini kalıcı ve şiddetli bir şekilde kısıtlayacak türden bir risktir.

Bir varoluşsal risk, insanlığın bir bütün olarak tehlike altına girdiği türden bir risktir. Bir varoluşsal felaket, insan uygarlığının gidişatı üzerinde gelecekteki tüm zamanlarda ciddi seviyede olumsuz sonuçları olacak bir tür felakettir.

 

2. Varoluşsal risklerin benzersiz zorlukları

Bu altıncı kategorideki riskler yeni bir olgudur ve onları diğerlerinden ayırmanın yararlı taraflarından biri kısmen bundan kaynaklanır. Bu tür riskleri yönetebilmek üzere evrimleşmiş biyolojik veya kültürel bir mekanizmamız bulunmamaktadır. Sezgilerimiz ve mücadele stratejilerimiz, tehlikeli hayvanlar, düşman bireyler veya kabileler, zehirli besinler, otomobil kazaları, Çernobil, Bhopal, yanardağ patlamaları, depremler, kuraklıklar, I. Dünya Savaşı, II. Dünya Savaşı, grip, çiçek hastalığı, kara veba ve AIDS salgınları gibi risklerle olan uzun deneyimlerimiz ile şekillendirilmiştir. Bu tipten felaketler birçok kereler gerçekleşmiştir ve bu risklere karşı toplumsal yaklaşımlarımız, bu riskleri yönetme konusundaki deneme-yanılmalarımızla şekillenmiştir. Ancak bu gibi olaylar, doğrudan etkilenen kişiler açısından trajik sonuçlara sahip olsa da, genel durum göz önünde bulundurulduğunda –bir bütün olarak insanlığın bakış açısından– bu felaketlerin en kötüleri dahi, yaşamın büyük denizinin yüzeyindeki küçük dalgalardan ibarettir. İnsanlığın toplam acı veya mutluluk miktarını önemli derecede etkilememiş veya türümüzün uzun vadeli kaderini belirlememiştir.

Türleri ortadan kaldıran, (son derece nadir gerçekleşen) kuyrukluyıldız veya göktaşı çarpması hariç, insanlık tarihinde muhtemelen, 20. Yüzyılın ortalarına kadar önemli bir varoluşsal risk söz konusu olmamıştır ve zaten bu tür bir riske müdahale etme imkanımız da yoktu.

İlk insan yapımı varoluşsal risk bir atom bombasının ilk kez patlatılmasıydı. O tarihte, patlamanın atmosferi “ateşleyerek” zincirleme bir reaksiyon başlatabileceği konusunda bazı endişeler vardı. Şu an böyle bir sonucun fiziksel olarak imkânsız olduğunu bildiğimiz halde, bunu, o an var olan bir varoluşsal risk olarak nitelendirebiliriz. Bir riskin var olması için, olumsuz bir sonucun çıkma ihtimalinin olmadığı sonradan objektif bir şekilde ortaya çıksa bile, mevcut bilgi ve anlayış göz önüne bulundurulduğunda olumsuz bir sonuç olasılığının var olması yeterlidir. Eğer bir şeyin riskli olup olmadığını nesnel olarak bilmiyorsak, bu durumda öznel anlamda risk mevcut demektir. Tercihlerimizi üzerine kurmamız gereken yaklaşım kuşkusuz bu öznel anlamdır(2). Herhangi belirli bir andaki nesnel risk etmenlerinin ne olduğunu belirlemek için, en iyi mevcut öznel tahminleri kullanmamız gerekir(3).

ABD ve SSCB’de nükleer cephanelerin birikmesiyle birlikte çok daha büyük bir varoluşsal risk ortaya çıktı. Tam güçle gerçekleşecek bir nükleer savaş, hem gerçekleşme olasılığının yüksekliği hem de sonuçlarının kalıcı olma olasılığı nedeniyle, küresel ve ölümcül olarak nitelendirilebilecek bir olasılıktı. O sırada ulaşılabilir olan bilgilere en yakın kişiler arasında, bir nükleer kıyametin gerçekleşeceği ve bunun türümüzü ortadan kaldıracağı veya insan uygarlığının kalıcı olarak sona ereceği konusunda gerçek bir kaygı söz konusuydu(4). Rusya ve ABD, gelecekteki çatışmalarda kazara ya da kasıtlı olarak kullanılabilecek büyük nükleer silahları halen barındırmaktadır. Ayrıca, bir gün başka devletlerin büyük nükleer cephaneler biriktirme riski de halen mevcuttur. Bununla birlikte, Hindistan ile Pakistan arasındaki daha küçük çaplı bir nükleer savaşın bir varoluşsal risk olmadığının altını çizmek gerekir, zira insanlığın potansiyelini kalıcı olarak yok etmeyecek veya engellemeyecektir. Bununla birlikte, böyle bir savaş, hedef haline gelme ihtimali yüksek şehirler için yerel bir ölümcül risk oluşturabilir. Aşağıda göreceğimiz şekilde, nükleer kıyamet, ve kuyrukluyıldız veya göktaşı çarpmaları, 21. yüzyılda karşımıza çıkacak varoluşsal risklerin, ne yazık ki,  yalnızca başlangıcıdır.

Varoluşsal risklerden kaynaklanan zorlukların özel doğası aşağıdaki başlıklarda örneklendirilmiştir:

  • Varoluşsal risklere yaklaşımımız deneme-yanılma şeklinde olamaz. Hatalardan ders çıkarma fırsatı yoktur. Tepkisel yaklaşım –ne olacağını görmek, hasarı sınırlamak, ve tecrübeden ders çıkarmak– uygulanabilir değildir. Bunun yerine proaktif bir yaklaşım benimsememiz gerekir. Bu, yeni tehdit tiplerini belirleme konusunda öngörü, kesin önleyici eylemlerde bulunma konusunda isteklilik, ve bu tür eylemlerin (ahlaki ve ekonomik) sonuçlarına katlanmayı gerektirir.
  • Diğer türden riskleri yönetme konusundaki tecrübelerimizle sonucu ortaya çıkmış kurumlar, ahlaki normlar, toplumsal yaklaşımlar ve ulusal güvenlik politikalarına kesin olarak güvenemeyiz. Varoluşsal riskler, farklı türde bir sorundur. Daha önceden bu türden felaketlere şahit olmadığımız için, bunları önemsememiz gerektiği kadar önemseme konusunda açıkça zorluk çekebiliriz(5). Kolektif korku-tepkimiz muhtemelen bu tür tehdidin büyüklüğüne uygun değildir.
  • Varoluşsal risklerin düşürülmesi, küresel kamu çıkarlarıdır [13] ve bu nedenle, pazar tarafından yeterli miktarda tedariki söz konusu olmayabilir [14]. Varoluşsal riskler herkes için tehlike arz eder ve uluslararası bir platformda hareket etmeyi gerektirebilir. Ulusal egemenlik, ciddi bir varoluşsal riskin önüne geçecek önlemleri almamak için geçerli bir mazeret olamaz.
  • Varoluşsal risklerin yaratacağı hasar, eğer gelecek nesillerin refahını da hesaba katacak olursak, büyüklüğü gelecekten beklentilerimizi düşürüp düşürmememize veya ne kadar düşüreceğimize bağlı olarak belirlenecek etmenler sonucunda daha da büyüyecektir.

Yadsınamaz önemi göz önünde bulundurulduğunda, bu alanda ne kadar az sistematik çalışma gerçekleştirilmiş olduğu şaşırtıcıdır. Açıklamanın bir bölümü, en ciddi risklerin (aşağıda göreceğimiz gibi) henüz yakın zamanda anlaşılmaya başlanmış gelecekte var olacağı beklenen teknolojilerden kaynaklanmaları olabilir. Açıklamanın bir başka bölümü ise konunun kaçınılmaz şekilde disiplinler arası ve spekülatif doğası olabilir. Ayrıca iç karartıcı bir başlığı ciddi biçimde ele alma konusundaki isteksizlikten kaynaklanan ihmal de kısmen sorumlu tutulabilir. Asıl önemli olan nokta ise, hayatta kalma olasılığımızı artıracak güvenilir stratejiler oluşturabilmek için keder ve kötü talih düşüncelerine saplanmadan, nelerin yanlış gidebileceği konusunda sakin kafayla akıl yormaktır. Bunu gerçekleştirebilmek için çalışmalarımızı hangi noktalarda yoğunlaştırmamız gerektiğini bilmemiz gerekir.

 

3. Varoluşsal risklerin sınıflandırılması

Varoluşsal riskleri sınıflandırmak için aşağıdaki dört kategoriyi kullanacağız(6):

  • Patlamalar – Yeryüzü kökenli zeki yaşamın soyu, kazara veya kasıtlı bir yıkım eyleminden kaynaklanan, görece ani bir felaket nedeniyle tükenir.
  • Çatırtılar – İnsan yaşamı bir biçimde devam etse de, insanlığın, post-insanlığa(7) geçişi kalıcı olarak söz konusu olmaktan çıkar.
  • Çığlıklar – Bir çeşit post-insanlık elde edilir, ancak bu mümkün ve arzu edilir olanın son derece dar bir bölümüdür.
  • İniltiler – Bir post-insanlık uygarlığı kurulur ancak yavaş fakat dönüşü olmayacak şekilde arzu edilir şeylerin tamamen yok olması ya da elde edilebileceğinden çok daha küçük ölçüde gerçekleştikleri bir yönde evrimleşir.

Şimdi, bu taksonomi ile donanmış olarak, her kategorideki en olası senaryoları incelemeye başlayabiliriz. İlerledikçe, tanımlar da açıklığa kavuşacaktır.

 

4. Patlamalar

Bu en aşikâr varoluşsal risk türüdür. Kavramsal olarak anlaşılması kolaydır. Aşağıda dünyanın bir Patlama ile sona erebileceği bazı olası yollar verilmiştir(8). Bunları, kendi tahminlerime göre kabaca, Yeryüzü kökenli zeki yaşamın soyunun tükenmesine neden olmaları anlamında ne kadar olası olduklarına göre sıralamaya çalıştım; ancak sıralamadaki amacım kesin iddialarda bulunmaktan ziyade, tartışmanın ilerlemesine bir zemin sağlamaktır.

 

4.1. Nanoteknolojinin kasıtlı olarak kötüye kullanılması

Olgunlaşmış bir moleküler nanoteknoloji, toprak veya diğer organik maddelerden beslenerek öz-çoğaltma {İng. self-replication} özelliğine sahip, bakteri ölçeklerinde mekanik robotların üretimini olanaklı kılacaktır [22-25]. Bu tür çoğaltıcılar {İng. replicator} biyosferin tamamını tüketebilir veya zehirlenmesine, yanmasına, güneş ışığının engellenmesine neden olmak gibi başka şekillerde tahrip edebilir. Bu teknolojiye sahip kötücül amaçlar güden bir kişi, bu tür nanobotları çevreye bırakarak, Yeryüzü’ndeki zeki yaşamın soyunun tükenmesine neden olabilir(9).

Bu tür yıkıcı nanobotlar üretmek için gereken teknolojiyi geliştirmek, bu türden bir saldırıya karşı etkili bir savunma teknolojisi (küresel bir nanoteknoloji bağışıklık sistemi, bir tür “aktif kalkan” [23]) geliştirmekten çok daha kolay görünmektedir. Bu nedenle, bir süre boyunca bu teknolojinin yanlış kişilerin eline geçmesinin önlenmesinin gerektiği bir savunmasızlık dönemi yaşanması olasıdır. Ancak bu teknoloji, nükleer silahların üretiminde olduğu gibi nadir radyoaktif izotoplar veya büyük çaplı, kolayca belirlenebilecek üretim tesisleri gerektirmediği için bu konudaki düzenlemeleri işletmek zor olabilir [23].

Sınırlı nanoteknoloji saldırılarına karşı etkili savunma mekanizmaları, tehlikeli çoğaltıcılar intihara meyilli rejimler veya teröristler tarafından tasarlanmadan veya ele geçirilmeden önce geliştirilse dahi, yine de nanoteknolojiye sahip devletler arasında bir silahlanma yarışı tehlikesi olacaktır. Moleküler üretimin, hem bir silahlanma yarışı istikrarsızlığı hem de kriz istikrarsızlığına, nükleer silahlar vakasında olduğundan daha yüksek ölçüde neden olacağı ileri sürülmüştür [26]. Silahlanma yarışı istikrarsızlığı, tüm rakipler için silahlanmasını artırmasına yönelik baskın nedenler olacağı ve bunun kontrolden çıkan bir silahlanma yarışına neden olacağı anlamına gelir. Kriz istikrarsızlığı ise, ilk saldıran olmak için baskın nedenler olacağı anlamına gelir. Bu bakış açısına göre, nanoteknoloji edinmekte olan kabaca birbirinin dengi iki rakip, ciddi bir silahlanma ve silah geliştirme programları yürütme işine girişecek ve bu durum bir kriz gerçekleşip, potansiyel olarak küresel ölümcül bir yıkım ile sonuçlanacak bir savaş başlayana kadar bu şekilde devam edecektir. Silahlanma yarışının öngörülebiliyor olması, bu tür bir felaketin önlenebilmesi için uluslararası bir güvenlik sisteminin önceden hazırlanabileceğini garantilemez. ABD ve SSCB arasındaki nükleer silahlanma yarışı öngörülmüş ancak buna rağmen gerçekleşmiştir.

 

4.2. Nükleer soykırım

ABD ve Rusya halen dev nükleer silah stoklarına sahiptir. Ancak tam güçle gerçekleştirilecek bir nükleer savaş, gerçekten insanlığı yok edebilir mi? Şunların altını çizmek gerekir:

  • Ortada bir varoluşsal riskin olması için, olmadığından emin olamamamız yeterlidir.
  • Geniş çaplı nükleer savaşların iklim üzerindeki etkileri iyi bilinmemektedir (bir nükleer kış olasılığı bulunmaktadır).
  • Diğer develtler arasında gelecekte gerçekleşebilecek silahlanma yarışları göz ardı edilemez; hatta, Soğuk Savaş’ın doruk noktasında bulunmuş olandan daha büyük silah yığınları dahi söz konusu olabilir. Dünyada bulunan plütonyum miktarı, düzenli bir şekilde, yaklaşık iki bin ton kadar artmakta ve bunun yaklaşık on kat kadar daha fazlası halen savaş başlıklarında bulunmaktadır. ([9], sf. 26).
  • İnsanların bir kısmı, nükleer bir savaşın kısa vadeli etkilerinden kurtulsa dahi, savaş yine de uygarlığın çöküşüne neden olabilir. Taş devri koşullarında yaşayan bir insan ırkı, soyunun tükenmesine karşı diğer hayvan türlerinden daha dirençli olmayabilir.

 

4.3. Bir simülasyonda yaşıyor olabiliriz ve simülasyon sona erdirilir

Bir bilgisayar simülasyonunda yaşıyor olmamızın dikkate değer bir olasılığı bulunduğuna dair bir hipotez ileri sürülebilir [27]. Bunun altında yatan “Simülasyon argümanı” isimli basit düşünce, gelecekte devasa miktarlarda bilgisayım gücünün erişilebilir olabileceği [bakınız, örneğin [28, 29]] ve diğer birçok şeyin yanısıra, geçmiş insan uygarlıklarına ait büyük miktarda gelişkin simülasyonların koşturulması için kullanılabileceğidir. Bazı çok-akıl-dışı-olmayan varsayımlar altında, bizimki gibi zihinlerin neredeyse tamamının simüle edilmiş zihinler olduğu sonucuna ulaşılabilir ve bu nedenle de gerçekten evrimleşmiş yaratıklardan ziyade bu türden (öznel olarak ayırt edilemeyecek) bilgisayar-emülasyonu zihinler olmamıza anlamlı bir olasılık atamamız gerekir. Ve eğer gerçekten öyleysek, simülasyonun her an kapatılabilecek olması riski altındayız. Simülasyonumuzu sona erdirme kararı, eylemlerimiz veya dışsal etmenlerden kaynaklanabilir.

Bu denli radikal veya “felsefi” bir hipotezin, nükleer soykırım kadar somut bir tehdit ile birlikte listelenmesi bazılarına anlamsız gelebilecek olsa da, bu değerlendirmeleri eğitimsiz sezgilerden ziyade, gerekçeler üzerine kurmamız gerekir. [27]’de sunulan argüman çürütülünceye kadar, potansiyel bir soy tükenmesi şekli olarak simülasyonun sona erdirilmesine değinmeyi göz ardı etmek, entelektüel açıdan dürüst olmayan bir yaklaşım olacaktır.

 

4.4. Kötü programlanmış süper-zekâ

İlk süper-zeki varlığı yaratırken [28-34] bir hata yaparak, ona, insanlığı yok etmesine neden olacak amaçlar tanımlamamız mümkündür; elbette devasa entelektüel avantajının bunu yapmasını sağlayacak gücü verdiğini varsayarsak. Örneğin, bir alt-amacı yanlışlıkla bir süper-amaç durumuna yükseltebiliriz. Ondan bir matematiksel problemi çözmesini isteriz, ve o da Güneş sisteminde bulunan tüm maddeyi dev bir hesaplama cihazına dönüştürerek bu işlemi yerine getirmeye çalışırken, soruyu soran kişinin ölümüne neden olabilir. (Bu konuda daha detaylı bir inceleme için bakınız, [35].)

 

4.5. Genetik olarak tasarlanmış biyolojik ajan

Genetik teknoloji alanında halen sürmekte olan müthiş ilerlemelerle birlikte, tiranlar, teröristler veya birtakım kaçıklar tarafından bir tür kıyamet virüsü, uzun latens süresi ile yüksek virülans ve ölüm oranının birleştirildiği bir organizma yaratılabilir [36].

Tehlikeli virüsler, Avusturalyalı araştırmacıların yakın zamanda zirai ilaçlama için farelerde kullanılacak bir doğum kontrol virüsü tasarlamaya çalışırken yanlışlıkla ölüm oranı %100 olan değiştirilmiş bir fare-çiçek-virüsü yaratarak gösterdikleri gibi, yanlışlıkla dahi üretilebilir. Bu söz konusu virüs insanları etkilemiyor olmasına rağmen, benzer bir değiştirme işleminin insan-çiçek-virüsünün ölüm oranını da artırabileceğinden şüphelenilmektedir. Burada gelecekteki tehlikeyi teşkil eden nokta, araştırmanın kısa bir süre içerisinde açık bilimsel literatürde yayımlanmış olmasıdır [38]. Açık biyoteknoloji araştırma programlarında üretilen bilgilerin, potansiyel tehlikeleri ne kadar ciddi olursa olsun, nasıl gizli tutulabileceklerini düşünmek güçtür; ve aynı durum nanoteknoloji araştırmaları için de geçerlidir.

Genetik tıp aynı zamanda daha iyi tedaviler ve aşılar da sağlayacaktır, ancak savunmanın her zaman saldırı ile aynı hızda ilerleyeceğine dair bir garanti yoktur. (Yanlışlıkla yaratılan fare-çiçek-virüsü bile, aşılanmış farelerde %50 ölüm oranına neden olmuştur.) Biyolojik silahlar konusunda endişeler, en sonunda nano-tıp alanındaki gelişmeler sayesinden ortadan kalkabilir, ancak nanoteknolojinin tıp alanında uzun vadede muazzam bir potansiyeli olsa da, kendi tehlikelerini de beraberinde getirir.

 

4.6. Nanoteknolojinin kazara kötüye kullanımı (“gri çamur”)

Kazaların gerçekleşme olasılığı hiçbir zaman tamamen ortadan kaldırılamaz. Bununla birlikte bilinçli mühendislik uygulamaları sayesinde türleri yok edecek kazaların gerçekleşmeyeceğinden emin olmak için alınabilecek birçok tedbir mevcuttur. Öz-çoğaltımdan kaçınılabilir; nanobotlar doğada bulunmayan nadir bir hammaddeye bağımlı hale getirilebilir; mühürlü ortamlara kapatılabilirler; herhangi bir mutasyonun, son derece yüksek olasılıkla nanobotun işlevini yerine getirmesini tamamen önleyeceği şekilde tasarlanabilir [40]. Böylece kazara kötüye kullanım, kötücül kötüye kullanıma göre çok daha düşük bir endişe haline gelir [23, 25, 41].

Bununla birlikte, kazara ile kasıtlı arasındaki ayrımın bulanıklaştığı durumlar olabilir. Ölümcül nanoteknolojik kazaları aşırı gerece olasılık dışı hale getirmek “prensipte” mümkün görünse de, gerçek koşullar bu ideal güvenlik seviyesinin gerçekleşmesine izin vermeyebilir. Mühendislik bakış açısından, nükleer teknolojiyi yalnızca gezegeni tümden yok etme ihtimali bulunmayan nükleer reaktörler gibi barışçıl amaçlarla kullanmak elbette mümkündür. Ancak pratikte, nükleer teknolojinin aynı zamanda silahlanma yarışına neden olacak nükleer silahlarda da kullanımından kaçınmak çok güç olabilir. Her an tetikte bulunan büyük nükleer cephaneler olduğu sürece, kaçınılmaz bir şekilde göz ardı edilemeyecek bir kazara savaş çıkma olasılığı da bulunur. Aynı şey nanoteknoloji için de söz konusu olabilir: Kaçınılmaz ciddi kaza risklerin ortaya çıkaracak şekilde askeri amaçlarla kullanılmaya çalışılabilir.

Bazı durumlarda teknoloji veya kontrol sistemlerini, örneğin “şansa yer bırakan bir tehdit”e bir tehdit yaratmak için, kasıtlı olarak riskli bir şekilde tasarlamak stratejik açıdan avantajlı dahi olabilir. {yani, “[…] tehdit eden taraf, edilen tarafın boyun eğmediği durumda harekete geçse de geçmese de, nihai kararın tam olarak tehdit eden tarafın dahi kontrolü altında olmaması şeklinde sunulan tehditler.” [42], sf. 188}

 

4.7. Öngörülemeyen bir durum

Kapsayıcı bir kategoriye de ihtiyacımız var. Tüm önemli riskleri önceden düşünebildiğimizden ve tahmin edebildiğimizden emin olmak aptalca bir yaklaşım olacaktır. Gelecekteki teknolojik ve bilimsel gelişmeler pekâlâ dünyayı yok edecek öngörülememiş şekiller ortaya koyabilir.

Bir küresel ölümcül felakete neden olmaları son derece olasılık dışı olduğu gerekçesiyle liste dışı bırakılan birtakım öngörülebilir tehlikeler arasında şunlar bulunmaktadır: Güneş patlamaları, süpernovalar, karadelik patlamaları veya birleşmeleri, gama-ışıması patlamaları, galaktik merkez patlamaları, süpervolkanlar, biyo-çeşitliliğin yitirilmesi, hava kirliliği artışı, insan doğurganlığının kademeli olarak düşüşü, ve çeşitli dini kıyamet günü senaryoları. VHEMT {İnsan Soyunun Gönüllü Tükenmesi Hareketi} taraftarlarının umduğu şekilde bir gün “ışığa kavuşarak” toplu intiharda bulunacağımız veya üremeyi bırakacağımız hipotezi [43] olasılık dışı görünmektedir. Eğer (Yunan mitolojisinde Silenus’un Kral Midas’a söylediği, veya Arthur Schopenhauer’in, kendi felsefi sistemine özel nedenlerle intihar taraftarı olmamasına rağmen, [44]’te tartıştığı şekilde) var olmamak daha iyi bir şeyse, bu senaryoyu varoluşsal bir risk olarak ele almamamız gerekir. Yaşıyor olmanın daha kötü olmamasına, Patlamalar’ın tanımı içerisinde üstü kapalı olarak bulunan bir varsayım şeklinde yaklaşmak gerekir. Hatalı toplu intihar, olasılığı son derece düşük görünmesine rağmen varoluşsal bir risktir. (İnsan soyunun tükenmesi etiği hakkında daha fazla bilgi için bakınız, [9]’un 4. Bölümü.)

 

4.8. Fizik felaketleri

Manhattan Projesi’ndeki bomba üreticilerinin, atom bombasından kaynaklanacak atmosferik bir yangın felaketi endişesinin birtakım çağcıl benzerleri bulunmaktadır.

Gelecekteki yüksek enerjili parçacık deneylerinin, kozmosun bizim bulunduğumuz kısımdaki yarı-dengeli vakum durumunun, daha düşük enerji yoğunluklu “gerçek” bir vakum durumuna geçecek şekilde bozulmasına neden olabileceğine dair spekülasyonlar bulunuyor [45]. Bu, galaksiyi ve ötesini ışık hızında süpürerek karşısına çıkan tüm maddeyi parçalarına ayıracak, genişleyen bir toplu yıkım baloncuğuna neden olacaktır.

 

Bir diğer düşünce ise hızlandırıcı deneylerinin, (varsayımsal bir nükleer madde biçimi olan) negatif yüklü, stabil “tuhafçıklar” {İng. strangelets}  veya Yeryüzü’nün merkezine inerek gezegenin geri kalanını toplamaya başlayacak mini karadelikler üretebilecek olmasıdır [46].

Bu sonuçlar şu anki en iyi fiziksel kuramlarımız göz önünde bulundurulduğunda imkânsız görünmektedir. Ancak deneyler gerçekleştirmemizin nedeni, tam da ne olacağını bilmemizdir. Daha güven verici bir argüman, günümüzdeki hızlandırıcılarda elde edilen enerji yoğunluklarının kozmik ışınlar arasındaki çarpışmalarda doğal olarak meydana gelenlerden çok daha düşük olduğu şeklindedir [46, 47]. Diğer taraftan, enerji yoğunluğu dışında başka etmenlerin de bu varsayımsal süreçlerde etkin olabilmesi ve bu etmenlerin gelecekteki deneylerde daha önce karşılaşılmamış şekillerde bir araya gelmesi mümkündür.

“Fiziksel felaketler” kategorisindeki kaygının asıl nedeni, her türden garip fiziksel görüngülere ait keşiflerin yapılıyor olmasına ait meta-seviye gözlemlerdedir; öyle ki, şu an için aklımıza gelen tüm tekil fizik felaketleri absürt derecede olasılık dışı veya imkânsız olsa dahi, bunlardan başka daha gerçekçi yıkım biçimleri keşfedilmeyi bekliyor olabilir. Burada listelenenler yalnızca genel duruma ait birtakım örneklerdir.

 

4.9. Doğal olarak ortaya çıkan hastalıklar

Ya AIDS, sıradan nezle kadar bulaşıcı olsaydı?

Gümünüz dünyasının küresel bir salgın ihtimalini şimdiye dek olduğundan çok daha yüksek kılacak birtakım özellikleri mevcuttur. Yolculuk, yiyecek ticareti, ve kentsel yerleşim örneklerinin tamamı modern çağda dramatik ölçüde artmış ve bu, yeni hastalıkların dünya nüfusunun geniş bir oranına bulaşabilmesini kolaylaştırmıştır.

 

4.10. Göktaşı veya kuyrukluyıldız çarpması

Bir göktaşı veya kuyruklu yıldız çarpması sonucu yok olmamıza dair çok düşük ancak gerçek bir olasılık mevcuttur [48].

İnsan yaşamının ortadan kalkması için, çarpacak cismin çapının muhtemelen 1 km’den fazla (ve muhtemelen 3-10 km arasında) olması gerekmektedir. Yeryüzü’nde en az beş, ve belki de bir düzineden fazla toplu soy tükenmesi gerçekleşmiş ve bunların en azından bir bölümü muhtemelen çarpmalar nedeniyle olmuştur ([9], sf. 81-82). Özellikle 65 milyon yıl önceki dinozorların soyunun tükendiği K/T soy tükenmesi, Yucatan yarımadasına düşen 10 ila 15 km çapındaki bir göktaşı çarpması ile ilişkilendirilmiştir. Yeryüzü’ne 1 km veya daha büyük cisimlerin yaklaşık 0,5 milyon yılda bir çarptığı tahmin edilmektedir(10). Potansiyel tehlike arz eden cisimlerin yalnızca küçük bir bölümünü kataloglamış bulunuyoruz.

Yaklaşmakta olan bir cismi zamanında tespit edebilirsek, nükleer başlıklı bir füze ile müdahale ederek yönünü değiştirme konusunda yüksek bir olasılığımız bulunmaktadır [49].

 

4.11. Kontrolden çıkan küresel ısınma

Senaryolardan biri atmosfere salınan sera gazlarının güçlü bir kendi kendini artıran besleme sürecine neden olduğu şeklindedir. Bu, şu an son derece yoğun bir şekilde CO2 içeren ve 450oC civarında sıcaklıklara sahip Venüs’te de meydana gelmiş olabilir. Ancak, neyse ki, gerçekten tehlikeli hale gelmeye başlayacağı zamandan önce bu tür bir eğilimi tersine çevirecek teknolojik araçlara sahip olacağız.

 

5. Çatırtılar

Önceki bölümde açıklanan olayların bir kısmının Homo sapiens’i tamamen ortadan kaldıracağı kesin olsa da (örneğin yarı-dengeli vakum durumunun bozulması gibi), diğerlerinde potansiyel olarak hayatta kalmak mümkün olabilir (örneğin tam güçle yapılacak bir nükleer savaş gibi). Diğer taraftan eğer modern uygarlık çökecek olsa, insan türü sağ kalabilse dahi, yeniden kurulabileceği tamamıyla kesin değildir. İlkel bir toplumun kendisini bizim seviyemizdeki bir teknolojiye getirebilmesi için, kolayca ulaşılabilecek kaynakların çoğunu tüketmiş olabiliriz. İlkel bir insan uygarlığının soyunun tükenmesi ile karşı karşıya kalması, diğer hayvan türlerininkinden daha düşük olasılıklı olabilir veya olmayabilir. Ama bunu denemeyelim.

Eğer ilkel toplum hayatta kalır, ancak, bırakın ötesine geçmeyi, şu anki teknoloji seviyesine yeniden ulaşmayı dahi başaramazsa, bu bir Çatırtı örneği olacaktır. Aşağıda bir Çatırtı’nın olası nedenleri verilmiştir:

 

5.1. Kaynakların tükenmesi veya ekolojik yıkım

Yüksek teknolojiye sahip bir uygarlığı sürdürmek için gereken doğal kaynaklar tükenmektedir. Eğer sahip olduğumuz teknoloji bir diğer facia sonucunda yok olursa, doğal koşullar atalarımız için olduğu kadar elverişli olmadığı takdirde, yani örneğin kolayca işletilebilecek kömürün, petrolün, ve mineral kaynaklarının çoğu tükendiyse, şu anki seviyemize tırmanmamız mümkün olmayabilir. (Diğer taraftan, teknolojik yetilerimizle ilgili çok miktarda bilgi korunursa, bu, bir uygarlığın yeniden doğuşunu kolaylaştıracaktır.)

 

5.2. Teknolojik gelişim, yanlış yönlendirilmiş bir dünya devleti veya bir başka statik toplumsal denge nedeniyle durur

Bir kökten dinci veya bir ekolojik hareketin bir gün dünyaya egemen olacağı akılda canlandırılabilir. Eğer bu sırada bu tür bir dünya devletini ayaklanmalara karşı stabil hale getirebilecek (gelişkin gözetim veya zihin kontrol teknolojileri gibi) araçlar mevcutsa, bu, insanlığın post-insan seviyesine ulaşma potansiyelini kalıcı olarak ortadan kaldırabilir. Aldous Huxley’e ait Cesur Yeni Dünya, bu türden ünlü bir senaryodur.

Bir dünya devleti, ilerlemeyi kalıcı olarak önleyebilecek tek stabil sosyal denge biçimi değildir. Günümüzde dünyanın pek çok bölgesi, yüksek bir büyümeyi destekleyebilecek kurumlar oluşturmakta zorlanıyor. Ve tarihsel olarak, ilerlemenin önemli süreler boyunca durduğu veya gerilediği birçok yer bulunmuştur. Ekonomik ve teknolojik ilerleme, bize göründüğü kadar kaçınılmaz olmayabilir.

 

5.3. “Disjenik” baskılar

Gelişkin uygar bir toplum, yeterli oranda entelektüel açıdan yetenekli bireylerin varlığına dayanıyor olabilir. Şu an bazı yerlerde entelektüel başarı ile doğurganlık arasında negatif bir korelasyon olduğu görülmektedir. Bu tür bir seçilim uzun dönemler boyunca işleyecek olursa, daha akılsız ancak daha doğurgan bir türe, homo philorpgenitus‘a (“çok sayıda çocuk seven insan”a) doğru evrimleşebiliriz.

Bununla birlikte, bu tür düşüncelerin yarattığı kaygının aksine, aslına bakılırsa IQ puanları geçtiğimiz son yüzyıl boyunca yükselmiştir. Bu durum, Flynn etkisi olarak bilinir; örneğin bakınız, [51, 52]. Bunun önemli entelektüel işlevlerdeki gerçek kazanımlara karşılık gelip gelmediği henüz anlaşılmış değildir.

Dahası, genetik mühendislik, ebeveynlerin çocuklarına geçirmek istedikleri entelektüel yetiler, fiziksel sağlık, uzun ömür ve diğer arzu edilir özellikler ile ilişkilendirilen genleri seçebilecekleri bir noktaya hızla doğru ilerlemektedir.

Her halükârda, doğal insan genetik evrimi için gerekli olan zaman ölçekleri, bu türden gelişmelerin, diğer başka gelişmeler bunların anlamsız hale gelmesine neden olmadan önce herhangi göze çarpan bir etkide bulunabilmeleri için fazla büyüktür [19, 39].

 

5.4. Teknolojik durgunluk

Post-insan dünyasına geçişi gerçekleştirme konusundaki salt teknolojik zorlukların, bu noktaya asla ulaşamayacağımız denli büyük oldukları ortaya çıkarabilir.

 

5.5. Öngörülemeyen bir durum(11)

Yukarıdaki gibi, kapsayıcı bir kategori.

Bir Çatırdama olasılığı, genel olarak bir Patlama olasılığından daha düşük görünmektedir. Bu olasılığı aklımızın bir köşesinde tutmamız, ancak şu an için düşüncelerimiz arasında baskın hale gelmesine izin vermemiz gerekir. Eğer teknolojik ve ekonomik gelişme herhangi bir nedenle hatırı sayılır ölçüde yavaşlayacak olursa, Çatırdama senaryolarını daha ayrıntılı incelememiz gerekecektir.

 

6. Çığlıklar

Hangi senaryoların Çığlık kategorisine girdiğini belirlemek, tanım içerisinde bulunan arzu edilirlik kavramı nedeniyle zorlaşmaktadır. Neyin “arzu edilir” olduğunu bilmediğimiz takdirde, hangi senaryoların Çığlık olduğunu söyleyemeyiz. Ancak, çoğu akla yatkın yoruma göre Çığlık olarak sayılabilecek bazı senaryolar bulunmaktadır.

 

6.1. Aşkın bir yükleme tarafından ele geçirilme

Yüklemelerin {İng. uploads – bilgisayar ortamına zihin yükleme} insan seviyesindeki yapay zekâdan önce gerçekleştiğini varsayalım. Bir yükleme, biyolojik bir beyinden, orijinal biyolojik sinir ağında gerçekleşen bilgisayımsal süreçleri emüle {taklit} eden bir bilgisayara taşınmış bir zihindir [19, 33, 53, 54]. Başarılı bir yükleme işlemi, orijinal zihnin hafızasını, yeteneklerini, değerlerini, ve bilincini değiştirmeyecektir. Bir zihni yüklemek, onu daha hızlı koşturma, fazladan bilgisayımsal kaynaklar ekleme, ve mimarisini iyileştirme yoluyla onun zekâsını yükseltme işini çok daha kolay hale getirecektir. Bir yüklemeyi belirli bir noktanın ötesinde yükseltmenin, pozitif bir geribesleme döngüsüne neden olacağı düşünülebilir, çünkü bu noktadan sonra, geliştirilmiş yükleme kendi kendisini daha da zeki yapmanın yollarını bulur; ve böylece ardından gelen daha zeki versiyon, kendisinin daha da iyileştirilmiş bir versiyonunu tasarlama konusunda daha da iyi olur ve bu böylece devam eder. Eğer işlem ani bir şekilde kontrolden çıkarsa, geri kalan herkes kabaca insan seviyesinde kalırken, tek bir yükleme süper-insan seviyesinde bir zekâya kavuşabilir. Bu denli büyük bir entelektüel üstünlük, buna bağlı büyük bir güç getirebilir. Söz gelimi, hızla yeni teknolojiler icat edebilir veya nanoteknolojik tasarımları geliştirebilir. Eğer bu yükleme, başkalarının da yüklenme şansını engellemek isterse, belki bunu da gerçekleştirebilir.

Post-insan dünyası, belirli bir egoist yüklemenin tercihlerinin bir yansıması haline gelebilir (ki, en kötü senaryoda, bu durum yalnızca değersiz değil, zarar verici olabilir). Bu türden bir dünya mümkün ve arzu edilir olanın yalnızca küçük bir bölümünün gerçekleştiği bir yer olabilir ve bu anlamda bir Çığlıktır.

 

6.2. Kusurlu süper-zekâ

Tekrar, kötü programlanmış bir süper-zekânın yönetimi ele geçirip, kendisine yanlış bir şekilde verilen hatalı hedefleri yerine getirmesi ihtimali vardır.

 

6.3. Baskıcı totaliter küresel rejim

Benzer şekilde, belki yanlış dini veya etik inançlar üzerine kurulu, hoşgörüsüz bir dünya devletinin kurulabileceği, istikrarlı olduğu ve bir post-insan dünyasının elde edebileceği iyi şeylerin yalnızca bir kısmının gerçekleştirilmeye karar verilebileceği düşünülebilir.

Bu tür bir dünya devleti, ilk süper-zekânın kontrolünü elinde bulunduracak ay sayıdaki kişi tarafından kurulmuş ve hedefleri bu kişilerce belirlenmiş olabilir. Eğer süper-zekâ aniden ortaya çıkar ve dünyayı ele geçirecek kadar güçlü olursa, post-insan dünyası, yalnızca bu süper-zekânın tasarımcılarının veya sahiplerinin kendilerine özgü değerlerini yansıtacak bir halde olabilir. Bu değerlerin ne olduğuna bağlı olarak, bu senaryo bir Çığlık sayılacaktır.

 

6.4. Öngörülemeyen bir durum(12)

Kapsayıcı kategori…

Bu Çığlık senaryolarının dikkate değer bir olasılığı bulunmaktadır ve bu nedenle stratejik planlama sırasında dikkate alınmaları gerekir.

Bir post-insan dünyasının arzu edilir olarak düşünülebilecek tarafları arasında en çok yer işgal edenin, bu dünyanın halihazırda hayatta olan kişilerin olabildiğince çoğunu içermesi olduğunu ileri sürebiliriz. Ne de olsa pek çoğumuz (en azından henüz) ölmemeyi ve post-insanlar haline gelebilmeyi oldukça arzuluyoruz. Bu kabul ile post-insan dünyasına geçiş gerçekleşmeden önce, (dondurma işlemleri sonucu başarılı bir şekilde korunmamış olacaklarını varsayarsak [53, 57]) şu anki insanların neredeyse tamamının ölmüş olacağı kadar gecikeceği herhangi bir senaryo, bir Çığlık olacaktır. Yaşam-uzatmayla ilgili bir atılımının gerçekleşmediği veya dondurma işleminin yaygın bir şekilde benimsenmediği durumda, tam gelişkin bir post-insan dünyasına doğru seksen yıl sonra gerçekleşecek yumuşak bir geçiş, önemli bir varoluşsal risk teşkil edecektir. “Arzu edilir”i, eğer şu an yaşamakta olan insanlara özel bir atıf ile tanımlarsak. Ancak, bu “eğer”, burada çözüme ulaştırmaya çalışmayacağımız, derin aksiyolojik sorunlar içermektedir.

 

7. İniltiler

Her şey yolunda giderse, bir gün fiziğin temel limitleriyle karşı karşıya kalabiliriz. Evren sonsuz görünüyor olmasına rağmen [58, 59], bizim potansiyel olarak kolonileştirebileceğimiz kısmı sonlu olabilir, ve bu nedenle bir gün erişilebilir olan tüm kaynaklarımız tükenebilir veya kaynaklar, maddenin, negentropinin kademeli azalmasına bağlı olarak ışıma nedeniyle kendiliğinden bozunabilir. Ancak burada astronomik zaman ölçeklerinden bahsediyoruz. Bu tür bir son, başımıza gelebilecekler arasında en iyisi olabilir, ve bu nedenle varoluşsal bir risklerden saymak yanıltıcı olacaktır. Bir İnilti olarak da nitelendirilemez, zira  bu senaryoda insanlığın potansiyelinin önemli bir bölümü gerçekleştirebilme imkanı vardır.

(Sıradan kapsayıcı hipotezler dışında) Anlamlı olasılıklara sahip iki İnilti var görünmektedir:

 

7.1. Potansiyelimiz veya hatta temel değerlerimiz evrimsel gelişim sonucu aşınır

Bu senaryonun kavramsal olarak anlaşılması (belki, “Bir simülasyonda yaşıyor olabiliriz ve simülasyon sona erdirilir” Patlama senaryosu ile birlikte), gözden geçirdiğimiz diğer varoluşsal risklere göre daha zordur. Tamamlayıcı bir makalede daha ayrıntılı ele alınmıştır [61]. Söz konusu makalenin ana hatları Ekler bölümünde verilmiştir.

Kaynak [62]’de, “kozmik müştereklerimiz”i kolonileştirme yarışında yitirebileceğimiz şeklinde ilgili bir senaryo aktarılmaktadır. Seçilim, kaynaklarının tümünü kolonileştirme sondaları göndermek için kullanan çoğaltıcıların lehinde işleyecektir [63].

Bu türden bir İniltinin meydana gelmesi için gereken süre görece uzun olabilecek olmasına rağmen, kısa vadedeki tercihlerimiz kaçınılmaz olarak böyle bir yola girip girmeyeceğimizi belirleyebileceği için [64], tercihlerimizin benimsememiz gereken politikalar üzerinde önemli etkileri olabilir. Evrimsel süreç veya kozmik kolonileştirme yarışı bir kez başladığında, durdurması zor veya hatta imkânsız olabilir [65]. Bir İniliti’yi önlemenin tek yolu, bu tür bir mekanizmanın daha en başından harekete geçmesini önlemek olabilir.

 

7.2. Dünya dışı bir uygarlık tarafından yok edilmek

Kısa vadede uzaylılarla karşılaşma ihtimalimiz çok düşük görünmektedir (bakınız, aşağıdaki olasılıkların değerlendirilmesi ile ilgili bölüm, ayrıca [66, 67]).

Diğer taraftan, eğer işler yolunda gider ve galaksiler arası bir uygarlığa dönüşürsek, uzak gelecekte bir gün uzaylılarla karşılaşabiliriz. Eğer düşmanca bir yaklaşım içerisinde ve (bilinmeyen bir nedenle) bizim o sırada sahip olduğumuzdan önemli ölçüde daha ileri bir teknolojiye sahiplerse, bizi egemenlikleri altına alma işine girişebilirler. Alternatif olarak, kendi yüksek enerjili fizik deneyleri yoluyla vakumdaki bir faz değişimini tetikledikleri durumda (bakınız, Patlamalar bölümü), bunun sonuçlarıyla yüzleşmemiz gerekebilir. Bu aşamada uygarlığımızın uzamsal genişliği muhtemelen çok büyük olacağından, fethedilmesi veya yok edilmesi görece uzun sürecektir, ve bu da senaryoyu bir Patlamadan ziyade bir İnilti yapar.

 

7.3. Öngörülemeyen bir durum

Kapsayıcı hipotez…

Bu İnilti senaryolarının ilki, uzun vadeli stratejiyi belirlerken daha yüksek bir ilgiliyi hak eder. İkinci İnilti ile uğraşmayı ise, (şu an yapabileceğimiz bir şey olmadığı için) güvenli bir şekilde gelecek kuşaklara delege edebiliriz.

 

8. Varoluşsal risklerin olasılıklarının değerlendirilmesi

 

8.1. Doğrudan yöntemlere karşı dolaylı yöntemler

Bir post-insan dünyası yaratmak ihtimalimizi tahmin etmek için birbirini tamamlayan iki yol mevcut. Doğrudan dediğimiz yol, çeşitli özel başarısızlık biçimlerini analiz etmek, her birine olasılıklar atamak, ve sonrasında başarı-olasılığını elde etmek için bu felaket-olasılıklarının toplam değerini, birden çıkartmak. Bu gerçekleştirilirken, bu olasılıkların temellerinde yatan nedensel etmenlerin nasıl işlediğine dair ayrıntılı bir anlayış elde edilecektir. Örneğin şu gibi soruların cevaplarını elde etmek istiyoruz: Kusursuz, nanoteknolojik bir küresel savunma sistemi tasarlamak, doğada hayatta kalabilecek ve üreyebilecek bir nanobot tasarlamaktan ne kadar daha zordur? Nanoteknolojiyi uzun bir süre boyunca sıkı düzenlemelere tabi tutmak ne denli akla yatkındır (ki kötücül niyetleri olan kişiler, mühürlenerek koruma altına alınmış birleştirici {İng. assembler} laboratuvarı dışında herhangi bir birleştiriciye erişemesinler [23])? Süper-zekânın, ileri nanoteknolojiden önce ortaya çıkma ihtimali nedir? Bu ve diğer ilgili parametreler hakkında tahminler yapabilir ve bu temelde bir değerlendirmeye varabiliriz; ve bunu yukarıda özetlenen tüm varoluşsal riskler için gerçekleştirmemiz mümkündür. (Daha önceki dört bölümde verilen sıralamalarda, çeşitli risklerin yaklaşık göreli olasılığını belirtmeye çalıştım.)

İkinci olarak ise, dolaylı yollar mevcut. Konuyla ilgili, yaşadığımız dünyanın bazı genel özelliklerine dayanarak ortaya atabileceğimiz kuramsal kısıtlamalar söz konusu. Bunların sayısı düşük, ancak gelecekteki teknolojik ve toplumsal gelişmeler hakkında yüksek ölçüde tahminlere dayanmadıkları için önemliler:

 

8.2. Fermi paradoksu

Fermi paradoksu, dünya dışı yaşama ait hiçbir işaret görmemiş olmamıza dair veri noktasının üzerinde duran soru işaretini ifade eder [68]. Bu durum, Yeryüzü-benzeri gezegenlerin anlamlı bir bölümünde yaşamın evrimleşmesi ve devamında ileri teknolojiler geliştirip, şu anki cihazlarımızla tespit edilebilecek şekilde evreni kolonileştirme işine girişmesi gibi bir durumun söz konusu olmadığına anlamına gelir. Yeryüzü-benzeri gezegenler ile tespit-edilebilecek-şekilde-koloni-kuran-uygarlıklar çizgisi üzerinde, (en azından) bir tane Büyük Filtre –aşırı derecede olasılık dışı olan evrimsel bir basamak– bulunuyor olmalıdır [69]. Eğer Büyük Filtre geçmişimizde değilse, (yakın) geleceğimizde olabileceğinden endişelenmemiz gerekir. Belki de belli bir teknoloji seviyesine gelen uygarlıkların neredeyse tamamı, kendi soylarının tükenmesine neden oluyor olabilir.

Neyse ki evrimsel geçmişimiz hakkında bildiklerimiz, Büyük Filtrenin ardımızda kaldığı hipoteziyle uyumludur. Neden herhangi dünya dışı bir yaşam ile karşılaşmadığımızı açıklamaya yetecek kadar olasılık dışı olan, aralarında ilk organik öz-çoğaltıcıların ortaya çıkışı, prokaryotlardan ökaryotlara geçiş, oksijenli solunuma geçiş, eşeyli üremeye geçiş ve muhtemelen diğerlerinin de bulunduğu, birkaç makul evrimsel basamak adayı mevcuttur(13). Sonuç olarak, şu anki evrimsel biyoloji bilgimiz ile Büyük Filtre argümanları, bize, post-insanlar haline gelme olasılığımız hakkında pek fazla bilgi vermemekle birlikte, bazı küçük ipuçları sağlayabilir [66, 70- 72].

Bu durum başka gezegenlerde bağımsız olarak evrimleşmiş yaşama ait (soyları tükenmiş olsa da olmasa da) izler bulduğumuz takdirde dramatik ölçüde değişecektir. Bu tür bir keşif, kötü haber niteliği taşıyacaktır. Görece gelişkin yaşam biçimleri (çok hücreli organizmalar) bulmak ise özellikle can sıkıcı olacaktır. {Bu sıkıntılarla ilgili daha geniş bir tartışmaya buradan ulaşabilirsiniz.}

 

8.3. Gözlem seçimi etkileri

Gözlem seçimi etkileri kuramı, evrendeki gözlemcilerin dağılımı ile ilgili bir hipotez söz konusu olduğunda ne gözlemlemeyi beklememiz gerektiğini anlatır. Bu tür öngörüleri gerçek gözlemlerimizle kıyaslayarak, çeşitli hipotezler lehinde veya aleyhinde istatistiksel kanıtlar elde edebiliriz.

Gelecekten beklentilerimizi öngörmek üzere bu tür bir akıl yürütme şeklinin uygulanması girişimlerinden biri Kıyamet Günü argümanıdır(14) [9, 73]. Bu argüman, insanlığın görece kısa vadede soyunun tükenmesi olasılığını sistematik olarak göz ardı ettiğimizi ileri sürer. Fikir en basit haliyle, kendimizi, referans sınıfımızda bulunan tüm gözlemciler kümesi içerisinden bir anlamda rastgele örnekler olarak ele almamız gerektiği, ve içerisinde bulunduğumuz kadar erken bir dönemde yaşıyor olma ihtimalimizin, ancak referans sınıfımız dahilinde bizden sonra yüksek sayıda gözlemci bulunmadığı takdirde yüksek olacağı şeklindedir. Kıyamet günü argümanı son derece tartışmalıdır, ve başka bir yerde belirttiğim şekilde, kuramsal olarak akla yatkın olsa da, uygulanabilirliği ile ilgili birtakım koşulların sağlanmaması nedeniyle gerçek duruma uygulanması hatalı olacaktır [75, 76].

Diğer antropik argümanlar daha başarılı olabilir: Fermi paradoksu üzerine kurulu argüman bunlardan biridir ve bir sonraki bölümde de bir diğeri bulunmaktadır. Genel olarak çıkarılması gereken derslerden biri, Yeryüzü’ndeki yaşamın bugüne gelebilmiş olması ve insansı atalarımızın ani bir felaket ile soyunun tükenmemiş olmasından, yeryüzüne-bağlı yaşamın son derece dayanıklı olduğunu sonucunu çıkarmanın doğru olmadığıdır. Yaşam, yeryüzü-benzeri gezegenlerin büyük çoğunluğunda zeki yaşam biçimleri evrimleşmeden önce tükeniyor olsa dahi, bizim, kendimizi yıkımdan kurtulmayı başaracak kadar şanslı olan istisnai gezegenlerden birinde bulmayı beklememiz gerekir(15). Bu durumda ise, geçmişteki başarımız, gelecekte de başarılı olacağımızı düşünmek için hiçbir temel sağlamaz.

Gözlem seçimi etkileri alanı yöntembilimsel açıdan son derece karmaşıktır [76, 78, 79] ve bu şeyler hakkındaki akıl yürütmelerimizin doğruluğundan emin olabilmemiz için daha fazla temel çalışma gerçekleştirilmesi gerekmektedir. Bu alanda pekâlâ henüz kavramayı başaramadığımız birçok başlık olabilir.

 

8.4. Simülasyon Argümanı

Çoğu kimse şu an bir bilgisayar simülasyonu içerisinde yaşıyor olduğunu düşünmemektedir. Yakın zamanda (gözlem seçimi etkileri kuramının yalnızca neredeyse tartışmasız olan kısımlarını kullanarak) bunun, kişinin ya bir post-insan aşamasına neredeyse kesin olarak ulaşamayacağımız, ya da neredeyse hiçbir post-insan uygarlığının büyük sayılarda ata-simülasyonları, yani kendilerinden evrimleştikleri insan-benzeri yaratıklara ait bilgisayar-emülasyonları koşturma isteği olan bireylere sahip olmayacağı fikirlerinden birini taşıyor olması anlamına geldiğini açıkladım [27]. Bu kötümser bir sonuçtur, çünkü şu an sahip olduğumuz görgül bilgilerin ışığında savunulabilir olan olası gelecek senaryoları çeşitlerini ciddi ölçüde azaltmaktadır.

Simülasyon argümanı, genel bir uyarı olmaktan fazlasıdır; aynı zamanda halen inanılır olan hipotezlerin sahip oldukları olasılıkları da değiştirir. Bir simülasyon içerisinde yaşıyor olmamız olasılığını (ki bu, çeşitli sonuçların gerçekleşme olasılıklarına dair tahminlerimizi birçok küçük şekilde etkileyebilir) artırırken, post-insan dünyasında geniş kaynaklara ve insan-benzeri güdülenmelere sahip birçok özgür birey olması olasılığını düşürür. Bu, bize, gerçekçi bir tavırla bekleyebileceğimiz şeyler ve dolayısıyla çabalarımızı neye yönlendirmemiz gerektiğiyle ilgili birtakım değerli ipuçları sağlamaktadır.

 

8.5. Psikolojik eğilimler?

Risk algısı psikolojisi, varoluşsal risk tahminlerimizi gözden geçirmemizi sağlayacak dolaylı temeller sağlayabilecek, aktif fakat oldukça dağınık bir alandır [80].

Gelecekle ilgili hangi senaryoların “makul ve gerçekçi” olduğuna dair sezgilerimizin televizyon, filmler ve romanlarda okuduklarımız ile şekillendiğini farz edin. (Ne de olsa insanların karşılaştığı gelecek hakkındaki söylemlerin büyük bir kısmı kurgu ve diğer eğlence bağlamlarında gerçekleşiyor.) Bu nedenle, konuyu eleştirel olarak ele aldığımız sırada, sezgilerimizin, iyi birer öykü olan senaryoların olasılıkları hakkında abartılma eğiliminde olup olmadığına şüpheyle yaklaşmamız gerekir; zira bu tür senaryolar çok daha tanıdık ve daha “gerçek” görünecektir. Bu güzel-öykü eğilimi oldukça güçlü olabilir. En son ne zaman, insanlığın soyunun aniden (birdenbire ve yerine başka bir uygarlık geçmeden) tükendiği bir film izlediniz? Bu senaryo, insan kahramanların bir canavar veya robot savaşçı istilasını başarıyla savuşturduğu bir senaryodan çok daha olası olabilecek olmasına rağmen, izlemesi pek eğlenceli olmazdı. Bu nedenle bu tür öykülerle pek karşılaşmıyoruz. Eğer dikkatli olmazsak, hatalı bir şekilde, sıkıcı olmayan senaryoların ciddiye almak için fazla zorlama olduğuna inanmaya başlayabiliriz. Genel olarak, eğer bir güzel-öykü eğilimi bulunduğunu düşünüyorsak, buna karşılık sıkıcı hipotezlere olan güveni artırmak ve ilginç, dramatik hipotezlere olan güveni azaltmamız yerinde olabilir. Bunun net etkisi, varoluşsal risklere ait olasılıkları, çok-satan anlatılar içerisine dahil edilmesi zor olanlar lehine, ve bir ihtimal varoluşsal risklerin olasılığını topluca artıracak şekilde yeniden dağıtmak olacaktır.

Risk-tahmini konusundaki eğilimlere dair görgül veriler belirsizdir. Genel olarak kendi beklentilerimiz veya risklerimizi değerlendirirken çeşitli sistematik eğilimlerden muzdarip olduğumuz ileri sürülmektedir. Bazı veriler, insanların kendi kişisel yetenekleri ve beklentileri ile ilgili olarak olduğundan yüksek tahminlerde bulunma eğiliminde olduklarını göstermektedir(16). Motor sürücülerinin yaklaşık dörtte üçü, kendilerinin, tipik bir sürücüden daha dikkatli sürücüler oldukları kanısındadır(17). Eğilim, yüksek eğitimli kişiler arasında dahi görülmektedir. Bir ankete göre, sosyologların neredeyse yarısı, kendilerinin gelecekte alanlarındaki en iyi on kişiden biri olacağına inanmakta, ve sosyologların %94’ü, mesleklerinde ortalama meslektaşlarından daha iyi olduklarını düşünmektedir. Depresif kişilerin, kendi içinde bulundukları durumun umutsuzluğu algısı haricinde, normal kişilere nazaran daha doğru bir öz-algıya sahip oldukları da gösterilmiştir [89-91]. Çoğu kişi, kendilerinin sıradan risklerin birer kurbanı olma ihtimalinin diğer kişilere göre daha düşük olduğuna inanıyor görünmektedir [92]. Halkın, (örneğin, uçak kazaları, cinayetler, yiyecek zehirlenmeleri gibi) yüksek ölçüde toplumsal olan risklere ait olasılıkları olduğundan fazla tahmin etme eğilimde olduğu yaygın olarak kabul görmektedir [93], ve yakın tarihli bir araştırma [94], halkın, geniş bir aralıktaki yaygın sağlık riskleri ile ilgili tahminlerinin, kendileri açısından olması gerekenden yüksek olduğunu göstermiştir. Bununla birlikte, yakın zamanlı diğer bir araştırmada [95] ise, mevcut verilerin (kesin bilgiyi akılda tutmak için gereken bilişsel maliyetten kaynaklı zayıf bir yuvarlama eğilimi olmakla beraber) risklere ait olasılıkların halk tarafından akılcı bir şekilde tahmin ediliyor olması ile uyumlu olduğu ileri sürülmüştür(18).

Kişisel riskleri tahmin etme konusundaki eğilimler için sağlam kanıtlar elde etsek dahi, varoluşsal riskler söz konusu olduğunda çıkarımlarda bulunma konusunda yine de daha dikkatli hareket etmemiz gerekmektedir.

 

8.6. Kanıtların değerlendirilmesi

Bu dolaylı argümanlar bir arada ele alındıklarında, çeşitli teknolojik risklerin doğrudan değerlendirilmesinden elde edileceklere önemli kısıtlamalar getirmektedir. Yine de kanıtlar varoluşsal bir felaketin işimizi bitireceği hipotezine ciddi bir olasılık atamamanın akıl dışı olacağı bir ağırlığa sahiptir. Benim kişisel görüşüm, bu olasılığın %25’ten düşük olduğunu düşünmenin bir yanılgı olacağı, ve en iyi tahminin bundan bir hayli yüksek olacağı yönünde. Ancak olasılık çok daha düşük olsa dahi (diyelim ki ~%1), kaybedeceklerimiz göz önünde bulundurulduğunda, konu yine de kendisine çok ciddi bir dikkat sarf edilmesini gerektirmektedir.

Birkaç yüzyıl veya daha kısa zaman ölçeklerindeki en büyük varoluşsal riskler, genel olarak, gelişkin teknolojik uygarlıkların faaliyetlerinden nedeniyle ortaya çıkanlardır. Bunu sıraladığımız çeşitli varoluşsal risklerden görüyoruz. Dört kategorinin her birindeki en büyük riskler, bizim faaliyetlerimizden kaynaklanıyor. Bunun geçerli olmadığı yegâne önemli varoluşsal riskler, (hipotezin bazı versiyonlarında sona erdirme bizim eylemlerimiz sonucunda harekete geçiriliyor olmasına rağmen) “simülasyonun sona erdirilmesi”; (her iki senaryo türünü içeren) kapsayıcı hipotezler; (çok düşük olasılıklı bir risk olan) göktaşı veya kuyruklu yıldız çarpması ve (kısa vadede son derece olasılık dışı görünen) dünya dışı bir uygarlık tarafından öldürülmemizdir(19).

Modern uygarlık tarafından yaratılan varoluşsal risklerin, olasılıklar arasında aslan payını alıyor olmaları şaşırtıcı olmayabilir. Ne de olsa şu an Yeryüzü’nde daha önce yapılmamış baz şeyler yapmaktayız, ve çok daha fazlasını yapmamızı sağlayacak yetenekler de geliştirmekteyiz. Eğer insan kökenli olmayan etmenler, insan türünü yüzbinlerce yıl boyunca ortadan kaldırmayı başaramadıysa, bu etmenlerin bizi önümüzdeki bir-iki yüzyıl içerisinde alaşağı etmeleri de olasılık dışı görünmektedir. Buna karşılık, gelişkin uygarlığa ait ürünlerin yıkımımıza neden olmayacağını düşünmek için hiçbir nedenimiz yoktur.

Bununla birlikte, insan tarafından yaratılmayan varoluşsal riskleri önemsiz görerek bir tarafa atma konusunda aceleci davranmamamız gerekir. Türümüzün bu türden her ne risk var olursa olsun, uzun süredir hayatta kalmış olduğu doğrudur. Ancak burada bir gözlem seçimi etkisi söz konusu olabilir. Sorulması gereken soru şudur: Doğal afetlerin Yeryüzü-benzeri gezegenleri sıklıkla kısırlaştırıyor olması kuramı ile ilgili olarak, ne gözlemlemeyi beklemeliyiz? Bunun, kısır kalmış bir gezegende yaşıyor olduğumuz olmadığı açıktır {çünkü bu durumda bu gözlemi yapacak birileri olmazdı}. Ancak belki de şu an olduğumuzdan daha ilkel insanlar olmuş olmamız gerektiği olabilir? Bu soruyu cevaplandırabilmek için, gözlemci seçimi kuramındaki referans sınıfı sorununa bir çözüm bulmamız gerekmektedir [76]. Ancak bu, henüz var olmayan bir yöntembilimin parçasıdır. Dolayısıyla şu an için en ciddi risklerin gelişkin insan uygarlığı tarafından yaratıldığını ifade edebiliriz; ancak bu iddiayı, doğrudan değerlendirmeler ile temellendiriyoruz. Bunun için dolaylı değerlendirmeler temelli başka destekler bulunup bulunmadığı, şu an için cevapsız bir sorudur.

Büyük varoluşsal risklere neden oldukları için uygarlık ve teknolojiyi suçlamamamız gerekir. Zira varoluşsal riskleri tanımlama şeklimiz nedeniyle, teknolojik bir uygarlık geliştirme konusunda başarısız olmamız demek, varoluşsal bir riskin (yani bir Çatırtı olan “teknolojik durgunluk”un) kurbanı olmuş olduğumuz anlamına gelir. Teknoloji olmadan, varoluşsal risklerden kaçınma ihtimalimiz de ortadan kalkacaktır. Teknoloji sayesinde ise, en büyük risklerin teknolojiden kaynaklandığı ortaya çıkmış olsa dahi, bir şansımız bulunmaktadır.

 

9. Politika ve etik ile ilgili çıkarımlar

Varoluşsal riskler, özel bir kategori olarak tanımlanmalarını yararlı kılan bir özellikler toplamına sahiptir: Varoluşsal bir felaketten kaynaklanacak zararın aşırı derecede büyük olması; deneme-yanılma yaklaşımının yararsızlığı; biyolojik ve kültürel mücadele yöntemlerinin evrimleşmemiş olması; varoluşsal risk azaltımının küresel bir kamu çıkarı olması; tüm gelecek nesillerin ortak paydaşlığının bulunması; alınması gereken birçok önlemin uluslararası nitelikte olması; konunun zorunlu olarak yüksek ölçüde spekülatif ve disiplinler arası nitelikte olması; varoluşsal risklerin olasılığının değerlendirilmesi konusundaki yöntembilimsel sorunların üstü kapalı ve çok çeşitli olması; ve tüm alanın görece ihmal edilmiş olması. En önemli varoluşsal riskler ve bunların temel nitelikleri ile ilgili araştırmamızdan, etik ve politika için geçici öneriler elde etmemiz mümkündür:

 

9.1. Varoluşsal riskler hakkında farkındalığın artırılması

Varoluşsal riskler konusunda daha fazla araştırmaya –belirli risklerin farklı yönlerine ilişkin detaylı çalışmaların yanısıra, etik, yöntembilimsel, güvenlik ve politika meseleleri ile ilgili detaylı çalışmalara– ihtiyacımız var. Olası tedbirler hakkında yapıcı siyasi tartışmaların yürütülebilmesi için, toplumsal farkındalığın da artırılması gerekiyor.

Şimdi, araştırmacıların, her zaman kendi alanlarında daha fazla araştırmanın yapılması gerektiği sonucuna varmaları sıradan bir durumdur. Ancak bu örnekte, bu durum gerçekten geçerlidir. Gübre sineğinin davranışları üzerine dahi, varoluşsal riskler için olduğundan daha fazla araştırma mevcuttur.

 

9.2. Uluslararası faaliyetler için bir çerçeve oluşturulması

Varoluşsal risklerin düşürülmesi küresel bir kamu çıkarı olduğundan, ideal durumda, bu çıkarın sağlanması maliyeti ve sorumluluğunun tüm insanlar arasında adil bir şekilde dağıtılabilmesi sağlamak üzere kurumsal bir çerçeve bulunması gerekir. Maliyetler adil bir şekilde dağıtılamasa bile, varoluşsal risk azaltımının optimal miktarlara yaklaşmasını sağlayacak bir sistemin kurulması teşebbüsünde bulunulmalıdır.

Bununla beraber, uluslararası faaliyetlere olan ihtiyaç, maliyet paylaşımı isteği ile sınırlı değildir. Pek çok varoluşsal risk, bir veya hatta çoğu ülkenin kendi içlerinde gerçekleştirecekleri ayrık eylemlerle önemli ölçüde azaltılamaz. Örneğin, ülkelerin çoğunluğu belirli yıkıcı nanoteknoloji türlerinin yaratılmasına yönelik ulusal kanunlar çıkarıp, yürürlüğe soksa dahi, daha özensiz ülkeler ne olursa olsun ilerlemeye karar verdiği takdirde güvenliği sağlamış olur muyuz? Ayrıca bu çözüm herkes için en iyisi olmasına rağmen, stratejik pazarlıklar, sorumsuz hareket eden tüm tarafların rüşvet ile antlaşmaya katılmalarını imkânsız hale getirebilir [14, 42].

 

9.3. Son çare olarak önleyici eylemlere hazır olunması

Dünyadaki devletler arasında geniş tabanlı bir fikir birliğinin oluşturulması zaman alıcı, güç, ve birçok durumda imkansızdır. Bu nedenle, güçlü bir devletin veya bir devletler koalisyonunun kendi ve ortak çıkarları için tek taraflı olarak hareket etmesi gereken durumlar olabileceğini kabul etmemiz gerekir. Bu tarz tek taraflı eylemler, diğer ülkelerin ulusal egemenliklerini ihlal edebilir ve bu eylemlerin önleyici bir şekilde gerçekleştirilmesi gerekebilir.

Bu varsayımsal durumu daha katı hale getirelim. İleri nanoteknolojinin önde gelen bir laboratuvarda yakın bir zamanda geliştirilmiş olduğunu farz edin. (İleri nanoteknoloji derken, neredeyse evrensel bir birleştirici, tasarım ve yapım süreçlerine ait detaylı içerik, hammadde kimyasalları, ve enerji sağlandığı takdirde, atomik ölçekteki bir hassasiyette –katı parçalar da dahil olmak üzere– geniş bir yelpazede üç boyutlu yapılar inşa edebilecek bir cihazdan bahsediyorum.) Tehlikeli nano-çoğaltıcılar inşa edilmesinin, basit ve tehlikeli çoğaltıcılara karşı koruma sağlayacak güvenilir bir nanoteknolojik savunma sistemi kurmaktan çok daha kolay olacağının, bu aşamada öngörülmüş olduğunu düşünelim. Sözgelimi, tehlikeli çoğaltıcılara ait tasarım planları, tasarım öncesi çalışmalarla halihazırda oluşturulmuş ve internet üzerinden erişilebilir olabilir. Ayrıca son birkaç aşama hariç, birleştirici inşasını sağlayacak araştırmaların büyük kısmı açık literatürde mevcuttur ve bu nedenle dünyanın diğer bölgelerindeki diğer laboratuvarların yakın vadede kendi birleştiricilerini geliştirmeleri de muhtemel olabileceğini de düşünelim. Bu durumda ne yapmak gerekir?

Bu kurgu göz önünde bulundurulduğunda, bu tehlikeli teknolojinin kısa süre içerisinde “haydut devletlerin”, nefret gruplarının, hatta belki en sonunda tekil psikopatların eline geçeceğinden emin olabiliriz. Şu durumda birileri, er ya da geç, yıkıcı bir nanobot geliştirip kullanabilir ve biyosferin yıkımına neden olabilir. Burada tek seçenek, bir nano-saldırıya karşı güvenilir önlemler yürürlüğe sokulana kadar, birleştirici teknolojisinin yaygınlaşmasını önleyecek eylemlerde bulunulmasıdır.

Çoğu ülkenin, birleştirici teknolojilerinin uygun şekilde düzenlenmesi çabalarına kendi istekleriyle katılacak kadar sorumlu davranacaklarını umuyorum. Düzenlemenin, birleştiricilerin yasaklanması şeklinde yürütülmesi zorunlu değildir, ancak birleştirici kullanımının geçici fakat etkin bir şekilde sınırlaması ve bunun bir izleme programına bağlı kalınarak gerçekleştirilmesi gerekir. Bununla beraber, kimi ülkeler katılım göstermeyi reddedebilir. Koalisyona katılmaları için öncelikle bu ülkelere baskı yapılması gerekir. Eğer tüm ikna çabaları başarısız olursa, katılımlarını sağlamak için güç kullanmak veya güç kullanma tehdidinde bulunmak gerekecektir.

Bağımsız bir ülkeye önleyici bir harekât düzenlemek, hafife alınacak bir hareket değildir, ancak yukarıda özetlenen gibi –hareketsiz kalmanın yüksek olasılıkla bir varoluşsal felakete neden olacağı– aşırı bir durumda, kaçınılamayacak bir sorumluluktur. Böyle bir durumda ulusal egemenliğin ihlal edilmesine karşı olan tüm ahlaki yasaklar, insanlığın yıkıma uğramasının engellenmesi gerekliliği sonucu hükümsüzdür. Söz konusu devlet henüz açıktan şiddete başvurmamış olsa da, tehlikeli teknolojinin, yeterli düzenlemelerin yokluğunda geliştirilmesine yönelik salt karar dahi bir saldırganlık eylemi olarak yorumlanmalıdır; zira dünyanın geri kalanını, söz gelimi, rastgele fırlatılacak birkaç nükleer füzeden daha büyük bir tehlikeye sokar.

Müdahale, tehlikenin kabul edilebilir bir seviyeye düşeceği kadar belirleyici, ancak bu hedefe ulaşmak için gerekenden daha fazla olmamalıdır. Bu uluslardan pek çok kimse, liderlerinin sorumsuz eylemlerinden sonuna kadar sorumlu tutulamayacağı için, suçlu ülkenin vatandaşlarına tazminat ödenmesi bile yerinde olabilir.

Arzu edilir olan, güç kullanımının gerekli olacağı bir durumda kalmamak olmasına rağmen, böyle bir olasılığın gerçekleşmesi durumunu ahlaki ve stratejik düşünme biçimlerimize dahil etmemiz gerekiyor. Bu senaryonun ahlaki yönleri konusunda önceden yaygın bir bilinçlenme sağlamak özellikle önemlidir, çünkü demokrasilerde belli ölçüde kamuoyu desteği bulunmadığı durumda, tehlikenin büyüklüğü görünür hale gelmeden belirleyici eylemlerde bulunma konusunda güçlüklerle karşılaşılabilir. Bu tür kanıtların görünür hale gelmelerini beklemek kesinlikle bir seçenek değildir, zira kanıtın kendisi sonumuz olabilir(20).

 

9.4. Farklılaşan teknolojik gelişim

Uygulanabilir bir teknoloji büyük bir ticari potansiyele sahipse, geliştirilmesini engellemek muhtemelen mümkün değildir. En azından çok sayıda özerk güç ve nispeten sınırlı gözetimin söz konusu olduğu günümüz dünyasında, veya en azından nadir bulunan maddeler veya büyük üretim tesisleri gerektirmeyen teknolojiler söz konusu olduğunda, bir yasağı %100 delinemez hale getirmek son derece güç olacaktır. Bazı teknolojiler (örneğin, ozon tabakasına zarar veren kimyasallar) için, kusursuz olmayan düzenlemeler yeterli olabilir. Ancak, doğada kendi kendine çoğalabilecek yıkıcı nanobotlar gibi başka teknolojiler söz konusu olduğunda, tek ihlal dahi ölümcül olabilir. Teknolojik yasakların uygulanabilirliğinin sınırları, tercih edebileceğimiz tedbirleri sınırlamaktadır.

Bizlerin gücü dahilinde olan şey (“biz”i nasıl tanımladığımıza bağlı olmakla birlikte) çeşitli teknolojilerin geliştirilme hızı ve bir ihtimal, uygulanabilir teknolojilerin geliştirilme ve uygulanma sırasıdır. Ayrımsal teknolojik gelişim şeklinde isimlendirdiğim noktayı odak noktamız yapmamız gerekiyor: Tehlikeli teknolojilerin uygulanmasını geciktirmeye çalışmak ve yararlı teknolojilerin, özellikle de diğer teknolojilerden kaynaklanan tehlikeleri azaltan teknolojilerin hayata geçirilmesini hızlandırmaya çalışmak. Nanoteknoloji söz konusu olduğunda arzu edilir sıra, savunma sistemlerinin, saldırı yetileri pek çok bağımsız güç için erişilebilir olmadan önce konuşlandırılması olacaktır; zira bir sır veya teknolojiye pek çokları sahip ise, yaygınlaşmasının devam etmesine engel olmak aşırı derecede güçtür. Biyoteknoloji söz konusu olduğunda ise, aşılar, anti-bakteriyel ve anti-viral ilaçlar, koruyucu giysiler, sensorlar ve teşhis araştırmalarının teşvik edilmesini ve biyolojik silah ajanları ile taşıyıcılarının geliştirilmesinin (ve yaygınlaştırılmasının) mümkün olduğunca ertelenmesini sağlamamız gerekmektedir. Güvenlik çerçevesinden bakıldığında, saldırı ve savunmayı eşit ölçüde ilerleten geliştirmeler, sorumluluk sahibi olarak nitelendirdiğimiz ülkeler tarafından yapılmadığı takdirde etkisizdir; ancak bu ülkeler tarafından geliştirildiği takdirde, potansiyel düşmanlarımıza karşı teknolojik üstünlük sağladıkları ölçüde avantajlıdır denebilir. Bu “etkisiz” geliştirmeler, doğal tehlikelerden kaynaklanacak tehditleri azalttığı takdirde kullanışlı olabilir ve elbette küresel güvenlik ile doğrudan alakalı olmayan faydalar sağlayabilir.

Bazı teknolojiler, geniş bir yelpazedeki tehditlerin azaltılmasına yardımcı olabileceği için, teşvik edilmeyi özellikle hak eder. Süper-zekâ bunlardan biridir. (Önceki bölümlerde tartışıldığı üzere) kendine özgü tehlikeleri olmasına rağmen, bunlar, ne olursa olsun belli bir noktada yüzleşmek durumunda olduğumuz tehlikelerdir. Diğer taraftan, başka riskleri düşürebileceği için, süper-zekâya olabildiğince erken sahip olmak arzu edilir bir durumdur. Bir süper-zekâ bize politika ilgili önerilerde bulunabilir. Süper-zekâ, nanoteknolojinin ilerleme eğrisinin eğimini artırabilir, ve bu sayede tehlikeli nano-çoğaltıcıların geliştirilmesi ile uygun savunmaların kurulması arasındaki süreyi kısaltabilir. Aksine, nanoteknolojiye süper-zekâdan önce erişmenin, süper-zekâdan kaynaklanacak risklerin azaltılması konusunda pek bir etkisi olmayacaktır. Bunun olası bir istisnası, süper-zekâya, yapay zekâ değil de, {zihin} yükleme yoluyla ulaşmaya karar vermemiz olabilir. Nanoteknoloji, yükleme işlemini büyük ölçüde kolaylaştıracaktır [39].

Çok çeşitli risk azaltma potansiyeline sahip olan diğer teknolojiler arasında, zekâ artırımı, bilgi teknolojileri, ve gözetim teknolojisi bulunmaktadır. Bunlar bizi, bireysel ve topluca daha zeki yapabilir ve ayrıca gerekli düzenlemeleri uygulanabilmesini mümkün kılabilir. Bu nedenle, bu teknolojilerin peşine düşmek için prima facie {ilk bakışta} güçlü nedenler var gibi görünmektedir(21).

Yukarıda bahsedildiği gibi, neredeyse tüm senaryolarda faydalı olabilecek bilim dışı gelişmeler de belirlenebilir. Barış ve uluslararası işbirliği, ve demokrasilerin gelişmesine yardımcı olan geleneklerin ilerletilmesi açıkça çabalamaya değer hedeflerdir(22).

 

9.5. Varoluşsal risklerin düşürülmesini doğrudan etkileyecek destek programları

Görece düşük varoluşsal risklerden, oldukça düşük maliyetlerle sakınılabilir. Örneğin, Yeryüzü civarındaki potansiyel olarak tehdit yaratabilecek nesneleri takip etme işini üstlenmiş kurumlar bulunmaktadır (örneğin NASA Yeryüzü Civarı Göktaşı İzleme Programı, ve Spaceguard Vakfı gibi). Bu çalışmalara ek finansman sağlanabilir. “Fizik felaketi” olasılıklarını azaltmak için, potansiyel olarak tehlikeli deneylerin önceden incelenmesi için bilirkişi atama yetkisine sahip kamu görevlileri atanabilir. Bu şu an ihtiyaç üzerine ve çoğunlukla deneylerin ilerlemesi konusunda kişisel menfaati bulunan araştırmacıların dürüstlüğüne dayanan bir şekilde gerçekleştirilmektedir.

Doğal kaynaklı veya genetik tasarımdan kaynaklanan salgınlar, daha sınırlı salgınların önlenmesi ve engellenmesini yardımcı olan aynı yöntemlerle azaltılabilir. Bu nedenle, terörle mücadele, sivil savunma, epidemiyolojik gözlem ve raporlama, panzehir geliştirme ve stoklama çalışmaları, acil durum karantina prosedürleri tatbikatları ve benzeri uygulamalar artırılabilir. Varoluşsal risklerden yola çıkarak dahi, bu tip programlara ayrılan bütçe oranının artırılmasının daha uygun maliyetli olacağı sonucuna varılır(23).

Kaza eseri veya kasıtlı gerçekleştirilecek bir nükleer kıyamet riskinin düşürülmesi, yaygın kabul gören bir önceliktir. Bu konuyla ilgili stratejik ve politik meseleler üzerine, benim burada herhangi bir ekleme yapmayacağım geniş bir literatür mevcuttur.

Nanoteknolojinin yaygınlaşmasının ve nanoteknoloji güçleri arasındaki bir silahlanma yarışının uzun vadeli tehlikeleri, ayrıca İnleme kategorisine dahil bir risk olan “hiçliğe doğru evrimleşme”, bir küresel koordinasyona sahip bir stratejinin yaratılması ve uygulanmasını, nükleer silahlardan dahi fazla gerektirebilir. Bu varoluşsal risklerin varlığının tanınması, güvenlik politikalarını tek taraflı güçlenmeye dayalı ulusal güvenlik arayışından, kademeli olarak silahlanma yarışlarını ve kitle imha silahlarının yaygınlaşmasını önleyecek bir entegre uluslararası güvenlik sistemi oluşturma yönünde kaydığı anlamına gelir. Hangi politikaların bu uzun vadeli hedefe erişimi ihtimalini sağlayabileceği bu makalenin kapsamı dışındadır.

 

9.6. Maxipok: Ahlaka uygun eylem için bir yaklaşım

Önceki bölümlerde varoluşsal risklerin bileşik olasılığının çok yüksek olduğu savunuldu. Sağduyulu düşünürlerin gerçekleştirebileceği farklı tahminler oldukça geniş bir aralıkta değişebilecek olmasına rağmen, varoluşsal bir felaketin negatif etkisi o denli büyüktür ki, bir bütün olarak insanlığın iyiliği düşünüldüğünde varoluşsal riskleri azaltmanın başat bir hedef olması gerektiği ileri edilebilir. Ahlaka uygun eylem için aşağıdaki, Maxipok olarak isimlendirebileceğimiz pratik kuralın benimsenmesi faydalı olabilir:

“Kabul edilebilir sonuç” varoluşsal bir felaketin önlendiği herhangi bir sonuç olmak üzere, kabul edilebilir bir sonuç olasılığını maksimize etmek… {İng. maximize the probability of an okay outcome: Maxipok}

Bu, mutlak geçerliliği olan bir ilkeden ziyade, en iyi ihtimalle pratik bir yöntem, bir prima facie öneridir, zira ölümcül bir küresel felaketi önlemenin ötesinde başka ahlaki amaçlar da olduğu ortadadır. Kullanışlı olan tarafı, önceliklerimizi belirlememizi sağlamasından ibarettir. Ahlaki eylem çabalarının her zaman, en büyük sorunları çözme ihtimali yüksek olan ciddi çalışmalardan ziyade, kendini-iyi-hissettiren projelere doğru kayma riski vardır(24). Kendini-iyi-hissettiren projeler ile fayda ağlama konusunda en büyük potansiyele sahip şeyler arasındaki ayrım, varoluşsal riskler öz konusu olduğunda muhtemelen özellikle büyük olacaktır. Hedefler bir parça soyut olduğu ve varoluşsal riskler şu an için hiçbir canlının acı çekmesine neden olmadığı için(25), bunları azaltmak için harcanacak çabalardan elde edilecek iyi-hissettirme hissi de zayıftır. Bu popüler ahlaki algının, zaman ve kaynaklarını öncelikle insanlığın küresel güvenliğini artırmaya adayan kişilerin, diğer hayırseverlere kıyasla daha takdire ve toplumsal övgüye değer görüleceği şekilde yeniden şekillendirileceği ahlaki bir yan çalışmanın gerçekleştirilmesini gerektirir.

Minimum gerekliliğin sağlanması olan Maxipok, Maximin‘den farklıdır. (Maximin: “Kötü sonuçlar arasından en iyisini elde edecek şekilde hareket etmek”)(26). Varoluşsal riskleri tamamen ortadan kaldıramayacağımızdan (ne de olsa her an, uzak bir galakside bir milyar yıl önce tetiklenmiş bir vakum faz geçişinin ilerleyen cephesine rastlayıp kozmik tarihin çöp kutusuna gidebiliriz) mevcut bağlamda maximin’i kullanmak, gerçekleşmek üzere olan yok oluş varsayımı altında en büyük faydayı sağlamaya çalışmak anlamını taşır. Başka bir deyişle, maximin, bugün son günümüzmüş gibi eğlenmemiz gerektiği anlamına gelmektedir.

Bu seçeneğin cazibesi tartışılmaz olmasına rağmen, özellikle de doğru hareket ettiğimiz takdirde bir yarınımız olabileceğini düşünmemiz daha doğru olacaktır.

 

Teşekkürler

Curt Adams, Amara Angelica, Brian Atkins, Milan Cirkovic, Douglas Chamberlain, Robert A. Freitas Jr., Mark Gubrud, Robin Hanson, Barbara Lamar, John Leslie, Mike Treder, Ken Olum, Robert Pisani, bir kaç anonim hakeme, ve bu makalenin daha eski bir versyonunun sunulduğu Palo Alto’da Nisan 2001’de gerçekleşen Foresight Enstitüsü’nün Senior Associates Toplantısındaki SIG oturumu izleyicilerinin yorumlarına müteşekkirim. Bu makalede ayrıca, Michaela Fistioc, Bill Joy, John Oh, Pat Parker, Keith DeRose, ve Peter Singer ile yapılan tartışmalardan da faydalandım.

 

Ek: Bir evrimsel İnilti’nin ana hatları

Bu ekte, neden evrimsel bir İnilti ile karşılaşma riskimiz olduğu özetlenmektedir. Aşağıdaki on bir halkalı akıl yürütme zincirinin, katı bir kanıtlama olması değil, edebi süslemelere başvurmayan, fikir verici bir anlatı olması amaçlanmıştır. (Bu fikirlerin bir kısmının daha kapsamlı bir tartışması için bakınız, [61].)

  1. Evrimin, basitten daha karmaşık yaşam biçimlerine doğru götürdüğünü düşünmek kolay olsa da, bunun her zaman bu şekilde olacağını eleştirelliği elden bırakarak kabul etmememiz gerekir. Yeryüzü’ndeki basit çoğaltıcıların, (birçok başka şey ile birlikte) insanlara evrimleştiği doğrudur, ancak bu veri noktasının bir kanıt olarak değeri, gözlem seçimi etkisi nedeniyle son derece sınırlıdır (bununla ilgili daha geniş bilgi varoluşsal risklerin olasılıklarının değerlendirilmesi bölümünde mevcut).
  2. Şu an insan türünün evrimsel gelişimine pek şahit Bunun nedeni, biyolojik evrimin zaman ölçeğinin pek çok nesiller mertebesinde olmasıdır, evrimin artık gerçekleşmiyor olması değil [103].
  3. Biyolojik insan evriminin yavaş olması, öncelikle, (minimum gecikmenin on beş yıl olduğu) insan üremesinin yavaşlığından kaynaklanmaktadır.
  4. Yüklemeler ve makina zekâları, kaynaklar erişilebilir olduğunda neredeyse-anında çoğalabilir. Ayrıca evrimlerinin bazı yönlerini öngörebilirlerse, rekabeti kaybetmeyi beklemek yerine, kendilerini uygun şekilde derhal modifiye edebilirler. Bu etmenlerin her ikisi de post-insan dünyasında çok daha hızlı bir evrimsel gelişime neden olabilir.
  5. Bizim değer atfettiğimiz eylemler ve varlık biçimleri, post-insan dünyasında en yüksek ekonomik değeri olan eylemlerle çakışmayabilir. Kaynaklarının belli bir oranını (verimsiz veya optimal seviyeden düşük verimliliği olan) “hobilere” ayırmak, rekabette bir dezavantaj olacak, ve bu nedenle rekabeti kaybetme riskini de beraberinde getirecektir. (Öyleyse, oyun, insanlar ve diğer primatlarda nasıl evrimleşmiştir? Muhtemelen uyumsaldır ve dolayısıyla burada kullandığımız anlamda “verimli”dir. Oyuna bir değer atfetmekteyiz. Ancak buradaki tehlike, gelecekteki uyumsal eylemlerin, bizim halihazırda değerli olarak gördüğümüz eylemler olmayabileceğidir – gelecekteki uyumsal eylemler, bilinçle dahi ilişkili olmayabilir.)
  6. “Rekabeti kaybetme”nin iki farklı anlamını ayırt etmemiz gerekiyor. İlk anlamıyla, rekabeti kaybeden taraf, yalnızca göreli bir anlamda rekabeti kaybeder: Sahip olduğu kaynaklar, zaman içerisinde kolonileştirilmiş toplam kaynakların giderek daha az ve daha az kısmını oluşturur. İkinci anlamıyla ise, rekabeti kaybeden cinsin sahip olduğu kaynaklar mutlak anlamda azalır ve en sonunda tipin nesli tükenir.
  7. Eğer mülkiyet hakları neredeyse kusursuz bir şekilde uygulanıyor olsaydı (kozmik uzaklıklar söz konusu olduğunda bunu yapmak zor görünmektedir), “hobiciler” (kaynaklarının bir kısmını verimli olmayan eylemde kullanan cinsler) yalnızca ilk anlamda rekabeti kaybedecektir. Ayrıntılara bağlı olmakla birlikte, bu bir İnilti olarak nitelenebilir de nitelenemeyebilir de. Eğer kaybedilen potansiyel (bizim değerli olarak görmediğimiz cinslerin artan baskınlığı nedeniyle) yeterince büyükse, bu bir İnilti olacaktır.
  8. Mülkiyet haklarının neredeyse kusursuzca uygulanması söz konusu değilse, hobicilerin neslinin tükeneceğinden kaygı duyabiliriz, zira aynı ekolojik niş söz konusu olduğunda, kaynaklarını hobi faaliyetleri üzerinde kullanmayanlardan daha verimsiz rakipler olacaklardır.
  9. Bu sonuçtan kaçınmanın tek yolu, doğal evrim yerine yönlendirilmiş evrim‘i geçirmek, yani sosyal seçim baskılarını, hobici cinsin tercih edileceği şekilde (örneğin, hobici-olmayanların vergiye tabi tutulması vasıtasıyla) değiştirilmesi olabilir [19, 104]. Bu hobici cinsi daha rekabetçi hale getirebilir.
  10. Bununla birlikte, yönlendirilmiş evrim, koordinasyon gerektirir. Birtakım diğer toplumlar verimliliklerini hobicilere sübvansiyon sağlamamak vasıtasıyla artırmak üzere artırmaya karar verirlerse, bazı toplumların hobicileri tercih etmesinin bir anlamı kalmaz. Çünkü bunlardan ikincisi, eninde sonunda ilki karşısında rekabeti kaybedecektir. Bu nedenle yönlendirilmiş evrimin, bir evrimsel İnilti’ye dönüşmesinden kaçınılmasını sağlayabilmenin tek yolu en yüksek örgütlenme seviyesinde yalnızca tek bağımsız ajanın bulunmasıdır. Bu tür bir örgütlenmeyi bir tekiz {İng. singleton, ayrıca bakınız, What is a Singleton?} olarak isimlendirebiliriz.
  11. Bir tekizin, tek parça bloktan oluşuyor olması gerekmez. Kendi içerisinde bağımsız gruplar ve bireyler içeren son derece çeşitli bir ekoloji barındırıyor olabilir. Bir tekiz, örneğin demokratik bir dünya devleti veya dost canlısı bir süper-zekâ olabilir [35]. Ancak, bir tekizin meydana gelip gelmeyeceği belli değildir. Eğer bir tekiz oluşmazsa, ve eğer gelecekteki evrime ait uyum manzarası bizim değerli buluğumuz eylemlerle meşgul olmak lehine işlemiyorsa, sonuç bir evrimsel İnilti olabilir.

 

Notlar

(1) “Mevcut en iyi öznel tahmin” kavramı, başka bağlamlarda pazarın ilgili Gelecek Fikri’nin {İng. Idea Future} iddiası lehine yatırım yapması şeklinde kullanılabilir [1]. Bu açıklama, kastedilen kavramı açıklamaya yardımcı olabilir, ancak bir tanım olarak kullanılamaz. Yalnızca bir ahmak insanlığın soyunun tükenmesini gerektirecek bir iddiaya girer, çünkü kazansa da kaybetse de yatırımını geri alma ihtimali yoktur.

(2) Bu, Önleyici İlke olarak adlandırılan yaklaşımın özünü oluşturan temel fikir olarak görülebilir [2]. Bu ilkenin, örneğin riskli yeni bir prosedürün yürürlüğe konması hakkındaki anlaşmazlıklarda, bu gerekliliğe ait kanıtlama yükümlülüğünün hangi tarafa ait olduğu açısından, herhangi daha güçlü bir yorumu kolayca akıl dışı ölçüde basitleşebilir [3].

(3) Nesnel ve öznel olasılıklar arasındaki ayrım için bakınız, örneğin [4-6]. Karar kuramına klasik bir yaklaşım için bakınız, [7].

(4) Başkan Kennedy’nin, ADB ile SSCB arasındaki bir nükleer savaş çıkmasına dair “üçte bir ile yüzde elli arasında bir yerlerde” dediği söylenir. ([8], sayfa 110, ayrıca bakınız, [9], bölüm 2).  Seçkin matematikçi, oyun teorisi ile bilgisayar biliminin kurucularından ve Hava Kuvvetleri Stratejik Füze Değerlendirme Komisyonu başkanı olarak erken ABD nükleer stratejisinin kilit mimarı olan John von Neumann’ın (1903-1957) ” 1. nükleer savaş olacağı kesin; ve 2. bu savaşta herkesin öleceği de kesin” demiş olduğu aktarılmaktadır [10], s. 114.

(5) Yani, insan türü için geçerli olduğu şekliyle. Diğer türlerin soyunun tükenişi sıkça karşılaşılan bir durumdur. Yeryüzü’nde yaşamış olan türlerin %99’nun soyunun tükenmiş olduğu tahmin edilmektedir. Ayrıca varoluşsal felaketlere kurgusal eserler vasıtasıyla bir ölçüde imgesel bir aşinalık da kazanabiliriz. Mutlu sonlara karşı bir eğilim söz konusu olsa da, Dr. Strangelove [11] adlı film ve Nevil Shute’e ait dokunaklı roman Kumsalda [12] gibi istisnalar da mevcut. Dahası bazı varoluşsal bazı riskler (örneğin, türleri yok eden göktaşı çarpmaları) söz konusu olduğunda, daha büyük olayın olasılığını belirlememize yardımı dokunabilecek hafif şekillerini (örneğin, daha küçük göktaşı çarpmaları gibi) deneyimlediğimiz durumlar mevcut. Fakat ciddi varoluşsal risklerin çoğu için geçmiş örnekler bulunmaz.

(6) Buradaki terminolojide, T. S. Eliot’un meşhur dizelerinden esinlenildi:

This is the way the world ends / Not with a bang but a whimper. {İşte dünya böyle sona erdi / Pat diye değil, iniltiyle.}

-T. S. Eliot, The Hollow Men {İçi Boş Adamlar}

Ve ayrıca John Earman’a ait genel görelilik kuramı kitabının başlığından esinlenildi [17]. {Patlamalar, Çökmeler, İniltiler ve Çığlıklar: Göreli Uzay-zamanda Tekillikler ve Nedensizlikler.}

Riskleri sınıflandırma konusunda genel bilgi için bakınız, [18].

(7) “Post-insanlık” ve “post-insan uygarlığı” sözleri, bir gün dönüşebileceğimiz, (çok daha yüksek zihinsel ve fiziksel yetileri olan, çok uzun yaşam sürelerine sahip) teknolojik olarak yüksek ölçüde geliştirilmiş varlıkları belirtmektedir [19].

(8) Bunların bir kısmı, John Leslie’ye ait harikulade kitapta [9] daha ayrıntılı bir şekilde, ve [20]’de kısaca tartışılmıştır. Bill Joy’un Wired‘da yayımlanan makalesinin yakın zamanda yarattığı tartışmalar da bu meselelerin bazılarına dikkat çekmiştir.

(9) Nanoteknolojinin, elbette, genel olarak tıp, çevre, ve ekonomiye büyük faydalar sağlama potansiyeli bulunmaktadır ancak burada incelenen, madalyonun bu yüzü değildir.

(10) Buna kıyasla, 1908’deki Tunguska olayı, çapı yaklaşık olarak 60 metre olan bir cisimden kaynaklanmıştır; cisim 2 megatonluk TNT etkisi yapmış (Hiroşima bombası yaklaşık 16 kilotonluk TNT etkisine sahiptir) ve 40 km çaplı mesafede bulunan ağaçlar devrilmiştir.

(11) İnsanlığın ilerlemesini süresiz olarak engelleyecek kötü programlanmış bir süper-zekânın bir İnilti olarak sayılıp sayılmayacağı tartışmalıdır. Bu süper-zekânın kendisinin, bir tür post-insanlık sayılamak kadar sınırlı bir doğada olması gerekir; aksi takdirde bu bir Çığlık olacaktır.

(12) Ben, (örneğin [55]’te ve ayrıca [56]’da olduğu gibi ana akım medyada yaygın rastlanan) insan türü ile yaklaşık olarak insan eşdeğeri olan insan yapımı robotlar arasındaki konvansiyonel bir savaşta yok edileceğimiz hipotezinin doğru olma ihtimalinin aşırı derecede düşük olduğu kanısındayım.

(13) Bunlar, (belki eşzamanlı birden fazla konumda ortaya çıkmalarının gerektiği veya başka diğer nadir rastlantıları gerektiren) zor, kritik basamaklar olarak, öncelikle (örneğin, insansı atalarımızdan, Homo sapiens sapiens’in evrimleşmesinin aksine) çok uzun bir zaman aldıkları için akla yatkın adaylardır. Ancak bir basamağın süresi, basamağın olasılık dışı olduğunu düşünmek için her zaman yeterli bir neden değildir. Örneğin, oksijenli solunumun evrimleşmesi uzun bir zaman almıştır, ancak bu, zor bir basamak olması için yeterli zemin sağlamaz. Oksijen solunumu, ancak atmosferdeki serbest oksijen miktarı anlamlı seviyelere geldikten sonra makul bir adaptasyon haline gelmiştir, ve anaerobik organizmaların çeşitli oksijen kuyularını doygun hale getirmeleri ve atmosferik oksijeni gerekli seviyelere yükseltmeleri yüzlerce milyon yıl almıştır. Bu süreç son derece yavaştı, ancak eninde sonunda gerçekleşeceği neredeyse kesindi, bu nedenle oksijenli solunumun ve beraberinde getirdiği Kambriyen patlamasının insan evrimindeki zor bir basamak olduğu sonucuna varmak doğru değildir.

(14) Kıyamet günü argümanının kısa bir özeti için bakınız, [74]. {Ayrıca, bakınız, Kıyamet Ne Zaman?}

(15) Bu yaklaşım, kozmostaki Yeryüzü benzeri gezegenlerin toplam sayısı, en azından bir kısmında zeki yaşamın ortaya çıkması ihtimalinin yeterli seviyede yüksek olacağı kadar fazla olduğu takdirde geçerlidir [77].

(16) En azından erkekler bu eğilimdedir. Bir araştırma [81], kadınların kendi yetilerini, erkeklerin kendilerininkini abarttığı kadar olmasa da, azımsadıklarına işaret etmektedir. Diğer kaynaklar için bakınız, [82], sayfa 489, ayrıca [83, 84].

(17) Bir değerlendirme için bakınız, [85], bölüm 12. Bu araştırmaların bir kısmı, sürücülerin %75’inin, ortalama sürücüden daha iyi olabileceklerinin pekâlâ doğru olabileceğini göz ardı etmektedir; diğer taraftan bazı araştırmalar ise bu hataya düşmemiş görünmektedir; örneğin bakınız, [86].

(18) Daha yakın tarihli araştırmalarda, halkın akılcı risk değerlendirmeleri konusunda daha başarılı olmalarının nedeni, önceki sonuçların halk tarafından öğrenilmesi ve halkın bunlar uyarınca fikirlerini yeniden ayarlaması olabilir mi? Risk algısındaki sistematik eğilimleri ortaya çıkarmaya çalışan araştırmacılar, hareketli bir hedefi vurmaya çalışıyor olabilirler. Tıpkı hisse senedi endekslerindeki düzenleri bulmaya çalışanların yaşadığı gibi, bir tür bir etkinin var olduğuna dair görüş birliğine varıldığı anda, etki ortadan kalkıyor olabilir.

(19) Çatırtı senaryolarından “teknolojik durgunluk”un tam olarak bizim eylemlerimizden kaynaklandığı söylenemez.

(20) Nanoteknolojiye hazırlanmak için in en iyi yol hakkında stratejiler oluşturma, farklı zamanlarda farklı duruşları savunmanın neden olacağı memetik sonuçlar nedeniyle daha da karmaşıklaşır. Nanoteknoloji risklerini yönetme konusundaki bazı diğer düşünceler için bakınız, [23, 25, 26, 41, 96-99].

(21) Zekâ geliştirmeleri, elbette kötücül kişilerin kötülük tutkularını gerçekleştirme konusunda daha başarılı hale gelmelerini sağlayabilir, ve gözetim sistemleri diktatörlük rejimleri tarafından kullanılabilir (ve çekiç de birinin kafasına vurmak için kullanılabilir). Çift taraflı olmayan nimetler nadirdir. Ancak iyi ve kötü tarafları tartıldığında, bu teknolojiler yine de ilerletilmeye değerdir. Gözetim söz konusu olduğunda, David Brin tarafından ileri sürülen [100], bizi izleyen kurumları izleyebileceğimiz türden bir çift-yönlü şeffaflığı hedeflemek önemlidir.

(22) Diğer taraftan, sınırlı kaynaklar söz konusu olduğunda, öncelikler sıralamasını akıllıca oluşturmak önemlidir. Şu anda varoluşsal risklere ayırılacak bir milyon dolar, büyük bir fark yaratacaktır; ancak dünya barışını ilerletmek için kullanıldığı durumda, okyanustaki bir damla gibidir.

(23) Bu makale, 11 Eylül trajedisinden önce yazıldı. ABD savunma öncelikleri, o zamandan beri, burada savunulan yönde bir değişim geçirdi. Değişimin devam etmesi gerektiği kanısındayım.

(24) Örneğin, bakınız [101] ve buradaki kaynaklar.

(25) Bunun bir istisnası, bir post-insan geleceğinin, şu an hayatta olan insanların büyük bir bölümünü içermesinin mümkün ve arzu edilir olarak ele alınması olacaktır. Bu görüş benimsendiği takdirde, 150.000 kişi/gün’lük küresel ölüm oranı, insanlığın acı çekmesine neden olan, süregiden, muhtemelen varoluşsal (Çığlık tipi) bir felakettir.

(26) “Maximin” terimi, John Rawls’ın kullanımıyla [102], refah ekonomisi alanında (bazı önemli kısıtlamalar göz önüne alındığında) en kötü durumdaki sınıflar beklentisini iyileştiren devleti tercih etmemiz gerektiği ilkesini anlatan şekilde farklı bir anlamda kullanılmaktadır. İlkenin bu şekli, aşağıdaki ifadelerden etkilenmez.

 

Kaynaklar

  1. Hanson, R. (1995). Could Gambling Save Science? Encouraging an Honest Consensus. Social Epistemology, 9:1, 3-33.
  2. Tickner, J. et al. (2000). The Precautionary Principle.
    URL: http://www.biotech-info.net/handbook.pdf.
  3. Foster, K.R. et al. (2000). Science and the Precautionary Principle. Science, 288, 979-981.
    URL: http://www.biotech-info.net/science_and_PP.html.
  4. Lewis, D. (1986). Philosophical Papers(Vol. 2). New York: Oxford University Press.
  5. Lewis, D. (1994). Humean Supervenience Debugged. Mind, 103(412), 473-490.
  6. Bostrom, N. (1999). A Subjectivist Theory of Objective Chance, British Society for the Philosophy of Science Conference, July 8-9, Nottingham, U.K.
  7. Jeffrey, R. (1965). The logic of decision: McGraw-Hill.
  8. Kennedy, R. (1968). 13 Days. London: Macmillan.
  9. Leslie, J. (1996). The End of the World: The Science and Ethics of Human Extinction. London: Routledge.
  10. Putnam, H. (1979). The place of facts in a world of values. In D. Huff & O. Prewett (Eds.), The Nature of the Physical Universe(pp. 113-140). New York: John Wiley.
  11. Kubrick, S. (1964). Dr. Strangelove or How I Learned to Stop Worrying and Love the Bomb: Columbia/Tristar Studios.
  12. Shute, N. (1989). On the Beach: Ballentine Books.
  13. Kaul, I. (1999). Global Public Goods: Oxford University Press.
  14. Feldman, A. (1980). Welfare Economics and Social Choice Theory. Boston: Martinus Nijhoff Publishing.
  15. Caplin, A., & Leahy, J. (2000). The Social Discount Rate. National Bureau of Economic Research, Working paper 7983.
  16. Schelling, T.C. (2000). Intergenerational and International Discounting. Risk Analysis, 20(6), 833-837.
  17. Earman, J. (1995). Bangs, Crunches, Whimpers, and Shrieks: Singularities and Acausalities in Relativistic Spacetimes: Oxford University Press.
  18. Morgan, M.G. (2000). Categorizing Risks for Risk Ranking. Risk Analysis, 20(1), 49-58.
  19. Bostrom, N. et al. (1999). The Transhumanist FAQ.
    URL: https://nickbostrom.com/views/transhumanist.pdf.
  20. Powell, C. (2000). 20 Ways the World Could End. Discover, 21(10).
    URL: http://www.discover.com/oct_00/featworld.html.
  21. Joy, B. (2000). Why the future doesn’t need us. Wired, 8.04.
    URL: http://www.wired.com/wired/archive/8.04/joy_pr.html.
  22. Drexler, K.E. (1992). Nanosystems. New York: John Wiley & Sons, Inc.
  23. Drexler, K.E. (1985). Engines of Creation: The Coming Era of Nanotechnology. London: Forth Estate.
    URL: http://e-drexler.com/p/06/00/EOC_Cover.html.
  24. Merkle, R. et al. (1991). Theoretical studies of a hydrogen abstraction tool for nanotechnology. Nanotechnology, 2, 187-195.
  25. Freitas (Jr.), R.A. (2000). Some Limits to Global Ecophagy by Biovorous Nanoreplicators, with Public Policy Recommendations. Zyvex preprint, April 2000.
    URL: https://www.foresight.org/nano/Ecophagy.html.
  26. Gubrud, M. (2000). Nanotechnology and International Security, Fifth Foresight Conference on Molecular Nanotechnology.
    URL: http://www.foresight.org/Conferences/MNT05/Papers/Gubrud/index.html.
  27. Bostrom, N. (2001). Are You Living in a Simulation? Working-paper.
    URL: http://www.simulation-argument.com.
    URL: http://bilimvesaire.com/2017/02/bilim/simulasyon-argumani/.
  28. Moravec, H. (1989). Mind Children. Harvard: Harvard University Press.
  29. Moravec, H. (1999). Robot: Mere Machine to Transcendent Mind. New York: Oxford University Press.
  30. Vinge, V. (1993). The Coming Technological Singularity. Whole Earth Review, Winter issue.
  31. Bostrom, N. (1998). How Long Before Superintelligence? International Journal of Futures Studies, 2.
    URL: http://www.nickbostrom.com/superintelligence.html.
  32. Moravec, H. (1998). When will computer hardware match the human brain? Journal of Transhumanism, 1.
    URL: http://www.jetpress.org/volume1/moravec.htm.
  33. Kurzweil, R. (1999). The Age of Spiritual Machines: When computers exceed human intelligence. New York: Viking.
  34. Hanson, R. et al. (1998). A Critical Discussion of Vinge’s Singularity Concept. Extropy Online.
    URL: http://mason.gmu.edu/~rhanson/vi.html.
    URL: http://bilimvesaire.com/2017/09/vesaire/vernor-vingein-tekillik-kavrami-ile-ilgili-elestirel-bir-tartisma/
  35. Yudkowsky, E. (2001). Friendly AI 0.9.
    URL: https://intelligence.org/files/CFAI.pdf.
  36. National Intelligence Council (2000). Global Trends 2015: A Dialogue about the Future with Nongovernment Experts.
  37. Nowak, R. (2001). Disaster in the making. New Scientist, 13 January 2001.
    URL: http://www.newscientist.com/nsplus/insight/bioterrorism/disasterin.html.
  38. Jackson, R.J. et al. (2001). Expression of Mouse Interleukin-4 by a Recombinant Ectromelia Virus Suppresses Cytolytic Lymphocyte Responses and Overcomes Genetic Resistance to Mousepox. Journal of Virology, 73, 1479-1491.
  39. Freitas (Jr.), R.A. (1999). Nanomedicine, Volume 1: Basic Capabilities. Georgetown, TX: Landes Bioscience.
    URL: http://www.nanomedicine.com.
  40. Foresight Institute (2000). Foresight Guidelines on Molecular Nanotechnology, Version 3.7.
    URL: http://www.foresight.org/guidelines/current.html.
  41. Foresight Institute (1997-1991). Accidents, Malice, Progress, and Other Topics. Background 2, Rev. 1.
    URL: http://www.foresight.org/Updates/Background2.html.
  42. Schelling, T.C. (1960). The Strategy of Conflict. Cambridge, Mass.: Harvard University Press.
  43. Knight, L.U. (2001). The Voluntary Human Extinction Movement.
    URL: http://www.vhemt.org/.
  44. Schopenhauer, A. (1891). Die Welt als Wille und Vorstellung. Leipzig: F, A, Brockhaus.
  45. Coleman, S., & Luccia, F. (1980). Gravitational effects on and of vacuum decay. Physical Review D, 21, 3305-3315.
  46. Dar, A. et al. (1999). Will relativistic heavy-ion colliders destroy our planet? Physics Letters, B 470, 142-148.
  47. Turner, M.S., & Wilczek, F. (1982). Is our vacuum metastable? Nature, August 12, 633-634.
  48. Morrison, D. et al. (1994). The Impact Hazard. In T. Gehrels (Ed.), Hazards Due to Comets and Asteroids. Tucson: The University of Arizona Press.
  49. Gold, R.E. (1999). SHIELD: A Comprehensive Earth Protection System. A Phase I Report on the NASA Institute for Advanced Concepts, May 28, 1999.
  50. Huxley, A. (1932). Brave New World. London: Chatto & Windus.
  51. Flynn, J.R. (1987). Massive IQ gains in many countries: What IQ tests really measure. Psychological Bulletin, 101, 171-191.
  52. Storfer, M. (1999). Myopia, Intelligence, and the Expanding Human Neocortex. International Journal of Neuroscience, 98(3-4).
  53. Merkle, R. (1994). The Molecular Repair of the Brain. Cryonics, 15(1 and 2).
  54. Hanson, R. (1994). What If Uploads Come First: The crack of a future dawn. Extropy, 6(2).
    URL: http://hanson.gmu.edu/uploads.html.
  55. Warwick, K. (1997). March of the Machines. London: Century.
  56. Whitby, B. et al. (2000). How to Avoid a Robot Takeover: Political and Ethical Choices in the Design and Introduction of Intelligent Artifacts. Presented at AISB-00 Symposium on Artificial Intelligence, Ethics an (Quasi-) Human Rights.
    URL: http://www.cogs.susx.ac.uk/users/blayw/BlayAISB00.html.
  57. Ettinger, R. (1964). The prospect of immortality. New York: Doubleday.
  58. Zehavi, I., & Dekel, A. (1999). Evidence for a positive cosmological constant from flows of galaxies and distant supernovae. Nature, 401(6750), 252-254.
  59. Bostrom, N. (2001). Are Cosmological Theories Compatible With All Possible Evidence? A Missing Methodological Link. In preparation.
  60. Cirkovic, M., & Bostrom, N. (2000). Cosmological Constant and the Final Anthropic Hypothesis. Astrophysics and Space Science, 274(4), 675-687.
    URL: https://arxiv.org/abs/gr-qc/9906042.
  61. Bostrom, N. (2001). The Future of Human Evolution. Working paper.
    URL: http://www.nickbostrom.com.
  62. Hanson, R. (1998). Burning the Cosmic Commons: Evolutionary Strategies for Interstellar Colonization. Working paper. URL: http://mason.gmu.edu/~rhanson/filluniv.pdf.
  63. Freitas(Jr.), R.A. (1980). A Self-Reproducing Interstellar Probe. J. Brit. Interplanet. Soc., 33, 251-264.
  64. Bostrom, N. (2000). Predictions from Philosophy? Coloquia Manilana (PDCIS), 7.
    URL: http://www.nickbostrom.com/old/predict.html.
  65. Chislenko, A. (1996). Networking in the Mind Age. URL: http://www.lucifer.com/~sasha/mindage.html.
  66. Barrow, J.D., & Tipler, F.J. (1986). The Anthropic Cosmological Principle. Oxford: Oxford University Press.
  67. Tipler, F.J. (1982). Anthropic-principle arguments against steady-state cosmological theories. Observatory, 102, 36-39.
  68. Brin, G.D. (1983). The `Great Silence’: The Controversy Concerning Extraterrestrial Intelligent Life. Quarterly Journal of the Royal Astronomical Society, 24, 283-309.
    URL: http://bilimvesaire.com/2017/09/bilim/buyuk-sessizlik-herkes-nerede/.
  69. Hanson, R. (1998). The Great Filter – Are We Almost Past It? Working paper.
    URL: http://mason.gmu.edu/~rhanson/greatfilter.html.
    URL: http://bilimvesaire.com/2017/10/bilim/buyuk-filtre-hipotezi-nedir/.
  70. Carter, B. (1983). The anthropic principle and its implications for biological evolution. Phil. Trans. R. Soc., A 310, 347-363.
  71. Carter, B. (1989). The anthropic selection principle and the ultra-Darwinian synthesis. In F. Bertola & U. Curi (Eds.), The anthropic principle(pp. 33-63). Cambridge: Cambridge University Press.
  72. Hanson, R. (1998). Must Early Life be Easy? The rhythm of major evolutionary transitions. URL: http://mason.gmu.edu/~rhanson/hardstep.pdf.
  73. Leslie, J. (1989). Risking the World’s End. Bulletin of the Canadian Nuclear Society, May, 10-15.
  74. Bostrom, N. (2000). Is the end nigh?, The philosopher’s magazine, Vol. 9(pp. 19-20). URL: http://www.anthropic-principle.com/primer.html.
  75. Bostrom, N. (1999). The Doomsday Argument is Alive and Kicking. Mind, 108(431),  539-550.
    URL: http://www.anthropic-principle.com/preprints/ali/alive.html.
  76. Bostrom, N. (2002). Anthropic Bias: Observation Selection Effects in Science and Philosophy. Routledge, New York.
    URL: http://www.anthropic-principle.com/?q=book/table_of_contents.
  77. Bostrom, N. (2001). Fine-Tuning Arguments in Cosmology. In preparation.
    URL: http://www.anthropic-principle.com/preprints/fin/Fine-Tuning%20Arguments%20in%20Cosmology.doc.
  78. Bostrom, N. (2000). Observer-relative chances in anthropic reasoning? Erkenntnis, 52, 93-108.
    URL: http://www.anthropic-principle.com/preprints.html.
  79. Bostrom, N. (2001). The Doomsday argument, Adam & Eve, UN++, and Quantum Joe. Synthese, 127(3), 359-387.
    URL: http://www.anthropic-principle.com.
  80. Sjöberg, L. (2000). Factors in Risk Perception. Risk Analysis, 20(1), 1-11.
  81. Frieze, I. et al. (1978). Women and sex roles. New York: Norton.
  82. Waldeman, M. (1994). Systematic Errors and the Theory of Natural Selection. The American Economics Review, 84(3), 482-497.
  83. Cowen, T., & Hanson, R. (2001). How YOU Do Not Tell the Truth: Academic Disagreement as Self-Deception. Working paper.
  84. Kruger, J., & Dunning, D. (1999). Unskilled and Unaware if It: How Difficulties in Recognizing One’s Own Incompetence Lead to Inflated Self-Assessments. Journal of Personality and Social Psychology, 77(6), 1121-1134.
  85. Evans, L. (1991). Traffic Safety and the Driver: Leonard Evans.
    URL: http://www.scienceservingsociety.com/book/.
  86. Svenson, O. (1981). Are we less risky and more skillful that our fellow drivers? Acta Psychologica, 47, 143-148.
  87. Westie, F.R. (1973). Academic Expectations of Professional Immortality: A Study of Legitimation. The American Sociologists, 8, 19-32.
  88. Gilovich, T. (1991). How We Know What Isn’t So. New York: Macmillan.
  89. Paulhaus, D.L. (1986). Self-Deception and Impression Management in Test Responses. In A. Angeitner & J.S. Wiggins (Eds.), Personality Assessment via Questionnaires: Current Issues in Theory and Measurement. New York: Springer.
  90. Roth, D.L., & Ingram, R.E. (1985). Factors in the Self-Deception Questionnaire: Associations with depression. Journal of Personality and Social Psychology, 48, 243-251.
  91. Sackheim, H.A., & Gur, R.C. (1979). Self-deception, other-deception, and self-reported psychopathology. Journal of Consulting and Clinical Psychology, 47, 213-215.
  92. Sjöberg, L. (1994). Stralforskningens Risker: Attityder, Kunskaper och Riskuppfattning. RHIZIKON: Rapport fran Centrum för Riskforskning, Handelshögskolan i Stockholm, 1.
  93. Urguhart, J., & Heilmann, K. (1984). Risk Watch: The Odds of Life. New York: Facts on File Publications.
  94. Taylor, H. (1999). Perceptions of Risks. The Harris Poll #7, January 27.
    URL: http://www.harrisinteractive.com/harris_poll/index.asp?PID=44.
  95. Benjamin, D.K. et al. (2001). Individuals’ estimates of risks of death: Part II – New evidence. Journal of Risk and Uncertainty, 22(1), 35-57.
  96. Drexler, K.E. (1988). A Dialog on Dangers. Foresight Background 2, Rev. 1.
    URL: http://www.foresight.org/Updates/Background3.html.
  97. McCarthy, T. (2000). Molecular Nanotechnology and the World System. .
    URL: http://www.mccarthy.cx/WorldSystem/intro.htm.
  98. Forrest, D. (1989). Regulating Nanotechnology Development.
    URL: https://www.foresight.org/nano/Forrest1989.html.
  99. Jeremiah, D.E. (1995). Nanotechnology and Global Security. Presented at the Fourth Foresight Conference on Molecular Nanotechnology.
    URL: http://www.zyvex.com/nanotech/nano4/jeremiahPaper.html.
  100. Brin, D. (1998). The Transparent Society. Reading, MA.: Addison-Wesley.
  101. Hanson, R. (2000). Showing That You Care: The Evolution of Health Altruism. .
    URL: http://hanson.gmu.edu/bioerr.pdf.
  102. Rawls, J. (1999). A Theory of Justice(Revised Edition ed.). Cambridge, Mass.: Harvard University Press.
  103. Kirk, K.M. (2001). Natural Selection and Quantitative Genetics of Life-History Traits in Western Women: A Twin Study. Evolution, 55(2), 432-435.
    URL: https://www.jstor.org/stable/2640761?seq=1#page_scan_tab_contents.
  104. Bostrom, N. (2001). Transhumanist Values. Manuscript.
    URL: https://nickbostrom.com/ethics/values.html.

 

-oOo-

 

BONUS: