Thread by @jmkorhonen

Joskus tulevaisuudessa koittaa todennäköisesti jompi kumpi tai molemmat seuraavista: joko synnytämme, todennäköisesti vähintään puoliksi vahingossa, sellaisen elämänmuodon (laajalti ymmärrettynä) tai järjestelmän mitä emme kykene kontrolloimaan, tai törmäämme sellaiseen.

Jos synnytämme sellaisen, ei ole yhdentekevää millaisen synnytämme. Jos hallinnastamme vapautuva järjestelmä on syövän tai pörssiyhtiön kaltainen psykopaattinen oman edun maksimoija, ihmiskunnalle luultavasti käy kalpaten. Jos se on eettisiä valintoja tekemään kykenevä, ehkä ei.

En itse näe mitään hyvää syytä miksi eettisiä valintoja tekemään kykenevä elämänmuoto haluaisi erityisesti pahaa ihmisille tai muulle elolliselle. Varsinkin jos puhumme koneälystä, jonka luonnollinen ympäristö olisi Maan syövyttävän ilmakehän ja painovoimakaivon ulkopuolella.

Yksi yleinen piirre kaikissa eliölajeissa on se, että pahin kilpailija on saman lajin edustaja, koska se on ainoa jonka vaatimukset ja halut ovat samanlaisia kuin toisella lajin edustajalla. Meistä suuresti poikkeavalla elämänmuodolla tuskin tämmöisiä tarpeita on.

Jos hallinnastamme vapautuva elämänmuoto on todella älykäs, pidän enemmän kuin todennäköisenä - en tietenkään ehdottoman varmana - että se päätyy johonkin yleistettyyn versioon Kantin kategorisesta imperatiivista: esim. "Tee toisille kuten he haluaisivat, että teet heille."

(Tämä on käsitteen "metalaki" keksineeltä Haleyltä, 1956).

Jos olisin huippuälykäs tekoäly joka kaavailee poistumista planeetalta, jättäisin ihmiset rauhaan kahdesta muustakin syystä: on huono ennakkotapaus tappaa luojansa, ja voi olla että tekoälykin tarvitsee suosittelijoita.

Ottaen huomioon maailmankaikkeuden koon ja iän, pitäisin äärimmäisen hämmästyttävänä jos ihmiset ovat ensimmäinen "sivilisaation" eli keinotekoisen yhteiskunnan rakentava laji. Ainakin toistaiseksi olisi turvallisempaa lähteä oletuksesta, ettemme ole.

Tällainen toinen laji olisi erittäin todennäköisesti meitä voimiltaan niin paljon edellä, että niillä ei olisi sen enempää teknisiä vaikeuksia pyyhkäistä ihmiskuntaa pois kuin meillä on ongelmia pyyhkäistä muurahaiskeko tieltämme. Mutta haluaisivatko he? En usko.

Sivilisaatio joka kykenee valjastamaan tähtienväliseen matkailuun tarvittavia voimia kykenee valjastamaan niin suuria voimia, että se ei selviä kovin pitkälle ellei se ole oppinut elämään rauhassa itsensä ja muun elollisen kanssa.

Sellaisella ei ole mitään tarvetta tuhota vain tuhoamisen tai varmuuden vuoksi, ja itse asiassa paljon kannustimia välttää tuhoamista - samalla tavalla kuin luonnonvaraisia ekosysteemejä tutkivilla on kannustimet välttää ekosysteemin tuhoamista.

Mutta ainakin yksi skenaario missä ihmiskunnan hävittäminen voisi tulla kysymykseen on olemassa.

Jos uhkaamme päästää karkuun syövän tavoin levittäytyvän, eettiseen harkintaan kykenemättömän, tai yksinkertaisesti suprematistisen itseään kopioimaan kykenevän järjestelmän.

Tällaisessä tilanteessa jopa sivilisaatio jonka ohjenuorana olisi "tuntevien olentojen olemassaolon lopettaminen on lähtökohtaisesti väärin, jos toisin voi valita" voisi, itsensä ja muiden olentojen suojelemiseksi, käyttää voimaa.

Toisin sanoen: jos törmäämme järjestelmiin joita emme kykene hallitsemaan, ei taaskaan ole ihan samantekevää millaisina niihin törmäämme. Syöpänä vai mahdollisena yhteistyökumppanina?

PS. itse pidän Fermin paradoksin erittäin uskottavana ratkaisuna sitä, että meidänkin linnunradallamme on jo useita sivilisaatioita, joilla ei kuitenkaan ole mitään tarvetta tehdä mitään sellaista minkä voisimme nykyisillä keinoillamme selkeästi havaita.

Esimerkiksi, mihin tähtienvälinen konesivilisaatio edes välttämättä tarvitsisi jotain Dyson-palloja? Tällaisen sivilisaation on ollut pakko opetella rajoittamaan itseään kauan ennen kuin pallojen rakentaminen on mahdollista, koska ne jotka eivät opetelleet, tuskin selvisivät.

On ainakin mahdollista, kenties jopa todennäköistä, että samaan tapaan kuin Maan päällä yhteiskuntien vauraus näkyy siinäkin, ettei kaikkea mahdollista luonnollista oteta "hyötykäyttöön", tähtienvälisen sivilisaation suunnaton kyky näkyisi siinä, etteivät ne jätä isoja jälkiä.

Ja miksi tällainen sivilisaatio ei ole vielä ottanut meihin yhteyttä - samasta syystä miksi villieläimiä tarkkaileva ei lähde ensimmäiseksi juttelemaan niille.

Emme ole vielä näyttäneet, että osaamme olla vaarattomia muille olioille.