Nové disruptivní technologie (EDTs)

Nejžhavější spornou otázkou je ontologická perspektiva umělé inteligence, tedy zda se jedná o vysoce schopný algoritmus, který je stále pod kontrolou lidí, nebo již o novou formu (do jisté míry) autonomní inteligence. V odborných kruzích se řeší, zda je AI (artificial intelligence / umělá inteligence) pouze úkolově založená autonomie, popř. kde již začíná obecná umělá inteligence (AGI – artificial general intelligence). Druhá možnost by mohla být (pravděpodobně) podnícena zvládnutím kvantového počítače, avšak prahová hodnota dosažení AGI zůstane neznámá.

V nadcházejících desetiletích dojde k několika revolucím, které změní AI technologie během jejich praktického nasazení. Nezodpovězenou otázkou však zůstává, zda bude lidstvo schopno rozpoznat a kontrolovat umělou inteligenci v budoucnu za prahem dosažení AGI. AI je vnímána jako zastřešující technologie schopná synergicky řídit, interagovat, umožňovat a vyvíjet jiné technologie (kvantové počítání, biotechnologie, nanotechnologie, blockchain, obranný sektor, autonomní stroje, syntetický život) nebo její aplikace (zejména sledování, řízení populací pomocí sociálního kreditu či jen doporučování u asistovaného rozhodování ve smart cities – „měkký“ sociální kredit). Aplikace AI rozvíjející lidské rozhodování bude mít zásadní dopad na formu vládnutí (státní kontrolu, digitální formy autoritářství), na mezinárodní vztahy ve smyslu komplexního geopolitického prostředí a na jedince, kteří budou mimo politický vliv. Tento vliv bude přesahovat lidské kognitivní schopnosti, např. kvůli efektu „černé skříňky“ (Black Box effect), jenž je způsoben technologickým principem hlubokého učení – nevíme proč se AI rozhodla, jak se rozhodla, víme, na jakých datech byla vytrénována. Už při současných tréninkových datových sadách je tato vědomost s ohledem na objem beztak bezpředmětná.

Ve vojenských aplikacích se bude AI využívat ve formě softwaru jako služby poskytované soukromými subjekty za účelem autonomního výběru cílů, autonomního řízení a orientace v prostoru a propojení systémů napříč různými doménami – vesmír, moře, pevnina, vzduch a kyberprostor –, což zvýší schopnosti, situační přehled a akceschopnost armády. Dosažení takové dovednosti povede k touze po propojení spojenců a jejich platforem, což ovlivní globální vztahy a globální (ne)stabilitu ve velkých spojeneckých zónách na planetární úrovni.

Zatímco technologie AI budou zaváděny do oblastí, kde jsou v současnosti využívány lidské kognitivní schopnosti, mentální a kognitivní schopnosti lidí díky tomu budou naopak slábnout. Společnost se bude stále více rozdělovat do tříd. V tomto kontextu schopnost využívat AI k vlastnímu prospěchu bude dělícím prvkem. Jakmile se AI stane politickým aktérem (ve smyslu účasti na globálním rozhodování, nikoli jako subjekt s vlastní osobností), hrozba digitálních forem autoritářství nebude v rukou autoritářských vládců, ale v samotné technologii (prahová hodnota míry autonomie definující zlom v AGI zůstává neznámá), což přinese nové výzvy pro globální vládnutí za účelem zachování liberálních norem a univerzálních morálních principů.

Vzhledem k tomu, že AI bude účinná při udržování stability společností (technologie AI hledají optimální řešení, budou tedy úspěšné v řešení řady problémů kolektivního rozhodování – collective action problem), vznikne normativní dilema týkající se způsobu správy těchto technologií. Normativní dilema se bude pohybovat na kontinuu od každodenního řízení obecných společenských problémů v době míru až po otázky spravedlivé války, aniž by byl do rozhodovacího procesu přímo zapojen člověk. Tato normativní diskuse povede k vytvoření aliancí mezi státy inklinujícími k techno-demokracii na jedné straně (regulující technologie na bázi etiky) a techno-autokraciemi na straně druhé (využívající technologie k maximalizaci centrální moci). Prvně jmenované, převážně liberální západní demokracie, prosazují regulovanější a na člověka zaměřené využití AI, zatímco techno-autokracie, jako jsou Čína, Rusko, Severní Korea, Írán a další, si představují spíše státem řízené využití AI, které zajišťuje přežití politického režimu.

Konflikty nezmizí, ale přesunou se do podoby poloautonomních a plně autonomních bezposádkových systémů všech velikostí a tvarů, ve velkých množstvích a s různou měrou autonomie, jež budou využívány pro nové formy válečných střetů. Přístup ke zdrojům zůstane zásadní pro získání výhody vedoucí k vítězství, což bude mít dopad na vojenské strategie, zpravodajské operace a roli kybernetických operací.

Klíčové technologie pro levný přístup do vesmíru, jako jsou hybridní motorové systémy kombinující tryskový a raketový pohon, prohloubí problém vymezení hranic vesmíru, neboť budou fungovat v příčné oblasti mezi povrchem a orbitou, což úzce souvisí se suverenitou národních států, ale zároveň učiní vesmírné zdroje přístupnějšími. Zvýšená aktivita na oběžné dráze Země (nejen díky hybridním motorům, ale i v důsledky fundamentální optimalizace klasické raketové technologie v čele s firmou SpaceX) způsobí kaskádový efekt – Kesslerův syndrom – i bez častého použití destruktivních protiprostorových zbraní, ale i díky použití nedestruktivních protiprostorových opatření v rychle se zaplňujícím vesmírném prostředí, které neúmyslně produkuje kritické množství vesmírného odpadu. 2. Většina disruptivních technologií (EDTs) je vyvíjena soukromými společnostmi, což naznačuje, že legitimita moci v očích veřejnosti by se v období po roce 2035 až do roku 2050 mohla přesunout od volených vlád k soukromým společnostem, které budou schopny poskytovat klíčové služby.

Většina disruptivních technologií (EDTs) je vyvíjena soukromými společnostmi, což naznačuje, že legitimita moci v očích veřejnosti by se v období po roce 2035 až do roku 2050 mohla přesunout od volených vlád k soukromým společnostem, které budou schopny poskytovat klíčové služby.

Hlavní rozpor spočívá v otázce, zda a do jaké míry se legitimita moci přesune směrem k soukromým společnostem v období let 2035–2050. Efektivní politická moc se pravděpodobně přesune více ke korporacím, a to zejména v důsledku nárůstu veřejně-soukromých partnerství, zejména v rozsáhlých projektech, jako je průzkum vesmíru nebo chytrá města, která jsou poháněna technologickou závislostí, ekonomickým vlivem, důvěrou veřejnosti a regulačními mezerami. V neposlední řadě i ambicemi superbohatých jednotliců. To vše s sebou ponese důsledky, jako je upřednostňování zisku a zájmů jednotlivců před veřejným zájmem.

Protože role národních vlád spočívá převážně v regulaci na národní úrovni, zatímco korporace mají globální dosah, budou to právě korporace, jež díky své moci a efektivitě nastaví standardy, poskytnou klíčové služby, budou rychleji inovovat a disponovat rozsáhlými zdroji (např. výrobní korporace s podíly v kriticky důležitých těžebních firmách). Tento trend povede k oslabování demokratických principů a důvěry ve veřejné instituce, neboť ty ztratí efektivní moc ovlivňovat dění. Etické otázky týkající se odpovědnosti, transparentnosti, nerovnosti a demokratického deficitu přinesou potřebu sdílených modelů správy a nové artikulace společenské smlouvy, jelikož vestfálská koncepce státu bude ohrožena nebo se díky klesající efektivitě stane zastaralou.

Otázkou zůstává, jakým způsobem k této nové artikulaci dojde, pokud soukromý sektor formuje diskurzy a vytváří vize budoucnosti lidstva, často prostřednictvím hlasů volených zástupců, kteří by měli spíše chránit veřejné instituce a jejich hodnoty. Například ve Spojených státech to není vláda, kdo určuje veřejné potřeby v oblasti obranných schopností a specifického vybavení, ale spíše bohatí jednotlivci, investoři rizikového kapitálu. Na druhé straně Evropská unie ukázala schopnost a ochotu významně regulovat technologie, aby zachovala hodnoty a nastavila směr inovačních procesů v rukou soukromých subjektů. Hlavní rozpor tak je v názoru, zda EU již nezačala re-artikulovat společenskou smlouvu tak, aby umožnila soukromým firmám inovovat (být efektivní), ale aby tím nezískávaly neomezenou moc, aby si politickou legitimitu a moc zachovaly veřejné instituce.

To, jakým způsobem se vztah mezi soukromým a veřejným sektorem promění do budoucích forem správy, bude záviset na místních kulturních rozdílech a demokratické legitimitě jednotlivých vlád. Autoritářské státy jednoznačně využívají soukromý sektor k udržení své moci a k projekci moci na globální úrovni, zatímco demokratické státy se (ideálně) snaží regulovat soukromý sektor, aby nás směřovaly k budoucnosti založené na sdílených hodnotách. S ohledem na probíhající přesun moci od států k soukromému sektoru je přirozené očekávat, že budoucí modely správy budou klást větší důraz na veřejně-soukromá partnerství a vyvíjet paralelní struktury správy od lokální po globální úrovni. Trend, který začal jako multistakeholderismus coby ideální model správy, se v případech se silným soukromým sektorem stane normou.

Normativní a etické intervence a regulace mohou významně ovlivnit vývoj disruptivních technologií (EDTs) tak, aby měly pozitivní dopad na společnost. Příklady jako nanotechnologie, kvantové technologie, geoengineering, umělá inteligence, biotechnologie, blockchain, robotika, hypersonické systémy, vesmírné technologie nebo energetika ukazují, že dopady se mohou lišit v závislosti na konkrétní technologii. Období 2035–2050 bude klíčové pro formování těchto vlivů prostřednictvím odpovědného řízení a regulace.

Normativní regulace jsou klíčové pro zajištění, aby disruptivní technologie (EDTs) měly pozitivní dopad na společnost, avšak tyto regulace závisí na etickém myšlení a úvahách, které zohledňují dopady technologií na společnost a zkoumají mnohostranné důsledky pro různé zainteresované subjekty. To je obzvláště důležité u technologií s demokratizačním potenciálem vedoucím k masivním aplikacím mimo vliv volených politických aktérů, jako jsou např. umělá inteligence, biotechnologie, kybernetické technologie, vesmírné technologie, ale i nanotechnologie s aplikacemi pro individuální uživatele (např. zařízení pro optické maskování).

Technologické inovace a aplikace závislé na vládních programech (např. průzkum vesmíru, těžba ve vesmíru, obranné technologie, energetické infrastruktury, masivní vědecké projekty jako ITER) mají výrazný potenciál stát se normativním základem pro jiné EDTs, protože vlády řídí a určují výchozí kroky. Závažná výzva pro normativní regulace však spočívá v technologiích široce dostupných veřejnosti, zejména v nových schopnostech či dovednostech, jež lidem poskytnou, jakmile se stane technologie masově užívána. Každá globálně aplikovatelná technologie může mít obrovské disruptivní důsledky, jakmile se začne masově využívat veřejností.

U technologií nepřístupných veřejnosti, jako jsou obranné systémy, mohou být normativní regulace vedeny upřímnými záměry, avšak jejich implementaci nelze vždy očekávat. Když dojde k válce, strany využívají své vynalézavosti, aby zvítězily za každou cenu, s výjimkami, kde hraje roli stigma (a nikoliv normy) – např. v případě chemických, biologických, radiologických a jaderných zbraní (CBRN). Absence mezinárodních regulací by mohla vést k podobnému selhání jako v případě autonomních zbraňových systémů.

Normativní moc nespočívá pouze v rukou politických autorit (volených či nevolených), ale disponují jí také nestátní aktéři a mezinárodní nevládní organizace (INGOs). Normativní chování soukromého sektoru může být zakódováno v odpovědném designu, tzv. hodnotově orientovaném a etickém technologickém inženýrství. Odpovědné demokracie mohou hrát pozitivní roli, avšak budou neustále narážet na opozici v podobě autoritářských států, které hrají s odlišnými prostředky. Silná vládní intervence bude nezbytná k nasměrování inovací jedním či druhým směrem. Například Čína intervenuje převážně prostřednictvím finančních investic, s nimiž EU nemůže soutěžit. Naopak EU, díky své kvalitě demokracie, byrokratickému aparátu a vysoce kvalifikovaným zástupcům spolu s rozsáhlým poradním a asistenčním zázemím, může produkovat efektivní legislativní řešení pro obecné dobro, čímž materializuje koncept EU jako „normativní síly“. Příkladem může být stanovení směrnic pro vývoj AI, standardizace kvantových technologií a šifrování nebo přístup k aplikacím blockchainu, které podporují evropské hodnoty.

Tento přístup ovlivní nejen mezinárodní ekonomické vztahy, ale i úroveň znalostí populace v různě řízených státech. Proto nejen normativní regulace, ale také konkurence mezi kvalitními demokraciemi (nevolenými byrokraty, volenými zástupci, veřejnou sférou) a mocnými autoritářskými státy, které hrají s prostředky, jako jsou finanční intervence na podporu svých místních podniků, určí společenský dopad EDTs na globální úrovni.

S rozvojem technologií pro augmentaci těla, umělé inteligence a kvantového počítače se budoucí sociální rovnost lidstva dostává do nového kontextu, zejména v souvislosti s technologiemi schopnými disponovat vlastní osobností. Vzhledem k tomu, že již nyní jsme překonali hranici Turingova testu s jazykovými modely (LLMs) a po roce 2035 bude tento pokrok ještě výraznější, je třeba zvažovat, jak tyto technologie ovlivní rozdíly mezi jednotlivci a jejich přístup k těmto inovacím.

Technologie augmentace lidského těla, umělá inteligence a kvantové počítače zásadně promění lidstvo a rozmažou hranice mezi lidským a umělým. Aplikace technologického pokroku – jako jsou neuronové implantáty, exoskeletony a genetické vylepšení – bude mít rozsáhlé důsledky. Vzhledem k očekávaným vysokým nákladům na tyto technologie a omezené dostupnosti, způsobené potřebou vysoce specializovaných chirurgů a dalších schopností nezbytných pro augmentaci člověka, je nárůst nerovností nevyhnutelný. Tyto nerovnosti nebudou pouze sociálně konstruované, budou také odrážet objektivní rozdíly v konkrétních schopnostech, jako je fyzická síla.

Demokratizace technologie augmentace lidského těla by mohla vytvořit nové druhy rasových rozdělení mezi lidmi (společenskou konstrukci nových forem jinakosti, zejména v konzervativních komunitách, a nerovnosti v přístupu k pokročilým technologiím). I když některé důsledky mohou zahrnovat ztrátu pracovních míst, podobně jako u jiných inovací lze očekávat vznik nových pracovních míst a celých odvětví. Jazykové modely (LLMs) neohrožují pracovníky s nízkými příjmy, ale spíše pracovníky se středními až vysokými příjmy. Proto je těžké říci, zda technologie augmentace lidského těla poháněná kvantovými počítači ovlivní pouze pracovníky s nízkými příjmy, protože s inovacemi nepochybně vzniknou nové sektory trhu a sociální podpora i rekvalifikace budou zaměřeny na každého, kdo přijde o práci, bez ohledu na výši příjmu.

Kromě sociální nerovnosti se objeví dynamika sociální stigmatizace a diskuse o lidské identitě. V tomto ohledu bude nutné revolučně přehodnotit celou debatu o propojení člověka a technologie, její normativní a etickou reflexi a následné směřování. Zkušenosti raných biohackerů 21. století naznačují, že sociální ostrakizace je pravděpodobná a regulace nemusí být nezbytně součástí řešení. Naopak, lidé se zdravotním postižením získají šanci vrátit se do plnohodnotného života, snížit svou sociální exkluzi a znovu dosáhnout dříve ztracených fyzických schopností.

Pokud jde o osobnost AI, technologie sama o sobě nemusí dosáhnout statusu osobnosti, zatímco tato otázka zůstává otevřená v případě propojení člověka a technologie. Bude nutné zahájit důkladnou filozofickou diskusi o tom, co znamená osobnost a být vnímající bytostí, aby bylo možné řádně analyzovat dynamiku vztahu technologie a člověka tehdy, kdy technologie augmentuje člověka. S odkazem na Günthera Anderse a jeho koncept Prométheovské hanby technologie možná nikdy nedosáhne lidské osobnosti, ale to neznamená, že se lidé nebudou cítit překonáni svými výtvory, které dokážou věci a dosáhnou cílů, jež lidé sami nedokáží. Mezi lidmi by tak mohla vzniknout nová větev vysoce schopných a mocných entit, bez ohledu na to, zda mají lidské vědomí či nikoliv.

Umělá inteligence simuluje osobnost na základě designu, učení a adaptace, ale panuje konsenzus, že AI nemá osobnost jako člověk. Přesto mohou být lidé oklamáni a vnímat AI jako entitu s osobností, nebo s ní tak vědomě zacházet. Rozhraní mozek–počítač (BCI) vytváří šedou zónu mezi tím, co je skutečně lidské, a tím, co je umělé. I pokud bude existovat technicko-vědecká odpověď na tuto otázku, sociální konstrukce toho, co je lidské, umělé či smíšené, bude mít větší význam. Syntetická biologie má potenciál vytvořit další oddělenou větev tohoto dilematu osobnosti a způsobit sociální nerovnost a nestabilitu, především proto, že produkty syntetické biologie nelze jednoduše zredukovat na pouhé produkty – bude se jednat o syntetický život.

Z toho plyne, že diskuse o tom, zda AI někdy dosáhne lidské osobnosti a vnímavých schopností, se tak může stát zastaralou, neboť princip osobnosti nebude vázán na evolučně vyvinutý život, ale i na jeho technologickou nebo syntetickou obdobu. Antropocentrické vnímání člověka jako jedinečně mocné bytosti by mohlo oslepit kritickou reflexi probíhajících změn v propojení člověka a technologie, a tudíž i lidské schopnosti tyto změny řídit.

Sada technologií, které by mohly v blízké budoucnosti revolučně změnit lidskou společnost, zahrnuje zejména integraci člověka a stroje prostřednictvím rozhraní mozek–počítač (Brain-Computer Interface, BCI). Tyto technologie mohou mít hluboký dopad na různé aspekty života: odstranění jazykových bariér, umožnění okamžitých interakcí podobných telepatii, rozvoj kolektivních BCI sítí zlepšujících řešení problémů, zvýšení povědomí o duševním zdraví, posílení kognitivních funkcí a přenos znalostí formou „stáhnout a nainstalovat“, což by způsobilo zásadní posun paradigmatu ve vzdělávání.

Důsledky těchto technologií jsou hluboké a vyvolávají významné sociální, etické a bezpečnostní otázky týkající se vztahu mezi lidmi a technologiemi, sociální rovnosti mezi augmentovanými a neaugmentovanými lidmi a oprávněné obavy o ochranu myšlenek a soukromí jednotlivců před neoprávněným přístupem a manipulací.

Integrace umělé inteligence do různých technologií přinese nová dilemata a hrozby, např. procesy rozhodování podporované AI u jaderných zbraní nebo produkty syntetické biologie poháněné AI (mohou být tyto biologické tkáně novými formami života?). Na druhou stranu, dobře implementovaná překladová AI by mohla budovat mosty mezi kulturami, posilovat vzájemné porozumění a důvěru, lépe porozumět lidskému tělu a jeho léčbě, nebo pomoci napravit klima a biosféru díky hlubšímu pochopení planetárních systémů, navigaci správných rozhodnutí a snížení míry nedorozumění mezi lidmi v důsledku použitých forem komunikace (text a sociální sítě).

Kritickým aspektem bude normativní a praktické řízení disruptivních technologií (EDTs), aby byly dosaženy obecně dobré cíle a zabránilo se jejich zneužití. Mezi konkrétní nově se objevující technologie s přímým aplikačním potenciálem a hlubokými společenskými důsledky patří syntetická biologie, nanotechnologické materiály a roboti a BCIs. Více spekulativní, ale stále v rámci možné budoucí realizovatelnosti, jsou technologie vesmírného cestování, jako jsou pohony typu warp (např. Alcubierrova pohonná jednotka) nebo zařízení pro kontrolu gravitace založená na nedávno objevené vědě o gravitačních vlnách.