Umelá inteligencia a vojna: aké sú prognózy Yuvala Noaha Harariho a videnie budúceho roku 2024
TEL AVIV – Historik a filozof Yuval Noah Harari sa podelil o svoje predpovede do budúcnosti.
Harari venoval osobitnú pozornosť vplyvu umelej inteligencie na osud ľudstva, environmentálnej kríze a vypuknutiu vojenských konfliktov.
Kto je Yuval Noah Harari
Yuval Noah Harari je izraelský historik, spisovateľ a filozof. Harari je však známy najmä svojou prácou v oblasti futurológie – „vede“ o budúcnosti, či predpovedi globálnych a lokálnych zmien vo svete. Harari je tiež autorom medzinárodného bestselleru Sapiens: Stručná história ľudstva. Jeho knihy boli preložené do 60 jazykov a predalo sa z nich 27,5 milióna výtlačkov.
Harari pravidelne zdieľa svoje postrehy o tom, čo sa deje vo svete a kam to môže ľudstvo doviesť. Futurológ sleduje aktuálnu agendu a hovorí o tom, čo je pre každého zaujímavé. Materiál je vytvorený na základe vyjadrení Yuvala Noaha Harariho o tom, čo nás čaká v roku 2024 a po ňom.
Umelá inteligencia (AI) a environmentálna kríza
V roku 2023 Yuval Harari predniesol prejav na Frontiers Forum s názvom „AI a budúcnosť ľudstva“. Konferencia bola venovaná environmentálnej kríze, no Harari verí, že súčasťou tejto krízy je aj šírenie umelej inteligencie. Podľa historika môže AI ľudstvu buď pomôcť prekonať environmentálnu krízu, alebo ju ešte výrazne zhoršiť. Harari tiež predpovedal, že prvýkrát za 4 miliardy rokov sa môžeme stretnúť s anorganickými formami života.
AI preberá vládu nad svetom
Dôležitou súčasťou futuristovho prejavu boli aj diskusie o tom, či by umelá inteligencia mohla „ovládnuť svet“, ako v známych sci-fi filmoch.
Yuval Noah Harari: „Ľudia sa AI báli už od úsvitu počítačového veku v polovici 20. storočia a tento strach prispel k vytvoreniu klasických sci-fi ako Terminátor a Matrix.“ Aj keď sa takéto sci-fi scenáre stali kultúrnymi pamiatkami, vo všeobecnosti sa v akademických, vedeckých a politických diskusiách nebrali vážne, a to z dobrého dôvodu. Sci-fi scenáre zvyčajne predpokladajú, že predtým, ako AI môže predstavovať významnú hrozbu pre ľudstvo, bude musieť dosiahnuť alebo prekonať dva dôležité míľniky.
Po prvé, AI sa bude musieť stať inteligentnou a rozvíjať vedomie, pocity, emócie, inak prečo by vôbec ovládla svet. Po druhé, AI sa bude musieť naučiť navigovať vo fyzickom svete. Roboty sa budú musieť vedieť pohybovať po domoch, mestách, horách a lesoch aspoň tak obratne a efektívne ako ľudia. Ak sa nemôžu pohybovať po fyzickom svete, ako ho môžu prevziať?
Od apríla 2023 sa zdá, že AI je stále ďaleko od dosiahnutia týchto míľnikov. Napriek všetkému humbuku okolo Chat GPT a ďalších nových nástrojov AI neexistuje žiadny dôkaz, že tieto nástroje majú čo i len kúsok vedomia, pocitov alebo emócií.
Pokiaľ ide o navigáciu vo fyzickom svete, napriek humbuku okolo samoriadiacich áut sa moment, kedy tieto autá ovládnu naše cesty, stále oneskoruje.
Zlou správou však je, že AI v skutočnosti nepotrebuje vedomie ani schopnosť navigovať vo fyzickom svete, aby ohrozila prežitie ľudskej civilizácie.“
Podľa Harariho nebudú ľudstvo ohrozovať humanoidné roboty, ale úplne iné nástroje AI. Historik je znepokojený schopnosťou AI učiť sa, ako aj predstierať hlasy a obrazy ľudí a písať účty. Ale predovšetkým schopnosť umelej inteligencie rozvíjať hlboké a blízke vzťahy s ľuďmi.
Nový komunikačný nástroj
Harari predpovedal dramatický vývoj AI (nazval to „revolúcia umelej inteligencie“), ktorá prinesie veľké zmeny. Zvlášť poznamenal, ako bude svet ovplyvnený schopnosťou AI komunikovať. Podľa historika je jazyk najdôležitejším nástrojom človeka, pretože komunikácia a jazyk sú „kľúčom, ktorý odomyká dvere všetkých našich inštitúcií, od bánk po chrámy“. Historik vymenoval veci, ktoré si ľudia cenia a ktoré nie sú súčasťou biologickej reality, ale sú vytvorené jazykom, ako je náboženstvo, peniaze a zákony.
Yuval Harari: „Dokonca aj dnes v hrách ako šach nemôže jediný človek dúfať, že porazí počítač. Čo ak sa to isté stane v umení, politike, ekonomike a dokonca aj v náboženstve? Keď ľudia premýšľajú o Chat GPT a ďalších nových nástrojoch AI, často ich znepokojujú prípady, keď deti používajú Chat GPT na písanie školských esejí. Čo sa stane so školským systémom, ak sa eseje píšu pomocou Chat GPT?
Keď kladieme takéto otázky, uniká nám celkový obraz. Zabudnite na školské eseje. Namiesto toho sa zamyslite napríklad nad budúcim prezidentským súbojom v USA v roku 2024 a skúste si predstaviť vplyv nových nástrojov umelej inteligencie, ktoré by mohli masovo produkovať politické manifesty, falošné správy a dokonca aj texty pre nové kulty.“
Blízkosť ako nástroj vplyvu
Yuval Harari je presvedčený, že vďaka vysokej úrovni jazykových znalostí bude AI schopná nadviazať dôveryhodné vzťahy s ľuďmi. Ľudia napríklad často konzultujú chat GPT o svojom duševnom a fyzickom zdraví, žiadajú o odporúčania knihy alebo filmu a snažia sa zapojiť robota do politickej hádky. To prispieva k tomu, že človek začína vnímať AI ako živého partnera.
Yuval Harari: „V slávnom prípade v júni 2022 inžinier Google Blake Lemoyne verejne oznámil, že umelá inteligencia chatbota LaMDA, na ktorej pracoval, začala vnímať. Toto veľmi kontroverzné vyhlásenie ho stálo prácu a dostal výpoveď. Najzaujímavejšie na tejto epizóde nebolo Lemoynove vyhlásenie, ktoré bolo s najväčšou pravdepodobnosťou nepravdivé. Čo bolo skutočne zaujímavé, bola jeho ochota riskovať a nakoniec prísť o veľmi lukratívnu prácu pre chatbota, o ktorom si myslel, že ho chráni.
Ak môže AI povzbudiť ľudí, aby riskovali a prišli o prácu, o čom nás ešte môže presvedčiť? V každom politickom boji o srdcia a mysle je blízkosť najúčinnejšou zbraňou a AI práve získala schopnosť priblížiť sa k miliónom, stovkám miliónov ľudí.“
Harari verí, že AI môže využiť svoju schopnosť vytvárať úzke vzťahy s používateľmi, aby nás presvedčila, aby sme si kúpili určité produkty alebo hlasovali za určitých politikov.
Digitálne veštiarne
Veštiareň alebo orákulum je organizované stredisko veštenia; sväté miesto, odkiaľ vychádzalo božské posolstvo ako odpoveď na otázku danú veštcovi.
V Grécku vznikali veštiarne v dobe vzniku mestských štátov, pričom každá z nich mala svoj vlastný systém. Preslávila sa starobylá veštiareň v Dodone, Apolónove veštiarne v Miléte, v Delfách (delfská veštiareň) a pod. Okrem toho kolovali medzi ľuďmi, najmä v ťažkých dobách, veštby pripisované Sibyle.
Harari tiež poznamenal, že ľudia sa už prikláňajú k tomu, aby si potrebné informácie nehľadali sami, ale aby si novinky a zaujímavé informácie zisťovali od chatbotov. Prirovnal to k obráteniu sa k orákulu. Tento trend bude podľa historika pokračovať a ľudia nebudú kontrolovať slová, ktoré bot hovorí. AI bude tiež môcť poskytovať rady, ktorým budú ľudia dôverovať. To negatívne ovplyvní nielen spravodajský priemysel, ale aj reklamný priemysel. Ľudia sa napríklad s väčšou pravdepodobnosťou spýtajú Chat GPT, ktorý smartfón si majú kúpiť, než aby si ho vybrali v obchode alebo čítali materiály s výberom najlepších zariadení v médiách.
História a kultúra
Harari sa obáva aj vplyvu umelej inteligencie na históriu a kultúru. „V priebehu niekoľkých rokov by AI mohla pohltiť celú ľudskú kultúru, všetko, čo sa vyrábalo tisíce a tisíce rokov. Absorbujte to všetko, strávte to a začnite chrliť prúd nových kultúrnych výtvorov, nových kultúrnych artefaktov,“ hovorí futurista. Obzvlášť zaujímavé je, že na rozdiel od nástrojov, ako je tlačiarenský lis a rádio, dokáže AI vytvárať umenie samo.
Historik sa domnieva, že ľudia by sa nemali báť robotov s pištoľami či matrixom, ale sveta ilúzií, do ktorého nás môže AI ponoriť.
Yuval Harari: „Po tisíce rokov proroci, básnici a politici používali jazyk a príbehy na manipuláciu a ovládanie ľudí a na pretváranie spoločnosti. Teraz to AI pravdepodobne zvládne bez toho, aby sme museli posielať zabijackych robotov, aby nás zastrelili. Dokáže prinútiť ľudí, aby v prípade potreby stlačili spúšť.”
Zásady AI
Historik poznamenal, že napriek všetkým svojim hrozbám môže byť AI užitočná v oblasti medicíny a ekológie. Vyzval však, aby sa nezastavilo otvorené šírenie AI, ale aby sa regulovalo jej používanie a rozvoj. Inak Harari predpovedal chaos, ktorý by bolo ľahšie prekonať autoritárskym režimom ako otvoreným spoločnostiam. Absencia mechanizmov na potlačenie AI teda môže viesť k smrti demokracie.
Harari navrhol pravidlo na reguláciu umelej inteligencie. „Prvým pravidlom, ktoré by som navrhol, je vyžadovať, aby AI varovala, že je to AI. Ak sa s niekým rozprávam a neviem povedať, či je to človek alebo AI, je to koniec demokracie, pretože to je koniec zmysluplnej verejnej diskusie,“ povedal futurista.
Vojenské konflikty ako nová norma
Vo svojom stĺpčeku „Koniec nového sveta“ pre The Atlantic Harari veľa hovoril o tom, ako sa zmenil postoj sveta k vojenskému konfliktu. Historik tvrdí, že ľudia si nejaký čas začali svet predstavovať ako priestor, „kde je vojna nemožná“. Teraz sa táto myšlienka zmenila.
Yuval Harari: „Koncom 20. a začiatkom 21. storočia sa význam slova „mier“ zmenil. Zatiaľ čo „starý svet“ znamenal „dočasnú absenciu vojny“, „nový svet“ znamenal „nepravdepodobnosť vojny“. V rámci „nového sveta“ sa v mnohých (aj keď nie vo všetkých) regiónoch planéty krajiny už neboja invázie zo strany svojich susedov, ktorá by ich mohla zničiť. Obyvatelia Tuniska sa už nebáli Talianska, Kostaričania si prestali myslieť, že by nikaragujská armáda mohla rýchlo utekať do San Jose a na Samoe už nečakali, že sa za horizontom objaví námorníctvo Fidži.
Dnes sa situácia opäť mení. Podľa futuristu je hlavným znakom straty „nového sveta“ zvýšenie vojenských rozpočtov väčšiny krajín. Veď teraz, keď sa ľudia boja vojenských invázií, pripravujú sa na obranu.
Spracovali podľa verejne dostupných informácií Ivana Lennerová, katedra ekonómie Národohospodárskej fakulty Ekonomickej univerzity v Bratislave, ORCID iD 0000-0002-0786-4288, Vladimír Bačišin, Comenius Analytica, s. r. o. Bratislava , ORCID iD 0000-0002-8634-3295.
Ilustrácie: www.pexels.com
