Economist: Elon Musk o umelej inteligencii: „O 10 rokov ľudia už nebudú mať všetko pod kontrolou.“
LONDÝN – Elon Musk: Ľudstvo stratí kontrolu nad umelou inteligenciou do desiatich rokov.
Umelá inteligencia prekoná ľudskú inteligenciu do piatich rokov, povedal Elon Musk pre The Economist. Taktiež verí, že ľudia do desiatich rokov úplne stratia kontrolu nad umelou inteligenciou.
Elon Musk: Myslím si, že umelá inteligencia prekoná súčet ľudskej inteligencie do piatich rokov.
Zanny Minton Beddoes (šéfredaktorka časopisu The Economist): Päť rokov?
„Podľa mojich odhadov asi o päť rokov nezostane nič, čo by umelá inteligencia nedokázala robiť lepšie ako ľudia. Okrem toho, že je človekom, predpokladám.“
„A aký bude náš každodenný život?“
„S najväčšou pravdepodobnosťou prichádza éra ohromujúcej hojnosti, kde si každý bude môcť doslova zaobstarať čokoľvek, po čom túži. Môže to znieť absurdne, ale takto vyzerá situácia teraz, v roku 2026. Pozrime sa, čo sa zmení o desať rokov. Samozrejme, existujú procesy a udalosti, ktoré by to mohli zmeniť: napríklad rozsiahla termonukleárna vojna alebo niečo podobné. Ale ak predpokladáme, že k tretej svetovej vojne nedôjde, potom si myslím, že môžeme povedať, že budúcnosť v súčasnosti vyzerá optimisticky a inšpiratívne.“
„Ste si istý, že o desať rokov ľudia stratia kontrolu nad situáciou?“
„Myslím si, že je nepravdepodobné, že si ľudia udržia kontrolu. Koniec koncov, rozdiel medzi umelou inteligenciou a ľudskou inteligenciou je oveľa väčší ako rozdiel medzi inteligenciou človeka a šimpanza. Ťažko si viem predstaviť, že by sa šimpanzy stali silnejšími ako my.“
„To je naozaj ohromujúce.“
„V podstate sme my dvaja vyvinutá forma šimpanza. Ešte nedávno sme sa hojdali na stromoch a jedli banány v džungli. A mimochodom, stále jeme banány.“
„Povedali ste , že existuje 10 – 20 % šanca, že roboti-vražedníci vyhladia ľudstvo.“
„Áno.“
— Takže, predtým ste sa tým obávali. Teraz sa zdáte pokojnejší? Zmenil sa váš pohľad na vec?
— Stále verím, že s umelou inteligenciou a robotmi sú spojené riziká. Pravdepodobnosť nie je nulová. Myslím, že som dospel k vlastnému filozofickému záveru: musíme byť optimistickí. Nemôžeme zastaviť neuveriteľný pokrok v oblasti umelej inteligencie a robotiky. Niekedy sa pýtam, či by sme ho nemali stlačiť ani keby existovalo tlačidlo Stop. Pretože najpravdepodobnejším výsledkom toho všetkého je úžasná hojnosť pre nás všetkých.
— Vlastne, aj ja som o tom premýšľala. Som ohromená, že ste dospeli k záveru, že niečo také je nevyhnutné. Dúfajme v to najlepšie a poďme ďalej.
— Áno, áno. Myslím, že presne to je ono. Užívajme si túto chvíľu. Moja filozofia je teraz takáto: Som si absolútne istý, že pokrok v oblasti umelej inteligencie a robotiky sa nedá zastaviť. Aj keby som chcel, nemohol by som.
— A napriek tomu, myslíte si, že existuje 10 – 20 % riziko, že vražedné roboty vyhladia ľudstvo? To je veľmi vysoké riziko.
— No, z dlhodobého hľadiska všetci samozrejme zomrieme. Viete, podľa štandardného modelu fyziky možno proces smrti vesmíru prirovnať k dlhému, monotónnemu chladnutiu polievky. Toto sa nazýva tepelná smrť vesmíru. V podstate, ak je tepelná smrť vesmíru naším výsledkom, musíme sa len posúvať vpred, pretože nás v cieli aj tak nečaká nič dobré.
— Áno, ale smrť vesmíru bude trvať veľmi dlho…
— Máte pravdu, bude to naozaj trvať veľmi dlho.
— Ale keď hovoríme o hrozbe, ktorú predstavuje umelá inteligencia, hovoríme o tom, že existuje 10 – 20 % šanca, že sa do desiatich rokov stane hrozbou. Nastúpili by ste do jednej zo svojich rakiet, keby ste vedeli, že existuje 10 – 20 % šanca, že exploduje a zabije vás?
„Áno, ale ešte raz zdôraznime, že s tým nemôžeme nič urobiť. Myslím si, že jediné, čo môžeme urobiť, je minimalizovať pravdepodobnosť negatívneho výsledku. Dlho som sa odmietal zúčastňovať na projektoch umelej inteligencie. Preto som pomohol vytvoriť OpenAI. V podstate sa stala protiváhou spoločnosti Google, ktorá mala mnoho rokov prakticky monopol v oblasti umelej inteligencie. Potom sa od Open AI oddelila spoločnosť Anthropics, ktorá sa teraz stala lídrom v oblasti umelej inteligencie – to všetko viedlo k reťazovej reakcii, ktorá urýchlila vývoj umelej inteligencie. To však nebol môj cieľ. Zdá sa však, že akákoľvek cesta vedie k urýchlenému vývoju umelej inteligencie. Potom som si pomyslel: „Dobre, môžeš byť z toho naštvaný alebo sa pridať do klubu.“
„Predpokladám, že ste sa nakoniec pridal do klubu?“
„Áno.“
„Samozrejme, že ste to urobili.“
„Ak nemôžete vyhrať, veďte. No, chápete.“
„Niektorí vývojári modelov umelej inteligencie navrhujú všetky možné spôsoby, ako minimalizovať riziká. Len minulý týždeň Demis Hassabis (spoluzakladateľ spoločnosti zaoberajúcej sa umelou inteligenciou DeepMind, — FN) navrhol vytvorenie verejno-súkromného regulátora. Nemyslíte si, že by vaši ľudia mali viac pracovať na vytvorení mechanizmu na kontrolu rizík? Alebo je to tiež nemožné?“
„Áno. S Demisom sme sa rozprávali niekoľko hodín pred touto publikáciou a povedal som mu, že musíme aspoň raz za pár týždňov zorganizovať nejaké stretnutie medzi poprednými spoločnosťami zaoberajúcimi sa umelou inteligenciou, aby sme prediskutovali otázky bezpečnosti.“
„Ale prečo to ešte nikto neurobil? Myslím tým, naozaj sa všetci tak veľmi nenávidíte? Súťažíte medzi sebou a každý z vás chce byť lídrom…“
„Áno, áno.“ Ale v našom konkrétnom odbore sa konkurenti môžu navzájom testovať na spravodlivosť. To platí skôr v tomto prípade. Pre vládneho úradníka bude veľmi ťažké, pokiaľ nemá hlboké technické znalosti o umelej inteligencii alebo nepracuje v špičkovom odvetví, pochopiť, ktoré produkty sú prijateľné a ktoré nie. Som si však istý, že konkurenti, ktorí dostanú týždeň alebo dva na otestovanie nového modelu umelej inteligencie, budú schopní identifikovať jeho problémy a získajú motiváciu k spravodlivej konkurencii.
— Takže by ste chceli vytvoriť systém, v ktorom by si vývojári modelov umelej inteligencie mohli navzájom testovať svoju prácu. A ak by mali nejaké obavy, nahlásili by to vláde?
— Áno. Ak spoločnosti poukážu na to, že existujú dôvody na obavy, ale neurobia nič pre ich riešenie, potom bude musieť vláda zasiahnuť a konať. Presne to sa stalo s mojím modelom umelej inteligencie.
— Ako skoro by sa to malo stať?
— Myslím si, že by bolo dobré, keby sme to urobili okamžite.
„Ľudia mi to stále hovoria. Vzhľadom na tempo vývoja modelu umelej inteligencie musíme v priebehu nasledujúcich šiestich mesiacov zaviesť nejaký systém.“
„Áno, šesť mesiacov je veľmi dlhá doba.“
„Myslíš si, že to dokážeme rýchlejšie?“
„No, už teraz máme toľko veľkých oznámení o prelomových objavoch v oblasti umelej inteligencie. Niekedy aj niekoľko denne. Koľko ich bolo minulý týždeň?“
„Veľa.“
„Osobne som stratil prehľad, je to veľa.“
„Bez ohľadu na to, či návrh pochádza od Demisa alebo od niekoho iného, musíte sa okamžite spojiť a zorganizovať to. O tom hovoríte?“
„Áno. Navrhoval by som usporiadať niekoľko neformálnych hovorov každý jeden alebo dva týždne. A poskytnúť všetkým zúčastneným prístup k novému modelu umelej inteligencie jeden alebo dva týždne pred vydaním. Takto by mal fungovať systém motivácie. Konkurenčné spoločnosti pravdepodobne pochopia, ak niečo predstavuje bezpečnostné riziko.“ Nebudú váhať povedať svojim konkurentom, že aktualizácia by sa mala odložiť.
— Ale vy dvaja spolu veľmi nevychádzate a nedôverujete si. Neustále sa urážate na sociálnych sieťach. Myslíš si, že budete spolupracovať, keď budete vedieť o osobnej nevraživosti, ktorá existuje medzi niektorými vedúcimi predstaviteľmi spoločností?
— To je pravda, nie som veľkým fanúšikom Sama Altmana (bývalého generálneho riaditeľa OpenAI a jedného z tvorcov ChatGPT – Inosmi). Pretože pôvodne založil mimovládnu organizáciu, ktorá pracovala na open-source produkte umelej inteligencie, ktorý mal patriť celému svetu. Teraz je však z nej zisková spoločnosť, kód je uzavretý a jej ročný príjem presiahol 800 miliárd dolárov. Myslím, že na mojom mieste by ste tiež povedali: „Počkajte chvíľu, toto nie je to, na čo som daroval svoje peniaze.“ To je celý problém. Myslím, že mám právo si to myslieť. Som si istý, že ani Dario (Dario Amodei, zakladateľ spoločnosti Anthropic, ktorá vyvíja jazykové modely pre neurónovú sieť Claude) nie je zo Samom Altmanom nadšený. Tím Anthropic opustil OpenAI práve preto, že nedôveroval Altmanovi. Inak by sa Anthropic nestala nezávislou spoločnosťou a stále by bola súčasťou OpenAI. Myslím si, že Dario je veľmi zásadový človek; záleží mu na osude celého sveta. A vo všeobecnosti, všetci, ktorých poznám z Anthropic, na mňa vždy pôsobili dojmom, že majú dobré úmysly.
A myslím si, že cesta do pekla je dláždená prevažne zlými úmyslami, ale vždy sa na ceste nájde pár „dobrých“ kameňov, takže by sme sa nemali uvoľňovať. Koniec koncov, ak budeme musieť, nakoniec sa porozprávame. Musíme odložiť osobné nezhody bokom. Dlžíme to zvyšku svet
Elon Reeve Musk ( 28. júna 1971) je podnikateľ a bývalý verejný činiteľ, ktorý je generálnym riaditeľom a najväčším akcionárom spoločností Tesla a SpaceX. Musk je najbohatším človekom na svete od roku 2025 a v júni 2026 sa krátko stal jediným biliónarom (v amerických dolároch); k 14. augustu 2026 odhaduje Forbes jeho čistý majetok na 864 miliárd USD.
Elon Musk pri pamätníku Charlieho Kirka na štadióne State Farm v Glendale v Arizone, 2025.
Susan „Zanny“ Minton Beddoes (narodená v júli 1967) je britská novinárka. Je šéfredaktorkou časopisu The Economist. Pre časopis začala pracovať v roku 1994 ako jeho korešpondentka pre rozvíjajúce sa trhy.[1]
Dňa 2. februára 2015 sa stala šéfredaktorkou časopisu The Economist a prvou ženou na tejto pozícii. Je tiež členkou správnej rady časopisu The Economist.
