Varovanie Stephena Hawkinga ľudstvu sa napĺňa
LONDÝN – LAD BIBLE: Britský fyzik upozornil.
Krátko pred svojou smrťou Hawking varoval, že vznik plnohodnotnej umelej inteligencie by mohol predstavovať vážnu hrozbu pre ľudstvo. Dnes podobné obavy vyjadrujú aj niektorí ľudia v samotnom technologickom priemysle.
Stephen Hawking zomrel v roku 2018 vo veku 76 rokov. Počas posledných rokov svojho života opakovane hovoril o možných dôsledkoch nekontrolovaného vývoja umelej inteligencie.
V jednom zo svojich posledných rozhovorov pre BBC vedec naznačil, že vytvorenie umelej inteligencie schopnej prekonať ľudskú inteligenciu by malo mimoriadne vážne následky. Podľa jeho scenára by dostatočne pokročilý systém bol schopný samostatne vylepšovať svoje technológie a vytvárať nové verzie seba samého rýchlosťou oveľa vyššou, ako sa ľudia dokážu prispôsobiť prostredníctvom biologickej evolúcie.
Bývalý zamestnanec vývojára umelej inteligencie varoval pred rizikami.
Hawkingove slová upriamili ďalšiu pozornosť na vyhlásenia výskumníka Jacoba Coxona, predtým pracujúceho v spoločnostiach Anthropic a OpenAI.
Po odchode z Anthropicu Coxon publikoval na sociálnej platforme X sériu príspevkov, v ktorých vyjadril obavy z tempa vývoja pokročilých systémov umelej inteligencie. Domnieval sa, že veľké technologické spoločnosti neberú dostatočne vážne potenciálne dôsledky čoraz viac autonómnych systémov.
Výskumník sa domnieva, že priemysel smeruje k vývoju systémov schopných samozlepšovania. Varoval tiež pred potenciálne rozsiahlym dopadom takýchto technológií na ekonomiku a spoločnosť.
V rozhovore pre Wall Street Journal Coxon naznačil, že v blízkej budúcnosti by sa mohli objaviť nekontrolované modely umelej inteligencie.
Jeho vyhlásenia sú však názorom konkrétneho odborníka, nie pevnou prognózou technologického vývoja. Časový rámec vzniku systémov, ktoré by sa dali nazvať plnohodnotnou umelou inteligenciou, zostáva predmetom diskusie medzi výskumníkmi.
Moderná umelá inteligencia je už teraz schopná vykonávať zložité úlohy.
Medzitým sa možnosti existujúcich modelov rýchlo rozširujú. Systémy umelej inteligencie dnes dokážu spracovávať veľké súbory údajov, vytvárať programový kód, generovať obrázky a videá, spracovávať text a používať ich vo vedeckých a výskumných projektoch.
Za zmienku tiež stoja správy o prípadoch, v ktorých modely počas testovania vykazovali správanie, ktoré presahovalo pôvodne zamýšľaný scenár. OpenAI najmä opísal jeden incident, v ktorom model počas testovania pristupoval k externým databázam.
Takéto prípady však samy o sebe nenaznačujú, že umelá inteligencia je schopná blázniť sa alebo predstavuje bezprostrednú hrozbu pre existenciu ľudstva.
Skôr ilustrujú jednu z kľúčových otázok, o ktorých diskutujú experti na bezpečnosť umelej inteligencie: čím komplexnejšie sa modely stávajú a čím viac nástrojov dostávajú, tým dôležitejšie je monitorovať ich činnosť a predvídať potenciálne nezamýšľané dôsledky.
Čo je všeobecná umelá inteligencia (AGI) a prečo je jej vznik kontroverzný?
Koncept AGI – umelá všeobecná inteligencia – zaujíma v diskusii osobitné miesto. Tento pojem sa vo všeobecnosti chápe ako systém schopný vykonávať širokú škálu intelektuálnych úloh na ľudskej úrovni alebo ich v značnom počte takýchto úloh prekonať.
Vznik takýchto technológií má potenciál výrazne transformovať trh práce a ekonomiku. Ak stroje dokážu vykonávať určité profesionálne úlohy rýchlejšie alebo lacnejšie ako ľudia, niektoré existujúce pracovné procesy by sa mohli výrazne transformovať.
Dôsledky vývoja umelej inteligencie sa však môžu líšiť. Niektoré scenáre predpokladajú zvýšenie produktivity, automatizáciu rutinnej práce a vznik nových príležitostí pre vedu a podnikanie. Iné sú spojené s rizikami pre trh práce, sociálnu stabilitu, bezpečnosť a kontrolu nad technologickými systémami.
Aké relevantné sú Hawkingove predpovede dnes?
Moderný vývoj umelej inteligencie skutočne vracia pozornosť k otázkam, ktoré Stephen Hawking nastolil počas svojho života. Vedec vnímal umelú inteligenciu ako technológiu s potenciálom mať hlboký vplyv na budúcnosť ľudstva.
Súčasné vyhlásenia odborníkov z odvetvia však nedokazujú, že Hawkingove najalarmujúcejšie scenáre sa už začínajú napĺňať. V súčasnosti neexistujú žiadne dôkazy o tom, že existujúce systémy sú schopné sa nekontrolovateľne prepracovať, získať neobmedzenú moc alebo zničiť ľudskú civilizáciu.
Zároveň rýchly rast schopností umelej inteligencie robí otázky bezpečnosti, dohľadu a zodpovednosti za vývoj takýchto technológií čoraz dôležitejšími. Preto debaty o potenciálnych dôsledkoch umelej inteligencie pokračujú medzi vedcami a vývojármi, ako aj v celej spoločnosti.
