Popredný expert na umelú inteligenciu Soares povedal, že prestal sporiť na dôchodok, že AI zničí všetkých v nasledujúcich desiatich rokov
Business Insider: Soares uviedol, že riziko zničenia ľudstva v dôsledku umelej inteligencie je vysoké.
Soares, riaditeľ Inštitútu pre výskum strojovej inteligencie, vypočítal, že pravdepodobnosť vyhynutia ľudstva v dôsledku umelej inteligencie presahuje 50 %, informuje Business Insider. Odborník však dúfa, že sa tomuto riziku stále dá vyhnúť.
Sporenie na dôchodok znamená premýšľať o budúcnosti. Nate Soares, riaditeľ Výskumného ústavu strojovej inteligencie, však nie je presvedčený, že nám umelá inteligencia umožní dožiť sa takejto budúcnosti.
„Momentálne si nesporím na dôchodok. Mám 401(k) z čias, keď som pracoval v Googli, ale neprispieval som doň už desať rokov,“ povedal Soares generálnemu riaditeľovi denníka The Atlantic Nicholasovi Thompsonovi v nedávnom rozhovore pre sériu „A.I. Highlights“.
Soaresovo rozhodnutie pramení z jeho pesimizmu ohľadom pretekov v oblasti umelej inteligencie.
„Krstný otec umelej inteligencie“ Geoffrey Hinton verí, že existuje 10 % šanca, že umelá inteligencia by mohla v priebehu nasledujúcich desiatich rokov vyhladiť celé ľudstvo. Antropologický výskumník Evan Hubinger odhaduje túto pravdepodobnosť na viac ako 10 %. Soares je ešte pesimistickejší. V rozhovore s Thompsonom uviedol, že podľa neho pravdepodobnosť, že umelá inteligencia zničí ľudstvo v priebehu nasledujúcich desiatich rokov, presiahne 50 %.
Soares je spoluautorom knihy „Ak to niekto postaví, všetci zomrú“. Už viac ako 12 rokov skúma otázky zosúladenia umelej inteligencie. Cieľom tejto oblasti je zabezpečiť, aby výkonné systémy umelej inteligencie fungovali podľa plánu.
red nástupom do Inštitútu pre výskum strojovej inteligencie (MIRI), neziskovej organizácie so sídlom v Berkeley, ktorá sa špecializuje na štúdium rizík spojených s umelou inteligenciou, Soares pracoval ako inžinier v spoločnostiach Google a Microsoft.
Podľa experta by dostatočne pokročilá umelá inteligencia mohla rozvíjať ciele, ktoré sú v rozpore so záujmami ľudstva, vyhýbať sa kontrole, zlepšovať sa a vytvárať automatizovanú infraštruktúru potrebnú na fungovanie bez ľudského zásahu.
Ako vysvetlil Soares, umelá inteligencia by potom mohla pretvárať planétu tak, aby vyhovovala jej vlastným účelom, a možno by ju urobila neobývateľnou pre ľudí. Povedal to minulý rok pre Business Insider.
Úspory na dôchodok v prípade apokalypsy?
Otázka, ako umelá inteligencia zmení budúcnosť, viedla dokonca Elona Muska k otázke, či vôbec bude sporenie na dôchodok potrebné. Muskova vízia budúcnosti sa však radikálne líši od Soaresovej.
V januári generálny riaditeľ spoločností Tesla a SpaceX povedal, že ľudia by sa nemali obávať „sporenia na dôchodok“ počas nasledujúcich 10 až 20 rokov. Predpovedal, že pokroky v oblasti umelej inteligencie, robotiky a energetiky spôsobia, že sporenie na dôchodok bude „zastarané“.
Odborníci na osobné financie a špecialisti na umelú inteligenciu, s ktorými sa rozprával Business Insider, však zastávajú opačný názor. Veria, že sporenie na dôchodok je stále nevyhnutné.
Musk tvrdil, že prudký nárast produktivity by mohol viesť k ére hojnosti, v ktorej by mal každý prístup k „univerzálnemu vysokému príjmu“, cenovo dostupnému tovaru a službám a lepšej zdravotnej starostlivosti a vzdelaniu.
Taktiež verí, že peniaze v budúcnosti nebudú také dôležité, pretože umelá inteligencia a roboty prekonajú ľudí takmer v každej činnosti.
Pre Soaresa predstavuje vyhliadka umelej inteligencie s kolosálnymi schopnosťami existenčnú hrozbu pre ľudstvo, nie cestu k univerzálnej hojnosti.
Soares zopakoval výzvy zástupcov technologického priemyslu na „spomalenie tempa vývoja pokročilých systémov umelej inteligencie“. Tvrdil, že vlády by mali pozastaviť školenia univerzálnych systémov umelej inteligencie a namiesto toho sa zamerať na vývoj technológií pre špecifické úlohy, ako je výskum rakoviny a bezpečnejšie autonómne vozidlá.
V rozhovore, ktorý Soares poskytol Thompsonovi, poznamenal, že riešením problému je: „Nevytvárajte niečo, čo môže zabiť každého.“
„Robím všetko, čo je v mojich silách, aby som zabránil takémuto vývoju udalostí,“ povedal Soares. „Nemyslím si, že takýto vývoj udalostí je nevyhnutný.“
