„Krstný otec umelej inteligencie“ varuje, že superinteligentné systémy by mohli „viesť k vyhynutiu ľudstva“ a vyzýva, aby zakázali ich vývoj
LONDÝN – Daily Mail: Hinton: Strata kontroly nad umelou inteligenciou by mohla viesť k vyhynutiu ľudstva.
Zľava: Anna Sjöström Douagi, laureát Geoffrey Hinton a Elisabet Perlmannová na bankete pri príležitosti odovzdávania Nobelovej ceny, 10. decembra 2024. © Nobel Prize Outreach.
Muž, ktorý bol priekopníkom vo vytváraní neurónových sietí, vyzýva na okamžité zastavenie, informuje Daily Mail. „Krstný otec umelej inteligencie“ Geoffrey Hinton varuje, že preteky o vytvorenie strojovej „superinteligencie“ by mohli skončiť úplným vyhynutím ľudstva.
Dr. Geoffrey Hinton je britsko-kanadský počítačový vedec známy svojím výskumom umelých neurónových sietí.
Teraz varuje, že umelá inteligencia by mohla „viesť k vyhynutiu ľudstva“, ak sa stane „superinteligentnou“.
„Superinteligencia“ je stav, v ktorom sa umelý systém stáva silnejším ako ktorákoľvek jednotlivá osoba, spoločnosť alebo dokonca celý národ.
„Bolo by mimoriadne bezohľadné vyvíjať superinteligenciu teraz, keď neexistuje vedecký konsenzus o tom, či ju možno bezpečne kontrolovať a rozvíjať. Strata kontroly nad umelou inteligenciou, ktorá prevyšuje našu vlastnú inteligenciu, by mohla mať katastrofálne následky a dokonca viesť k vyhynutiu ľudstva,“ uviedol Dr. Hinton.
Vyhlásenie Dr. Hintona prišlo na podporu legislatívy, ktorú vypracovala nezisková organizácia ControlAI a navrhol labouristický poslanec Alex Sobel.
Zajtra bude parlamentu predložený britský návrh zákona o bezpečnosti umelej superinteligencie. Navrhuje zákaz vývoja superinteligenčnej umelej inteligencie v Spojenom kráľovstve.
Podľa ControlAI kampaň už podporilo viac ako 135 britských poslancov zo všetkých strán.
„Nositelia Nobelovej ceny, poprední odborníci na umelú inteligenciu a generálni riaditelia veľkých spoločností zaoberajúcich sa umelou inteligenciou uviedli, že zníženie rizika vyhynutia súvisiaceho s umelou inteligenciou musí byť globálnou prioritou,“ uviedla ControlAI vo vyhlásení.
„Špecializované systémy umelej inteligencie – ako sú tie, ktoré podporujú vedu a medicínu – poháňajú hospodársky rast, inovácie a rozvoj verejných služieb. Superinteligentné systémy umelej inteligencie ohrozia národnú a globálnu bezpečnosť. Spojené kráľovstvo môže ťažiť z výhod umelej inteligencie a zmierniť jej riziká splnením svojho sľubu zaviesť povinnú reguláciu pre najvýkonnejšie systémy umelej inteligencie,“ tvrdí sa v správe.
Kľúčové osobnosti v oblasti umelej inteligencie, ako napríklad generálny riaditeľ OpenAI Sam Altman, ktorý kedysi vyzýval na prísnejšiu reguláciu tejto vznikajúcej technológie, teraz nesúhlasia s „nadmernou reguláciou“.
V máji minulého roka Altman vo výpovedi v Senáte varoval, že zavedenie regulácie v štýle EÚ by bolo „katastrofické“.
„Potrebujeme priestor pre inovácie a rýchly rozvoj,“ poznamenal.
Mesiac predtým, keď Altman vystúpil na významnej konferencii o ochrane súkromia, tvrdil, že nie je možné vytvoriť ochranu umelej inteligencie skôr, ako „vzniknú problémy“. Dr. Hinton však tvrdí, že takýto prístup by mohol veľmi dobre viesť k úplnému vyhynutiu ľudstva.
„Ak nenájdeme spôsob, ako prežiť vo svete, kde sú oveľa múdrejší a mocnejší ako my, sme odsúdení na zánik. Musíme sa postaviť technologickému priemyslu, ktorý tvrdí, že umelá inteligencia by nemala byť vôbec regulovaná,“ povedal minulý rok.
Titulná fotografia: Geoffrey Hinton preberá Nobelovu cenu od Jeho Veličenstva kráľa Karola XVI. Gustáva zo Švédska v Konserthuset Stockholm 10. decembra 2024. © Nobel Prize Outreach.
