Firma Anthropic vyzýva na globálne pozastavenie vývoja umelej inteligencie, riziká straty kontroly
NEW YORK – Americká spoločnosť Anthropic, ktorá sa zaoberá výskumom umelej inteligencie, vyzvala popredné laboratóriá umelej inteligencie, aby zvážili spomalenie tempa vývoja tejto technológie.
Spoločnosť poznamenáva, že systémy umelej inteligencie sa zlepšujú tak rýchlo, že by sa čoskoro mohli zlepšovať samy bez ľudského zásahu, čo predstavuje značné riziká pre spoločnosť.
Anthropic čoraz viac prenáša proces vývoja umelej inteligencie priamo na samotné systémy umelej inteligencie, čo tento proces výrazne urýchľuje, uvádza sa v článku, ktorý publikovala generálna riaditeľka Anthropic Institute Marina Favaro a spoluzakladateľ spoločnosti Jack Clark.
„Ak tento proces bude pokračovať, pri dostatočnom výpočtovom výkone by mohol viesť k vzniku systému umelej inteligencie schopného samostatne navrhovať a vyvíjať svoju ďalšiu verziu. Toto sa nazýva rekurzívne sebazdokonaľovanie. Do tejto fázy sme ešte nedosiahli a rekurzívne sebazdokonaľovanie nie je nevyhnutné. Mohlo by k nemu však dôjsť oveľa skôr, ako je väčšina spoločenských inštitúcií pripravená,“ uvádza sa v článku.
Odborníci poznamenávajú, že schopnosti systémov umelej inteligencie sa v nasledujúcich rokoch výrazne zvýšia. „Umelá inteligencia schopná sebazdokonaľovania by bola kľúčovým krokom v technologickom rozvoji a mohla by priniesť obrovské výhody ľudstvu – vo vede, zdravotníctve a mnohých ďalších oblastiach,“ poznamenávajú autori článku.
Poznamenávajú však, že to zároveň zvyšuje riziko, že ľudia stratia kontrolu nad systémami umelej inteligencie. „Ak budú systémy umelej inteligencie schopné úplne vytvoriť svojich nástupcov, potom sa otázky zabezpečenia ich bezpečnosti, monitorovania a riadenia ich správania stanú ešte dôležitejšími,“ zdôrazňuje článok.
Autori sa domnievajú, že „bolo by prospešné“ spomaliť vývoj umelej inteligencie, aby sa získalo viac času na pochopenie potenciálnych dôsledkov a riešenie potenciálnych problémov.
Antrophic Institute má v úmysle podniknúť kroky na vytvorenie mechanizmov na spomalenie vývoja umelej inteligencie. Spoločnosť však poznamenáva, že na skutočné spomalenie vývoja tejto technológie sa musia popredné laboratóriá umelej inteligencie na celom svete dohodnúť na zastavení vývoja za rovnakých podmienok. Okrem toho bude potrebný mechanizmus, ktorý zabezpečí, aby každá z týchto organizácií dodržiavala svoje dohody a efektívne zastavila svoju prácu.
