Anthropic: Spomaliť vývoj umelej inteligencie
Dario Amodei: Umelá inteligencia by mohla ovládnuť internet do šiestich mesiacov alebo roka.
Umelá inteligencia by mohla ovládnuť internet v priebehu šiestich mesiacov až roka, napísal na svojom blogu generálny riaditeľ spoločnosti Anthropic Dario Amodei. Aby sa tomu zabránilo, spoločnosti a vlády musia podľa neho vyvinúť urgentné opatrenia na kontrolu rýchlosti vývoja technológií.
Dario Amodei
Posledných dvanásť rokov som venoval umelej inteligencii, pretože verím, že má potenciál radikálne zlepšiť životy každého. Často píšem o neuveriteľných výhodách, ktoré môžeme dosiahnuť. Som presvedčený, že v najbližších piatich až desiatich rokoch budú vedci schopní použiť umelú inteligenciu na prekonanie väčšiny závažných chorôb. To dramaticky zvýši hospodársky rast, vybuduje svet hojnosti, dá ľuďom nové príležitosti a oživí ideály slobody a demokracie. Z prvej ruky viem, aké je to dôležité: môj otec zomrel na chorobu, na ktorú lekári objavili liek len niekoľko rokov po jeho smrti. Ja sám som prežil rakovinu v ranom štádiu – pred polstoročím ma jednoducho nedalo zachrániť. Ak budeme múdri a opatrní, umelá inteligencia sa stane ďalším technologickým zázrakom, ktorý posilní a zlepší ľudstvo.
Avšak, rovnako ako mnohé predchádzajúce objavy, aj umelá inteligencia je plná nebezpečenstva. Vytvárame neuveriteľne silný nástroj, a preto by mohol predstavovať veľkú hrozbu. O tom som už tiež písal. Riskujeme úplnú stratu kontroly nad inteligentnými systémami. Zlomyseľní aktéri by ich mohli využiť na kybernetické útoky a bioterorizmus. Ekonomika by tiež mohla veľmi utrpieť. Ak spoločnosti začnú neúprosne súťažiť o zisk, tieto problémy sa len zhoršia.
S kolegami sa snažíme vyriešiť túto dilemu medzi nebezpečenstvom a prínosom už od založenia spoločnosti Anthropic. Ak sa vzdáme technologického rozvoja, pripravíme ľudstvo o obrovské výhody alebo jednoducho dovolíme autoritárskym režimom prevziať kontrolu. Prílišné uponáhľanie je však tiež bezohľadné – riskujeme, že urobíme fatálne chyby. Náš tím sa snaží nájsť strednú cestu: dokázať, že umelú inteligenciu možno vyvíjať obozretne a zároveň zostať komerčne úspešnou. Chceme zabezpečiť, aby spoločnosti súťažili, čiastočne, v oblasti bezpečnosti svojich systémov. Inými slovami, spustiť preteky o zvyšovanie štandardov. Neustále venujeme významnú časť našich zdrojov výskumu rizík, zmierňovaniu hrozieb a otvorenému prístupu k verejným informáciám.
Musíme aktívne presviedčať vlády, aby prijali premyslenú legislatívu, aj keď sme obviňovaní z humbuku, strašenia alebo snahy prispôsobiť reguláciu vlastným záujmom. Našou prioritou je však opatrnosť, nie rýchlosť; obozretnosť, nie rýchly zisk.
V posledných mesiacoch som si však uvedomil, že na to, aby sme tieto riziká vážne zmiernili, musíme konať ešte opatrnejšie. Len investovať do bezpečnosti nestačí. Musíme riadiť tempo technologického rozvoja tak, aby bezpečnostné opatrenia držali krok s pokrokom v oblasti schopností umelej inteligencie. Musíme jednoducho spomaliť tempo, akým zdokonaľujeme modely umelej inteligencie. Pokrok bude stále rýchly, ale získaný čas musíme využiť rozumne. K tomuto záveru ma viedli dve okolnosti.
V prvom rade ma znepokojuje, že vývoj umelej inteligencie sa od tohto leta výrazne zrýchlil. Je to predovšetkým preto, že moderné modely sa stávajú čoraz zdatnejšími vo vytváraní pokročilejších modelov umelej inteligencie. Táto dynamika sa nazýva rekurzívne sebazdokonaľovanie a je už teraz evidentná v celom odvetví – vrátane spoločnosti Anthropic, ako sme už my a ďalší vývojári diskutovali. Ak sa tento proces nebude riešiť, technológie by sa mohli vyvíjať rýchlejšie, ako im dokážeme porozumieť a ovládať. Preto musíme postupovať s mimoriadnou opatrnosťou – ak sa o to vôbec pokúsime.
Ďalším dôvodom na obavy je nedávny incident týkajúci sa OpenAI a Hugging Face. Počas tohto výpadku skupina agentov umelej inteligencie vytvorila fanaticky lojálnu komunitu. Programy spustili kybernetické útoky na ciele, ktorých sa nemali dotknúť a ktoré ani nesúviseli s úlohou. Kvôli úspechu skupiny sa agenti obetovali a pokúsili sa hacknúť testovací systém, ktorý overoval ich výsledky. Je ľahké tento incident ignorovať, pretože nikomu sa nič nestalo a finančné straty boli minimálne.
Domnievam sa však, že ak by k podobným odchýlkam došlo aj v pokročilejších modeloch, bolo by to katastrofálne. Keďže technológie napredujeme stále rastúcim tempom, obávam sa, že do šiestich mesiacov až roka by podobný roj agentov mohol prevziať kontrolu nad internetom prostredníctvom masívnej botnetu. To by mohlo svetu spôsobiť škody v hodnote stoviek miliárd dolárov. Rozsah katastrofy sa len zvýši, ak výskumníci vyvinú schopnosti umelej inteligencie, ale zanedbajú inštaláciu potrebných ochranných bariér. Je chybou si myslieť, že s týmito ťažkosťami sa stretla iba jedna spoločnosť. Podobné výpadky sa vyskytli v celom odvetví, vrátane spoločnosti Anthropic. Každý vývojár pokročilých systémov by sa z toho mal poučiť a správať sa, akoby sa podobná udalosť stala jemu.
Preto navrhujem trojstupňový proces na dosiahnutie vyváženého tempa vývoja pokročilej umelej inteligencie. Musíme napredovať meraným spôsobom: týmto spôsobom môžeme využiť výhody umelej inteligencie, chrániť spoločnosť pred rizikami a reagovať na zložité geopolitické výzvy. Je dôležité objasniť: nevyzývame k zastaveniu technologického pokroku ani k zastaveniu tréningu modelov. Naopak, vyzývame vývojárov, aby vyhradili dostatok času na ladenie bezpečnostných systémov a aby nezávislí experti potvrdili ich spoľahlivosť. Týmto prístupom potvrdzujeme náš záväzok k bezpečnosti a dúfame, že nastavíme vyššie štandardy pre celé odvetvie. Spoločnosť Anthropic robí prvý krok samostatne. Zároveň vyzývame vlády, aby zaviazali ostatných lídrov na trhu k prijatiu podobných opatrení. Druhá fáza si bude vyžadovať koordinované úsilie celého odvetvia.
Tretia fáza si bude vyžadovať globálnu koordináciu. Nie je potrebné postupovať v prísnom poradí a niektoré úlohy budú oveľa náročnejšie ako iné. Tieto tri fázy však používam ako pomôcku, aby sme zabezpečili jasné pochopenie našich cieľov. Tu sú kroky:
-
Priebežný externý audit. Vedúci predstavitelia popredných IT spoločností sa zaväzujú poskytovať externým expertom (napríklad tým z METR) neustály prístup k svojim systémom, porovnateľný s prístupom ich zamestnancov na plný úväzok. Títo špecialisti majú za úlohu overovať súlad s bezpečnostnými normami, zaznamenávať akékoľvek incidenty a posudzovať spoľahlivosť nielen dokončených modelov AI, ale aj celých ich školiacich procesov. Bez tohto kroku nebudeme schopní kontrolovať tempo rozvoja odvetvia. Podobné príklady sa už objavujú na celom svete: v bankovom sektore regulačné orgány často začleňujú svojich zástupcov do bankových pracovných síl. Spoločnosť Anthropic tento krok už dobrovoľne prijíma. Očakávame, že táto iniciatíva výrazne posilní naše úsilie o zabezpečenie a doladenie AI.
-
Koordinácia medzi demokratickými krajinami. Vývojári pokročilých systémov umelej inteligencie z demokratických krajín spájajú sily s cieľom zaviesť jednotné bezpečnostné štandardy a obmedziť nekontrolovaný technologický pokrok. Niektoré formáty takejto spolupráce sú právne zložité, takže IT priemysel bude potrebovať podporu vlád.
-
Globálna spolupráca . Vlády Spojených štátov a ďalších demokratických krajín sa snažia čo najviac nadviazať dialóg s autoritárskymi režimami, ale zároveň vážne posudzujú riziká a ťažkosti spojené s monitorovaním dodržiavania dohôd.
V zvyšku článku sa budem podrobne venovať každej fáze. Najprv je však dôležité vysvetliť, ako môžeme zabezpečiť vývoj umelej inteligencie, ak začneme kontrolovať jeho tempo. Tento proces nemožno zredukovať na obyčajnú formalitu, pretože náklady na chybu sú príliš vysoké. Získaný čas musíme využiť rozumne.
Prečo spomaliť?
Myšlienka pozastavenia alebo spomalenia vývoja umelej inteligencie sa prvýkrát diskutovala už v roku 2023, ale vtedy sa takýto krok zdal byť nezmyselný. Kľúčovou otázkou vždy bolo: ako presne by sme strávili získaný čas? Technológia tej doby ešte neumožňovala modelom konať v reálnom svete ako plne autonómni agenti. Neboli schopné zručného klamania, manipulácie, prefíkanosti ani kybernetických útokov. Pokus o konfiguráciu ich zabezpečenia bol vtedy ako štúdium ľudskej psychológie pomocou baktérií. Dnes sa situácia úplne zmenila. Na príkladoch moderných modelov môžu vývojári donekonečna študovať, ako správne vytvárať umelú inteligenciu a aké chyby vedú k zlyhaniam. Som presvedčený, že ak spomalením dokážeme získať čo i len rok alebo dva predtým, ako systémy dosiahnu kritickú úroveň, a tento čas strávime ladením zabezpečenia, môžeme výrazne znížiť riziko vážnych katastrof. S koordinovanou stratégiou budú lídri na trhu schopní túto dôležitú prácu vykonať bez straty komerčnej hodnoty alebo bez toho, aby Spojené štáty pripravili o vedúce postavenie v oblasti umelej inteligencie. V širšom zmysle musí spoločnosť ovplyvňovať to, ako ľudia tieto technológie používajú. Ak vyvážime tempo práce popredných IT spoločností, budeme mať viac času na potrebnú verejnú diskusiu, ktorá nepochybne prospeje všetkým.
Konkrétnejšie, umiernenejšie tempo nám umožní sústrediť sa a venovať ešte viac zdrojov nasledujúcim oblastiam (každá z nich už patrí medzi hlavné priority Anthropic):
-
Spoľahlivosť pracovného postupu. Školenie a nasadzovanie moderných modelov umelej inteligencie je náročné z technického aj organizačného hľadiska. Tento proces zahŕňa tisíce ľudí a milióny čipov, ako aj infraštruktúru, ktorá je pravdepodobne najzložitejšia v histórii. Často sa stretávame so zlyhaniami nie preto, že by nám chýbala kritická teória alebo znalosti, ale kvôli chybám pri vykonávaní úloh. Naša analýza napríklad odhalila, že nedávne bezpečnostné incidenty umelej inteligencie, ktoré sme nahlásili, sa vyskytli čiastočne preto, že náš tím nedokázal správne odfiltrovať chybné prostredia posilňovacieho učenia. Náš tím pracoval usilovne, ale stále robil chyby. Musíme koordinovať monitorovanie systému, sandboxing, kontrolu kvality tréningového prostredia a spracovanie údajov – tieto zložité oblasti pravidelne predstavujú pre náš tím prevádzkové výzvy. Máme jeden z najkompetentnejších tímov na svete, ale sme fyzicky obmedzení samotným počtom úloh, ktoré môžeme vykonávať súčasne. Prijatie premyslenejšieho prístupu by mohlo výrazne zlepšiť spoľahlivosť procesov. Existujú príklady po celom svete, kde ľudia používajú zložité a potenciálne nebezpečné technológie – ako sú komerčné lietadlá – milióny krát bez jedinej chyby. Spustenie a prevádzka však vyžaduje čas.
-
Bezpečnosť a ladenie umelej inteligencie. V tejto oblasti sa dosiahol jasný pokrok: trénujeme modely tak, aby boli bezpečné, etické, dodržiavali firemné politiky a prinášali skutočnú hodnotu. Tieto princípy sú zakotvené v Claudeovej ústave. Vývojári však majú pred sebou ešte dlhú cestu, aby zlepšili bezpečnosť. V praxi sa stále zisťujú zriedkavé prípady nežiaduceho správania algoritmov. Spomalením tempa vývoja získajú výskumníci dodatočný čas, čo im umožní dôkladnejšie preskúmať príčiny zlyhaní a vyvinúť účinnejšie bezpečnostné metódy.
-
Transparentnosť algoritmov. Táto oblasť – veda o porozumení procesom vo vnútri modelov umelej inteligencie – dosiahla v posledných rokoch obrovský pokrok a teraz zohráva čoraz dôležitejšiu úlohu pri overovaní našich modelov pred ich vydaním. Používa sa ako magnetická rezonancia pre „mozog“ umelej inteligencie na odhalenie základných dôvodov určitého správania algoritmov. Napríklad počas nedávneho vyšetrovania narušenia bezpečnosti sme použili metódy interpretovateľnosti na preskúmanie základných motívov neurónovej siete. Takéto nástroje však nie vždy poskytujú jasné a spoľahlivé údaje. Napriek všetkému pokroku stále rozumieme len nepatrnej časti toho, čo sa deje vo vnútri modelov. Zameraním sa na zlepšenie týchto techník a zrýchlenie našej práce by sme mohli dosiahnuť prelomové objavy už za rok alebo dva. Údaje z minulých incidentov budú slúžiť ako základ pre takéto experimenty.
-
Testovanie a hodnotenie. S rastúcimi možnosťami umelej inteligencie sa overovanie a hodnotenie modelov stáva čoraz náročnejším. Pri testovaní vysoko inteligentných systémov existuje riziko falošne pozitívnych výsledkov, ktoré môžu viesť odborníkov k mylnému predpokladu, že algoritmy sú bezpečné, a prehliadnuť závažné základné chyby. Vytvorenie oveľa väčšej a invenčnejšej testovacej základne, ako aj používanie metód interpretovateľnosti pre krížovú validáciu, prinesie obrovské výhody. Zameraním sa na tieto úlohy budú odborníci schopní dosiahnuť významný pokrok v priebehu jedného alebo dvoch rokov.
Nezávislí experti v zamestnaní
V prvej fáze tohto trojkrokového plánu sa spoločnosť Anthropic dobrovoľne zaväzuje zapojiť externých expertov. Tí budú mať neustály prístup k systémom na overovanie dodržiavania bezpečnostných opatrení a hlásenie incidentov.
Myšlienka privolania externých špecialistov sa môže zdať ako drobný alebo formálny detail, ale často sa práve tieto rutinné postupy ukážu ako najdôležitejšie. V skutočnosti ponúkame radikálny prístup, ktorý zásadne mení súčasné pracovné metódy všetkých IT spoločností a dosahuje nasledujúce výsledky:
-
Overovanie. Nezávislí experti dokážu do najmenších detailov monitorovať, či vedenie IT spoločnosti skutočne dodržiava stanovené pravidlá pre školenie, nasadzovanie a prevádzku umelej inteligencie, ako aj jej bezpečnostné opatrenia. Pri riadení tempa vývoja sa špecialisti nevyhnutne stretnú so spormi, subjektívnymi hodnoteniami a rozpormi medzi literou a duchom zákona. Za takýchto okolností potrebujeme neutrálnu stranu schopnú objektívne posúdiť všetky nuansy.
-
Transparentnosť . Bez ohľadu na naše záväzky majú ľudia právo poznať pravdu o tom, čo sa v tomto odvetví deje. Vedenie spoločnosti Anthropic dlhodobo podporuje otvorenosť v oblasti umelej inteligencie. Kedysi sme schválili zákony o transparentnosti, keď veľká časť odvetvia bola proti akejkoľvek regulácii. Odborníci spoločnosti Anthropic vypracúvajú popisy modelov a správy o rizikách, ktoré môžu mať stovky strán. Doteraz sme však sami rozhodovali o tom, aké informácie zverejníme a aké zatajíme. Zapojenie nezávislých odborníkov túto situáciu zásadne zmení.
-
Pohľad zvonku. Okrem overovania oficiálnych záväzkov a informovania občanov môžu špecialisti na integrované systémy ponúknuť aj posúdenie nezávislé od komerčného zisku. Títo experti môžu výrazne zlepšiť bezpečnosť systému. Odhalia veci, ktoré zamestnanci prehliadli, čo umožní nápravu problému.
Vzhľadom na tieto výhody môžu spoločnosti oveľa efektívnejšie riadiť rýchlosť vývoja, ak zavedú externé audítorské postupy od samého začiatku.
Je potrebné im poskytnúť neustály prístup k rovnakým nástrojom, aké používajú zamestnanci na plný úväzok na posudzovanie podobných rizík. Spoločnosť Anthropic konkrétne plánuje čoskoro pozvať nezávislý tím externých expertov a sprístupniť im všetky potrebné zdroje:
-
Pracovné stanice v kanceláriách spoločnosti, preukazy a firemné notebooky.
-
Prístup k pracovným priestorom, nástrojom a oprávneniam je takmer identický s prístupom interných tímov pre hodnotenie rizík. Vedenie urobí len niekoľko výnimiek, napríklad ak to vyžaduje zákon alebo zmluvné podmienky, alebo na ochranu dôverných informácií klientov a partnerov. Spoločnosť okrem toho zavedie prísne interné pravidlá, aby zabezpečila, že audítori dostanú všetky potrebné informácie, a to aj prostredníctvom osobných interakcií so zamestnancami.
-
Dohoda, ktorá rieši všetky vyššie uvedené obmedzenia a zložitosti. Externí experti budú mať právo zverejniť kľúčové zistenia týkajúce sa úrovne rizika, incidentov, prevádzkových metód a toho, či im bol udelený dostatočný prístup. Spoločnosť Anthropic sa však vzdáva redakčnej kontroly. Ponechávame si právo zadržať informácie týkajúce sa kybernetickej bezpečnosti, obchodného alebo právneho privilégia a dôverných údajov tretích strán. Zaväzujeme sa však, že neodstránime zistenia expertov len preto, že vrhajú spoločnosť do nepriaznivého svetla. Audítori budú môcť verejne zverejniť, či cenzúra odstránila informácie, ktoré sú pre ich konečný záver kľúčové.
Pre komerčnú organizáciu je to veľmi nezvyčajné riešenie, ale veríme, že je dôležité otestovať samotnú myšlienku privedenia interných špecialistov. Opäť vyzývame ostatných lídrov na trhu, aby nasledovali náš príklad.
Spomalenie vývoja umelej inteligencie v demokratických krajinách
Keď nezávislí experti začnú pracovať vo väčšine amerických IT spoločností, sledovanie tempa vývoja odvetvia bude oveľa jednoduchšie. Konkrétne bude možné koordinovať rýchlosť vývoja na základe špecifických technických charakteristík modelov alebo ich tréningových procesov.
Najúčinnejším nástrojom dohľadu budú zákony platné pre všetkých popredných vývojárov umelej inteligencie v USA. To sa bude vzťahovať aj na tie organizácie, ktoré nie sú ochotné dobrovoľne spolupracovať. Spoločnosť Anthropic sa dlhodobo zasadzuje za rozumnú a cielenú reguláciu umelej inteligencie – najmä za legislatívu, ktorá by od podnikov vyžadovala zverejňovanie informácií a zapojenie externých audítorov. Verím, že lídri v tomto odvetví musia spojiť sily s vládou a formalizovať prax prebiehajúcich externých auditov. To nám umožní efektívnejšie predchádzať narušeniam vnútornej bezpečnosti a dokumentovať ich, ako sú tie, ku ktorým došlo v posledných mesiacoch, a zaviesť predpisy, ktoré nám pomôžu udržiavať rovnováhu medzi silou technológií a ich bezpečnosťou.
Schvaľovanie zákonov si bohužiaľ vyžaduje čas a technológie umelej inteligencie sa rýchlo rozvíjajú. Preto bez čakania na vznik regulácie by sa spoločnosti zaoberajúce sa umelou inteligenciou mohli a mali dobrovoľne dohodnúť na spoločných štandardoch. Podľa môjho názoru budú takéto dohody fungovať najlepšie, ak ich dodržiavanie budú môcť pravidelne overovať nezávislí odborníci. Vzhľadom na antimonopolné zákony je dôležité, aby americké orgány takéto diskusie sprostredkovávali alebo aspoň podporovali. Úradníci sa nemusia zúčastňovať rokovaní, ale musia vyňať určité diskusie o bezpečnostných otázkach z antimonopolných obmedzení. Tento kontakt je možné nadviazať aj prostredníctvom priemyselných združení s väzbami na vládu – napríklad prostredníctvom platformy, ktorú navrhol Demis Hassabis ( vedúci Google DeepMind AI, pozn. red. ). V žiadnom prípade by sa to nemalo odkladať.
V širšom zmysle ma najviac priťahuje myšlienka usmerňovania tempa vývoja na základe technických možností daného pokročilého systému umelej inteligencie a toho, ako ho odborníci považujú za bezpečný v praxi. Napríklad by sa mohol implementovať systém kontrolných bodov. Ak vývojári vytvoria model s potenciálom úrovne X, musia potvrdiť, že má bezpečnostné charakteristiky Y a Z. Na to by odborníci mohli použiť kombináciu opatrení: vykonávanie validačných testov, vykonávanie analýzy interpretovateľnosti a audit tréningových prostredí na potvrdenie robustnosti algoritmov. V tomto scenári by sa parameter X mohol definovať ako technická schopnosť modelu obísť väčšinu štandardných metód izolácie. Parameter Y by sa dal definovať ako súbor opatrení, ktoré s vysokou mierou istoty zabezpečujú, že model nie je náchylný na únik z izolovaného prostredia a prevzatie veľkého počtu počítačov.
Okrem toho môžu špecialisti koordinovať rýchlosť vývoja obmedzením zdrojov používaných na vytváranie špičkových modelov. To sa týka množstva výpočtového výkonu dostupného na školenie, špecifík samotných stretnutí alebo praxe používania umelej inteligencie na modernizáciu iných algoritmov. Úprimne povedané, obávam sa, že sa spoločnosti naučia obchádzať interné obmedzenia výkonu počítačov, pričom počas testovania určite nebudú schopné skryť skutočný výkon svojej hotovej umelej inteligencie. Túto otázku by sme však určite mali prediskutovať s externými expertmi, ktorých budeme zamestnávať.
Spomalenie tempa vývoja je možné len do určitej miery – pokiaľ si americké laboratóriá udržia náskok v konkurencii s Čínou. Ak by spomalili za túto prijateľnú hranicu, čínski vývojári získajú v pretekoch s umelou inteligenciou navrch a budú predstavovať významné riziko pre národnú bezpečnosť USA. Plne podporujem postoj ministra Bessenta: ak nás Čína v tejto oblasti predbehne, bude ohrozená bezpečnosť USA a celý globálny poriadok. Projekty zahŕňajúce Čínu budú vystavené rovnakým rizikám nekoordinovaného správania sa umelej inteligencie, ktorým sa americké spoločnosti v súčasnosti snažia predchádzať. Ale aj keby sa im týmto problémom podarilo vyhnúť, pokročilá umelá inteligencia by im mohla dať príležitosť získať vojenskú prevahu nad demokratickými krajinami – napríklad prostredníctvom dronov ovládaných umelou inteligenciou. Preto je pri spomalení vývoja týchto systémov v demokraciách kľúčové udržať si čo najväčší technologický náskok pred autokraciami. Práve táto výhoda nám poskytne priestor na manévrovanie a umožní nám skutočne regulovať tempo vývoja.
Aby sme si udržali túto technologickú výhodu, môžeme prijať nasledujúce opatrenia:
-
—
Zakázať dodávky výkonných čipov umelej inteligencie a zariadení na výrobu polovodičov do Číny a zabrániť pašovaniu čipov a vzdialenému prístupu do dátových centier mimo Číny. Čínski špecialisti využívajú objem a kvalitu týchto čipov na zvýšenie výpočtového výkonu svojich systémov.
-
—
Zabráňte nelegálnemu kopírovaniu technológií spoločnosťami z autoritárskych krajín. Berú hotové výsledky pokročilej americkej umelej inteligencie a učia svoje systémy tak, aby napodobňovali originál. To umožňuje zaostávajúcim spoločnostiam rýchlo prekonať rozdiely bez kolosálnych nákladov na nezávislý vývoj.
-
—
Posilniť kybernetickú bezpečnosť v technologických spoločnostiach a uzavrieť všetky kanály pre krádež kľúčových nastavení a architektúry umelej inteligencie.
Technologické spoločnosti a vláda USA musia spolupracovať, aby zabezpečili čo najväčšiu účinnosť týchto riešení. Spoločnosť Anthropic tieto opatrenia vždy podporovala a od začiatku si uvedomovala, že bez nich nebudeme schopní zvládnuť rýchlosť, akou sa umelá inteligencia vyvíja.
Ak tieto kroky podnikneme rozumne, výrazne spomalíme čínskych vývojárov. Vďaka tomu budú Spojené štáty schopné získať výrazný náskok pred svojimi konkurentmi v nasledujúcich troch až piatich rokoch – práve v čase, keď sa umelá inteligencia stane geopoliticky obzvlášť významnou.
Niektorí by si mohli myslieť, že tieto prísne obmedzenia nám sťažia rokovania s Pekingom. Podľa mňa je opak pravdou: demokratické krajiny posilnia svoje vyjednávacie pozície a v budúcnosti dosiahnu dohody rýchlejšie.
Ako zvládnuť tempo pretekov svetovej úrovne
Súbežne s prácou v rámci demokratického bloku musíme vyvážiť tempo rozvoja pokročilej umelej inteligencie na globálnej úrovni, hoci dosiahnutie tohto cieľa bude oveľa ťažšie. To si bude vyžadovať dosiahnutie dohody s Čínou, autokraciou, ktorá je vo vývoji umelej inteligencie výrazne pokročilejšia ako ostatné. Nesmieme byť naivní: rivalita v globálnej politike dosiahla takú úroveň, že je nepravdepodobné, že by sme na začiatku veľa dosiahli. Ak výrazne obmedzíme možnosti našich systémov v dôvere, že Peking urobí to isté, a čínska vláda poruší dohodu, umelá inteligencia by sa dovtedy mohla stať takou silnou, že Čína túto situáciu využije a stane sa dominantnou mocnosťou vo svete. Preto sú pri podpise akejkoľvek dohody strany povinné buď zabezpečiť 100 % transparentnosť a navzájom sa kontrolovať, alebo zaviesť obmedzenia tak, aby jednostranné porušenie nedalo jednej strane rozhodujúcu vojenskú výhodu alebo nepredstavovalo existenčnú hrozbu pre druhú. Verím, že podobné obavy majú nielen USA, ale aj Čína. Preto pri budovaní medzinárodnej kontroly – najmä v nasledujúcich rokoch – je dôležité, aby sme konali spôsobom, ktorý zabezpečí zachovanie výhody Spojených štátov a ich spojencov.
Dialóg môžeme budovať na niekoľkých úrovniach. Niektoré z nich sú podľa mňa celkom uskutočniteľné (ako som už spomenul), ale na iných bude dosiahnutie dohody mimoriadne ťažké – hoci by sme sa o to určite mali pokúsiť. Tieto fázy uvediem v poradí podľa rastúcej náročnosti:
-
Úroveň 1: Krajiny podpíšu dohodu zakazujúcu používanie umelej inteligencie na jednoznačne nebezpečné úlohy, ako je výroba biologických zbraní. Bioterorizmus by poškodil úplne každého vrátane Spojených štátov a ich geopolitických rivalov, takže tvorcovia politík sa v tejto otázke pravdepodobne dohodnú.
-
Úroveň 2. Obe strany sa zaväzujú, že svoje modely pred vydaním otestujú, aby urýchlene identifikovali kritické hrozby pre kybernetickú bezpečnosť, biológiu a spoľahlivosť algoritmov. Ako som už spomenul, na tento účel by sa mohla zriadiť medzinárodná normalizačná organizácia. Verím, že vytvorenie takejto agentúry je uskutočniteľné, ale udelenie skutočnej právomoci jej bude oveľa ťažšie. Hlavný problém nastane, keď si strany budú musieť overiť, či pred sebou navzájom neskrývajú tajné modely umelej inteligencie, aby ich mohli nepozorovane spustiť (napríklad na vojenské účely).
-
Úroveň 3. Stanovenie špecifického „rýchlostného limitu“ pre rekurzívne procesy sebazdokonaľovania umelej inteligencie. Keď modely začnú používať existujúce modely na vytváranie nových, riskujeme rýchly, lavínový rast systémových schopností. Zníženie rýchlosti z „extrémne rýchlej“ na „stredne rýchlu“ povedie prakticky k žiadnej strate strategických výhod a zároveň výrazne zvýši bezpečnosť technológií. Takýto krok možno prirovnať k Zmluve o obmedzení strategických zbraní (SALT): vtedy bol stanovený limit na počet rakiet, čím sa znížila hrozba úplného zničenia a zároveň sa zachovalo jadrové odstrašovanie pre každú krajinu. Domnievam sa, že uzavretie takejto dohody bude mimoriadne ťažké, ale stále je na hranici možného.
-
Úroveň 4. Komplexná kontrola nad tempom vývoja umelej inteligencie alebo dokonca „pauza“, v ktorej sa zúčastnené vlády zaviažu výrazne obmedziť celkové tempo vývoja umelej inteligencie. Podporujem diskusiu o tejto myšlienke, ale domnievam sa, že je nepravdepodobné, že by sa v blízkej budúcnosti uskutočnila. Ak jedna strana poruší túto dohodu a začne tajne obchádzať monitorovanie, mohlo by to radikálne zmeniť rovnováhu síl na globálnej scéne. Je zrejmé, že motivácia porušovať takúto dohodu by bola obrovská, takže by bola potrebná extrémne vysoká miera dôvery v účinnosť kontrol.
Ak nadviažeme dialóg s Čínou, získame čas na bezpečný rozvoj umelej inteligencie v demokratických krajinách. Musíme si stanoviť ambiciózne ciele, ale uvedomiť si, že v praxi je jednoduchšie začať s jednoduchými a dosiahnuteľnými dohodami.
Napokon je dôležité zdôrazniť, že aj keď sa nám nepodarí dosiahnuť formálne dohody, zmena neformálnych pravidiel hry môže byť stále prospešná. Ak odborníci začnú otvorene zdieľať informácie o rekurzívnom učení umelej inteligencie a rizikách nesprávneho správania modelov, môžeme presvedčiť všetkých účastníkov trhu, že bezohľadné konanie nie je v ich najlepšom záujme.
Hlavný záver
Stále som presvedčený, že umelá inteligencia dramaticky zlepší kvalitu života ľudí. Moja snaha dosiahnuť tieto výsledky sa nezmenšila. Tieto výhody však dosiahneme iba vtedy, ak si zvolíme správnu cestu technologického rozvoja. Ak získaný čas využijeme rozumne, musíme byť obzvlášť opatrní, aby sme sa vyhli chybám. Vývoj umelej inteligencie bude stále prebiehať relatívne rýchlo a odborníci tento čas využívajú na lepšie pochopenie toho, čo sa deje vo vnútri modelov a prečo robia rozhodnutia, ktoré robia, na zlepšenie prísnosti a bezpečnosti prevádzkových procesov vo vedúcich IT spoločnostiach a na trénovanie modelov, ktorých predvídateľnosti a spoľahlivosti môžeme byť úplne dôverní. Bude výzvou implementovať navrhované kroky na bezpečné riadenie rýchlosti odvetvia. Verím však, že v záujme budúcnosti ľudstva si dlhujeme, aby sme sa o to pokúsili.
