Spoločnosti zaoberajúce sa umelou inteligenciou vyvíjajú plány reakcie pre prípad katastrofy

WHASHINGTON – Axios: Spoločnosti zaoberajúce sa umelou inteligenciou vyvíjajú plány pre prípad katastrof.

Popredné IT spoločnosti podľa Axios nacvičujú scenáre rozsiahleho útoku s využitím umelej inteligencie. Lídri v tomto odvetví sa domnievajú, že k takémuto incidentu by mohlo dôjsť už v priebehu budúceho roka.

Vedúci pracovníci spoločností Anthropic, OpenAI a ďalších zaoberajúcich sa umelou inteligenciou súkromne diskutujú o tom, ako by spoločnosť a vláda mohli reagovať na katastrofický incident s umelou inteligenciou.

Prečo je to dôležité: Očakávajú veľkú udalosť, s najväčšou pravdepodobnosťou kybernetický útok, ktorý povedie k strate prístupu k finančným službám, internetu alebo dokonca k elektrickým a vodovodným systémom.

Prvý vážny incident, ktorý by spôsobil skutočné škody v dôsledku umelej inteligencie, by mohol prehĺbiť verejnú ostražitosť voči tejto technológii, ako aj voči vedúcim predstaviteľom spoločností zaoberajúcich sa umelou inteligenciou. Najmä voči generálnemu riaditeľovi spoločnosti Anthropic Dario Amodei a generálnemu riaditeľovi spoločnosti OpenAI Sam Altman. Kritika by sa mohla dostať aj k americkému prezidentovi Donaldovi Trumpovi, ktorý bol obvinený z neochoty regulovať toto odvetvie.
Úroveň hrozby. Plánovanie scenárov je bežnou praxou v podnikaní aj v národnej bezpečnosti. Napríklad Pentagon už desaťročia vykonáva vojenské cvičenia. S umelou inteligenciou je však situácia iná: mnohí poprední výskumníci a lídri v tomto odvetví veria, že veľký incident je prakticky nevyhnutný.

„OpenAI vykonáva cvičenia pripravenosti na krízu, kde tímy diskutujú a precvičujú rôzne scenáre,“ uviedol hovorca spoločnosti. „Neveríme, že tieto udalosti sú nevyhnutné. Účelom týchto cvičení je pripraviť sa na širokú škálu možných scenárov.“

Anthropic sa odmietol vyjadriť.

Detaily: Pátranie po vinníkoch sa začne v každom prípade, bez ohľadu na to, či sa z izolovaného testovacieho prostredia vyslobodí roj nepoctivých agentov, alebo či útočníci nájdu neočakávané spôsoby, ako zneužiť už dostupné modely.

Nedávny útok na juhokórejské finančné inštitúcie – vrátane hackerského útoku na dve banky – demonštruje škody, ktoré môže spôsobiť len jedna osoba.

Hacker z Číny údajne použil nástroje založené na čínskych modeloch umelej inteligencie (vrátane DeepSeek) na krádež údajov od desiatok tisíc klientov bánk. Podľa firmy zaoberajúcej sa kybernetickou bezpečnosťou CrowdStrike útočník tiež použil nástroj Claude Code na nájdenie platforiem na predaj ukradnutých údajov.

Experti, ktorí vyvíjajú scenáre vývoja umelej inteligencie, sa domnievajú, že po úspechu v strednodobých voľbách sa demokrati pokúsia čo najrýchlejšie obmedziť rozvoj technológie, ale to nebude jednoduché.

Mnohí členovia Kongresu si vzhľadom na svoj pokročilý vek a obmedzené chápanie rýchlych zmien v umelej inteligencii nemusia plne uvedomovať súčasnú situáciu.

Globálna ekonomika je dnes do značnej miery závislá od rozvoja infraštruktúry umelej inteligencie, takže spomalenie tohto procesu by mohlo spôsobiť vážne škody.

Existuje príliš veľa open-source modelov, ktoré si ktokoľvek môže stiahnuť a použiť na škodlivé účely. Väčšina odborníkov na kybernetickú bezpečnosť sa domnieva, že existuje len jedno riešenie tohto problému: použitie samotnej umelej inteligencie na boj proti škodlivej umelej inteligencii.

Medzi riadkami: Plánovanie zahŕňa nacvičovanie najhorších možných scenárov. Jeho hlavným cieľom je rýchlo oboznámiť členov Kongresu s potenciálnymi rizikami.

Vedúci pracovníci spoločností chápu, že legislatíva obmedzujúca umelú inteligenciu pravdepodobne nebude v blízkej budúcnosti schválená. Chcú však v prípade prvého vážneho incidentu vopred ovplyvniť rozhodnutia vlády USA.
Za zmienku stojí: Mnohí v odvetví umelej inteligencie očakávajú, že k prvému takémuto incidentu dôjde v priebehu šiestich až dvanástich mesiacov.

Spoločnosti sa domnievajú, že aj keby demokrati získali väčšinu v Senáte aj Snemovni reprezentantov, nebudú schopní vypracovať jednotnú politiku v oblasti umelej inteligencie, a to ani v rámci samotnej strany.

Medzi najdrakonickejšie návrhy demokratov patrí zákaz vytvárania tzv. umelej superinteligencie a zastavenie vývoja pokročilých systémov umelej inteligencie.

Ďalšie iniciatívy majú podporu politikov z oboch strán, ako aj zástupcov odvetvia. Napríklad jeden návrh by vyžadoval, aby vývojári vybavili pokročilé systémy umelej inteligencie mechanizmom núdzového vypnutia. Odborníci však pochybujú, že by bolo možné v praxi ovplyvniť všetky systémy umelej inteligencie.

Zhrnutie: Ak dôjde k skutočnej kríze, stranícke rozdiely by mohli ustúpiť do úzadia. Jeden konzultant Demokratickej strany v Kongrese pripomenul, že sa to už stalo počas pandémie COVID-19 a finančnej krízy v roku 2008.