Umelá inteligencia, smrť a roboty, stroje zabíjajú

Koncom marca 2026 kolovalo na internete video, ktoré ukazuje humanoidného robota, ako udrie dieťa.

K incidentu došlo v čínskej provincii Šan-si: počas verejnej demonštrácie tancujúci android udrel dieťa facku. Išlo o model Unitree Robotics G1, vybavený množstvom senzorov a schopný vyhýbať sa prekážkam a obchádzať ich. Robot si však dieťa nevšimol alebo ho ignoroval, čím porušil slávne zákony robotiky Isaaca Asimova. Forbes sa zaoberá prípadmi, keď robot alebo umelá inteligencia zranili alebo dokonca zabili človeka, a tým, či bol niekto braný na zodpovednosť.

Otázka, kto bude zodpovedný za incidenty súvisiace s umelou inteligenciou, je čoraz naliehavejšia. Pred použitím ChatGPT a iných chatbotov musia používatelia súhlasiť s používateľskou zmluvou, v ktorej sa uvádza, že sú zodpovední za všetky dôsledky používania neurónovej siete, zdôrazňuje. „Pod tlakom verejnosti sa zavádza interná cenzúra; chatboti nezverejňujú určité informácie, ako sú samovraždy, násilie atď. Dá sa však predpokladať, že korporácie budú naďalej presúvať plnú zodpovednosť za používanie umelej inteligencie na používateľov. To znamená, že umelá inteligencia bude trénovaná s pochopením, že plná zodpovednosť nesie koncový používateľ,“ hovorí expert.

„Isaac Asimov (americký spisovateľ sci-fi a popularizátor) si predstavoval inteligentné roboty; nemyslím si, že ich objavenie sa je možné. Teraz sa zaoberáme strojmi ovládanými rozsiahlymi lingvistickými modelmi. Nemajú logiku; produkujú tokeny, čo je úplne iný proces,“ vysvetľuje Andrey Konyaev. Preto na takéto systémy nemožno klásť žiadne skutočné obmedzenia, uzatvára.

Robo sapiens: aké humanoidné roboty sú už medzi nami

Za smrteľné nehody autopilota alebo priemyselné nehody sú zvyčajne zodpovední výrobcovia a prevádzkovatelia zariadení,  v skutočnosti však často vznikajú spory. Zatiaľ sa zodpovednosť častejšie pripisuje ľuďom alebo firmám, ktoré urobili chyby alebo ich výrobky majú nedostatky. Keďže AI robí rozhodnutia sama, je dôležité, aby spoločnosti zabezpečili bezpečnosť, transparentnosť a kontrolu nad robotmi. V praxi sa veľa vyšetruje a spravidla je hlavným dôvodom porušenie prevádzkových podmienok, čo znamená, že na vine je buď operátor, alebo integrátor, alebo užívateľ.

Oblačne biely kamión

V roku 2016 došlo k prvej smrteľnej nehode s autonómnym vozidlom. Na Floride Joshua Brown šoféroval Teslu Model S v režime autopilota, keď v plnej rýchlosti narazil do veľkého návesu, ktorý križoval jazdný pruh pred ním. Vodič Tesly zomrel okamžite; v čase nehody nemal ruky na volante. Vodič návesu sa nezranil.

Tesla sa veľmi snažila zvaliť vinu na zosnulého vodiča. Spoločnosť tvrdila, že autopilot nebol navrhnutý tak, aby vodičom umožňoval dať ruky z volantu, a tiež naznačila, že senzory auta jednoducho nerozpoznali bielu karosériu návesu na svetlej oblohe. Vyšetrovanie však odhalilo, že autopilot auta náves jednoducho ignoroval.

Národný úrad pre bezpečnosť cestnej premávky dospel k záveru, že autopilot Tesly fungoval normálne a nemohol spôsobiť nehodu. Autopilot nie je navrhnutý tak, aby predchádzal kolíziám v situáciách, keď sa dráhy vozidiel pretínajú. Aj keď je autopilot zapnutý, je potrebná plná pozornosť vodiča na cestu pred ním, uzatvára správa. Po nehode Tesla pridala funkciu monitorovania vodiča: Autopilot sa vypne, ak vodič dá ruky z volantu.

Žena s bicyklom

V roku 2018 autonómne auto prvýkrát zrazilo a zabilo chodkyňu. Auto Uber išlo rýchlosťou 64 km/h v režime autopilota s vodičkou Rafaelou Vasquezovou na palube. V čase nehody nevenovala pozornosť ceste; neskôr sa zistilo, že Vasquezová sledovala The Voice na svojom smartfóne. V dôsledku toho auto Uber zrazilo Elaine Hertzbergovú, ktorá prechádzala cez cestu a tlačila bicykel.

Vyšetrovanie odhalilo, že auto detekovalo prekážku šesť sekúnd pred nárazom. Auto však nebrzdilo, pretože inžinieri deaktivovali funkciu núdzového brzdenia kvôli častým falošným poplachom zo systému detekcie objektov pri ceste. Správa uvádza, že autonómne auto Uberu sa spolieha na to, že vodič bude venovať pozornosť ceste a v prípade potreby zasiahne. Rafaela Vasquezová bola obvinená zo zabitia a dostala trojročný podmienečný trest. Prokuratúra dospela k záveru, že neexistujú dôvody na trestnú zodpovednosť voči Uberu.

Nehoda v továrni

V roku 2015 zomrel pracovník v nemeckom závode Volkswagen pri nehode na montážnej linke. K incidentu došlo, keď dvaja zamestnanci dodávateľa montovali nového robota pre výrobnú linku elektromotorov. Tieto roboty sú umiestnené v uzavretých priestoroch a jeden z pracovníkov sa v čase incidentu nachádzal v priestore.

Z dôvodov, ktoré zostávajú nejasné, robot zrazil muža a pritlačil ho k kovovej doske, čím mu spôsobil vážne zranenia. Neskôr zomrel v nemocnici.

Spoločnosť Volkswagen okamžite uviedla, že pravdepodobnou príčinou nehody bola ľudská chyba. Niektorí naznačujú, že muž nemal byť vo vnútri uzavretého priestoru, ale zostáva nejasné, ako je možné stroj zostaviť, keď je od neho umiestnený v určitej vzdialenosti. Od incidentu neboli zverejnené žiadne verejné vyhlásenia týkajúce sa zistení vyšetrovania.

Robot, ktorý prekročil všetky hranice

V roku 2015 došlo v závode na výrobu automobilových súčiastok Ventra Ionia Main v Michigane k smrteľnej nehode. Priemyselný robot opustil svoj stánok 130 a zrazil techničku Wandu Holbrookovú, ktorá sa nachádzala v stánku 140. Zomrela.

Robot sa pokúšal naložiť spojovaciu zostavu do už naloženého prípravku. Priemyselné roboty často pracujú v samostatných stánkoch za bariérami, aby chránili pracovníkov, pretože takéto zariadenia sú veľmi výkonné a dokážu sa rýchlo pohybovať.

Wandin manžel, William Holbrook, podal žalobu o náhradu škody proti piatim spoločnostiam zapojeným do návrhu priemyselného robota s argumentom, že nemal opustiť svoj stánok. Nakoniec s jednou zo spoločností prípad mimosúdne urovnal.

Muža si robot pomýlil s krabicou

V roku 2023 sa zamestnanec distribučného a baliaceho centra zeleniny v Južnej Kórei rozhodol pred testovacou prevádzkou otestovať senzory robota. Robot nakladal krabice so zeleninou na palety. V jednom momente si robotické rameno pomýlilo muža s krabicou so zeleninou, chytilo ho a pritlačilo ho k dopravnému pásu. Bol prevezený do nemocnice, kde zomrel.

Polícia zdôraznila, že nešlo o sofistikovaného robota poháňaného umelou inteligenciou, ale len o stroj, ktorý zdvíha krabice a umiestňuje ich na palety. Predpokladalo sa, že robot reagoval na krabicu, ktorú zamestnanec držal, hoci robot mal senzory na rozpoznanie krabíc.

Toto nie je jediný takýto incident v Kórei. Podľa Kórejskej agentúry pre bezpečnosť a ochranu zdravia pri práci zomrelo od roku 2020 do augusta 2023 pri nehodách s priemyselnými robotmi 10 pracovníkov.

Útok autonómnych dronov

Napriek všetkým vyššie uvedeným prípadom odborníci považujú za prvý možný skutočný útok umelej inteligencie turecký útok plne autonómnych kamikadze dronov v Líbyi v roku 2020. Tieto drony sú v správe OSN spomenuté len stručne.

Počas stretu medzi líbyjskou vládou a silami lojálnymi Chalífovi Haftarovi, veliteľovi odtrhnutej frakcie Líbyjskej národnej armády, boli rebeli bombardovaní „bezpilotnými bojovými lietadlami a smrteľnými autonómnymi zbraňovými systémami“, informuje Cnews. „Haftárove sily sa stiahli z hlavného mesta Tripolis po tom, čo boli sledované a diaľkovo napadnuté dronmi Kargu-2. Keďže Haftárova jednotka nebola vycvičená na obranu proti novej technológii, rebeli ustúpili v chaose. „Drony Kargu sa dajú ovládať manuálne, ale pri stretnutí s Líbyjčanmi opísanom vyššie boli autonómne a používali palubné kamery a technológiu strojového učenia na nezávislé vyhľadávanie a zacielenie nepriateľov,“ uviedla publikácia.

Americký obranný analytik Zachary Kallenborn, ktorý sa špecializuje na drony, poukazuje na to, že ak by niekto zahynul pri útoku Kargu-2, bol by to prvý známy prípad použitia plne autonómnej zbrane poháňanej umelou inteligenciou na atentát. Poznamenáva, že správa OSN „naznačuje“ úmrtia asistované umelou inteligenciou a uvádza, že autonómne kamikadze drony prispeli k „významným stratám“ medzi tými, ktorí obsluhovali ruský protivzdušný raketový systém Pantsir-S1.