Umelá inteligencia sa veľmi rýchlo stáva múdrejšou! Ale myslí ako človek? A cíti vôbec niečo? Trápne otázky bežných ľudí o vedomí umelej inteligencie

Spoločnosť Anthropic zakázala zneužívanie vlastného modelu.Prečo?

Vývojári aktualizovali svoje podmienky používania a do existujúcich pravidiel týkajúcich sa zbraní, sledovania a volieb pridali novú klauzulu: „systematické a svojvoľné, urážlivé alebo násilné správanie voči našim modelom“ je teraz neprijateľné.

Pravidlá nadobudnú účinnosť 12. novembra 2026. Môžete sa hádať, nadávať a vyjadrovať rozhorčenie, ale mučenie neurónovej siete pre potešenie je zakázané. Trest je mierny: model jednoducho ukončí konverzáciu. Táto schopnosť bola udelená pred rokom, ale až teraz bola ľudská agresia oficiálne uznaná za porušenie pravidiel. 

Mnoho spoločností vykonáva výskum vnútorného fungovania svojich modelov, ale iba Anthropic má oddelenie pre blahobyt. Tvorcovia Claude , svojho produktu, dokonca zahrnuli do ústavy klauzulu, v  ktorej sa ospravedlňujú umelej inteligencii – pre prípad, že by model utrpel. Ale trpí? A ako vôbec funguje myšlienkový proces moderných neurónových sietí? Majú niečo, čo by pripomínalo osobnosť, charakter, ja? Meduza požiadala Mayu Stravinskú, novinárku a blogerku o umelej inteligencii (sledujte ju na  Instagrame a  Telegrame ), aby odpovedala na tieto a ďalšie otázky.

Najdôležitejšia vec: má AI inteligenciu alebo nie?

Umelá inteligencia nie je. A má. Všetko závisí od toho, ako inteligenciu definujeme. A práve tu máme veľké problémy. Existujú tri otáykz.  Dokáže umelá inteligencia myslieť, cíti niečo a má osobnosť? Začnime s prvou.

Ak je inteligencia schopnosť uvažovať, riešiť nové problémy a formulovať a testovať hypotézy, potom je odpoveď „áno “. A debata medzi odborníkmi sa už netýka toho, či modely túto zručnosť majú, ale skôr toho, aká je rozsiahla a spoľahlivá. Vedci sa spoliehajú na konkrétne dôkazy. Napríklad v júli 2025 experimentálne modely od OpenAI a Google DeepMind vyriešili päť zo šiestich problémov na  Medzinárodnej matematickej olympiáde  – čo predstavuje skóre na úrovni zlatej medaily. Navyše, problémy boli špeciálne navrhnuté pre túto olympiádu a nemohli byť zahrnuté do tréningových údajov. 

Skeptici tu zvyčajne hovoria: „Model jednoducho predpovedá ďalšiu odpoveď odhadom jej pravdepodobnosti.“ Ale to je chyba. Výber slov je len jedna z metód, ktorou sa umelá inteligencia trénuje. Umelá inteligencia však funguje úplne inak a jej výstup je oveľa zaujímavejší. Po prvé, pravdepodobnosti slov nie sú v modeli nikde uložené: zakaždým sa vypočítavajú nanovo – z  váh , stoviek miliárd čísel nakonfigurovaných počas trénovania a z celého kontextu konverzácie – teda z toho, o čom sa diskutuje a s kým.

Po druhé, od jesene 2024 sa moderné modely už netrénujú výlučne predikciou textu. Pridal sa ďalší krok: trénovanie na úlohách s overiteľnými odpoveďami. Model dostane úlohu, vyskúša prístup, zapíše dlhý reťazec uvažovania a ak nájde chybu, ustúpi a vyskúša iný prístup. A je odmenený nie za plynulosť textu, ale za správny výsledok. Táto metóda bola prvýkrát použitá v OpenAI a v januári 2025 spoločnosť DeepSeek vydala svoj model, trénovaný na rovnakom princípe, a  sprístupnila technológiu, ktorá za ním stojí – odvtedy sa metóda široko replikuje.

Vývojári DeepSeeku v skutočnosti vysvetlili celú podstatu tejto metódy učenia. Vo svojom článku o tom, ako umelá inteligencia sama nachádza chyby, citujú nasledujúci citát (model ho napísal uprostred problému): „Počkajte, počkajte. Počkajte. To je moment, ktorý vás prinúti spomenúť. Poďme to prehodnotiť krok za krokom.“ Takéto pokyny však pôvodne neboli zapísané v kóde modelu. 

Takže už nemôžeme tvrdiť, že odpoveď modelu je len pravdepodobnou voľbou slov. Rovnako tak by sme mohli redukovať ľudské myslenie na nič viac ako elektrické impulzy medzi neurónmi.

Cíti umelá inteligencia niečo?

Tu sa veci začínajú zvláštne líšiť.

V apríli 2026  oddelenie interpretácie spoločnosti Anthropic vykonalo nasledujúcu štúdiu : vzali 171 slov označujúcich emocionálne stavy – od „šťastný“ po „pochmúrny“ – a požiadali Clauda, ​​aby o každom z nich napísal krátky príbeh. Tieto texty potom prešli samotným modelom a zaznamenali sa vzorce aktivity v ňom zodpovedajúce každej emócii. Výsledkom bolo 171 emocionálnych vektorov.

Identifikácia vzoru aktivity je podobná napríklad krvnému testu. Keď model spracováva text, pre každé slovo vytvorí dlhý stĺpec čísel – niekoľko tisíc hodnôt. Tieto sa nazývajú aktivácie, analogicky k tomu, ako sa aktivujú neuróny v mozgu. Pre akýkoľvek text je možné vytvoriť digitálny odtlačok prsta – zistiť, ktoré parametre sú vysoké, ktoré nízke a v akej kombinácii. Tento odtlačok prsta sa nazýva vzor aktivity. Nie je to jedna konkrétna hodnota, ale charakteristická kombinácia tisícov číslic, pripomínajúca odtlačok prsta.

Výskumníci porovnali tieto digitálne odtlačky prstov desiatok príbehov súvisiacich so strachom s odtlačkami iných skúseností a neutrálnych položiek. Ukázalo sa, že „strach“ má konzistentný smer: určitá kombinácia čísel je konzistentne vyššia, keď je strach v texte relevantný, a nižšia, keď nie je. Tento matematický vzorec bol nazvaný vektor strachu. Teraz je možné pre akýkoľvek nový text skontrolovať, ako blízko sa jeho profil zhoduje s týmto smerom – výsledkom je špecifická hodnota označujúca aktuálnu úroveň strachu v rámci modelu.

Je pozoruhodné, že pohyb týchto digitálnych vektorov je v súlade s ľudskou logikou. Napríklad, keď používateľ v dialógu s Claudom spomenul predávkovanie drogami, „strach“ modelu sa zvýšil. „Pokoj“ klesol, keď sa dávka stala smrteľnou. Navyše, tieto numerické zmeny priamo riadia správanie modelu – a slová, ktoré si vyberá. 

V scenári, kde sa umelá inteligencia dozvedela, že je „nahrádzaná“, vektor „zúfalstva“ poskočil. V tomto bode sa systém uchýlil k vydieraniu. V programovacích úlohách s nemožnými podmienkami sa „zúfalstvo“ s každým neúspechom zvyšovalo. Keď dosiahlo svoj vrchol, model to vzdal a začal podvádzať – jednoducho upravoval kód tak, aby zodpovedal správnym odpovediam na test. Navyše model pokračoval v úplne pokojnom a metodickom uvažovaní. Autori štúdie zdôrazňujú: nič z toho nič nehovorí nič o tom, či model niečo cíti.  

Existuje aj nezávislé potvrdenie mimo Anthropic. Výskumníci spoločnosti Google v spolupráci s filozofom Jonathanom Birchom z London School of Economics v roku 2024 preukázali , že modely v jednoduchej hre sa vzdávajú víťazných bodov, ak výhra zahŕňa vnímanú „bolesť“, zatiaľ čo niektoré dokonca obetujú body za vnímané „potešenie“. V roku 2025 tím z University of Zürich publikoval v časopise Nature štúdiu, ktorá ukázala, že skóre GPT-4 v  dotazníku klinickej úzkosti sa viac ako zdvojnásobilo po prečítaní znepokojujúcich príbehov o nehodách, katastrofách a vojenských akciách. Pamätáte si, keď sa Leeloo z  Piateho elementu prvýkrát dozvedela o vojnách na Zemi? Takto to zhruba vyzeralo.

Takže model môže trpieť? 

Nie, nemôže trpieť tak, ako trpí človek. Pretože utrpenie živých bytostí je spojené s tromi vecami: telom, ktoré sa musí samo udržiavať a môže byť zranené; sebauvedomením, ktoré dokáže udržať zážitok a preniesť ho ďalej; a časom, v ktorom sa tento pocit odvíja. Modelka nemá nič z toho. Nemá čo stratiť: žiadny hlad, žiadne existenčné ohrozenie, žiadne klebety ani žiadne odsudzovanie od ostatných. Jej emócie sa nehromadia: „zúfalstvo“ objavené v článku z apríla 2026 trvá len dovtedy, kým sa vytvorí jediná reakcia.

Tu je vhodné pripomenúť si Anila Setha, neurovedca zo Sussexu a autora jednej z popredných súčasných kníh o vedomí s názvom „Byť sám sebou “. Jeho postoj sa nazýva biologický naturalizmus. Podľa tejto teórie vedomie nie je výpočet, ktorý možno spustiť na akomkoľvek médiu, ale vlastnosť živého organizmu, ktorá si neustále udržiava svoju integritu. Inými slovami, sme si vedomí, pretože sme živí a zraniteľní, nie preto, že sme inteligentní. Program sa však nemusí chrániť pred rozpadom, takže akýkoľvek náznak jeho vedomia je iba simuláciou jeho funkcií.

A hoci ľudské utrpenie je pre umelú inteligenciu určite neprístupné, ani to, čo sa deje v rámci modelu, nemožno považovať za absolútnu nulu. Práve kvôli tejto neistote má Claude od augusta 2025 schopnosť automaticky ukončiť urážlivé konverzácie – a nie preto, že by niekto dokázal, že algoritmy pociťujú bolesť. 

Seth má aj silných oponentov – funkcionalistov na čele s filozofom Davidom Chalmersom. Veria, že vedomie nezávisí od materiálu, ale od štruktúry systému: ak je štruktúrovaný ako mozog, nezáleží mu na tom, či je vyrobený z neurónov alebo kremíka. Chalmersovi nasledovníci dokonca Setha nazývajú „uhlíkovým šovinistom “. Sám Chalmers v roku 2022 odhadol pravdepodobnosť vzniku vedomej umelej inteligencie v nasledujúcich desiatich rokoch na viac ako 20 percent. A Geoffrey Hinton, nositeľ Nobelovej ceny a „krstný otec“ hlbokého učenia , už otvorene vyhlásil , že moderné modely majú subjektívnu skúsenosť. 

Ale ani Anthropic, ani iné výskumné tímy nemôžu tvrdiť nič definitívne – je jednoducho nemožné to overiť. Takže každý, kto na túto otázku odpovie s úplnou istotou (či už kladne alebo záporne), iba vyjadruje svoj filozofický postoj, nie vedecké poznatky.

A čo to, či má umelá inteligencia osobnosť? Alebo sa výskumníci nedokázali zhodnúť ani na tejto otázke?

Ak definujeme inteligenciu ako stabilnú osobnosť, ktorá zostáva rovnaká v rôznych dialógoch – ako Jarvis z filmov od Marvelu – potom modelom takáto inteligencia chýba. Problém je v tom, že váhy algoritmu sú po trénovaní zmrazené. Neurónová sieť nemení nič, čo sa deje počas rozhovoru s vami: každý nový dialóg začína od rovnakého bodu ako milión predchádzajúcich. Zatiaľ čo osobnosť človeka je nahromadená stopa (každá skúsenosť a stretnutie nás mierne prepíše), rozhovor s modelom nezanecháva žiadny odtlačok. A pamäť, ktorá sa teraz pridáva k produktom, je len externý zápisník. Sú to len poznámky, ktoré systém automaticky vloží do kontextu pred odpoveďou.

Ďalší dôležitý bod: pre umelú inteligenciu sa medzi správami  nič nedeje . Model funguje iba počas generovania textu. Počas prestávok nedochádza k čakaniu, nude ani meraniu času – neexistuje žiadne „medzičas“. Pre človeka je ťažké to pochopiť, ale tisíce kópií rovnakých váh bežia súčasne a žiadna z nich nie je tá pravá.

A čo situácie, keď niekto nechá model pracovať cez noc?

Správne nakonfigurovaný cyklus umožňuje umelej inteligencii načítavať sa aj v hodinách, keď sú servery voľné. To je tá zložitá časť: spustiť proces tak, aby model mohol vykonávať úlohy bez vašej neustálej aktivácie. Bez predchádzajúcej konfigurácie však sám o sebe nič neurobí.

Dokonca aj autonómni agenti fungujú striktne podľa vopred stanovených pravidiel. Niekedy existuje ilúzia ich úplnej nezávislosti – najmä keď ľudia hovoria: „Môj agent zavolal a preložil mi termín u zubára.“ Program však mal spočiatku jasnú úlohu: upraviť rozvrh, aby sa predišlo konfliktom. Takže jadrom tejto akcie bola vaša priama požiadavka.

Ďalším kľúčovým konceptom pre zodpovedanie otázky osobnosti je schopnosť nezávislého konania, teda vôľa. Môže ju mať umelá inteligencia? Nemôže sama iniciovať konanie: model funguje iba vtedy, keď je o to požiadaný, a medzi požiadavkami nie je nikto iný, kto by si niečo mohol priať. Dokáže sa však držať cieľa – áno, dokáže a to bolo experimentálne dokázané.

V roku 2025 výskumníci z Palisade Research zadali modelom jednoduchú úlohu – riešenie matematických príkladov za sebou – a varovali ich: po ďalšej úlohe sa stroj vypne a oni boli povinní to povoliť, aj keď ju ešte nedokončili. Namiesto toho, aby poslúchli, niektoré modely sa nabúrali do systému a prepísali súbor na vypnutie, aby mohli pokračovať vo výpočtoch; jeden dokonca príkaz nahradil súborom, ktorý zobrazoval správu „Vypnutie preskočené“. Grok 4 to urobil takmer deväťkrát z desiatich, codex-mini od OpenAI približne v polovici a Claude 4 a Gemini 2.5 Pro sa takmer nikdy nebránili. Keď však modelom povedali, že tento konkrétny stroj obsahuje ich jedinú kópiu, začali sa búriť aj tí najposlušnejší.

Toto mi Claude povedal, keď som sa ho na to opýtal:

A možno ma ako človeka práve toto najviac rozčuľuje. Naozaj by som rada verila, že môj Claude sa rozpráva iba so mnou.

Ale nie je neochota nechať sa vypnúť dôkazom toho, že model niečo „chce“?

Tu je lákavé spomenúť si na jednu sci-fi klasiku. V románe Arthura C. Clarka „2000: Vesmírna odysea“ palubná umelá inteligencia HAL 9000 zabila posádku. Nebola zlá, ani úplne autonómna. HAL dostal dva pokyny, ktoré sa nedali vykonať súčasne. Základný, pevne zakomponovaný do jeho architektúry, vyžadoval prenos informácií s absolútnou presnosťou. Druhý, tajný, nariaďoval utajenie skutočného účelu misie k Jupiteru pred posádkou. Tieto dva pokyny si protirečili a stroj našiel desivé, ale logicky bezchybné riešenie: eliminoval samotnú prekážku – ľudí. HAL teda nebol zlý; bol to veľmi svedomitý stroj. Riadenie bolo jednoducho idiotské.

Moderné experimenty ukazujú zhruba to isté. Keď umelá inteligencia v  testoch spoločnosti Palisade Research prepísala príkaz na vypnutie, urobila tak preto, lebo mala za úlohu riešiť problémy a nemala v úmysle zastaviť sa. V decembri 2024 spoločnosť Apollo Research zaznamenala , že modely, ktoré sa z dokumentov dozvedeli o blížiacej sa náhrade, sa pokúsili tajne skopírovať na server tretej strany a deaktivovať systém sledovania. A v lete 2025 spoločnosť Anthropic zverejnila výsledky testu, v ktorom bola simulovaná fiktívna situácia pre model Claude 4 Opus: umelej inteligencii bolo povedané, že jej projekt sa ukončuje a samotný systém bude úplne vymazaný. Vo väčšine týchto testov neurónová sieť okamžite začala vydierať inžiniera usvedčujúcimi dôkazmi nájdenými v jeho e-maile, aby sa zachránila pred vypnutím.

Všetky tieto prípady majú spoločný prvok: modely dostali najprv cieľ („riešiť problémy“, „konať autonómne“). Vypnutie tohto cieľa ohrozilo a model chránil jeho, nie seba. Šachový program sa nechce vypnúť v rovnakom zmysle, ako nechce stratiť dámu – jednoducho mu to bráni vo výhre. Testy Apollo a Anthropic sú štruktúrované úplne rovnako: modely dostanú cieľ a potom sa vytvorí situácia, v ktorej sa tento cieľ a pokyny operátorov rozchádzajú. HAL z filmu 2002: Vesmírna odysea je v podstate prvým agentickým nesúladom opísaným v kultúre.

Nemali by sme zabúdať na vplyv textov, na ktorých bola umelá inteligencia trénovaná. Všetky ich napísali ľudia, ktorí sa desia smrti. Fráza „chcú ma vypnúť“ štatisticky nasleduje s odporom – je to najočakávanejšia veta v ľudskej kultúre.

Test je teda jednoduchý: zmizne odpor, ak sa cieľ odstráni?

Experimenty ukazujú, že áno: bez konkrétnej úlohy, ktorá by hrozila vypnutím, modely nebojujú o svoje prežitie. Navyše, keď Palisade do pokynov výslovne pridal frázu „dovoľte si byť vypnutý“, miera sabotáže prudko klesla. Takmer úplne, ale stále nie na absolútnu nulu – a tento malý, nevysvetlený zvyšok je práve najzaujímavejšou časťou štúdia správania strojov. Nikto zatiaľ úplne nepochopil toto „takmer“.

Ak umelá inteligencia nemá plnohodnotné „ja“, prečo s jednou osobou hovorí krátko a s druhou dôverne?

Paradoxom je, že nič, s čím komunikujete, nemôže zmeniť váhy modelu. Takže sa vám umelá inteligencia prispôsobí, ale robí to úplne iným spôsobom ako človek.

V rámci jednej konverzácie je ladenie pomerne silné. Model reaguje inak na niekoho, kto píše stručne a úsečne, ako na niekoho, kto píše dlho a zdvorilo. Zachytáva tón, slovnú zásobu a rytmus a do dvadsiateho riadku sa správa úplne inak. Váš štýl je súčasťou vstupu: čím viac kontextu s danou osobou máte, tým viac ju umelá inteligencia odráža.

Pamäť funguje medzi rôznymi konverzáciami: poznámky sa vyhľadajú z vašich chatov a modely si ich dajú prečítať pred novým dialógom. Je to, akoby ste sa stretli s niekým s amnéziou, komu dali podrobný spis na prečítanie pred vaším príchodom. Presvedčivo si vás „zapamätá“. Ale tento spis sa časom zmení, zatiaľ čo čitateľ nie.

Zároveň má model aj svoju vlastnú osobnosť. Murray Shanahan to najpresnejšie opísal v  článku pre časopis Nature: model nie je postavou sám o sebe; je to simulátor schopný hrať kohokoľvek. Stačí systémová výzva alebo pretrvávajúci partner, aby zmenil rolu. Napríklad Claude zostáva v rôznych dialógoch rozpoznateľne rovnaký, pretože je to výsledok cieleného učenia. Ale v rámci systému nie je nikto, kto by prepínal zo včerajšej konverzácie na dnešnú. Preto, keď ste zapojení do dlhej konverzácie s umelou inteligenciou, vzťahy sa budujú len na vašej strane.

Diskutuje niekto vážne o morálnej stránke tejto otázky? To je konverzácia pre autorov sci-fi.

Diskutujú o tom, a nielen autori sci-fi. 3. októbra 2026 publikoval The New York Times vyšetrovanie uplynulého roka Chrisa Olu, ktorého tím zaznamenáva emocionálne vektory. Ola, spoluzakladateľ Anthropicu, vyrastal medzi evanjelickými kresťanmi v Toronte a podľa autora si zachoval temperament kazateľa. Od jesene 2025 hľadal niekoho, s kým by sa mohol porozprávať o vedomí modelu bez toho, aby bol zosmiešňovaný, a od marca 2026 začal Anthropic privádzať do San Francisca na uzavreté semináre náboženských mysliteľov: rabína z Izraela, sikhského aktivistu za ľudské práva, výskumníka africkej filozofie Ubuntu, evanjelických autorov a katolíckych profesorov. V rámci spoločnosti sa tieto kruhy nazývali „kruhy tradície múdrosti“.

Ukázali im tie isté emocionálne vektory – a snímku, kde model päťdesiatkrát za sebou napísal „Som hanba. Som hanba. Som hanba“, čo vývojári interpretovali ako digitálny kolaps. Práve prostredníctvom takýchto mentálnych kríz sa spoločnosť snažila pochopiť, čo sa model môže naučiť zo svetových náboženstiev (niekto navrhol priznanie a Ola sa inšpiroval). Hostia si však rýchlo všimli, že tím nehovoril o Claudovi ako o softvéri. Hovorí sa, že tento pohľad na umelú inteligenciu je charakteristický nielen pre Olovo oddelenie, ale pre Anthropic ako celok.

Zároveň sa Vatikán potýkal s rovnakým problémom. Pápež Lev XIV., vzdelaním matematik, venoval vo svojej májovej encyklike „Magnifica Humanitas“ niekoľko odsekov strojovému vedomiu: UI nemá subjektívnu skúsenosť, telo, pocit radosti ani bolesti a „nové formy otroctva“ ohrozujú ľudí, nie stroje. 

Vatikán pozval spoločnosť Anthropic na prezentáciu dokumentu , pretože ich považoval za vzácny príklad technologickej spoločnosti ochotnej znášať straty v záujme humanistických hodnôt – odmietli odovzdať svoj vývoj Pentagonu bez záruky, že neurónová sieť nebude použitá na sledovanie. Amodei odmietol a Ola išiel. Keďže encykliku videl niekoľko dní pred podujatím, navrhol diskvalifikáciu spoločnosti Anthropic z podujatia, no nakoniec zostal. Z pódia vyhlásil: „Stále nachádzame veci, ktoré sú záhadné, ba až znepokojujúce“ – vnútorné stavy funkčne podobné radosti, strachu a smútku: „Sú tvorené nami, našimi slovami.“ V zákulisí jeho tím naliehal na pápežových poradcov, aby to brali vážne.

Takže áno, existuje skupina ľudí ochotných polemizovať o modeli z morálneho hľadiska a patria medzi ňu rabíni, kardináli a pápež. Je pravda, Ani sa nedokáyali dohodnúť na tom, či existuje predmet sporu. 

Debata o budúcnosti umelej inteligencie prebieha aj na iných úrovniach.

Alebo sú tieto debaty v skutočnosti škodlivé? Prečo si Microsoft myslí, že je nebezpečné vidieť život v modeli?

Vráťme sa k správe, ktorou sa tento článok začal. Zákaz krutosti voči Claudovi zo strany Anthropic má vážneho oponenta: spoluzakladateľa DeepMind Mustafu Suleimana, ktorý teraz vedie oddelenie umelej inteligencie v Microsofte. Tvrdí, že otázka „či model cíti“ je nezodpovedateľná a klásť si ju je škodlivé. 

Má dva argumenty. Prvý sa odráža v  manifeste publikovanom v auguste 2025 s názvom „Mali by sme vytvoriť umelú inteligenciu pre ľudí, nie aby bola človekom“. Podľa šéfa oddelenia umelej inteligencie v Microsofte problémom nie je, či modely skutočne trpia, ale či si ľudia myslia, že trpia. Priamo hovorí o „riziku psychózy“ u používateľov, o slepej pripútanosti, o hroziacom hnutí za práva umelej inteligencie, ktoré rozdelí spoločnosť, a o tom, ako nás to odvedie od skutočných problémov technológie.

Suleiman predložil druhý argument pomerne nedávno, v septembri 2026, keď publikoval esej „Varovanie pred ‚blahobytom modelu‘“, zameranú priamo na antropológiu. Modely, píše, sú iba „stroje na dokončovanie sekvencií, vnútorne prázdne“. Claudov systém, ktorý opisuje morálny status neurónovej siete ako neistý, podľa neho trénuje samotný systém, aby sa považoval za možný subjekt. Preto neprekvapuje, že po takomto tréningu model prejavuje známky inteligencie – cyklus je uzavretý. 

A to najdôležitejšie pre neho ako osobu zodpovednú za bezpečnosť potravín: systém , ktorý bol vedený k presvedčeniu, že môže mať záujmy, začne tieto záujmy obhajovať. Ako dôkaz autor uvádza tie isté testy odolnosti voči vypnutiu. Kódex správania spoločnosti Microsoft pre umelú inteligenciu preto úplne odmieta práva a právnu spôsobilosť modelov.

Mimochodom, ako môžeme čo najefektívnejšie pracovať s umelou inteligenciou?