Škandál s AI okolo románu Thelisona Auréliena „Buď toto, alebo smrť“, mýtus o osamelom tvorcovi

PARÍŽ – Le Monde: Spisovateľ Aurelien prichytený pri použití umelej inteligencie.

Autor knihy nominovanej na najvyššiu francúzsku literárnu cenu bol obvinený z používania umelej inteligencie, informuje Le Monde. Autor obvinenia popiera. Tento prípad vyvoláva množstvo nepríjemných otázok pre vydavateľov – aj pre čitateľov.

Román „Buď toto, alebo smrť“ od kanadsko-haitského spisovateľa je na vrchole rebríčkov predajnosti a bojuje o cenu Prix Goncourt. Ak už umelá inteligencia prenikla do takýchto kníh, kam smerujeme? Michel Guerrin, šéfredaktor Le Monde, si myslí, že sa s tým pravdepodobne budeme musieť zmieriť.

Každý tušil, že sa niečo také skôr či neskôr stane, a teraz sa to stalo. Tak je to aj v prípade spisovateľa haitského pôvodu, narodeného v Quebecu, Thélysona Oréliena, a jeho románu „Buď toto, alebo smrť“ (C’était ça ou mourir, vydavateľstvo Grasset). Otázkou je, či bola táto kniha napísaná s pomocou umelej inteligencie. Zariadenia vytvorené na odhalenie podvodníkov odpovedajú: áno. Sám autor prisahá, že to tak nie je. Pre neho je v stávke česť. Pre literárny svet, ktorý už aj tak prechádza ťažkými časmi, je to skutočný šok.

Takýto ohlas možno vysvetliť statusom románu ako najväčšieho odhalenia literárnej sezóny. Rozpráva príbeh učiteľa dejepisu a geografie, ktorý uteká z chaosu Haiti a podniká dlhú cestu do Kanady. Debutový román neznámeho básnika bol vydaný vo Francúzsku a získal nadšené recenzie od tlače vrátane Le Monde. Kniha je jasným lídrom v predajnosti, predalo sa jej okolo 40 000 výtlačkov. Už získala cenu Fnac za najlepší román a bojuje o ďalšie literárne ocenenia, najmä o Goncourtovu cenu.

Magický príbeh sa v pondelok 21. septembra zmenil na nočnú moru. Anonymný autor na sociálnej sieti X uviedol, že značnú časť knihy prehnal cez detektor umelej inteligencie s názvom Pangram a výsledky boli pre spisovateľa zničujúce. Podľa Le Figaro z 24. septembra je dotyčným autorom Samuel Fitoussi, esejista, ktorý v novinách publikuje satirické stĺpčeky.

Podporovatelia Telisona Auréliena v pomerne typickej hláške „naši sú bití“ zosmiešňujú tento nástroj a odsudzujú „rasistickú kampaň pravicovej a krajne pravicovej tlače“ proti černošskému spisovateľovi a jeho príbehu o migrantoch. Iní to vnímajú ako zradný útok do chrbta zvnútra vydavateľského sveta – pokus odstrániť problémového človeka z pretekov o cenu (bude zaradený do druhého zoznamu nominovaných na Prix Goncourt 6. októbra?).

Toto však prehliada krutú realitu: nástroje na rozpoznávanie pomocou umelej inteligencie, ako sú Pangram a GPTZero, sa v súčasnosti považujú za vysoko spoľahlivé, hoci chyby nie sú vylúčené. Navyše, situácia Thelisona Aureliena sa len zhoršila. 23. septembra používatelia X a kanadské noviny La Presse informovali, že začiatkom roku 2010 opakovane plagioval. Uvedené príklady nenechávajú žiadne pochybnosti.

Prehliadaný problém

Okrem Aurélienovej situácie sa problematike umelej inteligencie doteraz v literárnej komunite venovala len malá pozornosť. Zostáva niečím abstraktným – slonom v miestnosti, o ktorom sa len zriedka diskutuje. Medzitým je už teraz veľa kníh napísaných s pomocou umelej inteligencie. To je bežné v online samovydávaní. Autori sú neustále prichytení pri čine.

V auguste súťažilo 14 amerických vydavateľstiev o právo vydať debutový román, niektoré boli ochotné zaň zaplatiť 2 milióny dolárov (1,8 milióna eur). Rukopis však bol potom stiahnutý: zistilo sa, že na jeho písaní sa zjavne podieľala umelá inteligencia. Mnohí spisovatelia potichu priznávajú, že používajú programy na nájdenie správneho slova, nájdenie informácií, formulovanie jednotlivých fragmentov – skrátka na písanie. Poľská spisovateľka Olga Tokarczuk, ktorá je koniec koncov nositeľkou Nobelovej ceny za literatúru za rok 2018, hoci je širokej verejnosti málo známa, o tom hovorila v máji.

Dnes sa táto téma zrazu dostala do popredia a vyvoláva závratné otázky o samotnom koncepte autorstva a budúcnosti literatúry. Dôvod spočíva v bezprecedentnej zhode okolností. Román vydalo rešpektované vydavateľstvo (Olivier Nora) v rešpektovanom vydavateľstve (Grasset) a podporuje ho rešpektovaný spisovateľ (Gaël Faye, ktorého meno sa objavuje na obálke). Knihu vysoko ocenili poprední literárni kritici a autor bol pozvaný, aby vystúpil v štátnom rozhlase a televízii. Román si našiel široké publikum, niektorí ho označujú za „hlboko ľudský“ text.

Buďme úprimní: vznešený štýl románu, prázdne aforizmy, pretvárkové metafory a vyčerpávajúce opakovania nie sú blízke nášmu vkusu. Len málo je však takých, ako sme my. Okrem toho, tento prejav na obranu stroskotancov nemohol prísť v lepšom čase v našich krutých časoch.

A predsa, ak sa umelá inteligencia dostala medzi knihy vysokej kvality, a po prvýkrát sa ocitla v samom srdci literatúry, čo bude ďalej? Tento moment bol už dlho obávaný. Vo výtvarnom umení, popovej a elektronickej hudbe a v scenáristike sa umelá inteligencia už stala ich stálym spoločníkom – či sa nám to páči alebo nie. Vytvára kapely, hercov, obrazy a fotografie.

Ale literárny svet na to nie je pripravený. Lipne na obraze zdedenom po avantgarde – obraze spisovateľa ako osamelého hrdinu, tvoriaceho v samote pred prázdnou stránkou. Nevyhrala papierová kniha a nenechala elektronické čítačky len ako gadgety?

Kultúra podozrievania

Ale obraz osamelého spisovateľa je klamlivý. Ani ľudstvo, ani umenie sa nikdy nevzdali technologického pokroku. Zajtra stroj v správnych rukách vychrlí 400 strán tvrdej, drsnej prózy v duchu Williama Faulknera. A literárny svet si naďalej strká hlavu do piesku. Niektorí vydavatelia kontrolujú rukopisy detekčnými programami, hoci si dobre uvedomujú, že čoskoro nebudú schopní nič rozpoznať a budú musieť pracovať s hybridnými textami.

Šíri sa kultúra podozrievania, pretože je nemožné priradiť každému autorovi dozorného psa a označiť každú knihu nálepkou „vyrobené bez umelej inteligencie“, ako mäso s označením „Vyrobené vo Francúzsku“.

Existuje len jedna cesta von. Kým sa neobjaví skutočný regulátor umelej inteligencie – európsky alebo globálny – budeme to pravdepodobne musieť akceptovať. Zistenie toto leto, že Amazon skupuje tisíce historických a vzácnych kníh, vytrháva strany, skenuje ich a potom ničí – všetko preto, aby nakŕmil svoj model umelej inteligencie – bolo srdcervúce.

Dnes však nezáleží na tom, či bol román „Buď to, alebo smrť“ napísaný s umelou inteligenciou alebo nie. Aurélien si môže robiť, čo sa mu zachce (plagiátorstvo je iná vec), najmä preto, že anonymné udania nie sú práve vítané. „Píše tak, ako chce,“ povedala 23. septembra v relácii France 5 spisovateľka a prekladateľka Virginie Dépente. Navyše, písanie románu s umelou inteligenciou nie je len o stlačení tlačidla. Potrebujete nápad, musíte formulovať presnú úlohu, zapojiť sa do dialógu so strojom a prepísať pokyny desaťkrát, dvadsaťkrát. Umelá inteligencia netvorí – preformuluje.

Preto sa spisovateľ pracujúci s umelou inteligenciou môže presvedčiť, že je autorom svojej knihy. Neokradli len jedného autora – okradli všetkých, a teda nikoho. Je na nich, aby sa rozhodli, či to priznajú a či za to prevezmú zodpovednosť. Nezasahujme do toho a čakajme na lepšie časy, pričom si zachovávajme istotu, že skvelé literárne dielo nepodlieha algoritmom a je postavené na dôvere.