Vyšetrovanie BBC: Ako sa z „lekárov“ na YouTube vytvorených umelou inteligenciou stal globálny biznis s radami zameraný na staršie publikum

Osemdesiatdvaročná Cely Ferreira sledovala YouTube, keď sa na obrazovke objavil lekár a poradil jej jesť ovocie, aby si zachovala zrak.

Rada sa zdala byť vierohodná. Nešlo však o skutočný lekársky kanál a samotný lekár neexistoval – jeho tvár a hlas boli vygenerované umelou inteligenciou.

Hoci YouTube označil video ako vygenerované umelou inteligenciou, získalo takmer 300 000 zhliadnutí a stovky komentárov. Ferreira pre BBC povedala, že napriek označeniu si je istá, že ide o skutočného lekára.

Nejde o ojedinelý incident: vyšetrovanie identifikovalo 29 portugalských kanálov, ktoré používali „lekárov“ vygenerovaných umelou inteligenciou, s celkovým počtom najmenej 70 miliónov zhliadnutí.

Takýto obsah sa šíri po celom svete. BBC Brazil objavila najmenej 50 kanálov YouTube s pokynmi, ako vytvoriť videá s lekármi s umelou inteligenciou v rôznych jazykoch vrátane portugalčiny, angličtiny, hindčiny, španielčiny, francúzštiny, taliančiny, poľštiny, nemčiny a turečtiny.

Tvorcovia týchto kanálov vnímajú staršie publikum ako ziskovú oblasť: veria, že majú viac voľného času na sledovanie videí a dostatok peňazí na nákup inzerovaných produktov.

Jeden skutočný lekár, ktorého obrázok bol použitý bez povolenia, varuje, že rady falošných lekárov môžu mať vážne následky a „spôsobiť starším ľuďom smrteľné škody“.

Spoločnosť Google, ktorá vlastní YouTube, uviedla, že jej pravidlá platformy sa vzťahujú aj na obsah generovaný umelou inteligenciou; zakazujú dezinformácie o medicíne, ktoré by mohli v reálnom živote spôsobiť vážne škody.

Vzorec pre tieto videá je jednoduchý: dôveryhodná osoba v bielom plášti pokojným, syntetizovaným hlasom varuje, že bežný produkt, liek alebo každodenný zvyk môže nenápadne ohroziť zdravie starších ľudí. Potom je divákom ponúknutý údajne nezaslúžene zabudnutý liek.

V niektorých prípadoch sú „lekári“ úplne fiktívni. V iných umelá inteligencia napodobňuje vzhľad, hlas alebo osobnosť skutočných lekárov bez ich súhlasu. V oboch prípadoch môžu diváci nadobudnúť dojem, že lekárske rady, ktoré dostávajú, poskytuje kvalifikovaný odborník.

V správe brazílskej neziskovej novinárskej organizácie CTRL+Z bolo identifikovaných dvadsaťdeväť portugalských kanálov, ktoré používajú „lekárov“ generovaných umelou inteligenciou. BBC Brazil preskúmala tieto kanály, aby našla ďalšie podobné zdroje a identifikovala spoločné vzorce vrátane podobných titulkov.

Ferreiru sme objavili po zhromaždení približne 27 000 komentárov pod videami na týchto kanáloch YouTube a pomocou špeciálneho skríningového nástroja sme identifikovali hlásenia používateľov o tom, ako takéto videá ovplyvnili ich správanie.

V desiatkach komentárov ľudia, ktorí tvrdia, že sú starší, uvádzajú, že sa riadili radami lekárov s umelou inteligenciou, začali užívať domáce lieky alebo prestali užívať predtým predpísané lieky.

V jednom komentári 85-ročný používateľ tvrdí, že omeprazol, liek potláčajúci žalúdočnú kyselinu, nahradil sladkými zemiakmi. V inom prípade 77-ročná žena píše, že tri roky nebola u lekára a ďakuje lekárovi s umelou inteligenciou za radu týkajúcu sa Alzheimerovej choroby.

V tutoriáloch na YouTube, ktoré objavila BBC Brazil, tvorcovia odporúčajú vytvárať titulky a scenáre, ktoré vyvolávajú strach a vytvárajú pocit naliehavosti, aby si diváci mysleli, že ich zdravie je v bezprostrednom ohrození.

Tvorcovia takéhoto obsahu zarábajú peniaze tak zo zhliadnutí na YouTube, ako aj z predaja elektronických kníh a produktov inzerovaných na týchto kanáloch. Jeden tvorca vzdelávacích videí z Brazílie, Jef Coimbra, tvrdil, že tvorcovia takýchto kanálov môžu zarobiť až 30 000 realov (5 816 dolárov) mesačne.

V inom videu predviedol, ako použiť alarmujúci tón a nabádať divákov, aby „konali rozhodne“, pričom uviedol príklad: „Buďte s tým opatrní pred spaním. Dávajte si pozor, aby ste nezomreli v spánku.“

Po tom, čo BBC kontaktovala Coimbru, bol verejný prístup k jednému z týchto videí odstránený.

Vo svojom vyhlásení Coimbra uviedol, že kanály s umelou inteligenciou, ktoré ukázal, boli len príkladmi a neboli jeho vlastnými. Uviedol, že učí, ako vytvárať informačný obsah pomocou umelej inteligencie, nie materiály určené na nahradenie zdravotníckych pracovníkov, a nemal v úmysle nabádať k porušovaniu pravidiel platformy alebo iných predpisov.

„Žiaden súcit“

Objavili sme najmenej päť kanálov YouTube, ktoré bez povolenia používali obrázok známeho brazílskeho lekára na propagáciu alarmistických tvrdení o zdraví a prírodných liečivách, ktoré údajne dokážu nahradiť predpísané lieky.

Hélio Brasileiro, ktorý už mnoho rokov prevádzkuje vlastný kanál s takmer 300 000 odberateľmi, nahlásil tieto videá na YouTube a podal sťažnosť polícii v São Paule.

Okrem zneužitia jeho obrazu je Brasileirovou najväčšou obavou to, že starší ľudia by mohli prestať užívať lieky od lekára kvôli radám, ktoré údajne pochádzajú od neho.

„Tí, ktorí toto vytvárajú, nemajú žiadnu empatiu,“ povedal pre BBC. „Pokusy o zarobenie peňazí týmto spôsobom môžu mať pre starších ľudí smrteľné následky.“

Podľa Jaime Zaladeka Gila, gastroenterológa v nemocnici Alberta Einsteina v São Paule, je hlavným nebezpečenstvom to, že pacienti môžu užívať neúčinné lieky, ktoré môžu buď zhoršiť ich stav, alebo oddialiť diagnózu.

„Je potrebné komplexné lekárske vyšetrenie a dôkladnejšia diagnóza, nielen video, ktoré tvrdí, že určitý liek vyrieši všetky vaše problémy,“ hovorí.

Brazílski právnici tvrdia, že tvorcovia obsahu, ktorí sa falošne vydávajú za lekárov, by mohli čeliť trestnému stíhaniu.

Google poznamenal, že špeciálne označenia pomáhajú divákom pochopiť, kedy bol obsah zmenený alebo vytvorený umelou inteligenciou.

Po tom, čo sme spoločnosť kontaktovali ohľadom štúdie CTRL+Z, YouTube odstránil zo vzorky niekoľko najväčších kanálov, ktorých videá spolu získali približne 41 miliónov zhliadnutí.

Medzitým Céli Ferreira hovorí, že sa chce naučiť lepšie rozpoznávať obsah, ktorý vidí online.

„Na svoj vek sa považujem za celkom dobrú v oblasti počítačov, ale stále neviem rozoznať rozdiel medzi umelou inteligenciou a realitou,“ hovorí.