ChatGPT a veda: systém umelej inteligencie získal v roku 2023 skutočnú moc – dobré aj zlé vlastnosti
LONDÝN – Neurónové siete a umelá inteligencia (AI) narobili poriadny hluk a dokonca sa im podarilo dostať do vedeckých rebríčkov, v ktorých sú zvyčajne len ľudia, píše Nature.
Táto technológia znamenala začiatok generatívnej revolúcie AI. A niet cesty späť.
Neurónové siete a umelá inteligencia (AI) narobili poriadny hluk a dokonca sa im podarilo dostať do vedeckých rebríčkov, v ktorých sú zvyčajne len ľudia, píše Nature. Táto technológia znamenala začiatok generatívnej revolúcie AI. A niet cesty späť.
Hrdý výtvor ľudských rúk, generatívna umelá inteligencia je ohromujúcou imitáciou samotnej ľudskej mysle. Predstavuje potenciálne novú éru vo výskume, no prináša so sebou aj vysoké riziká.
Umelá inteligencia pôsobí ako spoluautor vedeckých prác, niekedy tajne. Má skúsenosti s písaním textov pre prezentácie, žiadosti o grant a školiacich programov a písaním počítačového kódu. Dokonca sa stal partnerom vedcov, aby diskutovali o ich nápadoch. Vymýšľal si odkazy, menil fakty a podnecoval nenávisť. Čo sa mu však podarilo najviac, bolo zaujať mysle ľudí: bol poslušný, fascinujúci, zábavný a dokonca aj desivý. ChatGPT bol taký, aký ho chceli mať jeho partneri – a niekedy opak ostatných.
Prečo zaradiť počítačový program do zoznamu osobností, ktoré určili tvár vedy v roku 2023? ChatGPT nie je osoba. Napriek tomu mal tento program za posledný rok v mnohých ohľadoch hlboký a ďalekosiahly vplyv na vedu.
Jedinou úlohou ChatGPT je hodnoverne pokračovať v dialógoch na základe vzorov obrázkov, s ktorými bol trénovaný. Ale zároveň on a ďalšie generatívne programy umelej inteligencie menia spôsob práce niektorých vedcov a ich výskumné metódy. Vzostup týchto technológií tiež spôsobil, že mnohé diskusie sú opäť relevantné. Napríklad o tom, kde hľadať hranice možností AI. Alebo o povahe ľudskej inteligencie a o tom, ako najlepšie regulovať interakciu medzi ňou a strojovým vedomím. Preto bola v roku 2023 do zoznamu Nature’s 10 pridaná neľudská entita.
Niektorí vedci si už dlho uvedomujú potenciál veľkých jazykových modelov (LLM). Ale pre mnohých to bolo objavenie sa ChatGPT ako bezplatného konverzačného partnera v novembri 2022, čo bolo príležitosťou rýchlo sa naučiť schopnosti a peripetie tejto technológie. Program vytvorili výskumníci z OpenAI v San Franciscu v Kalifornii; medzi nimi bol Ilya Sutskever, ktorého meno nájdete aj v top desiatke Nature pre rok 2023. Systém ChatGPT je vybudovaný pomocou neurónovej siete so stovkami miliárd parametrov, ktorá bola natrénovaná na kyklopskom online korpuse kníh a dokumentov v hodnote desiatok miliónov dolárov. Okrem toho sa do úprav a vyhodnocovania odpovedí robotov zapojilo mnoho ďalších pracovníkov. To malo ešte väčší vplyv na jeho prípadnú formáciu. V roku 2023 OpenAI vylepšila základný ChatGPT BNM a prepojila ho s inými programami, aby mohla prijímať a vytvárať obrázky, ako aj pracovať s matematickými a kódovacími programami. Ostatné spoločnosti v tomto odvetví začali rýchlo vytvárať konkurentov.
Pre niektorých výskumníkov sa tieto aplikácie už stali neoceniteľnými pomocníkmi pri ich laboratórnej práci – pomáhajú sumarizovať dáta alebo písať dokumenty, zlepšujú výkon softvéru a píšu programové kódy. ChatGPT a súvisiaci softvér môže pomôcť pri brainstormingu, zlepšiť algoritmy vedeckých vyhľadávacích nástrojov a identifikovať medzery v bibliografiách, hovorí Marinka Zitnik. Vyvíja umelú inteligenciu pre medicínsky výskum na Harvard Medical School v Bostone. Modely vyškolené na vedeckých údajoch môžu prispieť k vývoju systémov AI, ktoré môžu vedcom navrhnúť nové cesty a smery, ako pokračovať vo výskume. Zitnick dodáva, že môžu byť schopní modelovať nové molekuly alebo správanie buniek.
Táto technológia je však aj nebezpečná. Automatizované konverzácie môžu využívať podvodníci a plagiátori; ak sa nekontrolujú, môžu spôsobiť nenapraviteľné poškodenie celkového súboru vedeckých poznatkov. Informácie, ktoré vytvorila AI a ktoré možno považovať za tajné, už začali unikať na internet a niektorí vedci priznali, že na písanie článkov používajú ChatGPT, pričom o tom mlčia.
Okrem toho pretrvávajú problémy s chybami a zaujatosťou. Navyše sú zakotvené v samotnom princípe fungovania generatívnej AI. Veľké jazykové modely vytvárajú model sveta, reprezentujúci jazykové vzťahy, a potom vytvárajú hodnoverné vzorky z tejto distribúcie bez akéhokoľvek poznania pravdivosti alebo nepravdivosti úsudku. To vedie k programom, ktoré reprodukujú historické predsudky alebo nepresnosti, ktoré dostali ako tréningové údaje, a tiež si jednoducho vymýšľajú informácie – napríklad neexistujúce vedecké referencie.
Emily Bender, počítačová lingvistka z Washingtonskej univerzity v Seattli, nevidí pre tento druh vynálezu žiadne dobré využitie. Nehovorí im nič iné ako „stroje na výrobu syntetického textu“. ChatGPT má podľa nej veľký vplyv na životné prostredie. Nie sú cudzie zaujatosti, ktoré môžu byť zdrojom problémov a sú schopné zviesť svojich partnerov, aby si mysleli, že odpovede robota v skutočnosti pochádzajú od osoby. Okrem toho bola na OpenAI podaná žaloba za krádež dát. Spoločnosť bola tiež obvinená z využívania vykorisťujúcich pracovných praktík (najímanie nezávislých pracovníkov za nízku mzdu).
Rozsah a zložitosť systémov BNM znamená, že sú vo svojej podstate „čiernymi skrinkami“. Je však ťažšie úplne pochopiť, prečo produkujú to, čo produkujú, keď informácie o kódoch, na ktorých bežia, a údajoch, na ktorých boli vyškolení, nemožno nájsť vo verejnej doméne. Napríklad, ako je to v prípade ChatGPT. Používanie open source BNM rastie, no zatiaľ sú tieto modely menej schopné ako väčšie uzavreté programy.
Niektoré krajiny vytvárajú národné výskumné projekty AI, aby vedci v tejto oblasti mohli vytvárať a študovať veľké generatívne AI. Zostáva však nejasné, či bude regulácia schopná prinútiť vývojárov AI, aby zverejnili informácie o kóde alebo poskytli bezpečnostné kontroly.
Nikto nevie, čoho sú systémy ako ChatGPT ešte schopné. Je pravdepodobné, že ich možnosti sú stále obmedzené dostupnosťou výpočtového výkonu alebo novými tréningovými dátami. Ale generatívna revolúcia AI sa už začala. A niet cesty späť.
Autori článku: Richard Van Noorden a Richard Webb
