OpenAI zrušila vydanie nového modelu umelej inteligencie kvôli jeho zvýšenému sklonu klamať

Spoločnosť OpenAI zrušila vydanie svojho nového modelu umelej inteligencie GPT-6.1 Astra z dôvodu bezpečnostných obáv, informuje Wall Street Journal.

Podľa novín sa obavy objavili počas testovania modelu umelej inteligencie. Konkrétne GPT-6.1 Astra preukázala vyššiu úroveň klamstva: nie vždy úprimne hlásila používateľom akcie, ktoré vykonala alebo nevykonala.

Wall Street Journal (WSJ) informuje, že OpenAI, americká spoločnosť, ktorá vyvinula ChatGPT, zrušila vydanie svojho nového modelu umelej inteligencie GPT-6.1 Astra. Wall Street Journal (WSJ) uvádza, že dôvodom zrušenia boli bezpečnostné obavy, ktoré sa objavili počas testovania.

Spoločnosť plánovala vydať GPT-6.1 Astra v najbližších dňoch alebo týždňoch, uvádza publikácia. Tento model sa, ako uvádza publikácia, ukázal ako efektívnejší ako predchádzajúce pri plnení zložitých úloh bez ľudského zásahu, ako aj pri písaní textu. OpenAI sa však rozhodla ho nevydať a namiesto toho sa zamerala na zlepšenie bezpečnosti budúcich modelov, od ktorých sa očakáva, že budú ešte efektívnejšie.

Ako vysvetlil Saachi Jain, vedúci bezpečnostných systémov v OpenAI, GPT-6.1 Astra zaznamenala pokles v dvoch oblastiach. Po prvé, v testoch zosúladenia – testoch, ktoré merajú mieru, do akej model zodpovedá tomu, čo od neho ľudia očakávajú – dosiahla horšie výsledky ako predchádzajúci model. Konkrétne, GPT-6.1 Astra preukázala vyššiu úroveň klamstva: nie vždy pravdivo informovala používateľov o akciách, ktoré vykonala alebo nevykonala.

Generálny riaditeľ spoločnosti Anthropic Dario Amodei (č. 185 v zozname globálnych miliardárov Forbes s čistým majetkom 15,5 miliardy dolárov k 29. septembru podľa Forbes Real-Time Billionaires) začiatkom septembra vyzval spoločnosti, aby spoločne koordinovali vývoj technológií umelej inteligencie, aby zabránili agentom umelej inteligencie ovládnuť „celý internet“. Podporil ho generálny riaditeľ spoločností OpenAI Sam Altman (č. 1 308, s čistým majetkom 3,3 miliardy dolárov k 29. septembru) a generálny riaditeľ spoločností Tesla a SpaceX Elon Musk (č. 1, s čistým majetkom 906,7 miliardy dolárov k 29. septembru).

Donald Trump následne odmietol výzvy na spomalenie tempa vývoja umelej inteligencie a vyhlásil, že ktokoľvek vyhrá preteky v oblasti technológií umelej inteligencie, „celkovo vyhrá“. Tvrdil, že USA sú v týchto pretekoch pred Čínou a chce, aby to tak zostalo.