Šéf OpenAI označil údaje o vývoji superinteligencie za nepríjemný únik
NEW YORK – Agentúra Reuters uviedla, že šéf OpenAI bol prepustený po liste zamestnancov spoločnosti znepokojených prelomom v hľadaní super- umelej inteligencie (AI), ktorý by mohol ohroziť svet.
Altman údaje jednoznačne nepotvrdil ani nevyvrátil, no sťažoval sa na únik.
Informácie o prielome vo vývoji umelej inteligencie (AI) boli „nešťastným únikom“, povedal generálny riaditeľ OpenAI Sam Altman v rozhovore pre The Verge, pričom odmietol podrobnejšie komentovať.
„Očakávame, že pokrok v tejto technológii bude aj naďalej rýchly a očakávame pokračujúcu veľmi tvrdú prácu, aby sme zistili, ako to urobiť bezpečným a užitočným,“ dodal.
Hovoríme o článkoch z Reuters a The Information, ktoré hovorili o novom modeli OpenAI s názvom Q* (vyslovuje sa Q Star). Účastníci publikácií uviedli, že práca Q* bola demonštrovaná v rámci spoločnosti a doteraz bola schopná riešiť jednoduché matematické problémy, ale výskumníci považovali jej vývoj za krok k vytvoreniu umelej všeobecnej inteligencie (AGI).
Zdroje agentúre Reuters povedali, že niekoľko výskumníkov napísalo list správnej rade OpenAI, v ktorom varovali, že nová technológia môže ohroziť ľudstvo. Zaznamenali silu vývoja a jeho potenciálne nebezpečenstvo. Agentúra pripomenula diskusie medzi vedcami o rizikách vzniku vysoko inteligentných systémov, ktoré môžu rozhodnúť, že zničenie ľudstva je v ich záujme.
Podľa agentúry bol tento list „poslednou kvapkou“ v dlhom zozname sťažností predstavenstva proti Altmanovi a nakoniec viedol k jeho prepusteniu.
Podľa odborníkov AGI na rozdiel od konvenčných modelov AI prekoná ľudí a bude schopný pochopiť a nezávisle meniť svoje algoritmy. OpenAI oznámilo plány na vytvorenie AGI, sľubujúce „neuveriteľné nové schopnosti“, ale nebolo oficiálne oznámené, že by sa takéto technológie objavili vo svete.
Altman bol odvolaný z funkcie generálneho riaditeľa OpenAI 17. novembra 2023vpo tom, čo predstavenstvo dospelo k záveru, že „nebol dôsledne ústretový vo svojich interakciách s predstavenstvom, čo obmedzovalo jeho schopnosť vykonávať svoje povinnosti“. “Predstavenstvo už neverí v jeho schopnosť viesť OpenAI,” uviedlo vo vyhlásení predstavenstvo. O niekoľko dní neskôr, 22. novembra, bol po tlaku investorov, predovšetkým Microsoftu, obnovený.
