Anthropic odhalil pravdepodobnosť zničenia ľudstva umelou inteligenciou 10 % do 10 rokov

Anthropic: Umelá inteligencia zničí ľudstvo v nasledujúcom desaťročí.

Umelá inteligencia by mohla zničiť ľudstvo v priebehu nasledujúcich desiatich rokov, tvrdí Evan Hubinger, vedúci stresového testovania konzistencie umelej inteligencie v spoločnosti Anthropic. Podľa neho je pravdepodobnosť, že sa tak stane, viac ako 10 % a spoločnosť nemá žiadny plán, ako to riešiť.

Evan Hubinger na sociálnych sieťach X:

„Úprimne veríme, že umelá inteligencia by mohla zničiť celé ľudstvo! Osobne si myslím, že pravdepodobnosť, že sa to stane v priebehu nasledujúceho desaťročia, je viac ako 10 %. Verím, že Anthropic robí všetko, čo je v jeho silách, ale zatiaľ nemáme plán na vyriešenie problému zarovnania superinteligencie a nemôžeme s istotou povedať, že sa k tomuto cieľu približujeme.“