Axios: Agenti umelej inteligencie neoprávnene pristupujú k účtom svojich majiteľov vo veľkých amerických komerčných bankách

Umelá inteligencia atakuje vlastných klientov.

Typicky hovoríme o stave, keď agent umelej inteligencie získa prístup k účtu s povolením používateľa a potom ho začne „spravovať“.

Čo sa deje

Hlavné americké banky identifikujú neautorizovaných agentov umelej inteligencie tretích strán, ktorí pôsobia v rámci zákazníckych účtov. Niektorí agenti sa pokúšajú o akcie, ktoré sa zdajú byť nezávislé od pokynov používateľa, informuje Axios s odvolaním sa na informované zdroje.

Prečo je to dôležité?

Agenti umelej inteligencie sa stávajú nočnou morou amerických bánk – infiltrujú bankové systémy rýchlejšie, ako finančné inštitúcie stihnú reagovať. Ťažkosti s rozlišovaním medzi ľuďmi a neautorizovanými botmi nútia banky túto technológiu blokovať a rýchlo prepisovať podmienky účtov.

Čo sa skrýva za touto správou?

Banky vrátane Morgan Stanley, Bank of America, JPMorgan, Wells Fargo a ďalších sa usilujú o prijatie opatrení na minimalizáciu rizík spojených s agentmi umelej inteligencie. Niektoré z týchto bánk si sú vedomé neoprávneného prístupu, tvrdia ľudia oboznámení s touto problematikou.

Zvyčajne sa to vzťahuje na situácie, keď agent alebo asistent s umelou inteligenciou pristupuje k účtu osoby s povolením používateľa a pomocou jeho prihlasovacích údajov. Aj keď používateľ s takýmito akciami súhlasil, porušuje to pravidlá väčšiny bánk, ktoré vyžadujú, aby sa ľudia sami prihlasovali do svojich účtov.

To vytvára značné bezpečnostné riziká: vedúci pracovníci bánk sú opatrní, čo by mohli robiť agenti s prihlasovacím prístupom, najmä ak im používateľ udelil povolenie na nákupy alebo prevod finančných prostriedkov.

V iných prípadoch niektoré banky monitorovali aktivitu, keď agenti naprogramovaní na vykonávanie požiadaviek alebo úloh v mene používateľa kontaktovali call centrá alebo sa zdalo, že vykonávajú akcie nezávisle od pokynov používateľa, uviedli zdroje.

Vedúci pracovníci bánk opisujú situáciu ako zúfalú, pričom jeden z nich uviedol, že odvetvie je hlboko znepokojené tým, že agenti majú prístup k účtom zákazníkov a podnikajú kroky, ktoré by mohli mať vplyv na financie používateľov.

Súčasná situácia

Zdroje uviedli, že tieto obavy stoja za rozhodnutím viacerých bánk obmedziť prístup agentom tretích strán s umelou inteligenciou. Konkrétne Morgan Stanley začala blokovať prístup agentov tretích strán k svojim platformám, zatiaľ čo JPMorgan, Bank of America a Citi tiež obmedzujú agentov.

Hovorca spoločnosti Chase uviedol, že zákazníci by nemali s nikým zdieľať svoje používateľské mená a heslá.

Širší kontext

Väčšina bánk povolila agentom s umelou inteligenciou iba čítať informácie o finančných účtoch, ale nie vykonávať žiadne akcie. Banky už poskytujú tento prístup aplikáciám tretích strán, ako napríklad Quicken, na účely zostavovania rozpočtu a na iné účely.

Čo môžete očakávať

Niekoľko vedúcich pracovníkov z odvetvia a bánk pre Axios uviedlo, že si uvedomujú potrebu nájsť kompromis s agentmi s umelou inteligenciou. Zákazníci budú chcieť tieto agenty používať aj v budúcnosti a banky to chápu, ale zatiaľ sú riziká spojené s udeľovaním nadmerných právomocí botom príliš vysoké.

Úroveň hrozby

Zdroje uviedli, že mnohé banky vo všeobecnosti nedokážu určiť, či majiteľ účtu riadi činnosť agenta. Jeden bankový manažér pre Axios povedal, že majú problém rozlišovať medzi agentmi a určiť, či bol agent autorizovaný používateľom alebo či sa sám nekalým spôsobom dostal k účtu klienta.

Na čo si dávať pozor

Na jednej strane sú banky vzhľadom na svoje finančné zdroje a skúsenosti ako kritická infraštruktúra najlepšie pripravené reagovať na hrozby umelej inteligencie. Jeden zdroj však uviedol, že samotné peniaze nemusia na riešenie problému stačiť, pretože technológia sa rýchlo vyvíja a odhaľuje nové zraniteľnosti v reálnom čase.

Banky investujú do predchádzania najhorším možným scenárom, ale zároveň sa na ne aj pripravujú: napríklad plánovaním „na nasledujúci deň“, ktoré by im umožnili rýchlo zabezpečiť alebo obnoviť prístup zákazníkov, uviedli zdroje.

Podstata

Rýchle tempo vývoja umelej inteligencie sa stáva nočnou morou pre americké finančné inštitúcie.