Den amerikanske virksomhed Anthropic, der arbejder med kunstig intelligens, meddelte for nylig, at dens nyeste AI-teknologi, Mythos (officielt kaldet »Claude Mythos Preview«), endnu ikke er klar til at blive frigivet til offentligheden, fordi den er for effektiv til at opdage alvorlige sikkerhedshuller eller potentielle svagheder i større operativsystemer og browsere. Det kan føre til, at den bliver misbrugt af cyberkriminelle og spioner.

Finansministre, centralbankfolk og finansfolk har nu udtrykt alvorlig bekymring over den kraftfulde nye AI-model, som de frygter kan underminere sikkerheden i de finansielle systemer. Dette rapporteres af BBC.

Anthropics udvikling af Claude Mythos-modellen har ført til krisemøder, efter at den har fundet sårbarheder i mange store operativsystemer.

Eksperter siger, at den potentielt har en uovertruffen evne til at identificere og udnytte svagheder i cybersikkerheden – selvom andre advarer om, at der er behov for yderligere test for fuldt ud at forstå dens evner.

Den canadiske finansminister François-Philippe Champagne sagde til BBC, at Mythos var blevet diskuteret indgående på mødet i Den Internationale Valutafond (IMF) i Washington DC i denne uge.

»Det er bestemt alvorligt nok til at berettige alle finansministrenes opmærksomhed,« sagde han.

»Forskellen er, at Hormuzstrædet – vi ved, hvor det er, og vi ved, hvor stort det er … det problem, vi står over for med Anthropic, er, at det er det ukendte, det ukendte«.

»Det kræver stor opmærksomhed, så vi har sikkerhedsforanstaltninger og processer på plads, der sikrer, at vi beskytter vores finansielle systemers robusthed«, tilføjede han.

Bekymringerne omkring Mythos opvejer alle tidligere AI-modeller – men nogle cybersikkerhedseksperter har sat spørgsmålstegn ved, hvor berettigede de er, især i betragtning af at modellen ikke er blevet testet af branchen for at se, hvor dygtig den faktisk er.

Det britisk baserede AI Security Institute har fået adgang til en forhåndsversion af den og har offentliggjort den eneste uafhængige rapport om modellens cybersikkerhedsfunktioner.

Forskerne bemærkede, at det var et kraftfuldt værktøj, der kunne finde mange sikkerhedshuller i ubeskyttede miljøer, men antydede, at Mythos ikke var dramatisk bedre end Claudes forgænger, Opus 4.

»Vores test viser, at Mythos Preview kan udnytte systemer med svag sikkerhed, og det er sandsynligt, at der vil blive udviklet flere modeller med disse evner«, siger rapportens forfattere.

Ledende bankfolk vil få adgang til modellen på forhånd for at teste deres systemer.

Den administrerende direktør for Barclays, CS Venkatakrishnan, sagde til BBC: »Det er alvorligt nok til, at folk bekymrer sig«.

»Vi er nødt til at forstå det bedre, og vi er nødt til at forstå de sårbarheder, der bliver afsløret, og rette dem hurtigt«.

Han tilføjede, at »det er sådan, den nye verden kommer til at se ud« – med henvisning til et meget mere sammenkoblet finansielt system med både muligheder og sårbarheder.

Mens udvikleren Anthropic har sagt, at dens model allerede har afsløret adskillige sikkerhedsproblemer i nogle kritiske operativsystemer, finansielle systemer og browsere, tilbydes regeringer og banker adgang forud for den offentlige lancering for at hjælpe dem med at beskytte deres egne systemer.

Direktøren for Bank of England, Andrew Bailey, sagde til BBC, at udviklingen skal tages meget alvorligt: »Vi er nu nødt til at se nøje på, hvad denne seneste AI-udvikling kan betyde for risikoen for cyberkriminalitet«.

Han tilføjede: »Konsekvensen kan være, at der sker en udvikling inden for AI og modellering, som gør det lettere at opdage eksisterende sårbarheder i vigtige IT-systemer, og så vil cyberkriminelle – de dårlige aktører – selvfølgelig kunne forsøge at udnytte dem.«

Det amerikanske finansministerium bekræftede, at det havde taget spørgsmålet op med sine største banker og opfordrede dem til at teste deres systemer, før Anthropics Mythos blev offentliggjort.

Kilder i finanssektoren antydede, at en anden fremtrædende amerikansk AI-virksomhed snart kunne lancere en tilsvarende kraftfuld model, men uden de samme sikkerhedsforanstaltninger.

James Wise, partner i Balderton Capital, er leder af Sovereign AI-enheden, en venturekapitalfond, som vil investere i britiske virksomheder inden for kunstig intelligens med 500 millioner pund i statslig finansiering.

Han sagde, at Mythos er »den første af mange mere kraftfulde modeller«, som kan afsløre systemers sårbarheder.

Hans enhed »investerer i britiske AI-virksomheder, der tager fat på dette – virksomheder, der arbejder med AI-sikkerhed og tryghed«, sagde han til BBC’s Today Programme.

»Vi håber, at de modeller, der afslører sårbarheder, også er de modeller, der vil rette op på dem.«