Jack Clark, medstifter af firmaet Anthropic, har efterlyst muligheden for at bremse udviklingen af kunstig intelligens (AI) og advaret om, at teknologien nærmer sig et punkt, hvor den kan udvikle sig uden menneskelig indblanding. »Man ønsker at have muligheden for at tage foden af speederen og sætte den på bremsen«, sagde Clark til BBC Newsnight.

»Lige nu er det som om AI-branchen har et gaspedal, men ikke noget bremsepedal«.

Han understregede, at mennesker gennem regeringens politik skal bevare kontrollen over AI-systemerne, som kun vil blive mere kraftfulde og få større indflydelse på samfundet.

»Verden må tænke sig om, og vi må i sidste ende udvikle nogle nye regler, der gør, at vi kan have tillid til disse systemer«, sagde han.

Allerede nu kører Anthropics populære chatbot Claude på kode, som systemet selv har skrevet 80 % af. Det er muligt at nå op på 100 % inden for to år, sagde Clark, og »det ville have enorme implikationer«.

Clark skitserede ikke, hvordan en »bremse« for AI-forskning og -udvikling kunne skabes, men trak en parallel mellem AI og olieboomen og baronerne ved forrige århundredeskifte.

»Samfundets reaktion var at indføre en fornuftig politik og et regelsæt, der gav folk tillid til olie og de fordele, olie kunne give verden, og som betød, at man ikke behøvede at bekymre sig om personligheden hos dem, der ledede selskaberne«, sagde Clark. »Det er helt klart der, vi ender her«.

Alligevel modtog Anthropic i denne uge en præsidentordre om AI fra den amerikanske præsident Donald Trump, som var relativt tilbageholdende i sine direktiver over for virksomhederne.

Den krævede ikke, at AI-virksomheder skulle underkaste sig sikkerhedstest fra myndighederne, hvilket fortsat er en frivillig indsats.

Store AI-virksomheder, der arbejder med teknologiske fremskridt, herunder Anthropic, OpenAI og Google, har heller ikke sagt, at de vil sætte deres egen forskning på pause.

Anthropic er vokset så hurtigt siden opstarten for fem år siden, at virksomheden forbereder sig på en børsnotering.

Det er ved at blive en af de første børsnoteringer af en nyere AI-virksomhed og en af de mest værdifulde børsnoteringer i historien, da Anthropics værdiansættelse fra private investorer anslås til næsten 1 billion dollar.

Clark sagde, at Anthropics motivation for offentligt at diskutere AI-teknologiens voksende muligheder ikke er at styrke sit omdømme yderligere over for betalende kunder.

Han ønsker ganske enkelt at »fortælle verden, hvad vi ser inde i disse virksomheder med denne usædvanlige teknologi«.

Siden virksomheden blev grundlagt af administrerende direktør Dario Amodei, Clark og en håndfuld andre ledere, har Anthropic markeret sig som en åbenhjertig kritiker af potentielle risici forbundet med kunstig intelligens.

Virksomheden har endda været involveret i en offentlig strid med det amerikanske forsvarsministerium på grund af bekymringer for, at deres AI-værktøjer skulle bruges til masseovervågning af amerikanere og autonom krigsførelse.

»Jeg er bekymret for mine børn, hvis vi som samfund ikke har en seriøs samtale om, hvad implikationerne af AI-teknologiens fortsatte fremskridt indebærer«, udtalte Clark til BBC. »Der er potentielt store fordele. Der er også risici«.

Clark tilføjede, at en af risiciene er forstyrrelser i økonomien, med frygt for, at AI-teknologi som »agenter« – hovedsageligt individuelle AI-bots, der udfører rutineopgaver på en noget autonom måde – kan overtage visse job.

Store teknologivirksomheder har gennemført masseafskedigelser det seneste år, ofte med henvisning til AI-værktøjernes stigende evne til at udføre arbejdet for hundreder eller endda tusinder af softwareingeniører.

Clark sagde, at folk, der er mere kreative og har flere og bedre ideer, faktisk kan have en fordel i forhold til kunstig intelligens.

»Det er et åbent spørgsmål, om AI-systemer virkelig kan være kreative … der er faktisk ikke noget bevis for det endnu«, tilføjede han. »Hos Anthropic er vi nu mere begrænset af evnen til at generere gode ideer end af evnen til at udføre ingeniørarbejdet for at gøre disse til virkelighed«.

Alligevel foreslog Jack Clark, at en ung person, der måske føler, at en økonomi bygget på AI ikke har plads til dem, bør »udvikle en hobby« og satse på en uddannelse inden for humanistiske fag.

»Folk, der er kreative og kan tænke bredt, folk, der læser meget, folk, der har interesser, er dem, der får mest ud af dette«, sagde Clark. »Giv efter for nysgerrigheden, så vil det betale sig i form af, hvordan du kan bruge denne teknologi«.