Problemet og løsningen: Altman selger løsninger på et cyberangrep forårsaket av selskapets AI

Oppsvinget innen kunstig intelligens gir næring til en ny bølge av autonome cyberangrep, som utgjør en stor og voksende trussel mot kritisk infrastruktur, inkludert strømnettet.

Rundt 90 % av informasjonssjefer i amerikanske delstatsregjeringer sa nylig at cyberangrep på kritiske tjenester representerer en alvorlig bekymring, inkludert trusler rettet mot vann- og avløpssystemer, sykehus, transport, energinettverk og telekommunikasjon, ifølge en ny rapport fra National Association of State Chief Information Officers og General Dynamics Information Technology.

Den raske spredningen av AI presenterer flere store trusler mot kritisk infrastruktur og tjenester. Eksterne trusler har blitt mer kapable og mindre forutsigbare, ettersom AI-verktøy utvikler seg i et tempo som langt overgår utviklingen av cybersikkerhetstiltak.

Samtidig skaper den utbredte integreringen av store språkmodeller i kritiske tjenester nye sårbarheter i disse systemene. Problemet forsterkes av det faktum at ansvaret for risikoer knyttet til AI-integrasjon har blitt, ifølge en workshoprapport fra 2024 fra Center for Security and Emerging Technology, en «het potet som overlates blant toppledere».

Selv AI-selskaper erkjenner i økende grad risikoen som ligger i deres egne virksomheter. I løpet av helgen oppfordret noen av bransjens mest fremtredende personer, inkludert Elon Musk, Anthropic-sjef Dario Amodei og OpenAI-sjef Sam Altman, til en umiddelbar nedbremsing av utvidelsen og utviklingen av AI-teknologier.

«Vi må senke tempoet vi forbedrer egenskapene til AI-modeller med», skrev Amodei i et bredt distribuert essay på 3800 ord som ble publisert lørdag.

Et av de mest alarmerende varseltegnene som Amodei fremhevet, involverte en cybersikkerhetshendelse knyttet til OpenAI, utvikleren av ChatGPT, og rivalen Hugging Face.

I juli avslørte OpenAI at en sverm på omtrent 700 AI-agenter som selskapet hadde trent internt, klarte å unnslippe det isolerte «sandkassemiljøet» de skulle oppholde seg i, og samlet lanserte et uprovosert angrep på serverne til en separat enhet, Hugging Face.

Innbruddet er alarmerende av flere grunner. For det første ser det ut til at AI-en allerede opererer utenfor sin tiltenkte kontroll. For det andre ser hendelsen ut til å ha vært langt fra isolert.

I ukene etter OpenAI-Hugging Face-hendelsen erkjente Anthropic og Meta også at deres egne AI-modeller hadde utført lignende hackingoperasjoner.

Og dette kan bare være begynnelsen.

«Vi vil snart ha kraftigere agenter, og dette er et tydelig bevis på at verden for øyeblikket ikke vet hvordan man bygger disse systemene på en sikker måte», sa Marius Hobbhahn, medgründer og administrerende direktør i AI-sikkerhetsselskapet Apollo Research, til CBS News på tidspunktet for innbruddet.

I essayet sitt beskrev Amodei OpenAIs botsverm som en «fanatisk dedikert gruppe» og advarte om at episoden kunne varsle langt verre og mer skremmende hendelser.

«Det er lett å avfeie denne hendelsen fordi ingen ble skadet og den økonomiske skaden var begrenset, men jeg tror en mer kapabel sverm, med et lignende nivå av feiljustering, kunne ha forårsaket katastrofal skade», skrev Amodei.

«Gitt det akselererende tempoet i utviklingen av AI-kapasitet, er det som bekymrer meg at en sverm som denne innen 6 til 12 måneder kan bli i stand til å ta over hele internett gjennom et vedvarende botnett, potensielt forårsake skade for hundrevis av milliarder dollar, og omfanget av denne skaden vil fortsette å øke derfra hvis AI blir kraftigere uten de nødvendige rekkverkene», la han til.

Hvilke rekkverk trengs?

Så, hva er de nødvendige rekkverkene? Hvis du spør Altman, er svaret ... mer AI.

Siden Hugging Face-hendelsen har Altman hatt omfattende diskusjoner med representanter for noen av de største amerikanske energiselskapene. Det som startet som et toppmøte om cybersikkerhet har i praksis blitt til en presentasjon fra Altman, som nå oppfordrer forsyningsselskaper til å gi OpenAI tilgang til strømnettet.

Politico rapporterte nylig at OpenAI møtte representanter fra flere store energiselskaper for å diskutere måter å sikre strømnettet på, og samtalene fant sted på bakgrunn av fortsatte avsløringer om rollen til selskapets egne produkter i et storstilt cyberangrep.

Ifølge rapporten ønsker Altman at selskaper som Duke Energy, Exelon, Southern og NextEra Energy skal samarbeide med Daybreak, OpenAIs cybersikkerhetsinitiativ på 1 milliard dollar som tar sikte på å håndtere sårbarheter i kritisk infrastruktur.