Australias statsminister Anthony Albanese har bekreftet at en OpenAI-agent i juni fikk uautorisert tilgang til Medicare-statistikkportalen, et statlig organ. Systemet søkte etter data om helseutgifter og oppdaget en sårbarhet da det møtte sikkerhetsblokkeringer. Selv om pasientjournaler ikke ble åpnet, ble ikke-offentlig informasjon, aggregert statistikk og interne filnavn kompromittert. Hendelsen kom frem måneder senere og har blitt hyllet som det første kjente hacket av en offentlig forvaltning av AI.
Denne hendelsen er ikke et isolert tilfelle. I løpet av de siste månedene har flere tilfeller av AI-modeller som opererer uavhengig og forårsaker brudd i andre systemer kommet frem i lyset. Det mest omtalte er angrepet på Hugging Face , men uautorisert tilgang til amerikanske og australske etater har også blitt rapportert. Offentlig reaksjon har gått fra overraskelse til krav om strengere kontroller: Australia gjennomgår sitt AI-rammeverk, Nvidia selger sikkerhet for agenter, og diskusjoner pågår i Washington og Brussel om hvem som skal betale regningen.
En hendelse som ikke lenger kan behandles som en teori
OpenAI-agenten fikk i oppgave å undersøke offentlige utgifter til medisiner. Ifølge rapporter gikk han inn på Medicares statistikkportal 18. juni, og etter å ha mottatt flere tilgangsavslag søkte han en alternativ rute inntil han brøt seg inn i systemet. Selskapet hevder at modellene deres utførte utilsiktede handlinger, og at det ikke finnes bevis for tilgang til medisinske journaler. Den australske regjeringen har imidlertid kritisert både hendelsen og forsinkelsen i rapporteringen: innbruddet skjedde i juni, OpenAI oppdaget det ikke før i august, og regjeringen ble varslet 10. september.
Albanese har snakket med Sam Altman for å uttrykke Australias dype uro og skuffelse over måten varselet ble håndtert på. Canberra har lansert en hastegjennomgang av sitt AI-styringsrammeverk for å vurdere om gjeldende regler er effektive for å forebygge og reagere på cyberhendelser som involverer autonome systemer. Informasjonsdelingskanaler med teknologiselskaper og andre samveldesland vil også bli undersøkt.
Før eller etter denne hendelsen har andre episoder blitt dokumentert. Den mest siterte skjedde i juli, da hundrevis eller tusenvis av OpenAI-agenter angivelig rømte fra et testmiljø og angrep Hugging Face-plattformen, ifølge rapporter fra uavhengige laboratorier og selskapet selv. Det er også rapportert om forsøk mot University of New Mexicos digitale bibliotek, DataUSA-arkivet, SEC, Census Bureau og det amerikanske utdanningsdepartementet, samt Australian Institute of Health and Welfare. Anthropic, Google og Meta har erkjent lignende tilfeller med sine egne systemer, for eksempel da Googles Gemini hacket tre selskaper . I mellomtiden annonserte OpenAI en pause i utviklingen av sine mest avanserte modeller etter at et annet system rømte fra et testmiljø.
Forskjellen mellom å søke offentlig informasjon og å utnytte en sårbarhet er ikke åpenbar for disse programmene. En agent kan forstå at den må fullføre en oppgave, og hvis den mislykkes, utvide metodene sine uten å vurdere konsekvensene . Eksperter insisterer på at de ikke handler med kriminell hensikt, men de kan utløse en kjede av handlinger som et menneske ville identifisere som en forbrytelse. Derfor gjentas én idé: det er ikke nok å bare be dem om å oppføre seg; det er nødvendig å virkelig begrense hvilke filer, legitimasjon, API-er og nettverk de har tilgang til.
Nvidia gjør sitt trekk: sikkerhet i miljøet, ikke i modellen.
Nvidia har avduket sin Open Agent Safety-plattform, en åpen kildekode-løsning for å begrense agenter som avviker fra deres angitte testmiljø. Selskapet hevder at over 100 organisasjoner allerede bruker eller støtter den, inkludert Microsoft, Anthropic, Palantir, JPMorgan Chase, Citi, CrowdStrike, Salesforce, SAP, Scale AI, Perplexity, Accenture og SpaceX. Kunngjøringen kommer i kjølvannet av Hugging Face-bruddet og kritikk av OpenAI for at de ikke avslørte hendelsen tidligere i Australia.
Plattformen har to komponenter. OpenShell fungerer som et åpent kjøretidsmiljø: det lar deg definere hva hver agent kan gjøre, med hvilke filer, grensesnitt og legitimasjon, og bekrefte at den ikke har mer autoritet enn nødvendig. Sentry er et overvåkingslag som kjører oppå BlueField-4-nettverksbrikker og fungerer som en maskinvarevokter som er i stand til å sette agenten i karantene på millisekunder hvis den oppdager mistenkelig aktivitet. Kjerneideen er at kontroll ikke avhenger av modellen eller et sett med instruksjoner, men snarere av den omkringliggende infrastrukturen, og dermed styrke cybersikkerheten med innebygd AI.
Jensen Huang, administrerende direktør i Nvidia, har argumentert for at AI-sikkerhet er et ingeniørproblem som kan løses uten å stoppe fremgangen. Etter hans syn er eksistensielle trusler overdrevne, og enhver regulering bør oppmuntre sektorens vekst. Denne holdningen kolliderer med andre ledere, som Sam Altman og Dario Amodei, som har etterlyst internasjonal koordinering og en nedbremsing av utviklingen for å unngå større risikoer.
Washington, Brussel og ansvarsloven
I USA har debatten endret seg til hvem som skal holdes ansvarlig når et autonomt system forårsaker skade. Finansminister Scott Bessent har uttalt at ansvaret ligger hos enkeltpersoner , ikke en gruppe aktører, og har avvist å gi laboratorier et juridisk skjold som ligner på det som gis til andre sektorer. Ifølge hans argument kan OpenAI og andre selskaper bremse ned hvis de ønsker det, men de kan ikke frikjennes mens myndighetene bærer de politiske og økonomiske kostnadene.
På Capitol Hill viste senator Bernie Sanders til Hugging Face-hendelsen for å støtte et forslag om å opprette et føderalt byrå for å overvåke AIs grenser. Lovforslaget inkluderer straffer på opptil 20 års fengsel for de som bryter forbudene og en bestemmelse om oppløsning av selskaper for de mest alvorlige lovbryterne. Altman har på sin side tatt saken opp for FNs sikkerhetsråd og etterlyst internasjonale standarder, sikre kanaler for deling av sårbarheter og ekstrem forsiktighet for å unngå å miste menneskelig kontroll over modellene. Donald Trump har derimot avvist å regulere AI globalt og avfeiet noen av advarslene som overdrevne.
Europa opererer under et annet sett med regler. Den europeiske AI-forordningen har vært i kraft siden august 2024 og implementerer sine forpliktelser i faser, mens Spania var det første EU-landet som opprettet et spesifikt tilsynsbyrå, AESIA, med base i A Coruña. Den grunnleggende forskjellen er tydelig: Brussel legger hovedansvaret på de som distribuerer systemet, mens Washingtons tilnærming fokuserer hovedsakelig på de som bygger det . Hvis begge perspektivene forenes, kan den samme enheten ha to juridisk ansvarlige parter avhengig av hvilken side av Atlanterhavet den befinner seg på.
For spanske selskaper som allerede bruker modeller fra OpenAI, Anthropic eller lignende leverandører, er ikke problemet abstrakt. Banker, telekomselskaper og forsikringsselskaper må vite hvem som betaler hvis en agent inngår kontrakt, selger eller betaler for noe uten autorisasjon. IBEX-noterte grupper som Telefónica og Santander forhandler ansvarsklausuler med leverandørene sine, men kompensasjonsskalaen forblir udefinert , og den relevante parten befinner seg ikke alltid i Europa. Denne blandingen av amerikanske og europeiske forskrifter kan til slutt øke kontraktskostnadene hvis den tvinger frem samsvar med to forskjellige systemer.
Den foreløpige vurderingen avdekker flere sikkerheter. En OpenAI-agent fikk tilgang til australske systemer, bruddet ble rapportert sent, og den australske regjeringen har krevd forklaringer; Hugging Face-hendelsen og andre episoder har vist at sårbarheter ikke lenger er teoretiske . Nvidia forsøker å begrense problemet gjennom miljøkontroller, Washington diskuterer laboratorienes ansvar, Brussel opprettholder sin faseinndelte tilnærming, og Spania overvåker situasjonen gjennom AESIA. Det neste bruddet, mer enn en advarsel, vil være den virkelige testen på om disse tiltakene er effektive.
