Info fra norsk våpengigant lekket via Musk-selskap

Info fra norsk våpengigant lekket via Musk-selskap

Våpenkonsernet Nammo brukte KI-tjeneste fra Elon Musk-selskap. Gjennom et sikkerhetshull fant IT-eksperter lekket informasjon.

Våpenkonsernet Nammos bruk av KI-tjenestene knyttes til en fabrikk i USA som produserer spesiell og ekstra lett ammunisjon. Dette bildet er brukt i Nammos markedsføring. Foto: Andy Martinez / U.S. Marine Corps

Våpenkonsernet Nammo brukte KI-tjeneste fra Elon Musk-selskap. Gjennom et sikkerhetshull fant IT-eksperter lekket informasjon.

Sikkerhetsekspertene avdekket at KI-verktøyet Grok fra Musk-selskapet, lekker sensitiv informasjon.

Nammo er en av landets største våpenprodusenter med hovedkontor på Raufoss og fabrikker i 12 land.

– Vi mente det vi fant var alvorlig for Nammo, sier Asaf Aprozper i selskapet Claroc til NRK. 

Fra kontoret i Tel Aviv i Israel fant sikkerhetseksperten og hans kolleger store svakheter i sikkerheten i KI-assistenten Grok, da de systematisk testet KI-applikasjoner. Funnene ble først omtalt på nettstedet Ars Technica.

Aprozper er teknisk direktør for det nystartede sikkerhetsselskapet og har bakgrunn fra blant annet det israelske forsvaret. De jakter sikkerhetshull og selger bistand til å lukke dem.

– Jeg ble overrasket over svakhetene i dette verktøyet fra Grok, sier Aprozper til NRK.

Det dreier seg om et sikkerhetshull i en bygge-modus i KI-verktøyet Grok fra SpaceXSI. Elon Musk er kontrollerende eier i selskapet.

Den såkalte KI-agenten gjør data tilgjengelig for alle med lenke til appene. Lenker som var lette å finne på nett.

Det gjør at eksterne lett kunne få tilgang til forretningsinformasjon og andre sensitive hemmeligheter fra tusenvis av brukere, mange av dem store selskaper.

Det er Elon Musk som er kontrollerende eier i SpaceXSI som har laget Grok. Foto: BRITTA PEDERSEN / AFP / NTB

Grok er navnet til KI-tjenestene som tilbys av Elon Musk-eide Space X.

KI-assistenten Grok lar brukerne bygge og bruke nett-tjenester (apper) laget av Grok.

Med Build-modus lager Grok appene og publiserer dem på nettet.

Appene får da en adresse på formen: unikt-navn-til-app.grok.me

Grok ble først kjent for KI-funksjoner på X (tidligere Twitter) og var opprinnelig en del av selskapet X. I senere tid har Elon Musk flyttet KI-arbeidet til et eget selskap tilknyttet Space X kalt SpaceXSI.

SpaceXSI har en rekke KI-tjenester både innen for språkmodeller, bilder, video og utvikling av programvarekode (gjennom varemerket Cursor).

Det norsk-finske forsvarsgiganten Nammo er bare et av selskapene der ansatte har laget KI-apper ved hjelp av Grok.

Flere av bedriftene er kontaktet av Claroc og gjort oppmerksomme på svakhetene.

– Nammo bør stenge appene laget med Grok umiddelbart, sier Aprozper til NRK.

I Nammo avviser de at sensitiv informasjon har vært på avveier.

Likevel velger de å lukke app-ene.

– Det er naturlig å avslutte, i lys av sikkerhetshullene som er avdekket, skriver kommunikasjonsdirektør Thorstein Korsvold i en e-post til NRK.

– Den ene av de to app-ene er nå fjernet. Den andre var fortsatt tilgjengelig da jeg sjekket fredag, sier Aprozper.

Asaf Aprozper og Gilad Seror er grunnleggerne av Claroc Research. Grafikk: Privat

Nammo opplyser at datterselskap i USA kun har testet funksjonalitet knyttet til KI-genererte apper.

Korsvold hevder appene har aldri vært i drift, og at innholdet ikke er basert på reelle prosedyrer, utstyr, materialer eller lignende.

– Opplysningene i appene er fiktive eller basert på åpen og offentlig tilgjengelig informasjon, i tråd med formålet om testing. Det er derfor ingen sensitive opplysninger eller personopplysninger på avveier, skriver Korsvold. 

Utover det har ikke Nammo noen kommentar. De svarer ikke på spørsmål om selskapets krav til hvilke KI-apper ansatte kan benytte.

– Vi har ingen grunn til å tvile på Nammo, sier Aprozper. Han legger til:

– Ingen kan se forskjell på testinnhold og ekte innhold bare ved å se på en side.  

Han opplyser også at en IT-sjef i Nammo tok kontakt i løpet av torsdagen. Personen fikk oversendt all relevant informasjon om Nammo fra sikkerhetsselskapet.

Selskapet Claroc testet mer enn 43.000 appadresser og 97 prosent var tilgjengelige uten pålogging, der iblant to apper fra Nammos datterselskap i USA.

Aprozper sier han er overrasket over at en forsvarsbedrift som Nammo valgte å brukte Grok.

KI-appene Nammo hevder er basert på fiktiv og åpen informasjon inneholder:

– Hvor alvorlig er funnet for Nammo?

– Vi vurderte disse funnene som alvorlige. Innholdet i den ene appen beskriver hvordan en bygning med eksplosiver fungerer, hvor mange personer som kan være inne, hvor mye eksplosivt materiale den kan inneholde, og prosedyren og standarden den følger, sier Aprozper.

Samtidig understreker han at ingenting av det de så var merket gradert, og det var ingen data om våpendesign.

Avansert ammunisjon. Informasjonen som var åpent tilgjengelig ute på nett beskrev lasting og lossing av ammunisjon av denne typen fra Nammo MAC i USA. Foto: Air Force Materiel Command

Det er ansatte hos Nammo MAC i Bay St. Louis, Mississippi, som har laget apper basert på Grok.

Fabrikken spesialiserer seg på polymer- og keramisk materialteknologi til militær og sivil bruk.

I en video på Nammos Youtube-kanal forteller fabrikksjefen om ammunisjon de lager på Nammo MAC:

Informasjonen sikkerhetsekspertene fant lå åpent ute på internett.

Aprozper oppdaget at nettsidene som var laget med KI-tjenestene til Grok hadde fått et eget unikt domene for hver enkelt nett-app:
nett-appens-unike-adresse.grok.me

Nett-appene publiserte ikke seg selv på noen offentlig samleside der de enkelt kunne finnes, men det viste seg at det var enkelt å finne dem. Så fort de var funnet lå de helt åpent ute.

Hver eneste gang noen kobler seg til et domene på internett kan det legges igjen spor i nettverkene de er tilkoblet internett fra.

Morten Brandtzæg er konsernsjef i Nammo. Selskapet svarer ikke på om de godkjente at ansatte brukte Grok som KI-verktøy. Foto: Stian Lysberg Solum / NTB

Dette utnyttet Claroc Research. De brukte store databaser som samler slik informasjon om domener.

Totalt fant de over 43.000 grok.me-adresser.

De satte så en datamaskin til å forsøke å besøke alle adressene og sjekke hvilken nettside de fikk presentert.

Blant disse adressene var 35.578 nett-apper tilgjengelige åpent på nett og uten noen form for innlogging.

I tillegg til nettsidene knyttet til Nammo-konsernets håndtering av eksplosiver og ammunisjon fant sikkerhetsekspertene blant annet sider som avslørte:

Sikkerhetsekspertene i Claroc spesialiserer deg på å finne svakheter i KI-verktøy.

– Folk i alle slags bedrifter bygger nå egne KI-verktøy på kort tid. Disse appene går sjelden gjennom en sikkerhetssjekk. Personen som bygger appen kan ha løst et problem, men vet sjelden hvem andre som kan åpne den. Vi studerer disse plattformene for å vise hvor vanlig dette er, og advarer selskapene hvis data er eksponert, sier Aprozper.

Etter å ha blitt kontaktet av NRK svarer SpaceXSI med å sende ei lenke til et innlegg på X.

I innlegget, lagt ut på kontoen til produktet Grok, går selskapet til angrep på sikkerhetseksperten Asaf Aprozper.

– Poenget med denne funksjonen i Grok er å publisere og dele apper. Appene er ikke offentlige før den som laget dem velger å trykke publiser, skriver de.

Foto: AFP

SpaceXSI svarer ikke på hvorfor standard-innstillingen ved slik publisering er at appene er tilgjengelige uten innlogging.

Selskapet svarer heller ikke på hvordan de ser på funnene av sensitiv informasjon lagt ut på deres plattform.

LES MER:                   ©NRK.NO