Forsvars-AI-teknologi skiller seg fundamentalt fra kommersiell AI

Forsvars-AI-teknologi genererte over 37 000 mål i de første ukene av Gaza-krigen, en hastighet som overgår menneskelig kapasitet med tusen ganger. Ett system alene kan produsere 100 potensielle bombemål per dag, mens det globale AI-markedet innen romfart og forsvar forventes å vokse fra cirka 28 milliarder dollar til betydelige 65 milliarder dollar innen 2034. Vi står overfor en fundamental transformasjon der kommersielle teknologiselskaper må navigere kravene til forsvarskontraktører. I denne artikkelen utforsker vi hvordan partnerskapsmodeller som BigBear AI partners with C Speed on AI defense technology former bransjen, samtidig som vi analyserer impacts and risk of generative AI technology on cyber defense og den irreversible overgangen fra Silicon Valley til slagmarken.

Hvordan forsvars-AI skiller seg teknisk fra kommersielle systemer

Eksklusive data- og treningskilder

Pentagon diskuterer nå planer om å etablere sikre miljøer hvor generative AI-selskaper kan trene militærspesifikke versjoner av modellene sine på klassifisert data. AI-modeller som Anthropic’s Claude brukes allerede til å svare på spørsmål i klassifiserte settinger, inkludert analyser av mål i Iran. Trening av AI-modeller på klassifisert data forventes å gjøre dem mer nøyaktige og effektive i bestemte oppgaver.

Kommersielle AI-modeller opererer under streng tilsyn for å forhindre misbruk av teknologi til å skape kampplaner som bryter med offentlig sikkerhet eller internasjonal lov. Både ChatGPT og lignende modeller nekter kategorisk å produsere detaljerte operasjonelle planer, idet de viser til etiske restriksjoner og retningslinjer som forbyr assistanse i å skape reelle militære planer.

En generisk modell trent på store mengder globale data yter ikke nødvendigvis godt i arktiske strøk. Ved å videreutvikle den med data fra norsk topografi, lysforhold og vegetasjon, kan verktøy skapes som gir unike fortrinn i våre nærområder. Syntetiske data endrer forsvarsindustrien ved å tilby diversifiserte og sikre datasett for å trene AI-modeller. Data kan simulere virkelige scenarioer uten å basere seg på sensitive eller knappe datakilder, og eliminerer personvernhensyn ved å fjerne avhengighet av datasett som kan inneholde klassifiserte detaljer.

Håndtering av ufullstendig informasjon

Kommersielle språkmodeller har vanskeligheter med å analysere kart og tolke bilder, noe som reduserer nytten i militære analyser. Fremtidige AI-verktøy må integreres i et digitalisert ledningsstøttesystem med tilgang til datastrømmer fra sensorer på slagmarken. AI-modeller må være tilpasningsdyktige og motstandsdyktige for å fungere effektivt i mangfoldige, dynamiske og uforutsigbare miljøer. En feil i disse modellene under stress kan kompromittere hele operasjoner.

Operasjonell hastighet og presisjon

Eksperter beskriver at den militære beslutningskjeden blir komprimert av kunstig intelligens. KI-systemer analyserer enorme datamengder, prioriterer mål og foreslår operasjoner på sekunder. Når algoritmer kan analysere millioner av datapunkter samtidig, flyttes krigens tempo fra menneskelig beslutning til maskinhastighet. Interaksjoner skjer i maskinhastighet, mange størrelsesordener raskere enn menneskelige responstider, noe som muliggjør storskala, automatiserte kampanjer som kan eskalere raskt.

Partnerskapsmodeller som formar forsvarsteknologi

BigBear AI Partners with C Speed on AI Defense Technology

BigBear.ai inngikk partnerskap med C Speed for å levere AI-aktivert trusselsdeteksjon gjennom integrasjon av ConductorOS AI-orkestreingsplattform med C Speed’s programvaredefinerte LightWave Radar-system. Samarbeidet fokuserer på å integrere AI-aktivert trusselsdeteksjon, rapportering og responsløsninger i C Speed’s overvåkingsradarer som støtter luft- og missilforsvar samt counter-UAS-anvendelser. De amerikanske-produserte radarene er nå deployert på tvers av flere oppdrag for Department of Homeland Security, Department of War og internasjonale partnere.

Integrasjonen muliggjør AI-drevet fusjon på tvers av flere sensorer for å støtte komplekse oppdragsengasjementer, inkludert counter-UAS. Operatører får akselerert trusselsdeteksjon og responstidslinjer ved å bygge inn AI på sensornivå, samtidig som systemet aktiverer sanntids autonom endring i modus i LightWave radar-systemet mellom luftbårne, bakkebårne og maritime trusler.

Integrasjon av autonome kapabiliteter

FFI, Forsvaret og industrien samarbeider for å utvikle et ubemannet konsept som kan lete etter sjøminer uten at personell trenger å være tilstede i minefeltene. Autonome systemer er fortsatt for lite robuste til mange militære operasjoner, idet omgivelsene er for kompliserte og ugjestmilde. Algoritmer i norske Joint Strike Missile hjelper missilet til å finne fram til riktig mål basert på kriterier operatøren har definert.

Sikkerhetskrav som redefinerer utvikling

Den europeiske forsvarsteknologi-sektoren kan vokse fra rundt 30 milliarder euro til nær 150 milliarder euro innen 2035. Risikokapitalbransjen følger en annen logikk enn andre aktører i forsvarsektoren, der investeringer på rundt 130 milliarder dollar er blitt plassert i forsvarsteknologiske startup-selskaper fra 2021 til midten av 2024. Professor Elke Schwarz advarer mot at oppstartselskaper ofte tiltrekker seg risikokapital som pusher på for raskere utvikling og mer risikotaking. Å behandle en konflikt som et laboratorium medfører risiko, spesielt for dem på mottakersiden av systemet.

Impacts and Risk of Generative AI Technology on Cyber Defense

Sårbarheter i kommersielle AI-modeller

Akilleshælen til AI ligger i dens avhengighet av data. Generativ AI øker risikoen for sikkerhet betydelig, idet teknologien innen 2025 mer sannsynlig vil forsterke eksisterende trusler enn å skape helt nye. Systemer kan produsere usanne resultater gjennom såkalte hallusinasjoner, samtidig som utdata kan inneholde juridiske og etiske problemer som diskriminering og skjevheter. Ansatte som legger inn sensitiv informasjon i offentlige generative AI-modeller utgjør allerede et betydelig problem for enkelte selskaper. Integrasjon av generativ AI i kritiske funksjoner og infrastruktur presenterer nye angrepspunkter gjennom korruptering av treningsdata, kapring av modellutdata og feiltolkning av informasjon.

Fiendtlig manipulasjon av algoritmer

Kontradiktorisk AI refererer til manipulering av treningsdata med den hensikt å lure systemet, noe som fører til feil eller ondsinnede utfall. Angripere kan injisere partiske eller manipulerte data for å påvirke beslutningsprosessene til AI-algoritmer, med potensielt alvorlige implikasjoner fra autonome kjøretøy som gjør feilaktige vurderinger til finansielle systemer som gjør feilaktige spådommer. Enkelte AI-systemer kan manipuleres ved hjelp av såkalte adversarial inputs, mens andre treffer avgjørelser som er vanskelige å spore.

Ansvarlighet når systemer feiler

Gitt at KI er en selvstyrt form for teknologi, er det foreløpig uavklart hvor ansvaret ligger skulle det skje en feil eller uhell med teknologien. Uten grundig gjennomgang av generative AI-utdata kan resultatet bli unøyaktigheter, compliance-brudd, kontraktsbrudd og opphavsrettskrenkelser.

Juridiske rammer som halter etter teknologien

AI-utviklingen akseler raskere enn regulatorene rekker å holde tritt. Forordningen krever menneskelig tilsyn, hvor leverandører må designe systemer som tillater menneskelig forståelse, overvåking, fortolkning av resultater og ekstern intervensjon. Output fra et KI-system skal merkes i et maskinlesbart format med at innholdet er KI-generert.

Fra Silicon Valley til slagmarken: En irreversibel transformasjon

Hvorfor teknologiselskaper må reguleres som forsvarskontraktører

Den potensielle verdien av forsvarskontrakter for AI-relatert teknologi økte fra 355 millioner dollar til 4,561 milliarder dollar mellom august 2022 og august 2023, en økning på nesten 1200 prosent. Hundrevis av nye selskaper har entret markedet det siste året med produkter som spenner fra droner og miniutbåter til hypersoniske missiler. Risikokapital på rundt 130 milliarder dollar er blitt investert i forsvarsteknologiske startup-selskaper fra 2021 til midten av 2024.

Professor Elke Schwarz advarer mot at denne finansieringsmodellen presser på for raskere utvikling og mer risikotaking. Samtidig medfører det risiko når produkter testes i levende kontekster, idet AI-selskaper trenger data for å bygge og prøve ut sine produkter. Pågående konflikter muliggjør slik utprøving, hvor mange selskaper behandler konflikter som laboratorier.

Teknologisektorens mantra om å bevege seg raskt og ødelegge ting kan bli farlig i forsvarsindustrien, idet det akselererer et dehumanisert perspektiv på krigføring. Palmer Lucky, CEO i Anduril, uttaler at selv om han er syk i hodet, trengs det mennesker som ham som ikke mister søvn over å lage voldsverktøy. Alex Karp, CEO i Palantir, tror på å påføre smerte og forfekter en utenrikspolitikk som skal fokusere på å påføre smerte i generasjoner på alle som skader en amerikaner.

Kostnaden av algoritmisk blindhet

Når algoritmer kan analysere millioner av datapunkter samtidig, flyttes krigens tempo fra menneskelig beslutning til maskinhastighet. Dermed oppstår et ubehagelig spørsmål: hvis algoritmer analyserer slagmarken, foreslår målene og komprimerer beslutningstiden, hvem har egentlig kontroll?

Forsker Bendiksen påpeker at vi nærmer oss et punkt der tempo og kompleksitet i strid gjør at enkelte beslutningsprosesser må håndteres maskinelt. Menneskelig dømmekraft flyttes opp på et mer overordnet nivå, mens KI håndterer hastighet og datamengde.

Konklusjon

Transformasjonen fra Silicon Valley til slagmarken akselererer uavvendelig. Forsvars-AI skiller seg fundamentalt fra kommersielle systemer gjennom klassifiserte datasett, ekstrem operasjonell hastighet og evnen til å håndtere ufullstendig informasjon. Samtidig som partnerskapsmodeller og risikokapital driver innovasjon fremover, må vi konfrontere ubehagelige sannheter. Algoritmisk hastighet overgår menneskelig dømmekraft, sårbarheter vokser og juridiske rammer halter etter. Spørsmålet er ikke lenger om teknologien endrer krigføring, men hvem som egentlig kontrollerer den.