Ny forskningsartikel om menneskelig kontrol med kunstig intelligens i landkrig
Kunstig intelligens vinder hastigt indpas i militære operationer – ikke kun i autonome våbensystemer, men også i de beslutningsstøttesystemer, der analyserer efterretninger, foreslår ruter og udpeger mulige mål. Senest har striden mellem AI-virksomheden Anthropic og det amerikanske forsvarsministerium om bl.a. fuldt autonome våben vist, at det langt fra er afklaret, hvem der skal trække grænserne for samspillet mellem menneske og maskine. Det rejser spørgsmål om, hvordan chefer og soldater bevarer deres dømmekraft, når AI i stigende grad former det billede, de træffer beslutninger ud fra.
I en ny forskningsartikel analyserer adjunkt Lena Trabucco fra Center for Militære Studier forsvarsindustriens rolle i at sikre menneskelig kontrol, når AI tages i brug i landoperationer. Fordi mange af systemerne udvikles af virksomheder og ikke af militæret selv, bliver de afgørende valg ofte truffet allerede på tegnebrættet. Med udgangspunkt i den australske hær fremhæver hun fem designmekanismer, der afgør, om den menneskelige dømmekraft reelt bevares: 1) brugerfladen, 2) formidlingen af usikkerhed, 3) nøddrift, når forbindelser og data svigter, 4) muligheden for at tilsidesætte systemet og 5) gennemsigtighed om de data, systemet bygger på.
Artiklen konkluderer, at det ikke er nok at have et menneske “i loopet”. Chefer og operatører skal reelt kunne vurdere, udfordre og tilsidesætte systemets anbefalinger – også når kommunikationen er afbrudt, data er mangelfulde, og modstanderen forsøger at vildlede. Den evne skal bygges ind i systemerne fra starten og kan ikke skrues på bagefter. Forsvarsmyndighederne bør derfor stille klare designkrav til industrien tidligt i udviklingen, så den menneskelige dømmekraft står stærkest, når forholdene er værst.
Artiklen Built In or Bolted On er udgivet af den australske hærs forskningscenter, Australian Army Research Centre, og kan læses her.