AI i kommando- og kontrolsystemer

Den hastige udvikling inden for kunstig intelligens (AI) fører i disse år til store forandringer i det forsvars- og sikkerhedspolitiske domæne. Centralt for udviklingen er brugen af AI i militære kommando- og kontrolsystemer samt AI som redskab til at informere eller træffe strategiske og operative beslutninger. Integrationen af AI i kommando- og kontrolsystemer rejser til gengæld både teknologiske, militærstrategiske, juridiske og etiske spørgsmål for militære og politiske beslutningstagere.

CMS-rapporten Artificial Intelligence in Command and Control undersøger mulighederne og udfordringerne ved at implementere AI-drevne beslutningsstøttesystemer (AI-DSS) i det danske forsvar. Rapportens casestudier af Israels ”Gospel”- og ”Lavender”-systemer illustrerer både teknologisk potentiale og praktiske faldgruber, herunder risikoen for at menneskelige aktører reduceres til en formel valideringsrolle uden reel kritisk kontrol.

Muligheder og udfordringer

Rapporten fremhæver både de operative gevinster og juridiske implikationer, som implementering af AI-DSS afføder – herunder konsekvenser for beslutningshastighed, situationsforståelse, ansvarstildeling og overholdelse af den humanitære folkeret, der affødes ved brugen af AI-DSS.

AI-DSS øger effektiviteten af og mindsker behovet for (menneskelig) arbejdskraft i militære organisationers kommando- og kontrolsystemer. Det kan sikre hurtigere integration af forskellige efterretningskilder, øge situationsforståelse gennem realtidsdata og styrke interoperabiliteten i multinationale operationer. Til gengæld vækker kommercielt udviklede ”black box”-modeller og cloudsystemer betydelige bekymringer om gennemsigtighed, datastyring, robusthed og resiliens. Risikoen for automatiseringsbias forstærkes af varierende datakvalitet og trusler som fjendtlig manipulation af data. Store datamængder kan desuden svække menneskelig kontrol og gøre det vanskeligere at placere ansvar i tilfælde af fejl.

Anbefalinger

På baggrund af rapportens casestudier understreger rapporten behovet for opdateret lovgivning, målrettet opbygning af AI-kompetencer samt klare og velfungerende ”human in the loop”-mekanismer. Rapporten kommer med anbefalinger til, hvordan Danmark bedst muligt implementerer og anvender AI-DSS til håndtering af moderne sikkerhedstrusler.

Download

Download rapporten "Artificial Intelligence in Command and Control".

Download tilhørende Memo her. 

Emner