Den ansiktsløse krigen

En drone flyr i skumringen. En sensoren identifiserer et levende objekt i bevegelse. I et datasenter kjører algoritmer som identifiserer et mønster: Bevegelseshastighet, kroppshøyde kobles mot andre datakilder.  I en helt annen virkelighet sitter en operatør med et skjermgrensesnitt. En anbefaling blinker diskret. Sannsynlighetsberegningen er høy nok.

Det gis grønt lys til å utslette et liv. Ingen ser utrykket av angst i offerets øyne. Ingen hører lyden av pust, av menneskelighet, i rommet.

Authorize?

“Kill chain” kalles det på fagspråket. Sekvensen fra identifikasjon av mål til eliminering. Militærteori jobber med å systematisere og effektivisere volden. Målet er overlegen hastighet i beslutninger – formulert i OODA-loopen, utviklet av militærstrategen John Boyd:

Observe, Orient, Decide, Act. 

Du skal spore og observere, vurdere og ta en beslutning. Til slutt skal du handle, nærmere bestemt drepe. Den som beveger seg raskest gjennom loopen, vinner. 

I moderne krigføring utnyttes maskiner og digitale systemer for å dramatiske øke hastigheten i slike prosesser. Maskiner observerer raskere og mer presist enn oss. De analyserer enorme datamengder på et blunk. De foreslår en beslutningen før menneskehjernen rekker å formulere tvilen. 

Det er dette selskaper som Palantir er så gode til. Beslutningen om liv og død – glir nesten umerkelig over fra å være en handling til å bli en nærmest friksjonløs prosess. Valget er allerede tatt av algoritmen. I de semi-autonome systemene reduseres mennesket til en slags godkjenner. Hvor finner avgjørelsen egentlig sted? Hva ville skjedd hvis den som godkjenner og den som elimineres hadde sett hverandre i øynene? 

Ansiktet er det som forbyr oss å drepe. Den som skrev dette var den jødisk-franske filosofen Emmanuel Levinas. Han var opptatt av at moralen ikke oppstår ved å lage regler eller granske vårt indre. Vi kan kun oppdage hva et menneske ved ved å møte det som et menneske, ikke en idè.

Å opptre moralsk krever at vi først gjenkjenner av den andre menneskelighet. Å møte et ansikt er ikke informasjon. Et blikk er ikke et datapunkt. Det er kommunikasjon. Det er  et møte. Det er et vindu som bringer oss til startpunktet for våre egne handlinger; erkjennelsen at vi har den samme frykten, kjærligheten, angsten. 

Der dagens algoritmen optimaliserer for hastighet, tvinger et fysisk møte frem nøling og selvrefleksjon. Denne nølingen er ikke en svakhet. Det er rommet der etiske avveininger, kan få utspille seg. .I den klassiske krigen – brutal som den var – fantes det et nærhet, øyeblikk av brutal gjensidighet. To mennesker kunne se hverandre. Den du tok livet av hadde øyne, stemme, kroppsspråk.

Å effektivisere en kill chain handler om å eliminere friksjon.
Ansiktet er friksjon.

Våpenteknologiens har alltid skapt avstand. Buen gjorde det mulig å drepe uten å berøre. Kanonen kunne drepe bak borgmurer. Bombeflyet gjorde menneskene der nede til små maur. Dronen reduserte kroppen til et varmesignal.

Interkontinentale raketter med atomstridshoder er på mange måter den optimale kombinasjonen av slagkraft og distanse. Men alle disse systemene har krevd beslutninger noen slipper buestrengen, trykker på avtrekkeren, vrir på en nøkkel.

Kunstig intelligens gjør noe mer radikalt. Den skaper ikke bare fysisk avstand, den får ansvaret til å gå i oppløsning. Beslutninger tas i systemer ingen enkeltperson har mulighet for å forstå. Mål identifiseres gjennom mønstergjenkjenning. Risiko beregnes statistisk.

Det amerikanske forsvaret vil nå ha muligheten for å ta all menneskelig inngripen ut av ligningen. Da Hannah Arendt skrev om ondskapens banalitet ble ansvaret for vold og undertrykkelse opphevet gjennom hullkortmaskiner, administrative vedtak og prosedyrer. Nå er ansvaret for selve gjerningen flyttet inn i nevrale nettverk og stordatasett. Kjører det drapsalgoritmer i norske datasentre, drevet av norsk vannkraft? Jeg stiller spørsmålet fordi det er ubehagelig.

Utvikleren skrev koden. Ingeniøren trente modellen. Offiseren godkjente systemet. Operatøren trykket på knappen. Politikeren finansierte programmet. Hvem møter blikket til offeret? Hvem føler rystelsen i sjelen? 

Ingen.

Det er selve poenget. Autonome drapskjeder er designet som en distribuert modell. Skylden deles opp i bittesmå bestanddeler, spres ut i et nettverk av bidragsytere, forsvinner mellom fingrene våre, blir en del av luften vi alle puster i. "Den andres ansikt" reduseres til et biometrisk mønster. Å ta et annet menneskes liv skaper ikke lenger et traume. Ingen enkeltperson står igjen alene med handlingen - uansett hvor grusom den er. 

FNs generalsekretær har gjentatte ganger bedt om et forbud mot autonome våpensystemer. Et flertall av verdens land ønsker dette forbudet, men land som USA, Israel og Russland stritter i mot.

Kanskje er ikke utfordringen at maskinene overtar krigen, men at vi mennesker underordner oss maskinens tempo og logikk. Vi aksepterer systemets premisser: Vold er ikke en moralsk overskridelse, men en form for optimalisering. Ubehaget fordamper, vi blir brikker i et brutalitetssystem som er blitt flyttbart, og som akkurat nå brukes som middel for dominans over geopolitiske og demokratiske prosesser.

Ansiktene finnes, men vi ser dem ikke lengre. Vi deltar uten å være tilstede. Vi handler uten å kjenne handlingens tyngde. Vektløst driver vi avsted til et sted der vi aldri skulle komme tilbake.