Mördarrobotar kan innebära slutet för mänskligheten. Nej, jag talar inte om en ny science fiction-film. Det är reell risk som över tusen framstående forskare och andra experter varnar för i ett öppet brev. En risk som ligger runt hörnet, och som måste avvärjas.

Just nu pågår i Buenos Aires en stor internationell konferens om artificiell intelligens. Inför den har en imponerande samling tunga experter tryckt på larmknappen. Inte för artificiell intelligens (AI) som sådan, utan för dess intåg i vapenindustrin.

AI är, som i princip all teknisk utveckling, på gott och ont. Allt beroende på hur tekniken används. Det forskarna varnar för är en utveckling av autonoma, offensiva vapen. Alltså vapen som kan agera självständigt, utan att styras av en människa. En kapprustning på det området utgör ett hot för den mänskliga existensen på jorden, menar författarna till det öppna brevet.

Mördarrobotar, som autonoma vapen mer populärt kallas, skulle innebära ett tredje  stort steg i den moderna krigföringens historia. Det första var krutet. Det andra atombomben. Och nu alltså – vapen som dödar på egen hand, utan att en människa behöver trycka på knappen.

Tanken är nästan obegriplig för en icke-expert.

Forskarna menar att en sådan utveckling kraftigt skulle sänka tröskeln till krig. Redan har drönarna gjort det, i och med att angriparna kan döda på distans. Sitta bakom ett skrivbord i skjorta och slips och trycka på en knapp. Slippa se hemlandets soldater komma hem i liksäckar. Men fortfarande är det ändå en människa som beslutar sig för att döda en annan människa.

Det stora klivet till krigföring med mördarrobotar handlar inte om teknik utan om moral. Människan abdikerar från det moraliska ansvaret. Det finns artificiell intelligens, men det finns ingen artificiell moral. En robot må vara hur smart som helst, den gör inga moraliska överväganden. Den tar inget ansvar. Den dödar för att den är programmerad att döda.

FN måste enas om ett förbud av offensiva autonoma vapen, kräver de oroade forskarna och experterna. Ett krav det är lätt att instämma i.

Världen törstar inte efter militär upprustning, med eller utan artificiell intelligens. Den törstar efter moralisk upprustning. Nedrustning av det moraliska ansvaret kan bara sluta i det som forskarna bakom det öppna brevet varnar för – katastrof för mänskligheten.