Ríkis­stjórnir og fyrir­tæki eru óðum að þróa vopn með aukinni sjálf­stýr­ingu þar sem ný tækni og gervi­greind eru notuð. Slík „drápsvél­menni“ gætu verið notuð í átökum, við löggæslu eða landa­mæra­vörslu. Ákvarð­anir sem snúast um líf og dauða ættu ekki að vera teknar af vélmennum. Við þurfum að bregðast við til verndar mann­kyninu og til að gera heiminn öruggari.

Við stöndum frammi fyrir því sem var áður óhugs­andi. Drónar og önnur háþróuð vopn eru þróuð til að taka ákvarð­anir og velja skot­mörk án atbeina nokk­urrar mann­eskju. Sjálf­stýrð vopn eða “drápsvél­menni” voru áður einungis til sem fram­tíð­ar­vandamál í kvik­myndum en það er ekki lengur raunin.

Vélmenni geta ekki tekið flóknar siðferði­legar ákvarð­anir. Þau skortir samkennd og skilning og taka ákvarð­anir byggðar á hlut­drægum, göll­uðum og íþyngj­andi ferlum. Tækninýj­ungar á sviði andlits- og radd­grein­ingar hafa sýnt að oft eru gerð mistök. Sjálf­stýrð vopn geta aldrei verið forrituð með full­nægj­andi hætti til að koma í staðinn fyrir ákvarð­anir mann­eskju.

Að skipta út hermönnum fyrir vélmenni gerir ákvörð­un­ar­töku um hernað of auðvelda. Einnig er hætta að vopnin rati í rangar hendur, meðal annars í gegnum ólög­lega vopna­flutn­inga. Það má búast við því að tækn­inni verði beitt við löggæslu og landa­mæra­vörslu ásamt því að henni verði beitt til að ógna mann­rétt­indum eins og rétt­inum til að mótmæla, rétt­inum til lífs, og bann við pynd­ingum og annarri illri meðferð. Þrátt fyrir þessar áhyggjur hafa lönd eins og Banda­ríkin, Kína, Ísrael, Suður-Kórea, Rúss­land, Ástr­alía, Indland og Bret­land haldið áfram að fjár­festa í sjálf­stýrðum vopnum.

Á meðan fyrir­tæki og varn­ar­mála­ráðu­neyti um allan heim keppast við að þróa þessa tækni verðum við að bregðast hratt við áður en við missum beit­ingu valds úr höndum fólks yfir til vélmenna með hroða­legum afleið­ingum.

Skrifaðu undir þetta mikil­væga mál sem varðar líf og dauða.