Anticipatia.com

Foresight ROBOETIC VII - Paradoxul autonomiei controlate

Saturday, 16 March 2013 00:36

Sunt destui aceia care proclamă că, în războiul robotic, operatorii umani ar putea ”rămâne în buclă”, astfel încât să poată lua toate deciziile cruciale – să joace rolul principal. Dar, care este situația reală, dincolo de astfel de proclamații?
În teorie, omul ar fi încă în buclă în procesul de luare a deciziilor, însă realitatea arată că, între semnalul dat de computer și eventualitatea propriei morți, pot fi disponibile doar câteva clipe pentru a se lua decizia de a aproba sau nu tragerea. Și, nimeni nu se simte confortabil și în stare să-și exercite un tip de decizie care, practic, ar fi redusă numai la un "drept de veto".

În acest context, se autorizează tot mai mult ca arma robotizată să tragă autonom, în speranța de a lovi inamicii, dar nu și civili sau aliați. Acționându-se sub ​​presiune psihologică , situațiile de război pot evolua însă de o manieră autoorganizată, ca și cum omul nu ar mai avea nici un rol. Situația a fost rezumată în ceea ce am putea numi “paradoxul autonomiei controlate”.
 
Mulți și-au dat seama de această problemă, printre care și psihologul și expertul în inteligență artificială, Robert Epstein: “Aspectul ironic este că militarii vor un robot capabil sa invețe și să acționeze pentru a duce misiunea la bun sfârșit. Dar nu îl doresc prea creativ, precum soldații. Dar, odată ce ai atins un nivel în care roboții sunt capabili cu adevarat, cum să îl limitezi Ca sa fim serioși, nu cred că este posibil acest lucru.”[1]
Cu alte cuvinte, se construiește un robot capabil să facă lucruri pe care omul nu le reusește, ca mai apoi sa pretindem ca ultimul cuvânt, asupra reacțiilor și acțiunilor pe care trebuie să le facă mașina, să-l aibă omul. Este un paradox.
Consecința constă în faptul că emițând mii de SAR pe câmpul de batalie, se simte tot mai mult nevoia introducerii excepțiilor de la regula generală, menținând decizia în mâna omului. Să le analizăm în detaliu, gândind în termeni de “grade de autonomie, libertate”, și nu pur și simplu din perspectiva digitala: zero / unu.
 
Prima excepție.
Așa cum un oficial deține comada unui anumit numar de soldati umani, așa și operatorul-robot ar putea avea in subordine un anumit numar de soldati-robot. Problema constă în faptul că numărul de roboți pe care un individ îi poate controla este direct proporțional cu gradul de autonomie pe care fiecare robot, în parte, îl are. Pentru a înțelege problema, să ne imaginăm că jucăm cinci videojocuri în același timp. Un raport al Pentagonului arata că: “oricât de conștient de poziția tuturor unităților ar fi comandantul, lupta este atât de fluidă și rapidă, încât este foarte greu să o controlezi”.  Cu alte cuvinte, dacă dorim să combatem cu adevarat, și dacă nu putem aloca un comandant pentru fiecare robot, trebuie să le dăm roboților posibilitatea de a răspunde independent la focul  inamicului.
 
A doua excepție.
Nu trebuie să uităm că inamicul este conștiincios și folosește arme electronice, la fel ca noi. Încă din 1905 la Bătălia din strâmtoarea Tsushima, rușii și japonezii utilizau undele radio pentru a identifica prezența reciprocă sau pentru a perturba comunicarea între navele de război.[2]  Dacă un soldat-robot nu va putea trage pâna când un operator (un soldat uman) îndepartat nu îl autorizează , atunci ar fi de-ajuns să intrerupi comunicarea pentru a înlatura mașinile și obiectivul propus, lăsandu-le, în cazul acesta, marfa inamicilor. Cu alte cuvinte, în cazul întreruperii comunicării, întelept este să se aplice un plan B: lăsarea posibilității masinii-robot de a acționa și independent. Doar în acest fel roboții s-ar putea apăra de pericole, lovind inamicul și reîntorâandu-se la bază. Sperând ca nu vor face erori.
 
A treia excepție.
Chiar dacă fiecare armă robotică are propriul operator, chiar daca nu se întrerupe comunicarea, chiar daca inamicul nu opereaza la viteza digitala, pot exista situații de luptă în care ființa umană nu reușește să acționeze în timpul necesar pentru a neutraliza pericolul. În cazul în care un proiectil este declanșat în direcția robotului, omul poate deveni conștient de problemă cu o întârziere considerabilă (datorită timpului de deplasare a undei de sunet, vitezei de reacție a creierului, a inhibarii temporare cauzată de zgomot sau de teamă, etc.). În schimb, mașina este capabilă să identifice imediat sursa de explozie si s-o situeze în fasciculul laser. Dacă  poate indentifica cu laserul shooter-ul, atunci poate și reactiona prin activarea proiectilului letal. Așadar, dacă poate lucra în mod automat, fără a mai aștepta clearance-ul operatorului uman, ar putea abate orice trăgător, fără ca acesta din urma să mai aibă timpul de a face vreo altă mișcare (de a coborî arma, de a fugia sau a se scunde). Este un argument puternic pe care militarii îl “cântaresc” cu multă atenție. Ce ființă umană iși riscă viața în fața unei probabilități ridicate de a fi lovită instantaneu, mortal? Dându-li-se roboților deplina autonomie în privința declanșării focului, s-ar schimba complet razboiul. Apare sentimentul de răzbunare împotriva pericolului sau a dezastrelor cauzate.  In plus, introducerea acestei excepții ar putea fi considerata seducătoare nu doar de către militari, dar si de către opinia publică, aceasta considerând destul de binevenită asimetria dintre atac și raspunsul la atac (chiar dacă acesta este executat în mod “suprauman”). Robotul nu atacă omul, dar îl va elimina în cazul în care este atacat.
 
Desigur, este de considerat și ipoteza aplicării principiului general al controlului în termeni parțiali, dându-i-se robotului posibilitatea să tragă, să atace doar masinile (sau chiar alți roboti) însă nu și ființele umane. In acest caz, robotul ar putea bloca inamicul, dar cu greu se va putea și apăra de focul inamicului uman. Prin inputul programat (de a nu ataca ființele umane) chiar daca mașina inamicului s-ar opri, operatorii umani ar ramâne totuși în viață, atacandu-l. Așadar, apare dilema: este sau nu o decizie eficientă accea de a nu ataca ființele umane?


[1] P. W. Singer, Robots at War: The New Battlefield, Wilson Quarterly, 2009

[2] Tony Devereux, La guerra elettronica. Arma vincente 1812-1992, Milano, 1993, SugarCo

 

Bianca Stan

Jocurile ascund viitorul. Studiază, creşti sau ieşi.

Analist, mediator intercultural - "Arcobaleno", publicistă de opininie a revistei "IL”, scriitor.

 

Login pentru a posta comentarii
You are now being logged in using your Facebook credentials