Consiliul Europei cere „dezarmarea” IA: mașinile influențează tot mai mult deciziile

Consiliul Europei cere un tratat internațional obligatoriu pentru reglementarea armelor autonome

Comisarul Consiliului Europei pentru Drepturile Omului, Michael O’Flaherty, a solicitat adoptarea urgentă a unui tratat internațional obligatoriu care să reglementeze utilizarea armelor autonome. Avertizarea vine în contextul în care inteligența artificială influențează tot mai mult deciziile militare, inclusiv pe cele privind identificarea și atacarea țintelor.

Oficialul european atrage atenția că unele sisteme pot selecta și ataca ținte fără intervenție umană, iar oamenii riscă să piardă controlul asupra folosirii forței. „Ființele umane trebuie să păstreze un control efectiv asupra folosirii forței și să rămână responsabile pentru aceasta”, a subliniat O’Flaherty, afirmând că statele trebuie să „dezarmeze” inteligența artificială.

Apel înaintea Conferinței de la Geneva

Poziția comisarului a fost exprimată într-un articol publicat pe website-ul Consiliului Europei, înaintea celei de-a Șaptea Conferințe de Revizuire a Convenției privind anumite arme convenționale (CCW), organizată de ONU în perioada 16-20 noiembrie la Geneva. O’Flaherty a cerut guvernelor să sprijine desfășurarea unor negocieri urgente, cu termene precise, pentru a stabili un instrument internațional juridic obligatoriu privind armele autonome și să avanseze în reglementarea altor întrebuințări militare ale inteligenței artificiale.

Riscul ca deciziile despre viață și moarte să fie luate de mașini

Comisarul a avertizat că deciziile care determină cine trăiește și cine moare în conflictele armate sunt condiționate tot mai mult de mașini. El a explicat că inteligența artificială este deja integrată în operațiunile militare, de la colectarea de informații și identificarea țintelor până la alegerea sistemelor de armament și deciziile privind folosirea forței. Odată activate, unele sisteme autonome pot selecta și ataca ținte fără intervenție umană.

Potrivit oficialului, sistemele de inteligență artificială pot fi opace și imprevizibile, pot folosi date perimate sau părtinitoare și pot genera rezultate dificil de anticipat. În plus, viteza operațiunilor militare asistate de aceste tehnologii poate lăsa operatorii fără timp suficient pentru a verifica țintele sau a evalua legalitatea unui atac.

Controlul uman riscă să devină formal

Michael O’Flaherty a mai remarcat că controlul uman riscă să se transforme în ceva pur formal atunci când militarii își deleagă deciziile către mașini despre care consideră că sunt mai precise sau mai fiabile decât ei, sau atunci când pierd complet controlul asupra proceselor autonome. Aceste circumstanțe cresc riscul unor atacuri contrare dreptului internațional, care amenință dreptul la viață și îngreunează tragerea la răspundere pentru posibile astfel de încălcări.

Riscurile nu se limitează la câmpul de luptă

Comisarul a completat că riscurile nu se limitează la câmpul de luptă, întrucât tehnologiile dezvoltate în scopuri militare pot avea aplicabilitate și în zone civile, precum controlul frontierelor sau supravegherea manifestațiilor, ori pot ajunge în mâinile unor actori non-statali. De asemenea, inteligența artificială poate fi folosită pentru a manipula mediul informațional și a perturba infrastructurile civile.

Reglementarea, în urma dezvoltării tehnologice

O’Flaherty consideră că reglementarea nu a avansat în același ritm cu dezvoltarea acestor tehnologii, mai ales în chestiunile legate de utilizarea militară a inteligenței artificiale. El a semnalat și responsabilitatea sectorului privat, întrucât companiile care proiectează, dezvoltă sau furnizează sisteme militare bazate pe inteligență artificială trebuie, la rândul lor, să respecte drepturile omului.