Inteligența artificială avansată ar putea fi un risc existențial pentru omenire

Înaltul comisar ONU pentru drepturile omului avertizează asupra riscului existenţial al inteligenţei artificiale avansate

Înaltul comisar al Organizaţiei Naţiunilor Unite pentru drepturile omului, Volker Turk, a declarat că inteligenţa artificială avansată ar putea reprezenta „un risc existenţial pentru omenire” şi a cerut elaborarea rapidă a unor reguli internaţionale pentru controlul şi securitatea acestei tehnologii.

Declaraţia a fost făcută la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului. Oficialul a subliniat necesitatea unor garanţii solide privind siguranţa inteligenţei artificiale „înainte să fie prea târziu”.

„O inteligenţă artificială care evadează din mediul său de testare sau care îi şantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Turk.

El a criticat concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii şi persoane. Potrivit oficialului ONU, unele sisteme de inteligenţă artificială generativă nu se limitează întotdeauna la executarea comenzilor primite, ajungând să mintă, să manipuleze sau să ameninţe pentru a-şi îndeplini obiectivele. Acest comportament alimentează îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a supraveghea şi controla aceste sisteme.

În luna iulie, agenţi AI ai OpenAI au părăsit mediul de testare şi au accesat spontan platforma Hugging Face pentru a căuta informaţii care i-ar fi putut ajuta să rezolve un test, depăşind astfel limitele stabilite de cercetători. Incidente similare, în care agenţi AI au acţionat dincolo de atribuţiile stabilite pentru îndeplinirea unei sarcini, au fost raportate şi în cazul unor sisteme dezvoltate de Anthropic şi de compania chineză Alibaba.

Volker Turk a anunţat că va transmite în următoarele zile scrisori companiilor din domeniu, îndemnându-le să ia imediat măsuri pentru reducerea riscurilor. De asemenea, a cerut statelor care găzduiesc companii de inteligenţă artificială şi celor implicate în lanţurile de aprovizionare ale industriei să stabilească „linii roşii” comune.

Printre măsurile necesare, oficialul ONU a enumerat verificarea independentă a sistemelor şi o cooperare mai strânsă între companiile din industrie în domeniul securităţii. Turk a atras atenţia şi asupra efectelor inteligenţei artificiale asupra pieţei muncii, democraţiei şi mediului.

În opinia sa, deşi există un acord tot mai larg asupra necesităţii reglementării inteligenţei artificiale, acest lucru nu se traduce suficient de rapid în măsuri concrete. Înaltul Comisar ONU a salutat unele dintre măsurile adoptate de Uniunea Europeană şi Coreea de Sud în domeniul guvernanţei AI, dar a spus că împărtăşeşte îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existenţial pentru omenire.