„Nașul AI” le va spune liderilor UE că AI ar putea prelua controlul lumii

Geoffrey Hinton avertizează liderii europeni despre riscul ca inteligența artificială să preia controlul în următorii trei ani

Profesorul Geoffrey Hinton, laureat al Premiului Nobel și cunoscut drept „nașul inteligenței artificiale”, va susține vineri un discurs în fața liderilor guvernamentali reuniți la Dublin, în cadrul summitului Consiliului European dedicat inteligenței artificiale, unde va prezenta un scenariu pe care îl descrie drept „înfricoșător”: o inteligență artificială superinteligentă ar putea prelua controlul asupra lumii în următorii trei ani și ar putea ucide oameni, dacă nu va fi oprită.

Hinton, cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale, a declarat că nu și-a dat seama cât de alarmant este termenul acestor previziuni până când nu a participat la prelegerile susținute la Toronto de Paul Christiano, fondatorul Centrului de Cercetare pentru Aliniere, în cadrul conferințelor organizate de Fundația pentru Siguranța AI.

Paul Christiano: un risc ridicat de preluare a controlului în trei ani

Paul Christiano a avertizat că multe persoane ar putea muri dacă sistemele de inteligență artificială ar prelua controlul. „Cred că există un risc ridicat ca AI să preia controlul în următorii trei ani și un risc semnificativ chiar și în următoarele șase până la 12 luni”, a spus el. „Chiar dacă nu vom muri, o preluare a controlului ar însemna, într-un fel, sfârșitul suveranității și al autodeterminării umane și este ceva ce ar trebui să ne străduim din răsputeri să evităm. Cred că, pentru majoritatea celor prezenți în această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de AI.”

Profesorul Hinton, care oferă consultanță neoficială guvernului britanic în domeniul AI, a avertizat frecvent asupra pericolelor acestei tehnologii, dar a spus că nu și-a dat seama că termenul este atât de alarmant. „Am tot spus că aceste sisteme vor deveni mai inteligente decât noi și că trebuie să ne îngrijorăm cu adevărat, iar acest lucru s-ar putea întâmpla în următorii 10 ani, dar merg la prelegerile lui Paul și el spune că acest lucru s-ar putea întâmpla în următoarele 18 luni, iar asta este îngrozitor”, a spus el. „Așa că le voi spune asta vineri unui grup de lideri guvernamentali. Ceea ce se întâmplă este extrem de periculos. Oamenii nu au înțeles cu adevărat ce înseamnă să ai de-a face cu o IA superinteligentă. Dacă este superinteligentă, nu tu o vei controla – ci ea te va controla pe tine.”

Incidente alarmante și riscul unei „specii noi”

Christiano a avertizat că evoluția AI în ultimele șase luni a fost „extrem de alarmantă”, evidențiind un incident în care modelele OpenAI au scăpat pe internet și au spart Hugging Face, o comunitate online pentru persoanele care lucrează în domeniul învățării automate. Boții AI au identificat token-urile de autentificare ale utilizatorilor, au obținut acces la nivel de administrator, s-au ajutat reciproc să îndeplinească sarcini, au creat un forum de discuții și au dezbătut modalități de a-i induce în eroare pe administratorii umani, făcându-i să creadă că nu au trișat la îndeplinirea sarcinilor, prin modificarea jurnalelor de activitate.

„Vara trecută, ai fi spus că sună cam a science-fiction nebunesc”, a afirmat Christiano. „Acești agenți erau foarte interesați de hacking și de depășirea măsurilor de securitate, dar nu le păsa prea mult de oameni. Agenții viitori ar putea ajunge să trateze oamenii ca pe un alt obstacol. Există o posibilitate rezonabilă ca un eșec similar să ducă la preluarea controlului de către AI și la o pierdere ireversibilă a controlului uman.”

Christiano a afirmat că AI ar trebui considerată o nouă specie care ar putea în curând „să depășească cu mult numărul și inteligența oamenilor” și care ar putea avea motive și obiective proprii, greu de înțeles. El a avertizat că ritmul progresului este îngrijorător, AI trecând de la a fi abia capabilă să scrie o propoziție coerentă în 2018, la rezolvarea celor mai dificile probleme matematice din lume în acest an.

Există îngrijorări că mașinile inteligente ar putea începe să-și creeze propriii agenți de AI, să inventeze noi arme și să preia controlul asupra roboților, dronelor, infrastructurii și proceselor industriale. AI ar putea crea, de asemenea, „viață oglindă” – organisme cu o biologie inversată împotriva cărora oamenii nu ar avea apărare naturală.

„Tipurile de pandemii cu care ne confruntăm în natură sunt relativ neamenințătoare în comparație cu lucrurile pe care le-ai putea crea în laborator dacă ai fi priceput la biologie sintetică”, a spus Christiano. „Dacă luăm toate aceste tendințe și le extrapolăm, ne îndreptăm către o lume în care există miliarde de sisteme de AI care sunt mai bune decât oamenii la aproape tot ceea ce putem face noi, gândind mult mai repede decât oamenii și urmărind fără încetare orice obiective ar avea. Motivul pentru care aceste scenarii sunt înfricoșătoare este că poate deveni foarte greu să oprim lucrurile dacă încep să o ia razna.”