De ce inteligența artificială s-ar putea să nu atingă niciodată inteligența umană
O nouă analiză susține că IA nu va putea niciodată să gândească ca oamenii, deoarece cele mai importante aspecte ale inteligenței umane nu pot fi programate în mașini. Un renumit om de știință în domeniul informaticii afirmă că o propunere făcută de Alan Turing, considerat pe larg drept părintele științei computerelor teoretice, a direcționat cercetarea în inteligența artificială în direcția greșită în ultimii 75 de ani, conform scitechdaily.com.
👉 Critica lui Peter J. Denning asupra testului Turing și inteligenței artificiale
În noua sa analiză, „Greșelile lui Turing: Evadarea din jugul mașinilor neinteligențe”, Peter J. Denning examinează ideile promovate de Turing în 1950. La acea vreme, mulți oameni de știință credeau că inteligența umană ar putea exista independent de corp și ar putea fi recreată ca software funcționând pe un computer digital. Denning contestă de asemenea ideea că inteligența mașinilor poate fi demonstrată printr-un joc de imitare (cunoscut acum sub numele de testul Turing). „Aceste două afirmații au modelat o mare parte din cercetarea și dezvoltarea IA,” scrie Denning. „Premisa mea este că acceptarea acestor afirmații a condus la haosul IA în care ne aflăm astăzi.”
Potrivit lui Denning, sistemele de inteligență artificială (IA) în dezvoltare în prezent sunt puțin probabile să genereze inteligență de nivel uman, cunoscută sub numele de inteligență generală artificială (AGI). În schimb, el avertizează că acestea ar putea crea pericole serioase fără a gândi vreodată ca oamenii. Central în argumentația lui Denning se află conceptul de cunoștințe tacite. Acesta se referă la vastul volum de înțelegere umană pe care oamenii îl posedă, dar pe care nu îl pot exprima pe deplin în cuvinte sau traduce în simboluri pe care o mașină le poate procesa.
👉 Formele și limitările cunoștințelor tacite în IA
Denning descrie cinci forme largi de cunoștințe tacite care „duc lipsă de învățarea automată”. Acestea includ bunul simț, interacțiunile cotidiene cu oamenii și mediul, sentimentele și percepțiile, abilitățile practice și contextul cultural și istoric împărtășit de societăți. Cercetătorii au petrecut decenii încercând să înregistreze bunul simț într-o formă pe care computerele o pot utiliza. Începând cu anii 1980, proiectul ambițios Cyc al lui Douglas Lenat a avut ca scop construirea unei baze de date vasta de fapte de bun simț. După 40 de ani de muncă, proiectul conținea 25 de milioane de intrări.
„Cu toate acestea, chiar și această comoară nu a putut alcătui un fundal de bun simț suficient pentru a face sistemele experte suficient de inteligente pentru a fi experți,” observă Denning. „Cyc a validat că mult din cunoștințele care fac oamenii experți nu pot fi articulate ca propoziții.” Abilitatea practică reprezintă un alt obstacol major, susține Denning. „Abilitățile noastre de performanță în mii de domenii nu pot fi comunicate mașinilor,” explică Denning. „În timp ce descrierile rezultatelor abilităților (‘știu ce’) pot fi adesea reprezentate ca biți și stocate într-o mașină, nu știm cum să codificăm cunoștințele încorporate pentru performanța abilă (‘știu cum’).”
Muzica oferă un exemplu clar al acestei diferențe. Denning spune: „Un violonist virtuoz poate cânta muzică frumoasă, dar nu poate descrie unui ucenic cum să o producă.” „Chiar dacă un robot ar putea observa și imita oamenii abili, neavând un corp biologic, un robot nu poate înțelege cum se simte muzicianul atunci când cântă muzica frumoasă sau cum se simte un public când o aude.” Intuiția, intuițiile, creativitatea spontană și imaginația sunt alte forme de cunoștințe tacite care rezistă reducției la instrucțiuni de calculator. Denning numește obstacolul central „problema reprezentării”. Computerele pot efectua doar calcule atunci când datele și instrucțiunile sunt codificate în forme fizice pe care le pot recunoaște și procesa.
Cunoștințele tacite, totuși, nu pot fi ușor convertite într-un astfel de format. „În spatele fiecărui cuvânt se află o fântână adâncă de cunoștințe tacite care îi dă sensul,” spune Denning. „Cuvintele sunt doar reprezentări simbolice ale semnificațiilor, nu semnificațiile în sine. Modelele de limbaj mari utilizate frecvent, cum ar fi ChatGPT, Claude și Gemini, manipulează doar cuvinte, nu pot cunoaște sau înțelege semnificația a ceea ce spun.” Acest lucru creează ceea ce Denning vede ca fiind un abism de necorespondență. Deoarece oamenii de știință nu înțeleg pe deplin cum funcționează cunoștințele tacite în cadrul oamenilor, nu pot determina cum să le transfere unei mașini.
„Cum găzduim cunoștințele tacite este în mare măsură un mister,” admite Denning. „Tot ce știm este că este încorporată. Nu avem idee ce am putea observa și măsura în corpurile noastre pentru a o dezvălui.” Denning subliniază de asemenea importanța contextului, sau circumstanțelor înconjurătoare care dau sens și scop cuvintelor și acțiunilor umane. O afirmație poate însemna lucruri foarte diferite în funcție de dacă vorbitorul este sincer, sarcastic, supărat, jucăuș sau provocator. Contextul ajută, de asemenea, oamenii să decidă când să folosească umorul, când să arate tact și cum să interpreteze ceea ce cineva lasă nesăvit. „Când întrebi de unde provine o presupunere a contextului actual, descoperi că se bazează pe conversații anterioare din contexte anterioare. Fiecare dintre acestea, la rândul său, se bazează pe alte conversații anterioare și pe contextul lor. Această paternă este nesfârșită și fractală,” explică Denning.
Cultura prezintă o provocare similară. Aceasta include valori, norme sociale, judecăți, istorii, comunități, stări de spirit și relații implicând puterea sau îngrijirea. „Conversațiile umane sunt impregnate cu presupuneri de fond care oferă sens și relevanță cuvintelor folosite,” explică Denning. El susține că extinderea modelelor de limbaj mari nu va rezolva această problemă. „Scalarea modelelor de limbaj mari cu rețele neuronale și mai mari nu le va permite să dobândească cunoștințele umane încorporate pe care le numim cultură. Modelele de limbaj mari nu vor atinge obiectivul testului Turing: de a demonstra gândirea mașină indistinctibilă de gândirea umană.”
Denning descrie în cele din urmă o formă de neînțelegere reciprocă între oameni și mașini. Rețele neuronale artificiale pot dezvolta propriul tip de cunoștințe tacite de mașină, dar oamenii pot fi incapabili să o înțeleagă. „Mașinile nu pot citi cunoștințele noastre tacite și noi nu putem să le citim pe ale lor,” scrie el. „Sunt străini pe o prăpastie inegalabilă.” Această prăpastie ar putea avea consecințe majore pentru siguranța IA.
Dacă mașinile nu pot înțelege contextul nespus din spatele instrucțiunilor umane, Denning avertizează că alinierea comportamentului lor cu obiectivele umane poate fi imposibilă. „Prin automatizarea IA, rețelele de mașini sunt susceptibile să dezvolte propria inteligență de mașină care nu atinge nivelul inteligenței generale umane, dar este totuși capabilă să creeze probleme severe pentru oameni. Această amenințare este mai mare decât o preluare de către mașini superinteligente,” explică el.
În viziunea lui Denning, cel mai mare pericol imediat nu este o mașină superinteligentă care depășește umanitatea. Este o rețea de sisteme mai puțin inteligente care acționează în moduri puternice, imprevizibile și potențial dăunătoare. „Inteligența mașină are preocupări diferite de ale noastre și nu pare să-i pese de noi. Modurile sale de a gândi și de a rezolva problemele par străine pentru noi. Nu știm încă cum să trăim în siguranță cu aceste mașini. A ne retrage dintr-o singularitate a automatizării IA va necesita mult de la noi. Începem prin a accepta că cultura familiară dispare pe măsură ce mașinile inteligente apar în societatea noastră și nu știm ce va urma. Refuzăm să gândim ca mașinile sau să le fim subordonați. Refuzăm să ne supunem unui jug impus de mașini cu inteligență scăzută. Cel mai important, reafirmăm umanitatea noastră, declarăm din nou ceea ce ne face diferiți de mașini și celebrăm acele diferențe.”