CÂND INTELIGENȚA ARTIFICIALĂ GREȘEȘTE CU ELEGANȚĂ
Despre răspunsurile convingătoare, adevărurile neverificate și responsabilitatea de a gândi
Prof. dr. Ion Armeanu
O eroare spusă frumos rămâne o eroare
Există ceva aproape fascinant în felul în care inteligența artificială poate greși. Nu se încurcă neapărat în cuvinte, nu roșește, nu își caută ochelarii și nici nu încearcă să câștige timp privind pe fereastră. Uneori formulează o afirmație falsă cu atâta eleganță, încât cititorul simte nevoia să o creadă, măcar din respect pentru frumusețea frazei.
Iar aici începe una dintre problemele cele mai interesante ale epocii noastre.
Timp de secole, oamenii au învățat să asocieze competența cu exprimarea sigură, cu argumentația coerentă și cu acea liniște intelectuală pe care o manifestă cineva care pare să știe despre ce vorbește. Un profesor care explică limpede inspiră încredere. Un medic care vorbește precis ne liniștește. Un specialist care nu ezită pare, adesea, mai competent decât unul care își recunoaște incertitudinile.
Inteligența artificială poate reproduce foarte bine această aparență a competenței.
Dar aparența și competența nu sunt sinonime.
Un răspuns convingător nu este neapărat un răspuns adevărat.
Această distincție, simplă în formulare și dificilă în practică, ar trebui să stea la baza oricărei relații mature cu inteligența artificială.
Matematica are un avantaj: nu se lasă impresionată
Să luăm un exemplu elementar.
Presupunem că cineva afirmă:
(a + b)² = a² + b²
Expresia este scurtă, simetrică și chiar plăcută vizual. Cele două părți par să se potrivească într-o armonie care ar putea convinge un cititor grăbit.
Din nefericire pentru frumusețea ei, egalitatea este în general falsă.
Dezvoltarea corectă este:
(a + b)² = a² + 2ab + b²
Termenul 2ab, aparent neînsemnat, schimbă totul.
Pentru a verifica, putem alege a = 1 și b = 1.
Prima expresie ar susține că 4 = 2.
Matematica, în ciuda reputației sale de disciplină abstractă, manifestă în asemenea situații un remarcabil simț practic: nu acceptă egalitatea, indiferent cât de frumos a fost redactată.
Acesta este un exemplu ipotetic de eroare, nu relatarea unui răspuns real primit de la ChatGPT.
Dar el ilustrează o problemă generală: un text poate avea o formă impecabilă și un conținut greșit.
În matematică, demonstrația decide.
În alte domenii, verificarea poate fi mai complicată. O afirmație istorică, o interpretare juridică, o recomandare financiară sau o explicație medicală nu se verifică întotdeauna printr-un calcul de câteva rânduri.
Și tocmai de aceea riscul este mai mare.
De ce poate greși inteligența artificială?
Sistemele de inteligență artificială generativă învață relații statistice și structuri complexe din cantități mari de date. În timpul utilizării, ele produc răspunsuri în funcție de contextul conversației, de modelele învățate și de mecanismele prin care au fost antrenate și ajustate.
Aceste capacități le permit să explice, să rezume, să compare, să traducă și să construiască texte remarcabil de utile.
Dar nu garantează că fiecare afirmație generată este adevărată.
Un sistem poate interpreta greșit o întrebare, poate confunda două evenimente, poate utiliza informații depășite sau poate formula o concluzie care nu rezultă din premise.
Uneori poate produce chiar informații inventate, prezentate ca și cum ar fi reale.
Acest fenomen este cunoscut, în limbajul curent al domeniului, sub numele de halucinație a inteligenței artificiale.
Termenul este metaforic. Nu presupune că sistemul trăiește o experiență asemănătoare halucinațiilor umane.
În practică, fenomenul poate lua forme foarte diferite: un citat atribuit greșit, o carte inexistentă, o dată istorică eronată, o explicație științifică insuficient fundamentată sau o referință bibliografică fabricată.
Problema nu este doar că asemenea greșeli apar.
Problema este că ele pot apărea în interiorul unor răspunsuri altminteri excelente.
Iar un text care conține nouă afirmații corecte și una falsă poate deveni mai periculos decât unul evident greșit, pentru că cititorul este deja pregătit să îi acorde încredere.
Când încrederea devine comoditate
Oamenii au o înclinație firească spre economisirea efortului intelectual. Nu este neapărat un defect; fără această capacitate, am petrece o mare parte a vieții verificând lucruri pe care le știm deja.
Problema apare atunci când economisirea efortului se transformă în renunțarea la judecată.
Dacă un sistem ne oferă de zece ori consecutiv răspunsuri utile, este tentant să presupunem că al unsprezecelea va fi la fel de bun.
Începem prin a folosi inteligența artificială pentru a economisi timp.
Continuăm prin a economisi verificări.
Și riscăm să ajungem, fără să observăm, la economisirea gândirii însăși.
Este o performanță tehnologică discutabilă: să construim instrumente capabile să ne ajute să gândim mai bine și apoi să le folosim pentru a nu mai gândi deloc.
Totuși, soluția nu este respingerea inteligenței artificiale.
Ar fi ca și cum am refuza să mai folosim automobilul pentru că există accidente sau calculatorul pentru că putem introduce date greșite.
Soluția este dezvoltarea unei discipline a verificării.
Cele cinci întrebări care pot schimba un răspuns
Atunci când folosim ChatGPT pentru o problemă importantă, putem introduce în conversație cinci întrebări suplimentare.
- Pe ce informații se bazează această afirmație?
Cerem sursele și verificăm dacă există, dacă sunt relevante și dacă susțin într-adevăr concluzia. O bibliografie generată automat nu reprezintă, prin simpla ei prezență, o garanție.
- Ce presupuneri ai făcut?
Uneori răspunsul este corect numai în anumite condiții. Dacă aceste condiții nu sunt precizate, o concluzie limitată poate părea universal valabilă.
- Ce argumente ar putea contrazice concluzia?
Un răspuns bun devine mai valoros atunci când îi cunoaștem și limitele.
- Ce elemente sunt incerte?
Nu toate întrebările au răspunsuri definitive. Un sistem util ar trebui să ne ajute să distingem între informația confirmată, interpretare și ipoteză.
- Cum pot verifica independent?
Aceasta este, probabil, cea mai importantă întrebare. Verificarea trebuie să ajungă, atunci când miza o cere, la documente originale, date primare, publicații credibile sau specialiști competenți.
Aceste întrebări nu transformă automat un răspuns greșit într-unul corect. Sistemul poate continua să greșească, inclusiv atunci când își analizează propriul răspuns.
Dar ele ne ajută să folosim conversația ca instrument de investigație, nu ca substitut al dovezilor.
Un mic experiment pe care îl poate face oricine
Să presupunem că dorim să aflăm dacă o anumită metodă de învățare este eficientă.
Prima întrebare ar putea fi:
„Care este cea mai bună metodă de învățare?”
Vom primi probabil o listă de recomandări.
Putem însă reformula:
„Compară trei metode de învățare pentru un adult care studiază o limbă străină. Precizează ce dovezi susțin fiecare metodă, în ce condiții poate funcționa mai bine, ce limite are și ce afirmații ar trebui verificate din surse independente.”
Diferența este importantă.
Nu am cerut doar un răspuns.
Am cerut o structură de evaluare.
Iar dacă vom continua să verificăm informațiile, să comparăm dovezile și să adaptăm concluziile la situația noastră, inteligența artificială va deveni un partener de lucru mult mai util.
Nu pentru că ar fi devenit infailibilă.
Ci pentru că noi am devenit utilizatori mai exigenți.
Adevărul nu se stabilește prin aplauze
Există o veche tentație umană de a confunda popularitatea unei idei cu adevărul ei.
Dacă mulți oameni repetă aceeași afirmație, începem să o considerăm credibilă. Dacă este formulată frumos, îi acordăm un avantaj suplimentar. Dacă mai este însoțită și de un ton sigur, aproape că ne simțim nepoliticoși să o contrazicem.
Inteligența artificială poate amplifica această tentație, pentru că produce explicații bine organizate și accesibile, uneori fără să exprime suficient de clar incertitudinea.
Dar adevărul nu se stabilește prin vot, prin eleganță stilistică sau prin viteza cu care este produs un răspuns.
Un argument trebuie examinat.
O informație trebuie verificată.
O concluzie trebuie raportată la dovezi.
Iar atunci când nu știm, este preferabil să recunoaștem că nu știm.
În știință, această recunoaștere nu este un eșec.
Este adesea începutul cercetării.
Inteligența artificială și responsabilitatea intelectuală
Nu cred că marea provocare a inteligenței artificiale constă numai în dezvoltarea unor sisteme care să ofere răspunsuri tot mai bune.
O provocare la fel de importantă este formarea unor oameni capabili să folosească aceste răspunsuri fără să își abandoneze libertatea intelectuală.
Avem nevoie de instrumente puternice.
Dar avem nevoie și de discernământ.
Avem nevoie de viteză.
Dar și de răbdarea verificării.
Avem nevoie de informație.
Dar, mai ales, de capacitatea de a transforma informația în înțelegere.
Inteligența artificială poate accelera drumul către un răspuns. Nu ar trebui să ne scutească de responsabilitatea de a afla dacă acel răspuns este adevărat.
Poate că aceasta este una dintre cele mai importante lecții ale noii epoci tehnologice.
Nu trebuie să ne temem de un sistem pentru că poate greși.
Trebuie să ne temem, mai degrabă, de momentul în care încetăm să observăm că poate greși.
Iar dacă vom reuși să păstrăm vie această vigilență, inteligența artificială nu ne va diminua neapărat capacitatea de a gândi.
Dimpotrivă, ne poate oferi ocazia să o cultivăm.
Pentru că un răspuns greșit poate fi corectat.
Dar obișnuința de a nu mai pune întrebări este mult mai greu de vindecat.
Pentru cei care vor să învețe să colaboreze inteligent cu AI
Aceste idei sunt dezvoltate, alături de numeroase exemple și aplicații practice, în cartea mea:
THE ART OF ASKING ARTIFICIAL INTELLIGENCE
A Practical Guide to Using Artificial Intelligence, from Your First Question to Advanced Collaboration
Prof. Dr. Ion Armeanu
Cartea prezintă modalități de formulare a întrebărilor, verificare a răspunsurilor și utilizare a inteligenței artificiale ca instrument de învățare, cercetare și creație.
Disponibilă pe Amazon, în format Kindle și paperback:
https://www.amazon.com/dp/B0H9TZTWWB
O întrebare pentru cititori
Vi s-a întâmplat să primiți de la ChatGPT un răspuns atât de convingător, încât abia ulterior ați descoperit că era greșit?
Povestiți experiența în comentarii. Uneori, dintr-o eroare bine analizată putem învăța mai mult decât din zece răspunsuri corecte.
