• ChatGPT intră sub lupa cercetătorilor, care înceacă să deslușească procesul de gândire al A.I.
  • Cel mai recent val de inteligență artificială se bazează în mare măsură pe învățarea automată
  • AI-urile s-au dovedit a fi deosebit de inexplicabile, în parte din cauza dimensiunii lor

David Bau, informatician, este familiarizat cu ideea că sistemele informatice devin atât de complicate încât devin greu de urmărit.

„Am petrecut 20 de ani ca inginer de software, lucrând la sisteme foarte complexe. Și întotdeauna există această problemă„, spune Bau.

Dar cu software-ul convențional, cineva cu cunoștințe din interior poate de obicei să deducă ce se întâmplă, spune Bau. De exemplu, dacă clasamentul unui site web scade în urma unei căutări pe Google, cineva de la Google – unde Bau a lucrat timp de 12 de ani – va avea o idee de ce.

Recomandări

ALEPH 4 YOU!
MULTĂ MATE, PUȚIN KNOWLEDGE
Shopping
ANGELO IA NOTĂ MAXIMĂ
FARFURIA PERFECTĂ

„Iată ce mă îngrozește cu adevărat” în legătură cu actuala generație de inteligență artificială, spune el: „nu există o astfel de înțelegere”, nici măcar în rândul celor care o construiesc.

Cel mai recent val de inteligență artificială se bazează în mare măsură pe învățarea automată, în care software-ul identifică singur modele în date, fără a primi reguli prestabilite privind modul de organizare sau clasificare a informațiilor. Aceste tipare pot fi de nepătruns pentru oameni.

Cum funcționează LLM-urile, ca ChatGPT?

Cele mai avansate sisteme de învățare automată utilizează rețele neuronale: software inspirat de arhitectura creierului. Acestea simulează straturi de neuroni, care transformă informațiile pe măsură ce trec de la un strat la altul. La fel ca în creierul uman, aceste rețele întăresc și slăbesc conexiunile neuronale pe măsură ce învață. Totuși, este greu de înțeles de ce sunt afectate anumite conexiuni. Prin urmare, cercetătorii vorbesc adesea despre A.I. ca despre „cutii negre”, a căror funcționare internă este un mister.

Problema este deosebit de acută în cazul modelelor lingvistice mari (LLM), programele care alimentează chatbots precum ChatGPT. Aceste AI-uri s-au dovedit a fi deosebit de inexplicabile, în parte din cauza dimensiunii lor. LLM-urile pot avea sute de miliarde de „parametri”, variabilele pe care AI le folosește în pentru a lua decizii.

AI a „crescut rapid în ultimii ani, în special de când au început să apară LLM-urile”, spune Mor Geva, informatician la Universitatea Tel Aviv din Israel.

Citește și