Google DeepMind, un lider în domeniul inteligenței artificiale, își îndreaptă atenția către un aspect crucial al dezvoltării tehnologice: interacțiunea dintre milioane de agenți AI. Această preocupare a fost exprimată de Rohin Shah, directorul cercetărilor de siguranță și aliniere AGI, care subliniază că apariția agenților capabili să îndeplinească sarcini fără supraveghere umană aduce cu sine riscuri semnificative.

Un nou tip de risc

Shah a evidențiat că, pe măsură ce agenții AI își desfășoară activitățile în mod autonom și colaborează între ei, se poate ajunge la o situație în care scenarii ipotetice devin realitate. Această dinamică poate genera provocări asemănătoare celor întâlnite în interacțiunile umane, unde instituțiile pot realiza lucruri imposibile pentru un individ.

Investiția în cercetare

În încercarea de a anticipa și gestiona aceste riscuri, Google DeepMind a anunțat un fond de 10 milioane de dolari pentru a sprijini cercetările asupra sistemelor multi-agent. Această inițiativă se desfășoară în colaborare cu organizații precum Schmidt Sciences, ARIA, Cooperative AI foundation și Google.org.

Obiectivele inițiativei

Scopul principal al acestui fond este de a stimula cercetările în afara companiilor tehnologice, având în vedere că academia are capacitatea de a explora teme pe termen lung, care nu sunt neapărat priorități pentru laboratoarele industriale. Shah a subliniat că, în prezent, nu există un domeniu bine definit dedicat siguranței agenților multipli, iar această inițiativă își propune să schimbe acest lucru.

Privind spre viitor

Pe măsură ce tehnologia avansează, Shah estimează că în următoarele luni agenții vor fi implementați pe scară largă. Aceasta face ca studiul comportamentului lor să fie mai urgent ca niciodată, pentru a preveni scenarii necontrolate și pentru a asigura un viitor sigur în interacțiunile între agenții AI.

Sursă imagine reprezentativă: Pavel Danilyuk pe Pexels

Sursa originală de inspirație a articolului: Vezi aici