La present edició de l’AI Congress, l’esdeveniment de referència en intel·ligència artificial impulsat pel CIDAI i organitzat pel centre tecnològic Eurecat, ha subratllat la importància d’alinear les capacitats d’automatització de la intel·ligència artificial agèntica amb criteris humans, amb la finalitat de donar resposta a grans reptes vinculats a la seguretat i a la governança d’aquesta tecnologia des del punt de vista empresarial, social i mediambiental.

El congrés, que té lloc aquesta setmana a Barcelona, ha apuntat que la pròxima evolució en el desplegament de tecnologies d’intel·ligència artificial se centrarà en la personalització de models d’IA que s’utilitzin de manera independent i local sobre infraestructures de les empreses i organitzacions. Es tracta de mantenir el control sobre les dades, garantir la privacitat, reduir la dependència de proveïdors externs i ser més eficients, com una alternativa competitiva als serveis al núvol dels models de frontera d’IA generativa a gran escala que coneixem avui en dia.

D’acord amb la cofundadora i CEO d’Alinia AI, Ariadna Font, “la IA agèntica multiplica no només la productivitat, sinó també el volum i la velocitat dels errors. Una persona s’equivoca una vegada, però un agent repeteix l’error mil vegades abans ningú se n’hagi adonat”.

Per tot això, des del seu punt de vista, “el més urgent i important és invertir en la creació de marcs i sistemes robustos de control i governança, per poder fer un ús segur i responsable dels darrers avenços tecnològics”. Tot i que, “amb els models de la IA hi ha una carrera desenfrenada per veure qui arriba abans, per mi no guanyarà qui tingui més IA, sinó qui en mantingui el control amb criteri humà”, ha dit.

En aquest sentit, el director de l’AI Congress i director científic de l’Àrea Digital d’Eurecat, Joan Mas, ha posat en relleu que la “IA agèntica ha eclosionat aquest darrer any i presenta unes grans oportunitats per aconseguir uns nivells d’automatització realment importants, però també presenta interrogants respecte als riscos i les proteccions que hem d’incloure en aquests agents, perquè no es desalineïn del criteri humà en les seves decisions”.

En la benvinguda institucional de l’AI Congress, el president d’Eurecat, Daniel Altimiras, ha remarcat que “Catalunya compta amb coneixement, talent, capacitats tecnològiques i un teixit empresarial que ens permeten tenir un paper rellevant en aquesta nova etapa de la intel·ligència artificial”. El repte, ha especificat, “ja no és només entendre què pot fer la IA, sinó incorporar-la de manera efectiva, segura i responsable a les nostres organitzacions i convertir-la en competitivitat, productivitat i noves oportunitats de creixement”.

«Des del Govern de Catalunya, defensem una intel·ligència artificial amb propòsit, orientada a resoldre problemes reals, a generar valor públic, a reforçar la competitivitat de les nostres empreses i a millorar els serveis que oferim a la ciutadania”, ha destacat, per la seva banda, el secretari de Telecomunicacions i Transformació Digital de la Generalitat de Catalunya, Albert Tort.

Cap a un model d’intel·ligència artificial que aporti valor

En paraules de la directora científica d’IA de Multiverse Computing, Jezabel R. Garcia, “la pròxima revolució de la IA no és un model més gran, sinó un model que funciona allà on aporta valor, en un dispositiu, en una empresa, dins d’un hospital o en una administració pública. La compressió ens permet mantenir la capacitat d’un model mentre en reduïm la mida i el consum energètic en més d’un 50 per cent, i això és el que fa possible una IA sobirana, eficient i sostenible a Europa”.

L’AI Congress, que enguany ha arribat a la seva dotzena edició, ha assenyalat també la importància que el procés d’adopció de la intel·ligència artificial posi el focus en la necessitat real de definir de forma clara quin tipus de solucions es volen aconseguir. En aquest sentit, l’experta internacional en transformació digital Pooja Munshi ha destacat el concepte d’IA intencional, com aquella intel·ligència artificial que s’alinea amb objectius concrets i amb les necessitats de les persones, les organitzacions i el medi ambient.

Basant-se en el seu treball més recent com a responsable del Programa de les Nacions Unides per al Medi Ambient, Pooja Munshi ha explorat com els líders poden desenvolupar productes d’IA intencionals que transformin la capacitat tecnològica en un impacte significatiu i durador i ha convidat els líders a formular millors preguntes i a escoltar atentament les persones, les evidències i el món al qual afecta la seva tecnologia.

Per la seva banda, la directora de l’Autoritat Catalana de Protecció de Dades (APDCAT), Meritxell Borràs, ha parlat dels reptes que planteja la IA agèntica pel que fa a la protecció de dades quan els agents treballen amb dades de caire personal i de l’estructuració d’una supervisió humana efectiva en la seva execució.

Durant l’esdeveniment, s’han donat a conèixer, a més, exemples d’agents i sistemes multiagent aplicats a diversos sectors i s’han compartit recomanacions en la seva aplicació per garantir la seguretat tècnica davant les amenaces i riscos als quals estan exposats, així com per complir amb el Reglament d’Intel·ligència Artificial (AI Act).

Alineat amb l’Estratègia Catalunya IA 2030 impulsada pel Govern de Catalunya, l’AI Congress ha comptat el suport de CaixaBank Tech, Conversia, Forvis-Mazars-Infini, Orange Empresas, Raona i Softeng, ha reunit més de mig centenar de ponents i ha superat els 2.200 inscrits.