López de Mántaras demana una ITV d’IA

Ramon López de Mántaras, nascut el 1952 a Sant Vicenç de Castellet, és una figura central en la investigació de la intel·ligència artificial (IA) a l’Estat. Professor emèrit d’investigació del Consell Superior d’Investigacions Científiques (CSIC) i fundador de l’Institut d’Investigació en Intel·ligència Artificial (IIIA), ha estat guardonat amb nombrosos premis, incloent-hi el Premio Nacional Julio Rey Pastor i el premi Robert S. Engelmore de l’Associació Americana d’IA.

López de Mántaras és reconegut no només pels seus èxits acadèmics, sinó també pel seu compromís amb una IA ètica i beneficiosa per a la societat. En un moment en què el debat entre acceleracionistes i alarmistes està en plena efervescència, López de Mántaras ha defensat un enfocament prudent i ètic. És coautor de la Declaració de Barcelona, un manifest que promou l’ús responsable de la IA a Europa.

El seu treball ha abraçat diverses àrees de la IA, incloent-hi el raonament basat en casos, els robots autònoms i la IA aplicada a la música. Un dels seus projectes destacats és SaxEx, un sistema que pot sintetitzar interpretacions musicals expressives, fet que demostra l’aplicació de la IA en l’art.

López de Mántaras ha expressat preocupació per la falta de transparència i els possibles biaixos dels algorismes. Recentment ha assenyalat que “la IA sola no resoldrà absolutament res”. “Seran els humans els qui prendran les decisions finals basades en les eines ofertes per la IA.” Aquesta visió fixa que els sistemes d’IA han de ser dissenyats i utilitzats amb una clara comprensió dels seus límits i potencials impactes socials.

López de Mántaras també ha destacat la importància de la col·laboració entre humans i màquines per a la presa de decisions. En el camp de la medicina, per exemple, ha advocat per sistemes que ajudin els metges a diagnosticar i tractar malalties, però sempre amb la supervisió i el judici d’humans. Això es reflecteix en contribucions a projectes que combinen coneixement expert i dades per millorar la precisió dels diagnòstics mèdics.

López de Mántaras ha estat vocal sobre la necessitat de regulacions que assegurin que els algorismes siguin justos i transparents i advoca per una “ITV per a algoritmes”, en què els sistemes d’IA siguin rigorosament avaluats abans de ser desplegats en aplicacions crítiques.