La UE acorda una regulació pionera sobre la intel·ligència artificial
La llei fixa límits, per exemple, a l’ús de càmeres de reconeixement biomètric en l’espai públic
El Consell de la Unió Europea i el Parlament Europeu han segellat aquesta matinada un acord històric per regular en forma de llei una matèria tant sensible com el de la intel·ligència artificial. Després d’un procés negociador que ha estat costerut i que s’ha allargat durant 36 hores, i que ha hagut de superar nombrosos esculls com els límits sobre les dades biomètriques, ambdues institucions ha donat forma a una normativa pionera a escala mundial i que tindrà com a eix vertebrador el permetre, o prohibir, l’ús d’aquesta tecnologia en funció del risc social que suposi per a les persones, intentant preservar aquell fràgil equilibri de no trepitjar drets considerats bàsics.
“La regulació cerca garantir que els sistemes d’intel·ligència artificial existents i utilitzats a la UE són segurs i respecten els drets fonamentals i els valors europeus”, ha apuntat la presidència espanyola de torn de la UE, felicitant-se per una llei que, ara, haurà de ser ratificada pel Parlament Europeu. Un dels punts que ha generat més controvèrsia en les converses ha estat l’ús que les forces de l’ordre podran fer de les càmeres d’identificació biomètrica en espais públics. Finalment, la llei fixa que per fer servir aquesta tecnologia caldrà una autorització judicial prèvia, i que aquesta només es donarà en casos molt flagrants com ara el risc d’un atac terrorista imminent o per identificar una persona que hagi comès delictes de terrorisme, tràfic de persones o explotació sexual. Un altre punt espinós que tracta la norma és el de la categorització biomètrica, que queda prohibida per creences polítiques, religioses, filosòfiques o per la seva raça i orientació sexual. Seguint en l’apartat de prohibicions, tampoc no es podran utilitzar els sistemes que puntuen a les persones en funció del comportament, la intel·ligència artificial capaç de manipular el comportament humà o els sistemes per crear bases de dades facials captant dades de manera indiscriminada a través d’internet.
Pel que fa als sistemes d’intel·ligència artificial generativa, i en els que es basen models com ara ChatGPT, les empreses hauran de complir criteris de transparència, com ara especificar si un text, una cançó o una fotografia s’ha generat a través d’aquest sistema.
