A nova lei de IA: multas millonarias, veto aos 'deepfakes' e sistemas prohibidos

O Goberno aprobou este martes o proxecto de lei para o bo uso e a gobernanza da intelixencia artificial, un texto que axusta a lexislación española á europea e que fixa multas millonarias (de ata 35 millóns de euros), trata de atallar os contidos 'ultrafalsos' (deepfakes) -como os espidos xerados por asistentes virtuais-, e determina que técnicas e sistemas están expresamente prohibidos.

O Consello de Ministros deu luz verde ao proxecto de lei, que comezará agora a súa tramitación parlamentaria, un texto que vai dotar a España dun instrumento que asegurará a supervisión humana para todos aqueles sistemas considerados de alto risco porque poderían afectar os dereitos fundamentais das persoas.

O texto fixa os sistemas ou as prácticas que están prohibidas, como o uso de técnicas subliminares para manipular decisións sen consentimento, explotar vulnerabilidades relacionadas coa idade ou a situación socioeconómica das persoas (menores, maiores ou discapacitados), a clasificación biométrica por raza ou orientación política ou relixiosa, ou a 'puntuación' de individuos baseándose en comportamentos sociais ou trazos privados para por exemplo denegar subvencións ou préstamos.

O ministro para a Transformación Dixital e da Función Pública, Óscar López, subliñou que España está a demostrar "un exemplo sobresaliente" na despregadura e a adopción da IA e citou a localización de dúas 'fábricas' de IA da UE, un proxecto de 'xigafactoría', varias empresas punteiras no sector, entre elas Multiverse Computing ou a existencia xa dun modelo de IA en español ('ALIA'), e aseverou que o país "abandeira" a aposta para que esta tecnoloxía sexa "ética e confiable".

Óscar López, na conferencia de prensa posterior ao Consello de Ministros, defendeu, fronte aos 'tecnoligarcas" que están en contra de calquera tipo de regulación, a posibilidade de compatibilizar a innovación e a competitividade cos dereitos, e mostrouse convencido de que a lei responde á inquietude dos españois, xa que case o 80 por cento da poboación pide máis protección dos dereitos dixitais.

A nova lei é "garantista e humanista", manifestou o ministro, quen aliñou os obxectivos do texto cos fixados polo papa León XIV na súa encíclica, e situou España como un dos líderes mundiais (o sétimo, dixo) no desenvolvemento e o progreso da intelixencia artificial, pero como "o máis avanzado" do planeta no caso dunha tecnoloxía "confiable".

Resposta aos espidos creados desde a rede social X

A lei fixa responsabilidades aos responsables de IA que utilicen sistemas prohibidos en Europa, impón a supervisión humana en casos que poidan afectar a dereitos fundamentais, promove a transparencia algorítmica e inclúe medidas específicas de protección os menores, e atribúe competencias de supervisión á Axencia de Supervisión de Intelixencia artificial (AESIA), á Axencia Española de Protección de Datos, ao Consello Xeral do Poder Xudicial, ao Banco de España ou á Comisión Nacional do Mercado de Valores.

O texto que aprobou o Goberno inclúe xa as modificacións ao Regulamento Europeo que se incorporaron recentemente, e entre elas a prohibición de sistemas de intelixencia artificial que xeren 'deepfakes' sexuais, tras a polémica xerada polos espidos de mulleres creados por Grok, o asistente virtual da rede social X.

A Lei prohibe por exemplo o uso de 'chatbots' (asistente conversacional robotizado) que identifiquen usuarios con adición ao xogo para incitarlles a entrar en plataformas de xogo; os xoguetes infantís dotados con IA que poidan animar aos nenos para completar retos que lles poden producir danos; ou sistemas que clasifiquen con biometría ás persoas (orientación política, sexual ou outras) a partir da análise das súas fotos en redes sociais.

As infraccións clasificaranse en leves, graves e moi graves, e as sancións poderán alcanzar ata os 35 millóns de euros ou o 7 por cento do volume de negocio anual dunha empresa nos casos máis graves; e serán de 500.000 euros -ou o 0,5 por cento do volume de negocio- no caso das máis leves.

A lei española inclúe detalles que non proveñen do Regulamento Europeo de IA, e entre elas medidas para impulsar o bo uso destas tecnoloxías no sector público, tras as numerosas suxerencias que se fixeron nese sentido durante o trámite de audiencia pública.

Así, a norma española introduce a creación dun inventario de sistemas de IA utilizados en procedementos administrativos; e establece a figura do delegado de IA, que estará encargado de coordinar a aplicación normativa e asesorar en proxectos e contratación pública.