A lei obrigará a identificar os contidos xerados con IA e establecerá sancións

O Goberno ten previsto obrigar por lei a identificar os contidos que se xeran con intelixencia artificial (IA) e establecerá ademais un réxime sancionador para quen utilice esas tecnoloxías de forma perversa, con multas que poden alcanzar ata os 35 millóns de euros ou o 7 por cento da facturación dunha empresa.

Así se recollerá na Lei para o bo uso e a gobernanza da intelixencia artificial, cuxo anteproxecto aprobou este martes o Consello de Ministros e co que o Executivo pretende asegurar un uso "ético, inclusivo e beneficioso" desta tecnoloxía e facilitar que os usuarios poidan diferenciar con nitidez os contidos que son reais dos que son virtuais.

O ministro para a Transformación Dixital e da Función Pública, Óscar López, subliñou a transcendencia desta nova norma, e referiuse á intelixencia artificial como un "poderoso" instrumento que pode favorecer o crecemento económico, favorecer a loita contra moitas enfermidades ou o desenvolvemento de novos fármacos, pero tamén ser unha ferramenta para difundir loiadas, para expandir o odio e atacar á democracia.

Óscar López, durante a rolda de prensa posterior ao Consello de Ministros, resumiu ademais o contido dun informe sobre o uso da intelixencia artificial e a súa implementación en España, e destacou que o estudo sinala que o PIB nacional podería crecer ata un 8 por cento -máis de 100.000 millóns de euros- no próximos dez anos se se aplica esta tecnoloxía de forma correcta.

O ministro enmarcou o novo anteproxecto no "escudo europeo" que protexe os dereitos dixitais e que se complementa co anteproxecto de lei de servizos dixitais e os medios de comunicación e informou de que a nova norma adaptará a lexislación española ao regulamento europeo de Intelixencia artificial, que está xa en vigor.

Prohibidas as técnicas subliminares con IA

O anteproxecto, como o regulamento europeo, establece as prácticas prohibidas da Intelixencia artificial, e entre elas o uso de técnicas subliminares (como as imaxes ou os sons imperceptibles) para manipular decisións sen consentimento, ou o uso por exemplo dun 'chatbot' que identifica usuarios con adicción ao xogo e incítalles a entrar, con técnicas subliminares, nunha plataforma de xogo en liña.

Prohibirá ademais explotar vulnerabilidades relacionadas coa idade, a discapacidade ou situación socioeconómica para alterar substancialmente comportamentos de modo que lles provoque ou poida provocar prexuízos; o ministro citou como exemplo que un xoguete infantil habilitado con IA anime os nenos a completar retos que lles poden producir danos físicos graves.

A nova norma prohibe tamén a clasificación biométrica das persoas por raza ou orientación política, relixiosa ou sexual, a puntuación de individuos ou grupos baseándose en comportamentos sociais ou trazos persoais como método de selección para, por exemplo, denegarlles a concesión de subvencións ou préstamos, ou valorar o risco de que unha persoa cometa un delito baseándose en datos persoais como o seu historial familiar, o seu nivel educativo ou o seu lugar de residencia.

As sancións que se poñerán para este tipo de sistemas oscilan entre os 7,5 e os 35 millóns de euros, ou entre o 2 e o 7 por cento do volume de negocio mundial da empresa responsable, aínda que no caso das pemes esa contía poderá ser inferior.

Contra a 'ultrasuplantación' ou 'deepfake'

O ministro informou durante a conferencia de prensa de que as autoridades ou organismos encargados de vixiar os sistemas prohibidos serán a Axencia Española de Protección de Datos (para sistemas biométricos e xestión de fronteiras); o Consello Xeral do Poder Xudicial (para sistemas de IA no ámbito da xustiza), a Xunta Electoral Central (para sistemas que IA que afecten a procesos democráticos) e a Axencia Española de Supervisión da Intelixencia Artificial no resto dos casos.

A lei establece ademais, de acordo con o regulamento europeo, sistemas de alto risco, e inclúe entre eles todos os que se poden engadir como elementos de seguridade a produtos industriais, a xoguetes, equipos radioeléctricos ou produtos sanitarios, ou sistemas; os sistemas para a garantía do dereito, migración, asilo e xestión do control fronteirizo; ou os sistemas para o seu uso na administración de xustiza e en procesos democráticos.

Estes sistemas deben cumprir unha serie de requisitos e en caso de incumprimentos establécense tamén sancións en función da gravidade que poden oscilar entre os 500.000 e os 7,5 millóns de euros, ou ata o 2 e o 3 por cento do volume de negocio mundial do exercicio anterior da empresa responsable.

Entre as infraccións graves estará a de non cumprir coa obrigación de etiquetar correctamente calquera imaxe, audio ou vídeo que se xerado ou manipulado con IA e que mostren a persoas reais ou inexistentes dicindo ou facendo cousas que nunca fixeron ou en lugares onde nunca estiveron, o que constitúe unha "ultrasuplantación" (deepfake).

A aprobación deste anteproxecto no Consello de Ministros produciuse varios días despois de que o PP difundise a través das redes sociais dous vídeos creados por intelixencia artificial; o primeiro, titulado "A illa das corrupcións", foi publicado e despois eliminado tras as protestas da República Dominicana, e nel, e sobre imaxes do país caribeño, cargábase contra o PSOE e os presuntos casos de corrupción que afectan o partido.

No segundo, que o PP titulou "A manifestación que non verás hoxe" (publicado o 8-M; Día da Muller) sucédense imaxes virtuais de varios dirixentes ou exdirixentes da esquerda e da esposa do presidente do Goberno, e entre elas unha de Pedro Sánchez xunto ao exministro José Luis Ábalos cun "catálogo" de mulleres.