Anthropic di que desarticulou posibles complots que usaban a súa IA para investigar armas biolóxicas

A empresa de intelixencia artificial Anthropic afirmou este xoves que frustrou varios posibles complots nos que se utilizaron os seus modelos de Intelixencia artificial (IA) para realizar investigacións que poderían contribuír ao desenvolvemento de armas biolóxicas.

A compañía indicou nun informe que detectou e bloqueou estes usos indebidos durante este ano, aínda que non puido determinar se os estudos tiñan fins lexítimos ou maliciosos, polo que optou por bloquealos ante o risco de que os seus modelos puidesen contribuír ao desenvolvemento de patóxenos perigosos.

"Aínda que as avaliacións son útiles porque proporcionan evidencia de capacidade, non poden demostrar concretamente que devandita capacidade se utilizaría algunha vez para desenvolver armas biolóxicas no mundo real", explicou a empresa no documento.

Ata o momento, a corporación californiana negou que tivese constancia de que algunha empresa privada compartise publicamente "evidencia do posible mal uso das súas plataformas para o desenvolvemento de armas biolóxicas".

Anthropic incluíu ademais noutro comunicado unha extensa lista de casos detectados nos últimos oito meses nos que se usaran os seus modelos de IA de xeito indebido, incluído o 'chatbot' Claude, na China, Rusia e Iemen.

Este informe xorde entre crecentes preocupacións de expertos no sector tecnolóxico polo uso dual da IA, xa que os modelos capaces de axudar en investigacións biolóxicas tamén poden servir para actividades perigosas, así como tamén de voces que alertan dos perigos derivados da crecente autonomía destes modelos.

A empresa tecnolóxica asegurou desenvolver sistemas de detección para identificar e bloquear os usos que poidan supoñer un risco nos seus modelos de IA.