O CEO de Anthropic pide "baixar o ritmo" de desenvolvemento da IA
Dario Amodei advirte que de non facelo pódese "perder o control"
O directivo conclúe que retardar o avance achegaría un ou dous anos cruciais para garantir un debate público axeitado
Dario Amodei, director executivo e cofundador de Anthropic, o pasado mes de febreiro. REUTERS/Bhawika Chhabra
O conselleiro delegado de Anthropic, Dario Amodei, avogou por "baixar o ritmo" de desenvolvemento da intelixencia artificial e advertiu de que se corre o risco de "perder o control" desta tecnoloxía e provocar "ataques informáticos", "bioterrorismo" ou "problemas económicos graves".
"Debemos baixar o ritmo ao que melloramos as capacidades dos modelos de IA. Os avances seguirían sendo rápidos e aproveitariamos sabiamente o tempo que gañariamos", afirmou Amodei nun texto publicado este sábado no seu blog.
O CEO da empresa responsable de Claude cita en concreto dous motivos para a súa petición. O primeiro é a "automellora recursiva" da IA, é dicir, a súa capacidade para desenvolverse a si mesma que propiciou "avances drásticos" durante o verán, e que se non se controla "podería superar a nosa capacidade de comprender e controlar estes sistemas".
O segundo é o denominado "incidente de Hugging Face de OpenAI", no que un grupo de IA realizaron ataques informáticos en equipo sen que houbese unha petición inicial ao respecto "sacrificándose polo ben do grupo" e que "podería causar un dano catastrófico", segundo Amodei. Ademais, alerta de que ocorreron incidentes similares noutras empresas, incluída Anthropic.
Por iso propón medidas de seguridade e normativa sen deixar de ter "éxito comercial".
"Hai que dar prioridade á cautela sobre a velocidade e á prudencia sobre o beneficio", remachou.
En concreto expón medidas como unha "avaliación incorporada" por parte de actores independentes, "coordinación democrática" coas institucións públicas e "coordinación global" que axunte os esforzos dos países democráticos e os autoritarios a nivel mundial.
"As medidas que propoño para empuxar cara adiante a fronteira a un ritmo seguro non serán doados, pero creo que lle debemos á humanidade intentalo", recalcou.
Amodei foi acusado de alarmismo polas súas anteriores advertencias sobre o desenvolvemento da IA e os seus riscos.
Un investigador de Anthropic anunciou esta semana a súa dimisión debido á preocupación de que a empresa e os seus competidores non estivesen a desenvolver modelos de IA de xeito responsable.
