El director ejecutivo de Anthropic pidió a las empresas del sector reducir el ritmo de desarrollo de los modelos de IA y adoptar mayores medidas de precaución ante los posibles riesgos de esta tecnología.
El llamado de Anthropic a avanzar con más cautela
Dario Amodei, cofundador y director ejecutivo de Anthropic, pidió a las compañías que desarrollan inteligencia artificial actuar con mayor prudencia frente al rápido crecimiento de las capacidades de estos sistemas.
El ejecutivo sostuvo que el progreso de la IA continúa avanzando a gran velocidad y consideró necesario reducir el ritmo de mejora de los modelos para disponer de más tiempo para estudiar y enfrentar sus posibles riesgos.
Amodei señaló que la inteligencia artificial puede generar importantes beneficios para la sociedad, pero también advirtió que desarrollar esta tecnología demasiado rápido podría traer consecuencias difíciles de controlar.
“Los riesgos son graves”
El jefe de Anthropic afirmó que la capacidad cada vez mayor de los sistemas de inteligencia artificial obliga a prestar especial atención a la seguridad.
Según Amodei, existe un equilibrio complicado entre aprovechar los beneficios de la IA y evitar que su desarrollo avance sin suficientes medidas de prevención. Su postura actual es que se necesita todavía más cautela para abordar de manera adecuada los riesgos.
Anthropic ya había realizado anteriormente llamados para ralentizar o incluso suspender determinados avances en el desarrollo de sistemas de inteligencia artificial.
Otros líderes tecnológicos también han expresado preocupación
Las advertencias de Amodei coinciden con preocupaciones expresadas por otros referentes de la industria.
Sam Altman, director ejecutivo de OpenAI, también había planteado la posibilidad de que los desarrolladores tengan que disminuir voluntariamente el ritmo de avance para permitir que la sociedad pueda adaptarse a los cambios provocados por estas tecnologías.
Además, más de 1.000 trabajadores de compañías líderes del sector firmaron una petición dirigida al Gobierno estadounidense para pedir que se establezca un ritmo deliberado para el desarrollo de sistemas avanzados de IA.
El debate sobre la superinteligencia
Uno de los principales puntos de discusión dentro del sector tecnológico es el desarrollo de sistemas que puedan alcanzar capacidades superiores a las humanas en determinadas áreas.
Este escenario, conocido como superinteligencia artificial, todavía pertenece al terreno teórico. Sin embargo, algunos investigadores consideran necesario analizar desde ahora las posibles consecuencias de alcanzar niveles de capacidad mucho mayores.
El debate se ha intensificado a medida que los modelos de IA han adquirido nuevas habilidades y pueden realizar tareas cada vez más complejas.
Una carrera que genera preocupación
Las declaraciones de Amodei llegan en medio de una fuerte competencia entre las principales empresas tecnológicas por desarrollar modelos de inteligencia artificial cada vez más avanzados.
El ejecutivo considera que detener completamente el desarrollo tampoco sería una solución, ya que podría privar a la humanidad de los beneficios de la tecnología o dejar su desarrollo en manos de actores que no necesariamente comparten los mismos estándares de seguridad.
Por ello, su propuesta apunta a encontrar un punto intermedio: continuar desarrollando la inteligencia artificial, pero con mayor prudencia y controles de seguridad.
