La compañía creadora de Claude quedó en el centro de una nueva polémica por las advertencias de un exempleado sobre los posibles riesgos del avance de la inteligencia artificial. Desde la propia empresa reconocieron que todavía existen interrogantes importantes sobre cómo controlar los futuros sistemas de inteligencia artificial avanzada.
La controversia comenzó luego de que Jacob Coxon, un investigador de 27 años que trabajó en OpenAI y Anthropic, afirmara que las empresas que desarrollan inteligencia artificial consideran que estas tecnologías podrían representar un riesgo extremo para la humanidad hacia el final de esta década.
Sus declaraciones tuvieron especial repercusión cuando Evan Hubinger, quien fue su jefe en Anthropic y actualmente continúa trabajando en la compañía, coincidió públicamente con parte de sus advertencias. “Jacob tiene razón”, sostuvo, y reconoció que la industria todavía no cuenta con una estrategia definida para resolver el denominado “alineamiento” de los sistemas de superinteligencia.
“Creo que estamos haciendo lo mejor que podemos, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, expresó Hubinger.
Anthropic pidió regular el desarrollo de la IA
Ante la repercusión de estas declaraciones, Anthropic difundió un comunicado en el que sostuvo que el desarrollo de modelos cada vez más potentes debería estar acompañado por mecanismos de regulación.
La compañía señaló que el mundo se beneficiaría si el sector adoptara una forma “legal y verificable” de colaboración para regular el ritmo de lanzamiento de los modelos más avanzados. Además, remarcó que siempre advirtió que la inteligencia artificial traerá grandes beneficios, pero también “riesgos sin precedentes”.
Desde la empresa aseguraron que continúan trabajando en modelos con medidas de seguridad, aunque el reconocimiento de que todavía no existe un plan claro para garantizar el comportamiento de una eventual superinteligencia volvió a encender el debate sobre los límites del desarrollo tecnológico.
El impacto de la IA también preocupa por el empleo
La discusión se produce pocos días después de que Anthropic publicara un informe sobre el impacto que la inteligencia artificial podría tener en el mercado laboral.
Según ese análisis, en un escenario extremo, la IA podría dejar sin empleo a uno de cada cinco trabajadores de oficina en Estados Unidos hacia 2030. El informe también estimó una posible caída superior al 10% en los salarios de ese grupo. La empresa aclaró que se trata de escenarios hipotéticos y no de predicciones.
Coxon, por su parte, volvió a defender sus advertencias y planteó que debería revisarse el ritmo con el que avanza el desarrollo de estas tecnologías. Su postura coincide con expresiones anteriores de Sam Altman, CEO de OpenAI, quien también planteó la posibilidad de reducir el ritmo de desarrollo para permitir que la sociedad pueda adaptarse a los nuevos niveles de capacidad de la inteligencia artificial.
