“Más del 10% de probabilidades de que mate a todos los humanos”: la advertencia de un alto empleado de Anthropic que encendió todas las alarmas
Un empleado de alto rango de Anthropic, Evan Hubinger, responsable de uno de los equipos de seguridad de la empresa, admitió que existen más del 10% de probabilidades de que la inteligencia artificial pueda “matar a todos los humanos” en la próxima década. Además, advirtió que la compañía no tiene un plan para garantizar que la superinteligencia permanezca alineada con los valores humanos ni para evitar que cause daño.
La declaración se produjo pocas horas después de que Jacob Coxon, investigador británico que trabajó en OpenAI y Anthropic, renunciara cuestionando la estrategia de ambas empresas. Coxon alertó que están compitiendo por desarrollar sistemas que superarán ampliamente las capacidades humanas: “Pronto serán sistemas superhumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de un día para el otro, y adquirir poder y recursos reales”. Y agregó: “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.
El escenario de automejora de la IA plantea la posibilidad de que un sistema incremente sus capacidades sucesivamente hasta alcanzar un nivel difícil de controlar. En los últimos años, varios investigadores abandonaron compañías de IA por preocupaciones de seguridad, mientras las empresas aceleran el desarrollo de modelos cada vez más sofisticados.
El senador estadounidense Bernie Sanders pidió al Congreso que regule la tecnología, citando encuestas que indican que el 81% de los estadounidenses cree que sus políticos deberían actuar. “No podemos permitir que un puñado de personas codiciosas jueguen a ser Dios”, expresó. En el Reino Unido, el diputado laborista Darren Jones solicitó un “tratado multinacional para el desarrollo regulado y seguro de la superinteligencia”. Des Browne, exsecretario de Defensa británico, comparó la amenaza con la de una guerra nuclear.
Jaan Tallinn, fundador de Skype y financista de la organización ControlAI, estimó que entre el 10% y el 15% de los empleados de IA creen que la tecnología será un “digno sucesor” de la humanidad. Un investigador le dijo: “Jaan, no te preocupes por esto. Los humanos somos una especie desechable”.
La nota también advierte que la IA ya transforma el empleo: según el Índice de Exposición Ocupacional a la IA Generativa de la CABA, presentado por el Cesba, la Ciudad de Buenos Aires está más expuesta a la IA que Estados Unidos, Francia o Reino Unido, y solo es superada por Singapur. El presidente del Cesba, Manuel Socías, pidió “instancias urgentes de diálogo social tripartito, para que la inteligencia artificial sea una oportunidad y no una amenaza”.
