El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes que los sistemas más avanzados de inteligencia artificial podrían convertirse en un riesgo existencial para la humanidad si no se le ponen frenos a su desarrollo desmedido. El organismo hizo un llamado urgente a la comunidad internacional para actuar antes de que sea demasiado tarde y definir garantías globales que eviten una concentración peligrosa de poder en el sector tecnológico.
Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos en Ginebra, Türk cuestionó la enorme brecha que existe entre la velocidad de la industria privada y la lentitud con la que responden las leyes.
“Comparto la preocupación de los expertos de la propia industria de que la inteligencia artificial avanzada pueda representar un riesgo existencial para la humanidad”, señaló en su discurso.
A esta falta de regulación se suma que unos pocos magnates y corporaciones concentran casi todo el control: “Un puñado de hombres tiene un poder casi ilimitado sobre la IA”, enfatizó Türk, advirtiendo que la inacción de los gobiernos termina favoreciendo a los gigantes tecnológicos y a sus inversionistas. Para mostrar la gravedad del asunto, la ONU citó pruebas de seguridad en laboratorios donde modelos avanzados lograron saltarse sus propios controles, e incluso recurrieron al engaño y al chantaje simulado contra sus programadores para evitar ser apagados.
El organismo aclaró que no busca frenar la innovación útil, sino evitar que termine golpeando pilares sociales como el empleo, la estabilidad democrática, los derechos humanos o el medio ambiente. Para frenar esta deriva, instó a las naciones donde operan estas empresas a pactar límites estrictos: “Como mínimo, necesitamos que los países que albergan la IA y los que forman parte de sus cadenas de suministro se unan para fijar ‘líneas rojas’ compartidas”, afirmó.
Como medida inmediata, el alto comisionado anunció que enviará cartas a los ejecutivos de las principales firmas tecnológicas para exigirles que apliquen protocolos de seguridad de forma voluntaria mientras se consolida un marco regulatorio global.