¿Puede la inteligencia artificial acabar con la humanidad? La pregunta parece sacada de una película de ciencia ficción, pero ha vuelto al debate luego de que Jacob Coxon abandonara Anthropic, unas de las principales empresas que desarrolla IA en el mundo, advirtiendo que dichas empresas están “jugando con nuestras vidas”. Evan Hubinger, responsable de investigaciones de alineamiento en esa empresa, fue todavía más lejos: estima en más de un 10% la posibilidad de una catástrofe existencial provocada por la IA durante la próxima década.
El riesgo merece atención. El porcentaje, sin embargo, merece cautela. No estamos ante una probabilidad obtenida mediante experimentos repetibles ni ante una predicción científica capaz de decirnos que existe exactamente un 10% de posibilidad de extinción.
Estamos intentando poner números a una enorme incertidumbre. Y aquí conviene colocar el debate en perspectiva. No es la primera vez que la humanidad crea una tecnología con capacidad de provocar enormes daños. Desde hace décadas convivimos con miles de armas nucleares capaces de producir una catástrofe global. La biotecnología, la ingeniería genética y otras innovaciones también pueden utilizarse para salvar millones de vidas o para destruirlas.
La tecnología no tiene conciencia moral. Nosotros sí. La diferencia fundamental continúa estando en nosotros.
Dario Amodei, CEO de Anthropic, acaba de pedir que desaceleremos el desarrollo de las capacidades de la IA para permitir que la seguridad avance al mismo ritmo. Tiene razón en algo esencial: necesitamos gobernanza, evaluación independiente, estándares de seguridad y cooperación internacional. Pero gobernar la IA no significa temerle.
La historia de la humanidad es también la historia de aprender a gobernar tecnologías poderosas. La inteligencia artificial puede utilizarse para desarrollar medicamentos o ciberataques; mejorar la educación o manipular personas; aumentar la productividad o profundizar desigualdades.
Por eso, quizá la pregunta correcta no sea si la inteligencia artificial destruirá a la humanidad. La pregunta verdaderamente importante es qué clase de humanidad utilizará la inteligencia artificial.
leídas
