El rey Carlos advierte del "peligro existencial" de que la IA caiga en malas manos
El rey Carlos ha advertido a los ejecutivos de inteligencia artificial sobre los "peligros existenciales" que supone que esta tecnología caiga en las manos equivocadas.
Hizo estas declaraciones en una cumbre que él mismo había convocado en Dumfries House, en Ayrshire, para debatir cómo se puede utilizar la tecnología en beneficio de la sociedad.
Entre los asistentes a la reunión también se encontraban Kanishka Narayan, ministro de IA del Reino Unido, asesor del Papa y representantes de gigantes de la IA como Nvidia, OpenAI y Anthropic.
Esto se produce en medio de una serie de advertencias recientes por parte de personas del sector sobre las capacidades en rápida evolución de los modelos de IA avanzados o de "frontera" y la regulación necesaria para mantenerlos bajo control.
"Quienes han creado estas tecnologías advierten cada vez con mayor frecuencia que la IA corre el riesgo de desarrollar capacidades más oscuras, tal vez incluso de quitar la vida", dijo el rey a los ejecutivos.
Dijo que parecía haber una "urgencia" en "considerar adecuadamente los peligros existenciales de que dichas tecnologías caigan en las manos equivocadas y se utilicen de maneras potencialmente catastróficas".
"La tarea que tenéis por delante no consiste simplemente en hacer avanzar la tecnología, sino en garantizar que siga estando firmemente al servicio de la humanidad, la comunidad y el mundo natural", les dijo al grupo.
La cumbre se ha convocado para considerar si se puede desarrollar un "conjunto de principios compartidos" que sirva de guía para la aplicación futura de la IA.
leídas
