Santo Domingo.- La directora ejecutiva del Observatorio DATALAWRD, Emely García, advirtió sobre la necesidad de que la incorporación de la inteligencia artificial (IA) en las instituciones públicas esté acompañada de mecanismos efectivos de salvaguarda.
García señaló que es fundamental garantizar la protección de los datos personales, la privacidad y los derechos fundamentales de los ciudadanos, con el propósito central de evitar que las decisiones automatizadas lleguen a comprometer las garantías democráticas en el país.
“La legitimidad de la IA pública comienza antes del algoritmo: comienza en los datos”, expresó García,
La especialista señaló que el hecho de que una institución pública tenga acceso a determinada información no significa que pueda utilizarla indiscriminadamente para alimentar sistemas de inteligencia artificial, realizar perfiles ciudadanos o generar decisiones automatizadas.
Advierte sobre riesgos de decisiones automatizadas en el Estado
Durante su intervención en el congreso internacional, García también alertó sobre los riesgos asociados a la confianza excesiva en los resultados producidos por herramientas de inteligencia artificial.
Explicó que este comportamiento puede provocar que los servidores públicos acepten recomendaciones generadas por algoritmos sin cuestionar su precisión, posibles errores, sesgos o consecuencias sobre los derechos de las personas.
“La inteligencia artificial puede asistir al Estado, pero la responsabilidad jurídica y democrática de decidir sigue siendo humana”, sostuvo la directora ejecutiva del Observatorio DATALAWRD.
Plantea capacitación permanente de los servidores públicos
La especialista explicó que la formación de los funcionarios no debe limitarse al manejo técnico de las herramientas, sino que debe incorporar conocimientos sobre protección de datos personales, derechos fundamentales, transparencia, responsabilidad administrativa y prevención de sesgos algorítmicos.
Advirtió que la falta de preparación del personal estatal podría provocar que las instituciones dependan excesivamente de las recomendaciones automatizadas, sin contar con las capacidades necesarias para identificar errores o posibles vulneraciones de derechos.
Propone auditorías y mecanismos de protección de datos
Explicó que estas herramientas permitirían identificar qué datos fueron utilizados, cómo intervino el sistema tecnológico, quién supervisó sus resultados y quién debe asumir la responsabilidad por las decisiones adoptadas.
Sostuvo que una inteligencia artificial responsable no debe evaluarse únicamente por su capacidad para producir resultados precisos o agilizar procedimientos administrativos, sino también por la posibilidad de que sus decisiones sean explicadas, supervisadas, auditadas y cuestionadas.
leídas
hora