Desafíos éticos y legales en la implementación de sistemas de inteligencia artificial utilizados por la función pública colombiana

Abstract

La Inteligencia Artificial (IA) en la administración pública colombiana evidencia una tendencia en crecimiento, abarcando áreas como la administración de justicia, gestión gubernamental y prestación de servicios. Aunque se espera que esta adopción mejore la eficiencia y precisión, plantea importantes desafíos éticos y legales que requieren una atención cuidadosa y proactiva. Entre estos desafíos se destacan la opacidad y discriminación algorítmica en conexión con la protección de la privacidad de la información personal, subrayando la importancia de promover la divulgación clara y la responsabilidad en el desarrollo e implementación de sistemas de IA en el sector. Así pues, la falta de transparencia dificulta identificar posibles discriminaciones algorítmicas, lo que plantea preocupaciones sobre justicia y equidad en el proceso de toma de decisiones administrativas o judiciales. Por consiguiente, se requiere mayor transparencia y trazabilidad en el desarrollo y aplicación de sistemas de IA para garantizar decisiones equitativas. Aunque existen marcos normativos preexistentes que pueden aplicarse, se necesita una legislación que permita la coexistencia equilibrada entre la innovación tecnológica con la protección de los derechos individuales y fundamentales, resulta prioritario entonces, el desarrollo de una legislación específica de modo tal que, los desafíos éticos y las consideraciones legales de su uso e implementación, sean tratados integralmente.