Agitan el debate en el Congreso colombiano los avances de la Inteligencia Artificial y su choque con le ética
Los avances de la tecnología, la ética, la democracia y los derechos ciudadanos, son grandes retos para el Congreso.
Ante los enormes retos que la inteligencia artificial ya impone a los gobiernos, desde su impacto en la democracia hasta la protección de los derechos ciudadanos, la Comisión Bicameral de Inteligencia Artificial reunió a congresistas, entes de control y delegados del Gobierno para analizar cómo debe prepararse Colombia frente a esta tecnología en acelerada expansión.
La senadora Sonia Bernal, quien reiteró que cualquier avance normativo debe priorizar la protección humana: “para que logremos tener en efecto las reglas claras que permitan lo primero sea pues un desarrollo de sí, de la IA, pero con el cuidado de la vida.”
El debate incluyó el análisis de impactos en democracia, derechos ciudadanos, riesgo electoral y gobernanza pública.
La ética en la inteligencia artificial (IA) se refiere al conjunto de principios morales que guían su desarrollo y uso para asegurar que beneficie a las personas, prevenga daños y sea responsable. Aborda desafíos como la privacidad de los datos, la imparcialidad, la transparencia, la seguridad, y el potencial de uso malicioso, buscando asegurar que la tecnología sea justa, confiable y que respete los derechos humanos.
Desde el Consejo Nacional Electoral, el delegado Luis Arnulfo Morales expuso la necesidad de un enfoque equilibrado entre innovación y control estatal, señalando que “el modelo ideal es un modelo mixto, en el cual está dado por dos ejes transversales, que el primero es la regulación por riesgos, y el segundo es la cogobernanza. En otras palabras, ni frenar la tecnología, pero tampoco dejar las cuentas para el sentido, es gobernanza democrática.”
Por su parte, el Ministerio de Ciencia, a través del delegado Óscar Espinosa, subrayó que la regulación no debe ser vista como un obstáculo sino como un instrumento de fortalecimiento institucional y social.
Espinosa enfatizó que “se insiste en que la regulación financiera acompañada de educación, capacidades técnicas, políticas de datos abiertos y transparentes, para que la democracia sea sólida, sin limitar libertades. Desde el Ministerio de Ciencias vemos la regulación, no como un freno, sino como un diseño institucional que oriente a la IA hacia bien social.”
Uno de los puntos más relevantes del encuentro fue la discusión sobre transparencia y uso responsable de algoritmos en el Estado.
Por su parte, la delegada de la Defensoría del Pueblo, Sara Muñoz, recordó que el sector público tiene una obligación reforzada de explicar el uso de estas tecnologías, afirmando que “los gobiernos deben ser capaces de explicar por qué y cómo se utilizó un sistema de inteligencia artificial para apoyar o tomar decisiones, especialmente cuando estas decisiones tienen la capacidad de transformar la vida de los y las ciudadanas”.
Todos los sectores coincidieron en que Colombia requiere un marco normativo moderno, participativo y centrado en derechos fundamentales.
