Colombia, lista para el desarrollo y la aplicación de la Inteligencia Artificial (IA)

El pasado 12 de febrero, el Ministerio de Ciencia, Tecnología e Innovación, presentó la Hoja de Ruta de la Inteligencia Artificial (IA) para Colombia, un documento estratégico que guiará el desarrollo de políticas, acciones y decisiones del Gobierno Nacional, hacia un futuro impulsado por la tecnología, estableciendo los principios éticos y sostenibles que deben garantizarse en el uso de este tipo de herramientas. (https://minciencias.gov.co/sala_de_prensa/colombia-ya-cuenta-con-una-hoja-ruta-en-inteligencia-artificial) 

¿Por qué es importante una adopción ética de la Inteligencia Artificial en Colombia?

Colombia a pesar del avance tecnológico en ciudades como Bogotá, Medellín y Cali, presenta claros desafíos éticos relacionados con la privacidad, la equidad y la transparencia. Además, la sostenibilidad también se presenta como un elemento crucial, dada la preocupación cada vez más insistente por el cambio climático, por ello es importante la adopción de principios éticos sólidos para evitar agravar las disparidades sociales y económicas del país, que permitan a su vez, la implementación de estrategias concretas que lleven a Colombia a liderar la adopción de nuevas tecnologías basadas en IA.

Áreas estratégicas de la hoja de ruta:

• Ética y gobernanza de la IA: Busca promover la transparencia en los algoritmos, involucrar a la ciudadanía en la toma de decisiones, y establecer principios éticos y marcos normativos que orienten el desarrollo y la implementación de la inteligencia artificial en el país.

• Educación, investigación e innovación en IA: Tiene como objetivo crear programas educativos y de desarrollo de talento en inteligencia artificial, facilitando el acceso y comprensión de esta tecnología a nivel comunitario. Además, busca capacitar a profesionales y estudiantes, así como fomentar la investigación en instituciones académicas.

• Industrias innovadoras y emergentes en IA: Facilita la adopción de tecnologías de inteligencia artificial en procesos de producción, promueve la colaboración entre empresas y la academia, anticipa tendencias y cambios disruptivos, e impulsa programas educativos y de formación para preparar a la fuerza laboral.

• Datos y organizaciones en IA: Incentiva la colaboración entre empresas y organizaciones para compartir datos de manera segura, promueve la creación de soluciones basadas en inteligencia artificial, brinda apoyo a las empresas en la adopción de estas tecnologías, y desarrolla programas educativos y de capacitación para lograr una gestión efectiva de datos en las empresas.

Privacidad, ciberseguridad y defensa en IA: Aborda aspectos críticos como la administración del territorio, la industria aeroespacial y sistemas de detección temprana de amenazas. Utiliza la inteligencia artificial de manera ética y transparente para fortalecer la eficacia de las fuerzas de seguridad y garantizar la protección de los ciudadanos colombianos.

Marco Ético de la Inteligencia Artificial:

• Transparencia y Explicación en la Ética de la Inteligencia Artificial: implica divulgar información significativa sobre el diseño, funcionamiento e impacto de los sistemas de IA, involucrando a desarrolladores, usuarios y personas afectadas por las decisiones de los mismos, quienes deben proporcionar información comprensible sobre la procedencia y uso de los datos, especialmente datos personales y el funcionamiento de los algoritmos. 

• Privacidad en la Ética de la Inteligencia Artificial: destaca la importancia de respetar la intimidad de las personas, prohibiendo el uso de información no autorizada y el perfilado diferencial. En ese sentido, es importante obtener la autorización para el uso de información personal, describiendo claramente los fines del tratamiento y permitiendo correcciones de datos erróneos. Así mismo, evitar decisiones basadas en características personales y limitando el uso de información personal al necesario para el funcionamiento eficiente del sistema.

• Control Humano en la Ética de la Inteligencia Artificial: importancia de mantener el control humano sobre las decisiones de los sistemas de IA. Se propone una fase inicial llamada “Human-in-the-loop,” donde los humanos tienen control total durante la implementación de la tecnología. Con la evolución tecnológica, se considera una transición a “Human-over-the-loop,” permitiendo mayor autonomía, pero con intervención humana en casos no deseados.

• Seguridad en la Ética de la Inteligencia Artificial: prevenir afectaciones a la integridad física y mental de las personas que interactúan con sistemas de IA.

• Responsabilidad en la Ética de la Inteligencia Artificial: obligación de rendir cuentas por los resultados y posibles afectaciones generadas por un sistema de IA. Se reconoce que todos los actores en la cadena algorítmica, desde diseñadores hasta implementadores, comparten la responsabilidad, fomentando la solidaridad en caso de daños, a menos que se demuestre específicamente la culpabilidad de un participante único.

• No Discriminación en la Ética de la Inteligencia Artificial: los sistemas de IA no deben generar resultados que amenacen el bienestar de un grupo ni limiten los derechos de poblaciones históricamente marginadas. Se prohíbe la restricción de la funcionalidad de la IA basada en sexo, raza, religión, discapacidad, edad u orientación sexual, enfatizando la neutralidad de género.
• Inclusión en la Ética de la Inteligencia Artificial: promover la participación activa de poblaciones históricamente marginadas en el diseño, desarrollo, implementación y evaluación de sistemas de IA en Colombia. Se destaca la responsabilidad del Estado en utilizar sistemas que cumplan con criterios de inclusión y aborden las necesidades específicas de estos grupos.

• Prevalencia de los Derechos de Niños, Niñas y Adolescentes (NNA) en la Ética de la Inteligencia Artificial: los sistemas de IA deben reconocer, respetar y priorizar los derechos de los NNA. Se enfatiza que no se justifica la implementación de sistemas inteligentes que vayan en detrimento de su interés superior. Se aboga por fortalecer programas educativos para que los NNA, padres, profesores y cuidadores comprendan la tecnología, promoviendo una cultura de transformación digital.

• Beneficio Social en la Ética de la Inteligencia Artificial: destaca que la IA tiene el potencial tanto de generar efectos negativos como positivos, siendo estos últimos esenciales para el desarrollo y bienestar. En Colombia, los sistemas de IA deben estar directamente relacionados con actividades que generen beneficios sociales claros y determinables, como la reducción de costos, el aumento de la productividad, el bienestar público, la facilitación en la prestación de servicios públicos, la no afectación y protección del medio ambiente, el entretenimiento, entre otros.

Para más contenido relacionado lo invitamos a continuar con el siguiente link https://mslegal.com.co/publicaciones/