políticos o de grupos de presión públicos o privados (Zárate & Perdomo, 2018), o del cumplimiento de procedimientos que aseguren una mayor participación y control democráticos de los ciudadanos sobre la actividad administrativa. Estas problemáticas se acentúan cuando esos datos son empleados para programar un conjunto de tecnologías encaminadas a la automatización de tareas.
2. LA INTELIGENCIA ARTIFICIAL: ¿MEJOR FUTURO O UNA PESADILLA SOCIAL?
Aunque existe un consenso sobre las ventajas de la Inteligencia Artificial para la sociedad en general y para el sector público en particular42, un número creciente de voces denuncia los riesgos, incluso catastróficos, de confiar la supervivencia de la especie humana a una tecnología que no se termina de entender y que podría ser más rápida y racional en la resolución de problemas. Entre estos dos extremos se encuentran posiciones pragmáticas y moderadas que subrayan esos riesgos, así como una mayor acción de gobiernos y administraciones públicas en las discusiones éticas y políticas que lleven a la toma de decisiones y a la regulación de herramientas que permitan adelantar tareas, similares a las que puede realizar la mente humana, de manera autónoma. Se discutirá a continuación el lado positivo y la promesa de la Inteligencia Artificial para la Administración pública (2.1.) y los retos y dilemas que esta plantea (2.2).
2.1. APLICACIONES Y VENTAJAS DE LA INTELIGENCIA ARTIFICIAL PARA LA FORMULACIÓN Y EJECUCIÓN DE POLÍTICAS PÚBLICAS
Los algoritmos de Inteligencia Artificial43 actuales permiten resolver problemas concretos que normalmente son abordados por la inteligencia humana, pero que la superan de manera especial en la velocidad del procesamiento. Para Von Krogh (2018), el funcionamiento de la Inteligencia Artificial tiene tres componentes: datos de entrada, como sonido, imágenes, números y textos; procesos, en forma de algoritmos, y soluciones y decisiones que resultan de los dos anteriores. En efecto, las tecnologías que han hecho posible la Inteligencia Artificial, después de décadas de intentos, son aquellas que permiten capturar y procesar datos sensoriales por computadores, tales como la visión por computador y el análisis de imágenes y videos a través del reconocimiento de voz y procesamiento de lenguaje natural (NLP)44. Ahora bien, existen diferentes tecnologías asociadas a la Inteligencia Artificial actual, como son el aprendizaje de máquina, el aprendizaje profundo (Deep learning), las redes neuronales y la robótica45.
Este conjunto de tecnologías que se identifica como Inteligencia Artificial puede ser utilizado por las administraciones públicas para el cumplimiento de sus distintas misiones46. El ejemplo comúnmente mencionado en investigaciones es el de los carros autónomos (sin conductor humano), los cuales ya están en circulación limitada en varios países desarrollados (Stone et al., 2016; von Krogh, 2018) y serían útiles para el transporte público de pasajeros, utilizando la tecnología de automatización en buses, trenes y tranvías, o para el transporte de carga. Otros ejemplos presentados en el informe de cien años de investigación en Inteligencia Artificial de la Universidad de Stanford son: los sistemas de armas automáticos, los robots para el cuidado de adultos mayores y las ayudas para decisiones clínicas en medicina (Stone et al., 2016). En particular, el sector salud tiene los mayores avances hasta la fecha en aplicar la Inteligencia Artificial en el sector público, y ofrece soluciones innovadoras para la integración y manejo de las historias clínicas, el diseño de tratamientos personalizados y el diagnóstico automatizado de enfermedades. La administración algorítmica o computacional se está aplicando también en el campo tributario, de investigación criminal y en la regulación comercial (Ramió, 2019).
A pesar de que Colombia adhirió al acuerdo de la OCDE sobre Inteligencia Artificial en el año 2019, su utilización por la Administración pública sigue siendo baja. El crecimiento es más acelerado y la Inteligencia Artificial es una realidad en el sector privado47, el cual la usa en mercadeo, el sistema financiero48, la investigación académica49 y en análisis de otros datos. En 2019 se aprobó el Conpes 3975 “Política nacional para la transformación digital e Inteligencia Artificial”, documento que formula una política de adaptación a las exigencias de la cuarta revolución a través de la tecnología digital y la Inteligencia Artificial y advierte que el país no está preparado para estas tecnologías, ni establece los requisitos para la automatización basada en la IA. Para este órgano consultivo, es necesario comenzar la discusión acerca de la implementación de los lineamientos y principios de la OCDE.
De acuerdo con este mismo organismo, un ejemplo aislado de uso actual de esta tecnología por parte de la Administración existe en el sector defensa: “En Colombia, la Alianza Data-Pop usa datos de delincuencia y transporte para predecir los puntos álgidos de crimen en Bogotá. La policía se despliega entonces a los lugares y tiempos específicos donde hay mayor riesgo de crimen” (OECD, 2019). Esta aplicación todavía no se ha evaluado en términos de resultados sobre mejor prevención de la delincuencia, pero se encuentra en pilotaje por la Policía. El caso ya mencionado de la administración tributaria es el otro ejemplo del sector público. Pese a estos usos, la Administración colombiana aún parece no estar lista para estos cambios y solo de forma parcial está adoptando algunas de las herramientas de IA, pero sin que medie debate alguno acerca de las altas externalidades sociales, éticas y económicas, negativas y positivas, asociadas a la producción y explotación de estos recursos por parte de organismos y entidades administrativos.
2.2. RETOS DE LA INTELIGENCIA ARTIFICIAL PARA LA SOCIEDAD Y PARA LA ADMINISTRACIÓN PÚBLICA
El desarrollo de una Inteligencia Artificial de tipo general significaría para algunos una suplantación50 o el dominio de los seres humanos por máquinas (Harari, 2018). Más allá de estas preocupaciones, relacionadas con la Inteligencia Artificial fuerte o general51, vale la pena examinar preguntas cercanas al tipo de inteligencia que está diseñada para resolver un problema específico, que surgen de sus usos por parte de las administraciones públicas y para las cuales el Derecho administrativo no parece estar preparado. En este orden de ideas, es posible interrogarse, por ejemplo, acerca del ejercicio de actividades administrativas por sujetos que sean máquinas o programas de computador programados para actuar de forma autónoma. O quién debe responder por los daños causados por una Inteligencia Artificial o robot, esto es, si estas tecnologías constituirían un centro de imputación distinto o si, por el contrario, comprometerían la responsabilidad del funcionario que los programa y del sujeto de Derecho público dentro del cual cumplen sus misiones. El uso de la Inteligencia Artificial por las administraciones públicas hace parte de una compleja nueva realidad que ya está siendo discutida en varios países; encontrándose problemáticas relacionadas con los derechos de los ciudadanos, la responsabilidad y cuestiones sociales52 y éticas (Turner, 2018). ¿Serán estas máquinas o programas agentes morales? (Etzioni & Etzioni, 2017). Aunque esto puede parecer todavía especulativo, la realidad enseña que no lo es y, en el caso de los carros autónomos y los accidentes causados por los mismos, se ha presentado la necesidad de obtener respuestas.
Autores como Andrews (2018) señalan seis tipos de retos que los algoritmos plantean a la Administración pública: (1) el error de selección algorítmico, que se refiere a los sesgos y prejuicios que se han visto reflejados en programas de reconocimiento facial, de revisión de elegibilidad de individuos para programas sociales y en materia de riesgo de criminalidad y reincidencia (con relación a estos problemas, se denuncia racismo y sexismo, derivado en parte de los sesgos de programadores y en parte a los sesgos en la información de bases de datos históricos con los que se alimentan y aprenden las máquinas); (2) el uso de algoritmos para evitar la ley, ayudando al usuario a hacer trampa en controles de emisiones, aplicaciones de transporte ilegales o de evasión de cámaras de tránsito y de seguridad; (3) la manipulación algorítmica en elecciones democráticas y en toma de decisiones individuales de varios tipos, como es el caso de guerra psicológica de Facebook y Cambridge Analítica53; (4) la propaganda algorítmica dirigida por programas que masifican mensajes políticos y falsas noticias para incidir en las preferencias y en los comportamientos