y programada de acuerdo con el comportamiento en línea, y (6) las áreas desconocidas de los algoritmos, en la medida en que estos aprenden y determinan de forma autónoma su proceso de toma de decisiones. Por ende, no es posible conocer con exactitud con qué criterios están llegando a los resultados que arrojan, al ser demasiado complejos para ser controlados y para activar procesos de rendición de cuentas de sus decisiones54 (Andrews, 2018, pp. 300-301).
Se discute además el futuro del gobierno electrónico con la aparición de interacciones por voz y aplicativos móviles más sofisticados, pero también temas relacionados con la protección y la privacidad de los administrados (Agarwal, 2018). Se examina cómo proteger la privacidad de los usuarios sin perder la eficiencia en la prestación de servicios; evitar mayores sesgos humanos al incorporarlos en un algoritmo, esto es, casos de discriminación, y mantener un balance entre eficacia de las soluciones y la humanización del trato (sobre todo en servicios como la salud). Con relación a los sesgos al identificar o clasificar personas para diferentes fines, el ejemplo conocido está dado por la tendencia de algoritmos de uso de la policía de los Estados Unidos que consideran a los afroamericanos como sospechosos de ser criminales. Aunque se está trabajando en la corrección de estos sesgos, la tarea no es sencilla. El desafío de tratar de manera imparcial a las personas parece ser particularmente difícil para los algoritmos que se basan en estadísticas pasadas y probabilidades. Sin embargo, las administraciones deben ser imparciales y respetar la igualdad de derechos, la dignidad humana y la presunción de inocencia, entre otros principios.
Un segundo reto relacionado con la equidad económica y social consiste en asegurar que las tecnologías disruptivas no profundicen las brechas sociales existentes, excluyendo a quienes no tienen acceso a internet o a quienes son analfabetas digitales. Existe sin embargo la posibilidad de emplear estas tecnologías como instrumento de cohesión social, como ha sucedido en la Colombia rural y en otras zonas alejadas con el internet vía redes de telefonía móvil. Conforme a los fines del Estado colombiano55, la Administración deberá encontrar mecanismos para compensar las desigualdades digitales, de forma que todos los ciudadanos puedan acceder a nuevas tecnologías en igualdad de condiciones. En el área de las políticas sociales, en especial la salud y el cuidado de poblaciones vulnerables, el uso de Inteligencia Artificial puede presentar una dificultad mayor al interactuar con humanos y generar desconfianza en los usuarios de manera que tendría el reto de ganarse la confianza pública y evitar tanto la desconfianza hacia los robots, como el miedo a que los humanos queden al margen (pérdida de empleos, la disminución de las interacciones personales y aislamiento) (Stone et al., 2016)56.
Ante los vacíos regulatorios existentes, las empresas de tecnología han creado marcos éticos y de buenas prácticas para autorregularse. Asimismo, existe una asimetría de información entre las empresas privadas y las autoridades regulatorias y una asimetría de poder entre gobiernos y la industria de la tecnología, cada vez más inclinada a favor de estas últimas, que tienen más poder económico que muchos países. Las empresas están siendo exitosas en generar el discurso sobre la tecnología computacional (Andrews, 2018). Sin embargo, en la medida en que las empresas anteponen el interés de sus accionistas al interés general, será necesario que los gobiernos regulen las nuevas situaciones creadas por estas tecnologías. Se presenta, así, un alto riesgo de captura de la Administración pública y del regulador. Esto es particularmente grave en países como Colombia, donde ya existe debilidad de las instituciones frente a los grupos de interés y las grandes empresas de tecnología.
Uno de los retos más importantes al usar la Inteligencia Artificial para la Administración es que los gobiernos, los servidores públicos, tendrán que saber hacer las preguntas correctas, pues la tecnología sirve para los objetivos que se le designen y puede resolver los problemas que se le definan, pero todas estas actividades cognitivas son todavía exclusivas de los seres humanos. Tomar las decisiones y fijar los usos son actividades de las administraciones y de los ciudadanos, en última instancia, vía sus representantes políticos. Esto conecta con el reto político de lograr que la tecnología promueva los valores democráticos como libertad, igualdad, protección de los derechos humanos y transparencia, en vez de ponerlos en riesgo, como en la manipulación y la propaganda algorítmica ya mencionadas. Sobre esto no se ha discutido hasta ahora lo suficiente, y no se han dimensionado los problemas que puede traer el tener máquinas que en tareas específicas son más inteligentes que personas individuales57. Los mismos problemas mencionados para tener una ciencia de datos en la Administración colombiana aplican y se multiplican en el caso de la Inteligencia Artificial, pues es un tema aún más técnico, sofisticado, con requerimientos de recursos físicos y humanos muy exigentes y en el cual todavía los mismos desarrolladores que lo están creando no entienden todavía todas las consecuencias y ramificaciones de la tecnología. En conclusión, la Administración pública colombiana deberá tener mejores herramientas y ser capaz de entender en qué consiste esta tecnología, qué cambios sociales puede producir, cómo se pueden controlar o evitar sus peores efectos y proteger a los ciudadanos para que los cambios sean a su favor y no lo contrario. Para usar una Inteligencia Artificial se necesita primero una inteligencia administrativa y humana que la pueda gestionar.
II. LA ADMINISTRACIÓN PÚBLICA COMO REGULADOR DE TECNOLOGÍAS DISRUPTIVAS
La regulación de las tecnologías disruptivas busca conciliar su uso y explotación comercial con otros imperativos de interés general, como son la protección de datos personales o la seguridad de los usuarios, corregir las fallas que se presentan al interior de estos mercados y garantizar la progresividad de las políticas de transformación digital e Inteligencia Artificial. Esta no es una tarea fácil, dado el dinamismo y la velocidad con que se producen los cambios en este sector (1). Este nuevo contexto incide en el proceso de toma de decisión del regulador, llevando a algunos a considerar la decisión regulatoria como algo en progreso, más que como un “evento final”58. Esta aproximación permite un mayor grado de flexibilidad a los reguladores, evita que el desarrollo de estas tecnologías se frene o traslade a otros sistemas más laxos59 y facilita la revisión de la regulación para incorporar nuevos conocimientos e informaciones. Sin embargo, este enfoque regulatorio puede llevar a desconocer principios como la participación y transparencia60, al suprimir actuaciones, trámites o deberes que condicionan las actuaciones administrativas y la validez de la norma regulatoria; al tiempo que generaría incertidumbre acerca de cuáles son las reglas que limitan la actividad de los operadores presentes en esos mercados. El examen de la regulación de las tecnologías disruptivas por autoridades administrativas muestra una vacilación entre métodos y herramientas regulatorias tradicionales, los cuales son más garantistas, pero menos rápidos, y un nuevo enfoque y nuevos instrumentos, que pasan por el uso de macrodatos o máquinas (2).
1. LA REGULACIÓN DE TECNOLOGÍAS DISRUPTIVAS COMO UNA ACTIVIDAD EN EXPANSIÓN
La regulación de las tecnologías disruptivas es una tarea en expansión, que no siempre es homogénea. Mientras que el desarrollo de la regulación de datos se inscribe en un proceso que va desde su liberalización, como estrategia para mejorar las relaciones entre administraciones y ciudadanos, a su disposición y reutilización con fines económicos (1.1), la intervención pública en otras tecnologías que utilizan estos datos para adelantar tareas como el aprendizaje de máquina o razonamiento autónomo está apenas en construcción (1.2.).
1.1. UNA TAREA EN PROGRESIÓN: DE LA LIBERALIZACIÓN A LA EXPLOTACIÓN DE DATOS
La liberalización de datos pone a disposición de los ciudadanos, actores de la sociedad civil y agentes económicos las informaciones construidas o en poder de las unidades de servicio de la Administración y facilita su reutilización con fines privados o comerciales (Conseil National du Numérique, 2015, p. 145). En el Derecho colombiano, el acceso a los datos se inscribe en un movimiento muy anterior de transparencia administrativa61, pero podría responder también a preocupaciones económicas que buscan hacer de la liberación