Artificial, incluyen dentro de sus objetivos de manera explícita la generación de valor. En el caso del Conpes 3920, el objetivo general de la política es “Aumentar el aprovechamiento de datos en Colombia, mediante el desarrollo de las condiciones para que sean gestionados como activos para generar valor social y económico” (Departamento Nacional de Planeación, 2018, p. 69). En el caso del Conpes 3975, el objetivo general de la política es “Aumentar la generación de valor social y económico a través de la transformación digital del sector público y del sector privado, mediante la disminución de barreras, el fortalecimiento del capital humano y el desarrollo de condiciones habilitantes, para que Colombia pueda aprovechar las oportunidades y enfrentar los retos relacionados con la 4RI” (Departamento Nacional de Planeación, 2019, p. 38).
Más allá de las intenciones gubernamentales, lo cierto es que la generación de valor, la productividad, la reducción de costos, y en general, las mejoras en eficiencia sí son el principal resultado de estas tecnologías. Por ejemplo, la automatización de la industria genera mejoras en los tiempos de producción y reducciones de costos de producción (Acemoglu & Restrepo, 2018; Forum, 2018; Manyika et al., 2017). Mecanismos descentralizados basados en el blockchain facilitan el comercio internacional y se reflejan positivamente en el sector financiero, al tiempo que reducen algunos de los costos de transacción presentes en estas negociaciones, aunque en algunas situaciones menos complejas el costo de su implementación podría ser superior a los beneficios generados. La impresión 3D eventualmente permitiría reducir sustancialmente los costos de la manufactura y la industria. El uso de algoritmos para el procesamiento y análisis de grandes cantidades de datos en organizaciones públicas y privadas brinda la posibilidad de mejorar procesos de focalización y conocimiento del cliente, permite afinar las estrategias de mercado, identificar oportunidades de mejora en los procesos, entre otros, todo lo cual debería reflejarse en la generación de valor y reducción de costos de dichas organizaciones (Angulo, 2017; Brady, 2019; Thierer et al., 2017; Valle-Cruz et al., 2020; Wirtz et al., 2019).
Teniendo en cuenta estos beneficios potenciales de las nuevas tecnologías, el rol de los Estados debe ser el de promover el uso de estas aplicaciones de múltiples maneras. Esto puede ocurrir mediante la apropiación de estas tecnologías y el uso de ellas en el ejercicio de la Administración pública y la implementación de políticas, programas y proyectos estatales, la facilitación del uso de sus datos por parte del sector privado y la sociedad civil, el fomento de la generación de capacidades en los estudiantes, trabajadores y las empresas para el aprovechamiento de estas tecnologías, y el trabajo en conjunto con el sector privado para fomentar su uso y adaptar la regulación para permitir la experimentación y posterior uso generalizado de los avances que resulten exitosos. Además de las acciones contempladas en los Conpes 3920 y 3975 que cubren varios de los aspectos recién mencionados, un ejemplo de este tipo de iniciativas es el caso de la Superintendencia Financiera de Colombia y su iniciativa InnovaSFC, que incluye espacios en los que las entidades financieras y sus usuarios tienen la posibilidad de experimentar con productos que hacen uso de estas tecnologías1, para posteriormente realizar las modificaciones regulatorias que sean necesarias.
2. IGUALDAD
Para efectos de este estudio entenderé la igualdad según como este concepto ha sido enunciado en la Constitución Política de Colombia, en su artículo 13[2]. Esta noción hace referencia a la igualdad formal y material frente a la ley y las autoridades, y también al goce de derechos, libertades y oportunidades “sin ninguna discriminación por razones de sexo, raza, origen nacional o familiar, lengua, religión, opinión política o filosófica”. Este es un punto de partida relativamente sencillo, y si bien no desconozco la existencia de debates alrededor del contenido de este enunciado, o en general alrededor de la definición misma de igualdad y desigualdad (Stone, 2011), esta definición permite abordar los riesgos principales de las tecnologías disruptivas dentro de una noción amplia de igualdad.
Encuentro dos potenciales impactos, negativos ambos, de las tecnologías disruptivas en la igualdad. El primero, y tal vez el más sencillo de observar, tiene que ver con la variación en las posibilidades de acceso de las personas a estas tecnologías. En otras palabras, no todas las personas tendrán la misma oportunidad de acceder a tecnologías como la impresión 3D o el blockchain, pues seguramente si el uso de las mismas aumenta, en todo caso persistirán algunas barreras de entrada (financieras y de conocimiento, entre otras) que dificulten el acceso para las personas más vulnerables. Sin embargo, es relevante mencionar que esta no es una preocupación exclusivamente relacionada con tecnologías relativamente avanzadas como las mencionadas. Por ejemplo, en el contexto de la pandemia causada por el coronavirus desde marzo de 2019, estas brechas de acceso a Internet y a hardware para acceder a Internet (p. ej. computadores, tabletas o teléfonos inteligentes) se han hecho evidentes en el contexto educativo (Alfonso, 2020), retos que Luz Herrera y Laura González ilustran en su trabajo sobre inclusión digital, que forma parte de este tomo. El uso de tecnologías audiovisuales en la evaluación docente, traída a colación por Sandra Arévalo y Martha Jiménez en el trabajo también incluido en este tomo, podría verse afectado por estas brechas en el acceso a herramientas digitales.
El segundo impacto –un poco más complejo de observar y demostrar– tiene que ver con la existencia de sesgos en los algoritmos que soportan las tecnologías disruptivas que tengan como resultado discriminar o segregar a algunos grupos poblacionales. Como consecuencia, estas tecnologías podrían reafirmar las desigualdades existentes o propiciar nuevas desigualdades. Esta posibilidad está latente en aquellos algoritmos usados en aplicaciones de aprendizaje estadístico e Inteligencia Artificial que toman como insumo datos de los individuos para alimentar los modelos. Si estos datos reflejan de alguna manera sesgos o discriminaciones existentes, o si solamente representen a algunos grupos poblacionales (Giest & Samuels, 2020), los modelos resultantes y sus aplicaciones tendrán el mismo “comportamiento” que los datos de entrada y, por tanto, potencialmente reafirmarán esas discriminaciones. Asuntos en los que lo descrito podría ocurrir incluyen el uso de modelos predictivos o de clasificación que se utilicen para tomar decisiones sobre el otorgamiento de productos financieros (Kiviat, 2019; Klein, 2020), o para la toma de decisiones sobre la admisión a instituciones educativas o la contratación laboral, en los que hay evidencia de discriminación en razón al género, a la raza o en general a grupos ya marginalizados (O’Neil, 2016; Perez, 2019; Robison, 2020). Dentro del sector público, esto podría ocurrir cuando se usen estos modelos para decidir sobre la asignación de beneficios sociales o para actividades policiales y de seguridad (Ray, 2020; West & Allen, 2020), entre otros casos.
Este potencial impacto de las tecnologías disruptivas en la igualdad resulta más complejo de abordar para el Estado, porque, en general, podría afirmarse que cualquier acción para mitigar las posibilidades de discriminación puede implicar costos económicos y logísticos para los usuarios y creadores de algoritmos y podrían reñir con su interés en generar valor y mejorar sus utilidades. Por esta razón, es importante que el Estado asuma un rol más activo para evitar este tipo de discriminación y proteger a los ciudadanos. Por ejemplo, como lo sugiere el trabajo de Constanza Blanco incluido en este tomo, el Estado debería tener un rol más prominente en la protección de los consumidores financieros, que impida la posibilidad de discriminación en el otorgamiento de productos financieros que usen modelos predictivos o de clasificación. Podrían adelantarse iniciativas, incluso en conjunto con la sociedad civil, de auditoría de algoritmos para identificar posibles fuentes de discriminación tanto en los insumos como en los modelos utilizados (Barton, 2019; O’Neil, 2016; West & Allen, 2020)3, así como promover la adopción ética de algoritmos (Cabrol et al., 2020; Wirtz & Müller, 2019) y la adopción de los principios de la Organización para la Cooperación y el Desarrollo Económica (OCDE) sobre la Inteligencia Artificial4. Adicionalmente, el Estado podría, respecto de sus propias aplicaciones, liderar en la adopción de estos principios y, por ejemplo, crear mecanismos de transparencia y rendición de cuentas sobre sus algoritmos, incluso en temas sensibles como las actividades de policía y defensa.
3. PRIVACIDAD
Otro aspecto en el que el Estado juega un rol de importancia en el contexto de las tecnologías disruptivas tiene que ver con la privacidad de la información.