Guilherme es licenciado en Relaciones Internacionales por la Universidad de Brasilia (UNB) y master en Ciencias Políticas por la Universidad de São Paulo (USP). Actualmente es consejero de Comunicación e Información de la Oficina Regional de Ciencias para América Latina y el Caribe de la Oficina de la UNESCO -Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura- en Montevideo.
Puede parecer que el debate ético, e incluso también el de la regulación, siempre se encuentran unos pasos por detrás del avance tecnológico. ¿Hay forma de acortar esa brecha hoy en día?
El debate ético es sencillo de plantear, y debería ser sencillo de implementar. Si no se hace, deberíamos intentar encontrar dónde están los obstáculos. La cuestión es: los acuerdos mínimos a los que la humanidad ha llegado acerca de una serie de derechos y principios éticos existen desde hace setenta años. Así que cualquiera sea la actividad humana, de negocios, de políticas, de tecnología, que se está implementando hoy, no debería tener ninguna excusa para que desde el día cero se implemente siguiendo estos principios pre-acordados. Por otro lado, el primer paso para implementar una estrategia en temas como Big Data, IoT, Inteligencia Artificial, atravesados por el debate ético, es reconocer que el debate tiene que estar desde el primer día. Y para eso no hay que reinventar la rueda. Los temas éticos están ahí, los temas éticos no son nuevos, lo que es nuevo es cómo aplicar estos principios a estas tecnologías. Por ejemplo, si una startup está pensando algo super novedoso, ya hay una serie de cosas que piensan desde el día cero: cuál es el modelo de negocios, a quién está enfocado, cuántas personas hay que contratar, entre otras. Ahí es donde hay que incluir esta cuestión: cuáles son los temas éticos que están involucrados en eso que están comenzando a hacer. O sea, si esta pregunta por la ética estuviera incluida junto con los demás elementos del checklist con el que cualquier tecnología comienza, se minimizarían mucho los problemas. Esta distancia entre el debate y el avance tecnológico existe porque no hay compromiso con el debate ético y del derecho desde el primer día. Pero no debería ser así, primero hacer la tecnología y después pensar la ética; no debería haber un delay. Entonces, si todo eso parece tan sencillo, ¿por qué no se hace? Primero, porque tenemos la fuerte sensación de que la discusión de la ética tiene que ver necesariamente con algo malo, y eso no es verdad. La función ética en esta discusión está en potenciar las oportunidades y mitigar los riesgos. Por ejemplo, en el debate de los automóviles autónomos, un desarrollador puede decir “mi algoritmo está programado para salvar el mayor número de vidas, y eso es intrínsicamente bueno, entonces no hay una cuestión ética”, pero sí la hay. Aún en el caso ideal de que exista algo “intrínsicamente bueno”, hay una cuestión ética. Haciendo una analogía, en estos casos pasa generalmente lo que ocurre con el debate de la comunicación: la gente llama a los comunicadores cuando todo esta listo y dicen “bueno, ahora ustedes tienen que comunicar esto” cuando la verdad, sería mucho más eficiente que los comunicadores estuvieran desde el principio del proyecto pensando cómo comunicar, no una vez que ya está todo decidido. Con la ética ocurre lo mismo, no hay que pensarla una vez que está todo hecho. Hay que pensarla desde la concepción, desde el día cero.
"Los temas éticos no son nuevos, lo que es nuevo es cómo aplicar estos principios a estas tecnologías."
Si bien hace falta un esfuerzo para entender que estos problemas hay que pensarlos desde el principio, a veces puede que se omita intencionalmente. ¿Qué ocurre con aquellos modelos de negocio que ya nacen desde un lugar “anti-ético”?
En líneas generales hay una serie de cuestiones acá que son necesarias para evitar estos potenciales problemas. La primera es fortalecer el sistema de frenos y contrapesos que existe en nuestra sociedad. Por ejemplo, ver cómo el periodismo puede hacer un mejor periodismo sobre estas cuestiones, insistir en la investigación de lo que está pasando con este tipo de empresas, no postergarla a cuando ya estén afectando a miles de millones de usuarios. Entonces, el propio periodismo como una institución de “controles y balances” de la sociedad tiene que estar haciendo estas preguntas. Pero esto también vale para la sociedad civil organizada, para los grupos de la defensa de los derechos de los usuarios, de los consumidores, para las autoridades reguladoras: la primera herramienta es fortalecer el sistema de frenos y contrapesos de las sociedades para que estas empresas rindan más cuentas de las cosas que hacen. Después, hay que estimular un proceso de premios, pero también de castigos -castigos no desde el Estado, sino del propio mercado-. Para que eso ocurra, es fundamental la transparencia en los principios éticos. Uno de los problemas de la discusión ética, y no solo en este sector, es que no hay nadie en los sectores empresariales que se declare como “anti ético”. Todos dicen que son éticos, pero la cuestión es ¿qué quiere decir eso? ¿Cuáles son estos principios éticos? Si estos estuvieran claramente establecidos, permitirían un diálogo sano con las audiencias, con los usuarios, con la ciudadanía. La empresa X dice “mis principios son 1, 2, 3, 4 y 5”. Puede ser que a nosotros nos gusten o no nos gusten, pero por lo menos nos permite decir “De estos 5 ustedes están cumpliendo 3 y además, nos parece que deberían tener 6, 7 y 8”. Pero si no hay eso, si la única enunciación es “Nosotros somos éticos y estamos haciendo todo bien”, es imposible abrir cualquier tipo de dialogo sano.
En este sentido, ¿por qué vías podemos convencer a los sectores vinculados a la tecnología de que esta transparencia real no atenta contra su modelo de crecimiento?
A la larga, la historia demuestra que los que van muy sostenidamente con prácticas antiéticas tienden a quedar por el camino. Puede ser que esto lleve muchos años, pero una mirada hacia atrás demuestra que tarde o temprano las prácticas antiéticas van a generar problemas. Por un lado, en algún momento las personas se dan cuenta, y eso afecta el crecimiento de una empresa. Y por otro, a la larga para el propio emprendimiento es mejor la implementación de prácticas éticas desde un principio. Es un camino menos costoso a tener que lidiar con el problema una vez que ya esté instalado. Desde este lugar, pensado desde un lado positivo, el modelo de negocios tiende a la larga a beneficiarse con las prácticas éticas. Pero también hay una serie de principios que son parte de las reglas del juego y que las empresas de tecnología no están exentas de seguir. Sabemos que no es fácil, barato o gratis respetar los principios de los Derechos Humanos. Cuesta plata, ¿no? Pero las empresas, así como todos nosotros, así como los Estados, tienen que asumir el costo de respetarlos.
En el ámbito tecnológico, ¿podemos trabajar en una ética a nivel general o tenemos que hacerlo en especificidades para cada tecnología diferente? ¿Es lo mismo trabajar una ética de algoritmos a una ética de Big Data?
Los principios generales, que son hilos conductores de la discusión, son los mismos para muchos sectores. Ahora, las tecnologías traen desafíos que demandan un cierto nivel de detalle, de localización. Por ejemplo, uno de los grandes desafíos es la escala, porque si algo mal hecho en un determinado sector afecta a tres personas, en el caso de una tecnología puede afectar a miles de millones. Entonces las preocupaciones tienen que ser redobladas. Otro tema es la dificultad de jurisdicción: las cuestiones éticas muchas veces tienen que ver con contextos culturales específicos, pero hoy tenemos plataformas que están hablando para todas las culturas al mismo tiempo. No son cuestiones sencillas de resolver, y por la característica de cada tecnología puede ser que sean todavía más complejas. Pero igual, en tanto a los principios generales, tampoco es que sean muy distintas.
Desde el Área de información y Comunicación en UNESCO ¿qué lineamientos de trabajo tienen al respecto?
Dentro del marco de la división del trabajo en la cumbre de la Sociedad de la Información, donde distintas agencias de Naciones Unidas se comprometen con distintos roles, uno de los objetivos de la UNESCO, y de esta área en particular, es justamente discutir con nuestros stakeholders lo que se llama la “Ética de la sociedad de la información”. A partir de ello, nosotros generamos contenidos de capacitación, textos de discusión, laboratorios de ideas con los Estados miembro y con otros sectores. Así, apuntamos a generar y compartir conocimiento sobre estos desafíos y estas cuestiones complejas. Otro eje importante para la solución de estos problemas es la educación de la ciudadanía: cómo empoderar a los ciudadanos, particularmente a niños, niñas, adolescentes y jóvenes, para lidiar con este mundo nuevo. Es lo que la UNESCO llama “Alfabetización mediática e informacional”. En ese contexto se han creado currículas para formación de profesores y textos para debate, entre otras cuestiones. A su vez, en el marco de pensar la revolución digital y la Internet, los Estados Miembros de la UNESCO han validado un conjunto de indicadores de Universalidad de Internet para poder trabajar sobre estos.
