Más allá de los datos abiertos: algoritmos abiertos

Nadie pone ya en duda el intenso proceso de datificación que vivimos en la actualidad, a través del cual los datos ya no sólo contribuyen a que podamos crear una imagen más veraz del mundo, sino también a darle forma y modelarlo activamente a través de los algoritmos a los que alimentan.

Podemos definir un algoritmo como la serie de pasos invariables necesarios para resolver un problema o llevar a cabo una tarea a partir de unos datos iniciales concretos. Los algoritmos han estado siempre con nosotros; sin embargo, en la actualidad, su creciente uso en los procesos de toma de decisiones, en combinación con la falta de transparencia y control, puede dar lugar a profundas implicaciones sociales.

Los algoritmos están empezando a reemplazar a las personas a la hora de tomar decisiones fundamentales en varios ámbitos de nuestra vida diaria. Cuando solicitamos un empleo cada vez es más frecuente que la primera selección la realice un algoritmo, y lo mismo sucede cuando solicitamos un seguro para nuestro coche. En la actualidad los algoritmos pueden decidir si debemos ir a la cárcel o podremos seguir en libertad bajo fianza, manipular nuestras emociones o incluso llegar a elegir si debemos vivir o no en caso de accidente con nuestros coches autónomos. Todas ellas son decisiones muy importantes que nos afectan directamente. No obstante, en la actualidad sabemos muy poco o nada acerca de en qué datos o criterios se basan los algoritmos a la hora de tomar dichas decisiones.

Como sociedad hemos conseguido desarrollar las herramientas que tomen las decisiones, sin embargo, todavía no hemos encontrado la fórmula para garantizar que esas decisiones sean éticas y neutrales, evitando así que nuestros propios prejuicios como personas se transmitan también a nuestros algoritmos dando lugar a claros casos de discriminación. La cuestión se vuelve mucho más delicada cuando entra en juego la inteligencia artificial y el análisis predictivo, con nuevos algoritmos más complejos que ya no sólo se limitan a ejecutar paso a paso las órdenes instauradas por los programadores, sino que aprenden de su propia experiencia y son capaces de tomar sus propias decisiones.

Es por ello que los algoritmos están cada vez más cuestionados, por ejemplo ante la actual proliferación de noticias falsas en los medios sociales, una enfermedad de nuestro siglo según el Papa Francisco y una amenaza para la democracia en palabras del ex presidente Obama. La preocupación es tal que la propia Comisión Europea está valorando llevar a cabo acciones para que las compañías de Internet tengan que compartir los detalles sobre los algoritmos que utilizan a la hora de presentar cierta información personalizada, como las noticias o los resultados de las búsquedas online.

Las opciones que tenemos para conseguir algoritmos más abiertos y transparentes son varias, tal y como se debatió en el reciente OGP Summit:

1. Minimizar la captura de datos.

2. Mejorar la transparencia y apertura de los algoritmos.

3. Auditar los algoritmos.

4. Desarrollar normas y estándares para el comportamiento de los algoritmos.

5. Desarrollar marcos legales para garantizar la protección.

El debate está ya sobre la mesa de las instituciones y también se están dando los primeros pasos para afrontar el problema, por lo que esperamos seguir hablando de apertura más allá de los datos abiertos en un futuro próximo.