ES-14-Yolanda_Noguerol

Alejandro José Huergo Lora (dir.), Gustavo Manuel Díaz González (coord.)

Aranzadi Thomson Reuters, Cizur Menor, 2020

368 pp.

ISBN: 978-84-1345-096-4

Esta obra dirigida por Alejandro José Huergo Lora y coordinada por Gustavo Manuel Díaz González ofrece una completa e interesante aproximación a la disciplina jurídica de los algoritmos. Así, lleva a cabo en primer lugar una delimitación conceptual y un encuadramiento de este fenómeno dentro de nuestro sistema de derecho administrativo. A continuación, se contienen aportaciones sectoriales en campos interesantes donde los algoritmos tienen presencia, o se espera que la tengan en el futuro, como puede ser en el derecho electoral o en la asistencia sanitaria. En este sentido, cabe recalcar que nos hallamos en plena Cuarta Revolución Industrial, por lo que los avances y las inversiones en tecnología e inteligencia artificial no han hecho más que empezar.

Teniendo en cuenta que nos encontramos ante un tema relativamente reciente en nuestra Administración pública (que no lo es tanto, puesto que las novedades tecnológicas comenzaron a introducirse a mediados de la década de los 2000), lo que realiza con gran acierto el capítulo I es acercarnos a los conceptos básicos relevantes en esta materia: Administración electrónica, inteligencia artificial, proxies… y, sobre todo, define, clasifica y ejemplifica los tipos de algoritmos.

En este sentido, los algoritmos se clasifican en predictivos y no predictivos. Los algoritmos no predictivos son aquellos que se utilizan para llevar a cabo tareas concretas o sencillas; por ejemplo, en la Administración se podría utilizar una calculadora o un procesador de texto. No todos los algoritmos no predictivos son así de simples, algunos son complejos, pero lo cierto es que la conclusión sería la misma, aunque no se utilizase el algoritmo porque no es más que un medio técnico. El resultado sería idéntico, pudiendo ser, eso sí, más lento o con más posibilidades de error humano, pero en cualquier caso podría ser verificado. Los algoritmos no predictivos no sustituyen a la norma, sino que la traducen para facilitar su aplicación. Como el profesor Huergo Lora subraya, en derecho las posibilidades de los algoritmos son muy amplias porque las decisiones jurídicas se toman en la mayor parte de las ocasiones en función de criterios normativos, por lo que su utilidad es importante.

Sin embargo, no son estos los algoritmos que preocupan, sino los algoritmos predictivos. Estos últimos son aquellos que realizan predicciones a partir de unos datos aportados. Se trata de mecanismos mucho más complejos y novedosos. Estos constituyen la base de la inteligencia artificial y son el instrumento que maneja de manera más frecuente los big data, que son grandes cantidades de datos a los que el algoritmo tiene acceso y que sirven para, al analizarlos, extraer correlaciones que permiten realizar predicciones de hechos futuros. En estos casos, en cuanto predicciones, estas no podrán ser verificadas y es en este punto donde encontramos los problemas jurídicos, porque no se puede considerar que un algoritmo es infalible.

El problema va más allá, porque los algoritmos pueden llegar incluso a realizar “aprendizaje no supervisado”, machine learning, donde además de utilizar esas operaciones probabilísticas el programa podrá evolucionar (aprender) creando un efecto de black box donde ni siquiera el programador sabe exactamente qué sucede, no sabe por qué el algoritmo ha llegado exactamente a ese razonamiento o resultado.

Si bien, en la práctica, lo cierto es que a la hora de tomar decisiones las predicciones de los algoritmos se utilizan como un elemento más de valoración, de juicio, la obra analiza también, por su relevancia, los eventuales casos en los que las decisiones son íntegramente automatizadas.

Lo que podría parecer un gran avance, por cuanto sus utilidades son muchísimas y su eficiencia está fuera de discusión (la cantidad de datos que podemos procesar los seres humanos es infinitamente menor que la que pueden manejar los algoritmos; de hecho, los seres humanos actuamos en estadística muchas veces a partir del muestreo, lo que no deja de ser un sesgo en sí mismo), realmente nos plantea una serie de riesgos y problemas jurídicos.

Un tema de gran relevancia es el análisis de los datos que sirven de base para el funcionamiento de esos algoritmos. Se estudia la obtención de los datos y su relación con la anonimización de estos o con el consentimiento (especialmente relevante en la relación del particular con la Administración, porque esta puede establecer una suerte de consentimiento “obligatorio” al exigir al peticionario de un determinado trámite que acepte expresamente la autorización para el tratamiento de sus datos).

También constituye un riesgo el propio uso de los datos, su almacenamiento y su reutilización. Este tercer peligro se deriva principalmente de los medios empleados para su obtención: la informática permite que los datos que se generen puedan ser reutilizados y almacenados de manera mucho más cómoda que el papel. Otra amenaza radica en que la legislación vigente no obliga a dar a conocer al ciudadano que la decisión se ha elaborado con ayuda de una aplicación informática ni tampoco obliga a la publicación del “código fuente” del programa. Todo ello influye en el derecho a la información y el acceso al funcionamiento de los algoritmos, explicado en relación con los datos personales por Javier Núñez Seoane en el capítulo X, “El derecho de información y acceso al funcionamiento de los algoritmos que tratan datos personales”.

También nos encontramos con la problemática de los indicadores o proxies, presupuestos de hecho en cuya virtud se va a tomar una decisión. Esta es una cuestión relevante para la seguridad jurídica y nuestra manera de entender el derecho, porque en este caso el presupuesto que se utiliza para decidir si se aplica o no una consecuencia jurídica no es el que aparece en la norma, sino otro diferente (proxy) que suele correlacionarse con él.

Todos esos problemas y riesgos quedan patentes a lo largo de la obra, son explicados de una manera muy clara y ejemplificativa para que se tome consciencia de lo importante que es la regulación de estos mecanismos y su correcto encuadre jurídico, por cuanto pueden afectar a nuestros derechos como particulares cuando la Administración pública los utiliza.

En cualquier caso, y a la vista de su importancia, la regulación por parte del legislador europeo, del legislador español y de la propia Administración parece insuficiente. Las aproximaciones a esta disciplina son escasas y deficientes y se concentran principalmente en las normas de derecho de competencia o de consumo o bien sobre protección de datos.

En primer lugar, en el Reglamento general de protección de datos, en concreto en el artículo 22 RGPD, se dispone: “Todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar”. Como vemos, esa garantía solo se aplica a decisiones basadas únicamente en el tratamiento automatizado.

Por su parte, la regulación española del procedimiento administrativo al respecto se circunscribe únicamente al derecho de protección de datos. En el artículo 41.2 de la Ley 40/2015, de 1 de octubre, de régimen jurídico del sector público, se establece que: “En caso de actuación administrativa automatizada deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación”. Sin embargo, de nuevo estas garantías solo se aplican cuando el “(…) acto o la actuación se realiza íntegramente a través de medios electrónicos por una Administración pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público”. Este precepto no se acerca al fundamento normativo que debería subyacer a la actuación de la Administración cuando actúa con estos medios automatizados, aspecto al que sí se le da importancia y por tanto se estudia en este libro.

En último término, la pregunta es ¿cuál es la naturaleza jurídica de los algoritmos? El profesor Huergo Lora, en el capítulo I, “Una aproximación a los algoritmos desde el derecho administrativo” sienta las bases para poder responder a esa pregunta y poder, de esa manera, encuadrar correctamente este instrumento dentro de nuestro ordenamiento jurídico. La calificación de los algoritmos (¿son reglamentos, son actos?) y su correspondiente regulación y control vienen determinados por su clasificación, porque, como se apunta, no todos los algoritmos son iguales ni tienen la misma incidencia dentro de las resoluciones o actos administrativos.

Lo que parece claro, y es un aspecto que el libro pretende explicar en la parte II, es que la existencia de riesgos no debería limitar por completo su aplicación, porque las ventajas u oportunidades que nos plantean los algoritmos son infinitamente mayores y están presentes en el derecho público y en el derecho privado.

Así, se dedican al estudio de su impacto en el derecho público el capítulo IV (“Algoritmos y derecho electoral”, redactado por Miguel Ángel Presno Linera), el capítulo V (“Algoritmos y actuación policial: la policía predictiva”, elaborado por Gustavo Manuel Díaz González), el capítulo VI (“La información sobre los grupos de interés comunitarios: un campo prometedor para el «big data»”, obra de Javier Ballina Díaz), el capítulo VIII (“Relevancia tributaria de los algoritmos en la era digital”, escrito por Jaime García Puente), el capítulo IX (“Análisis jurídico de la toma de decisiones algorítmicas en la asistencia sanitaria”, redactado por Guillermo Lazcoz Moratinos) y el capítulo XI (“La automatización de la actuación administrativa como factor incremental de las posibilidades de efectiva implantación de las previsiones del art. 28.4 de la LCSP”, obra de Alfonso Sánchez García).

Obviamente la mayor relevancia del uso de los algoritmos se encuentra en el sector privado. Es especialmente incidente la utilización de algoritmos en el mercado de valores, y de eso precisamente se encarga el capítulo II, “Algoritmos en el mercado de valores y protección del inversor: «robo advisors»” escrito por Ignacio Farrando Miguel, donde se explica la negociación algorítmica (NAI, NAAI) que permite analizar información de los mercados para poder realizar estrategias financieras óptimas tanto por eficacia como por rapidez, pero que, de nuevo, entraña riesgos, sobre todo respecto a la estabilidad financiera. En el capítulo III, “«Big data» y contrato de seguro: los datos generados por los asegurados y su utilización por los aseguradores”, elaborado por María Luisa Muñoz Paredes, se explica cómo se utilizan los big data en empresas aseguradoras, por ejemplo, a la hora de fijar factores de riesgo o para establecer determinadas discriminaciones en materia de precios, y qué problemas nos encontramos en este ámbito (en este caso, la problemática radica en el principio universal de la no discriminación). También son útiles los big data para evaluar la solvencia de las personas; de ello se ocupa el capítulo VII, “La evaluación de la solvencia de las personas mediante el uso de algoritmos”, escrito por Joaquim Castañer Codina. En el capítulo XII, “El algoritmo de YouTube, el artículo 17 de la Directiva 2019/790 y la protección de los derechos de autor”, escrito por Paula Vega García, se estudia el algoritmo relativo a los derechos de autor que utiliza YouTube para, de una manera deficiente, acomodar su conducta a la exigida tras la aprobación de la Directiva 2019/790 del Parlamento y del Consejo sobre los derechos de autor y derechos afines en el mercado único digital.

Concluyendo, en su conjunto la obra pretende brindar un análisis de la regulación de los algoritmos y de su uso en múltiples ámbitos, ofreciendo definiciones y clasificaciones primero, muy clarificadoras, para después poder analizar específicamente su relevancia en sectores concretos. En este sentido, es una obra de un marcado carácter interdisciplinar, no solo jurídico, precisamente por la cada vez más abundante presencia de los algoritmos en la sociedad. Lo que nos queda claro es que los algoritmos predictivos son útiles para optimizar procesos que o bien son puramente automáticos o bien antes se realizaban de manera subjetiva o a partir de criterios intuitivos por parte de seres humanos, por la gran cantidad de datos que pueden analizar y utilizar al mismo tiempo. Es un trabajo muy valioso para quien desee aproximarse al estudio y comprensión de esta materia, que, sin duda, será si cabe más relevante conforme avance la tecnología.

La regulación de los algoritmos