GL-14-Yolanda_Noguerol

Alejandro José Huergo Lora (dir.), Gustavo Manuel Díaz González (coord.)

Aranzadi Thomson Reuters, Cizur Menor, 2020

368 pp.

ISBN: 978-84-1345-096-4

Esta obra dirixida por Alejandro José Huergo Lora e coordinada por Gustavo Manuel Díaz González ofrece unha completa e interesante aproximación á disciplina xurídica dos algoritmos. Así, leva a cabo en primeiro lugar unha delimitación conceptual e un encadramento deste fenómeno dentro do noso sistema de dereito administrativo. A continuación, contéñense achegas sectoriais en campos interesantes onde os algoritmos teñen presenza, ou espérase que a teñan no futuro, como pode ser no dereito electoral ou na asistencia sanitaria. Neste sentido, cabe recalcar que nos achamos en plena Cuarta Revolución Industrial, polo que os avances e os investimentos en tecnoloxía e intelixencia artificial non fixeron máis que empezar.

Tendo en conta que nos atopamos ante un tema relativamente recente na nosa Administración pública (que non o é tanto, posto que as novidades tecnolóxicas comezaron a introducirse a mediados da década dos 2000), o que realiza con grande acerto o capítulo I é achegarnos aos conceptos básicos relevantes nesta materia: Administración electrónica, intelixencia artificial, proxies... e, sobre todo, define, clasifica e exemplifica os tipos de algoritmos.

Neste sentido, os algoritmos clasifícanse en preditivos e non preditivos. Os algoritmos non preditivos son aqueles que se utilizan para levar a cabo tarefas concretas ou sinxelas; por exemplo, na Administración poderíase utilizar unha calculadora ou un procesador de texto. Non todos os algoritmos non preditivos son así de simples, algúns son complexos, pero o certo é que a conclusión sería a mesma, aínda que non se utilizase o algoritmo porque non é máis que un medio técnico. O resultado sería idéntico, podendo ser, iso si, máis lento ou con máis posibilidades de erro humano, pero en calquera caso podería ser verificado. Os algoritmos non preditivos non substitúen a norma, senón que a traducen para facilitar a súa aplicación. Como o profesor Huergo Lora subliña, en dereito as posibilidades dos algoritmos son moi amplas porque as decisións xurídicas se toman na maior parte das ocasións en función de criterios normativos, polo que a súa utilidade é importante.

Non obstante, non son estes os algoritmos que preocupan, senón os algoritmos preditivos. Estes últimos son aqueles que realizan predicións a partir duns datos achegados. Trátase de mecanismos moito máis complexos e novidosos. Estes constitúen a base da intelixencia artificial e son o instrumento que manexa de xeito máis frecuente os big data, que son grandes cantidades de datos aos que o algoritmo ten acceso e que serven para, ao analizalos, extraer correlacións que permiten realizar predicións de feitos futuros. Nestes casos, en canto predicións, estas non poderán ser verificadas e é neste punto onde atopamos os problemas xurídicos, porque non se pode considerar que un algoritmo é infalible.

O problema vai máis alá, porque os algoritmos poden chegar mesmo a realizar “aprendizaxe non supervisada”, machine learning, onde ademais de utilizar esas operacións probabilísticas o programa poderá evolucionar (aprender) creando un efecto de black box onde nin sequera o programador sabe exactamente o que sucede, non sabe por que o algoritmo chegou exactamente a ese razoamento ou resultado.

Aínda que, na práctica, o certo é que á hora de tomar decisións as predicións dos algoritmos se utilizan como un elemento máis de valoración, de xuízo, a obra analiza tamén, pola súa relevancia, os eventuais casos en que as decisións son integramente automatizadas.

O que podería parecer un grande avance, xa que as súas utilidades son moitísimas e a súa eficiencia está fóra de discusión (a cantidade de datos que podemos procesar os seres humanos é infinitamente menor que a que poden manexar os algoritmos; de feito, os seres humanos actúan en estatística moitas veces a partir da mostraxe, o que non deixa de ser un nesgo en si mesmo), realmente preséntanos unha serie de riscos e problemas xurídicos.

Un tema de gran relevancia é a análise dos datos que serven de base para o funcionamento deses algoritmos. Estúdase a obtención dos datos e a súa relación coa anonimización destes ou co consentimento (especialmente relevante na relación do particular coa Administración, porque esta pode establecer unha sorte de consentimento “obrigatorio” ao exixirlle ao peticionario dun determinado trámite que acepte expresamente a autorización para o tratamento dos seus datos).

Tamén constitúe un risco o propio uso dos datos, o seu almacenamento e a súa reutilización. Este terceiro perigo deriva principalmente dos medios empregados para a súa obtención: a informática permite que os datos que se xeren poidan ser reutilizados e almacenados de xeito moito máis cómodo que o papel. Outra ameaza radica en que a lexislación vixente non obriga a dar a coñecer ao cidadán que a decisión se elaborou con axuda dunha aplicación informática nin tampouco obriga á publicación do “código fonte” do programa. Todo iso inflúe no dereito á información e no acceso ao funcionamento dos algoritmos, explicado en relación cos datos persoais por Javier Núñez Seoane no capítulo X, “O dereito de información e acceso ao funcionamento dos algoritmos que tratan datos persoais”.

Tamén nos atopamos coa problemática dos indicadores ou proxies, presupostos de feito na virtude dos cales se vai tomar unha decisión. Esta é unha cuestión relevante para a seguridade xurídica e a nosa maneira de entender o dereito, porque neste caso o presuposto que se utiliza para decidir se se aplica ou non unha consecuencia xurídica non é o que aparece na norma, senón outro diferente (proxy) que adoita correlacionarse con el.

Todos eses problemas e riscos quedan patentes ao longo da obra, son explicados dunha maneira clara e exemplificativa para que se tome consciencia do importante que é a regulación destes mecanismos e o seu correcto encadramento xurídico, xa que poden afectar aos nosos dereitos como particulares cando a Administración pública os utiliza.

En calquera caso, e á vista da súa importancia, a regulación por parte do lexislador europeo, do lexislador español e da propia Administración parece insuficiente. As aproximacións a esta disciplina son escasas e deficientes e concéntranse principalmente nas normas de dereito de competencia ou de consumo ou ben sobre protección de datos.

En primeiro lugar, no Regulamento xeral de protección de datos, en concreto no artigo 22 RXPD, disponse: “Todo interesado terá dereito a non ser obxecto dunha decisión baseada unicamente no tratamento automatizado, incluída a elaboración de perfís, que produza efectos xurídicos nel ou lle afecte significativamente de modo similar”. Como vemos, esa garantía só se aplica a decisións baseadas unicamente no tratamento automatizado.

Pola súa banda, a regulación española do procedemento administrativo ao respecto circunscríbese unicamente ao dereito de protección de datos. No artigo 41.2 da Lei 40/2015, de 1 de outubro, de réxime xurídico do sector público, establécese que: “En caso de actuación administrativa automatizada deberá establecerse previamente o órgano ou órganos competentes, segundo os casos, para a definición das especificacións, programación, mantemento, supervisión e control de calidade e, se é o caso, auditoría do sistema de información e do seu código fonte. Así mesmo, indicarase o órgano que debe ser considerado responsable para os efectos de impugnación”. Non obstante, de novo estas garantías só se aplican cando o “(...) acto ou a actuación se realiza integramente a través de medios electrónicos por unha Administración pública no marco dun procedemento administrativo e na cal non interviñera de forma directa un empregado público”. Este precepto non se achega ao fundamento normativo que debería subxacer á actuación da Administración cando actúa con estes medios automatizados, aspecto ao que si se lle dá importancia e polo tanto se estuda neste libro.

En último termo, a pregunta é: cal é a natureza xurídica dos algoritmos? O profesor Huergo Lora, no capítulo I, “Unha aproximación aos algoritmos desde o dereito administrativo” senta as bases para poder responder esa pregunta e poder, dese xeito, encadrar correctamente este instrumento dentro do noso ordenamento xurídico. A cualificación dos algoritmos (son regulamentos, son actos?) e a súa correspondente regulación e control veñen determinados pola súa clasificación, porque, como se apunta, non todos os algoritmos son iguais nin teñen a mesma incidencia dentro das resolucións ou actos administrativos.

O que parece claro, e é un aspecto que o libro pretende explicar na parte II, é que a existencia de riscos non debería limitar por completo a súa aplicación, porque as vantaxes ou oportunidades que nos achegan os algoritmos son infinitamente maiores e están presentes no dereito público e no dereito privado.

Así, dedícanse ao estudo do seu impacto no dereito público o capítulo IV (“Algoritmos e dereito electoral”, redactado por Miguel Ángel Presno Linera), o capítulo V (“Algoritmos e actuación policial: a policía preditiva”, elaborado por Gustavo Manuel Díaz González), o capítulo VI (“A información sobre os grupos de interese comunitarios: un campo prometedor para o «big data»”, obra de Javier Ballina Díaz), o capítulo VIII (“Relevancia tributaria dos algoritmos na era dixital”, escrito por Jaime García Puente), o capítulo IX (“Análise xurídica da toma de decisións algorítmicas na asistencia sanitaria”, redactado por Guillermo Lazcoz Moratinos) e o capítulo XI (“A automatización da actuación administrativa como factor incremental das posibilidades de efectiva implantación das previsións do art. 28.4 da LCSP”, obra de Alfonso Sánchez García).

Obviamente a maior relevancia do uso dos algoritmos atópase no sector privado. É especialmente incidente a utilización de algoritmos no mercado de valores, e diso precisamente encárgase o capítulo II, “Algoritmos no mercado de valores e protección do investidor: «robo advisors»” escrito por Ignacio Farrando Miguel, onde se explica a negociación algorítmica (NAI, NAAI) que permite analizar información dos mercados para poder realizar estratexias financeiras óptimas tanto por eficacia como por rapidez, pero que, de novo, entraña riscos, sobre todo respecto á estabilidade financeira. No capítulo III, “«Big data» e contrato de seguro: os datos xerados polos asegurados e a súa utilización polos aseguradores”, elaborado por María Luisa Muñoz Paredes, explícase como se utilizan os big data en empresas aseguradoras, por exemplo, á hora de fixar factores de risco ou para establecer determinadas discriminacións en materia de prezos, e que problemas atopamos neste ámbito (neste caso, a problemática radica no principio universal da non discriminación). Tamén son útiles os big data para avaliar a solvencia das persoas; diso ocúpase o capítulo VII, “A avaliación da solvencia das persoas mediante o uso de algoritmos”, escrito por Joaquim Castañer Codina. No capítulo XII, “O algoritmo de YouTube, o artigo 17 da Directiva 2019/790 e a protección dos dereitos de autor,”, escrito por Paula Vega García, estúdase o algoritmo relativo aos dereitos de autor que utiliza YouTube para, dun xeito deficiente, acomodar a súa conduta á exixida tras a aprobación da Directiva 2019/790 do Parlamento e do Consello sobre os dereitos de autor e dereitos afíns no mercado único dixital.

Concluíndo, no seu conxunto a obra pretende brindar unha análise da regulación dos algoritmos e do seu uso en múltiples ámbitos, ofrecendo definicións e clasificacións primeiro, moi clarificadoras, para despois poder analizar especificamente a súa relevancia en sectores concretos. Neste sentido, é unha obra dun marcado carácter interdisciplinario, non só xurídico, precisamente pola cada vez máis abundante presenza dos algoritmos na sociedade. O que nos queda claro é que os algoritmos preditivos son útiles para optimizar procesos que ou ben son puramente automáticos ou ben antes se realizaban de maneira subxectiva ou a partir de criterios intuitivos por parte de seres humanos, pola grande cantidade de datos que poden analizar e utilizar ao mesmo tempo. É un traballo moi valioso para quen desexe aproximarse ao estudo e comprensión desta materia, que, sen dúbida, será se cabe máis relevante conforme avance a tecnoloxía.

A regulación dos algoritmos