01_GL_E1_Agustí_Cerrillo

Resumo: Os robots software son dispositivos utilizados para automatizar tarefas ou para interactuar con dispositivos. Nos últimos tempos, algúns robots software están a utilizar intelixencia artificial para poder desenvolver tarefas complexas ou aprender da experiencia. Todo iso xa está a ter aplicacións nas administracións públicas.

Neste artigo analízase como a automatización das administracións públicas incide nos principios da Administración dixital. Así mesmo, estúdase a regulación da actuación administrativa a través de robots e os límites que impón a normativa de protección de datos. Ademais, exponse o impacto que o uso de robots pode ter no emprego público. Finalmente, identifícanse os procedementos que utilizan as administracións públicas para incorporar robots software.

Palabras clave: Robot software, chatbot, intelixencia artificial, automatización, Administración pública, transparencia.

Resumen: Los robots software son dispositivos utilizados para automatizar tareas o para interactuar con dispositivos. En los últimos tiempos, algunos robots software están utilizando inteligencia artificial para poder desarrollar tareas complejas o aprender de la experiencia. Todo ello ya está teniendo aplicaciones en las administraciones públicas.

En este artículo se analiza cómo la automatización de las administraciones públicas incide en los principios de la Administración digital. Asimismo, se estudia la regulación de la actuación administrativa a través de robots y los límites que impone la normativa de protección de datos. Además, se expone el impacto que el uso de robots puede tener en el empleo público. Finalmente, se identifican los procedimientos que utilizan las administraciones públicas para incorporar robots software.

Palabras clave: Robot software, chatbot, inteligencia artificial, automatización, Administración pública, transparencia.

Abstract: Software robots are devices used to automate tasks and to interact with devices. In recent times, some software robots are using artificial intelligence to develop more complex tasks or to learn from experience to improve results. All this has several applications in public Administration.

In this paper, we analyse how public Administration automatization through software robots has an impact in e-government principles. As well, we study the regulation of public activity through robots and the limits stated by data protection regulation. Furthermore, we explain the impact that the use of software robots can have in public employment. Finally, we identify the different procedures used by public Administration to add software robots.

Key words: Software robot, chatbot, artificial intelligence, automatization, public Administration, transparency.

Sumario: 1 Robots, asistentes virtuais e intelixencia artificial. 1.1 Robots software e robots conversacionais. 1.2 Robots software e intelixencia artificial. 2 Os robots na Administración pública. 3 Os principios da automatización robótica da Administración pública. Especial mención aos principios de transparencia, igualdade e non discriminación. 3.1 Os principios da automatización robótica. 3.2 O principio de transparencia da actuación administrativa. 3.3 O principio de igualdade e non discriminación. 4 A automatización a través de robots como actuación administrativa automatizada. 4.1 A actuación administrativa robótica. 4.2 A protección de datos persoais como límite á automatización. 5 Automatización e emprego público. 6 A incorporación dos robots á Administración pública. 7 Reflexións finais.

1 Robots, asistentes virtuais e intelixencia artificial

O Concello do pequeno municipio coruñés de Rois puxo en marcha un robot para automatizar diversas tarefas como cubrir formularios, transcribir información ou cruzar bases de datos e, a medio prazo, tamén poder replicar algunhas das actividades que levan a cabo as empregadas e empregados públicos1.

Na outra punta de España, o Concello de Málaga puxo en funcionamento a Victoria la Malagueña, un robot conversacional que facilita a veciños e veciñas información de interese xeral como aparcadoiros públicos dispoñibles, a frecuencia dos autobuses ou os equipamentos da cidade e, por se fose pouco, tamén conta chistes e explica expresións típicas da cidade aos turistas2.

Estes son dous exemplos do uso de robots nas administracións públicas e na prestación dos servizos públicos.

Desde un punto de vista xeral, os robots son dispositivos que se definen pola súa capacidade para relacionarse co contorno a través de sensores ou do intercambio de datos, para analizar os datos á súa disposición, así como para adaptar de xeito autónomo o seu comportamento ao contorno.

Con frecuencia, os robots tamén se caracterizan por ter un soporte físico. Non obstante, non todos os robots comparten este elemento. En efecto, os robots citados como exemplo ao inicio deste artigo non se caracterizan por ter un soporte físico, senón dixital, son aplicacións. Nestes casos, atopámonos ante o que se coñece como robots software. Estes robots non son físicos nin actúan sobre obxectos, senón que interactúan con outras aplicacións, pantallas ou sistemas. Non obstante, os robots software non son só un programa, senón que se definen por desenvolver tarefas automaticamente actuando como se fosen persoas3.

O uso de robots software polas administracións públicas é un instrumento para a automatización da actuación administrativa. Como se afirmou, os robots son unha “forza de traballo virtualizada”4. Non obstante, malia a utilidade que poden ter estes robots na automatización da Administración pública, a súa expansión no sector público está bastante lonxe de atoparse xeneralizada e está distanciada do que se observa no sector privado5.

Normalmente, os robots software empréganse para desenvolver tarefas sinxelas e rutineiras, así como para a comunicación entre persoas e máquinas. Non obstante, cada vez estanse a utilizar máis estes robots para realizar labores máis complexos que requiren maiores capacidades. A iso está a contribuír o uso de intelixencia artificial polos robots software.

1.1 Robots software e robots conversacionais

Seguindo a Gavilán, existen dúas grandes clases de robots software: os robots software utilizados para a automatización robótica de procesos e os robots conversacionais tamén coñecidos como chatbots6.

a) Robots software para a automatización de procesos

Os robots software para a automatización robótica de procesos (RPA, nas súas siglas en inglés) son programas deseñados para realizar un conxunto de accións predefinidas en sistemas de información7. Os robots software son un termo xenérico para referirse a aqueles programas de ordenador que emulan e replican actividades humanas como interpretar ou manipular pantallas, acceder a bases de datos ou realizar cálculos8.

As tarefas que en xeral se automatizan utilizando robots software caracterízanse por ser repetitivas e rutineiras. Normalmente, estas tarefas tamén son masivas9.

Os robots desenvolven tarefas sinxelas e tradicionalmente non achegan intelixencia a estas10. Polo xeral, as tarefas realizadas por robots software baséanse en regras precisas, sinxelas, fixadas previamente, altamente formalizadas e con poucas excepcións. A realización destas tarefas non require ter grandes coñecementos nin tampouco efectuar ningún xuízo.

Os robots software interactúan con aplicacións xa existentes tal como o faría unha persoa sen a necesidade de que esta interveña11. Os robots non modifican as aplicacións coas que interactúan, senón que simplemente xestionan información de e entre aplicacións. Deste xeito, os robots software len os datos contidos en ficheiros, bases de datos, documentos ofimáticos ou pantallas de aplicacións; realizan cálculos con eles ou toman decisións a partir deles e, se é o caso, escriben nas ditas aplicacións ou en bases de datos os resultados obtidos, cobren formularios ou conéctanse a sistemas. Tamén poden ser utilizados para coordinar aplicacións ou para navegar por Internet buscando información.

Os robots software poden achegar numerosos beneficios a unha organización12. A primeira e principal é unha redución de custos grazas a unha menor dedicación de persoas á realización das tarefas automatizadas, unha redución do tempo necesario para efectualas ou unha redución de erros ou de incumprimento das normas no desenvolvemento destas actividades ao desaparecer a intervención humana. Os robots tamén poden comportar maior calidade á prestación dos servizos.

Ademais, o uso de robots pode incrementar a dispoñibilidade ofrecendo un servizo permanente e ininterrompido 24 horas ao día 7 días á semana. Así mesmo, a súa incorporación nunha organización é relativamente sinxela, xa que non supón un traballo complexo de deseño e implementación, o que evita ter que facer grandes investimentos e aforra realizar cambios importantes nas aplicacións ou sistemas de información xa existentes. O feito de que os robots non substitúan ou manipulen o código das aplicacións coas que interactúan, senón que se relacionen con elas de igual xeito que o faría un usuario, simplifica enormemente a súa incorporación a unha organización e o seu encaixe nas aplicacións e os sistemas de información existentes, facilitando a automatización.

b) Os robots conversacionais

Os robots conversacionais son aplicacións deseñadas para que as persoas poidan interactuar con dispositivos en linguaxe natural13. A persoa relaciónase co robot a través da linguaxe oral ou escrita e este é capaz de entender o contido da mensaxe e actuar en consecuencia.

Os robots conversacionais poden ter distintas capacidades, como facilitar información previamente gardada ou manter unha conversa cunha persoa.

Algúns robots conversacionais, ademais, poden realizar algunhas funcións para dar resposta ás necesidades manifestadas pola persoa (por exemplo, comprar billetes de avión ou realizar reservas nun restaurante). Estes robots conversacionais coñécense como asistentes virtuais e, ademais de permitir a interacción coas persoas a través da voz ou o texto, realizan determinadas funcións ou danlles apoio na realización de tarefas concretas necesarias para poder gozar de servizos dixitais14.

Xunto a estas capacidades, que son as máis habituais, os robots conversacionais tamén poden chegar a analizar a información facilitada polo usuario e, a partir da dita análise, predicir necesidades futuras15 ou fomentar determinados comportamentos na persoa16.

Os robots conversacionais poden interactuar coas persoas de maneiras máis ou menos complexas17: facilitando información a partir das preguntas xenéricas formuladas ou das palabras propostas por elas; ofrecendo unha axuda orientada a dar resposta ás necesidades específicas dunha persoa que implica a recompilación e análise de información relevante e personalizada ou, mesmo, negociando con cada persoa a opción que mellor se axusta ás súas necesidades en función da información facilitada.

O uso de robots conversacionais tamén pode entrañar numerosos beneficios para unha organización. Ademais da redución de custos, como no caso dos robots software, o uso de robots conversacionais permite mellorar significativamente a experiencia do usuario ao ofrecerlle unha maior dispoñibilidade, xa que sempre hai un robot conversacional dispoñible e unha redución de tempo de espera para recibir un servizo ou para a realización dunha xestión. Ademais, o uso de robots conversacionais facilita a personalización dos servizos18.

1.2 Robots software e intelixencia artificial

Os robots software polo xeral utilízanse para automatizar tarefas sinxelas e rutineiras reguladas por normas básicas que admiten poucas excepcións. Como graficamente describe Viehhauser, estes robots son “substitutos dos brazos e as pernas dos traballadores humanos”19. En cambio, engadimos nós, habitualmente os robots software non substitúen o seu cerebro.

En efecto, os robots software non utilizan xeralmente intelixencia artificial20. Non son capaces de entender e aprender, adaptarse a distintas circunstancias, afrontar excepcións, xerar novos coñecementos ou exhibir novos comportamentos se non están previstos nas regras que regulan as tarefas que desenvolven. Os robots software normalmente non aprenden da experiencia para tomar decisións por si mesmos identificando correlacións entre os datos que son utilizadas para xerar patróns e modelos. Os robots software tampouco son capaces habitualmente de xestionar información incerta ou excepcións21.

Non obstante, iso non quere dicir que a intelixencia artificial sexa allea aos robots software22. En efecto, os robots software poden utilizar a intelixencia artificial, e cada vez fano con maior frecuencia, para desenvolver determinadas operacións previas á automatización de tarefas, como recoñecer ou procesar datos non estruturados (por exemplo, textos ou imaxes) ou para relacionarse con persoas23.

Nesta dirección, os robots software utilizan a intelixencia artificial para o procesamento da linguaxe natural e o recoñecemento de imaxes. É habitual que os robots software usen algoritmos de intelixencia artificial para poder captar e comprender o que lles din as persoas a través da comprensión automática da linguaxe humana (escrita ou oral) ou para identificar os obxectos presentes nunha imaxe estática ou nun vídeo mediante a visión computadorizada. Deste xeito os robots adquiren a capacidade de entender o contido dunha mensaxe ou dunha conversa a través do procesamento da linguaxe natural, de identificar datos non estruturados, de recoñecer caracteres que conforman unha palabra a través da visión computadorizada ou de identificar a connotación positiva ou negativa dun texto mediante a análise de sentimentos24.

Pero, nos últimos tempos, algúns robots software utilizan a intelixencia artificial para ser máis listos25. Nesta dirección, algúns robots están empezando a usar a intelixencia artificial non de xeito complementario (entender textos ou conversas), senón en relación coa súa lóxica de negocio, é dicir, ás tarefas que se automatizaron.

Pouco a pouco os robots software utilizados para a automatización robótica de procesos empregan intelixencia artificial non só para buscar datos, senón tamén para definir as funcións a realizar a partir dos datos obtidos26.

Así mesmo, os novos robots conversacionais non só responden ás persoas usuarias de modo regulado seleccionando a resposta axeitada dun conxunto de respostas predefinidas, recollidas nunha base de datos, polo deseñador ou desenvolvedor do chatbot (o que se coñece como chatbot baseado en regras), senón que son capaces de xerar as respostas a partir do que aprenden da propia conversa e tendo en conta o contexto en que se produce ou a experiencia previa utilizando técnicas para a comprensión da linguaxe natural grazas ao uso de algoritmos de aprendizaxe automática, redes neuronais e aprendizaxe profunda (chatbot xenerativo)27.

Aínda que os primeiros poden resultar de utilidade para poder facilitar resposta a unha ou dúas preguntas xerais sobre un tema, os segundos permiten levar a cabo unha auténtica conversa entre a persoa e o robot e poden dar resposta a preguntas máis complexas ou específicas ou facilitar información personalizada en función do perfil do usuario ou dos datos que facilitase ao robot. Tamén poden chegar a propor ou recomendar servizos ou información de maneira proactiva.

Grazas ao uso da aprendizaxe automática, a aprendizaxe profunda e as redes neuronais, algúns robots conversacionais aprenden das conversas mantidas coas persoas, o que lles permite mellorar a calidade das súas respostas, capturar información, procesar datos non estruturados ou cooperar con elas28. Deste modo, o robot irá aprendendo e irá mellorando as súas respostas no futuro29.

A intelixencia artificial tamén pode ser utilizada polos robots conversacionais para a análise preditiva, de maneira que a partir dos datos xerados nas interaccións entre os chatbots e os usuarios se poidan identificar patróns ou perfís ou predicir situacións30.

A pesar de todas estas posibilidades, como observa Viehhauser, o uso da aprendizaxe automática polos robots software aínda é limitado, focalizado en lograr unha maior eficiencia ou ampliar a súa utilidade31. En calquera caso, diversos estudos sinalan como o futuro dos robots software pasa pola intelixencia artificial, o que lles permitirá ampliar o abano de utilidades e, sobre todo, poder substituír as persoas en tarefas máis complexas32.

A incorporación da intelixencia artificial pode levar os robots software a un novo nivel de desenvolvemento33. Así mesmo, pode abrir novas posibilidades na automatización da actuación administrativa. Pero tamén pode entrañar novos riscos que as administracións públicas deberán coñecer e valorar e, se é o caso, abordar.

2 Os robots na Administración pública34

As administracións públicas xa empezaron a incorporar os robots software no desenvolvemento das súas actividades e na prestación de servizos públicos35. En efecto, como expón Bermúdez, “a robotización non é unha tecnoloxía do futuro. Actualmente a Seguridade Social está a empregar a automatización robótica de procesos para substituír tratamentos manuais no proceso de alta de autónomos, conseguíndose pasar de tempos de tratamento de minutos no proceso realizado por persoas a segundos no proceso robotizado”36.

De feito, segundo o informe Inteligencia artificial en el sector público, os axentes virtuais xa son utilizados polo 30 % das entidades que afirman utilizar a intelixencia artificial, malia que este uso non se atopa aínda entre os usos da intelixencia artificial máis estendidos entre as administracións públicas37.

Máis alá destes datos, non existe un catálogo ou inventario de experiencias de uso dos robots software por parte das administracións públicas españolas38. Non obstante, iso non é obstáculo para poder sistematizar os seguintes usos nas administracións públicas39:

En primeiro lugar, as administracións públicas utilizan os robots software para a automatización de procesos (por exemplo, cálculos de impostos, xestión de solicitudes de autorización, procesamento de sancións, xestión de admisións en centros educativos)40. Nesta dirección, por exemplo, o Concello de Barcelona puxo en marcha un proxecto de automatización robótica de procesos para tramitar expedientes de terrazas ou para localizar persoas que se encontran en concurso de acredores e teñen algunha débeda co concello41.

En segundo lugar, as administracións públicas tamén usan os robots software para ofrecer servizos de información e atención á cidadanía. Así, por exemplo, o Concello de Córdoba dispón de Carina, un robot conversacional que ofrece información sobre o coronavirus42. Tamén podemos traer a colación a experiencia da Axencia Estatal de Administración Tributaria, que dispón dun chatbot para solucionar dúbidas sobre o IVE aos autónomos43. Na mesma dirección, o Concello de Madrid pon á disposición da cidadanía un robot para atender dúbidas tributarias44.

En terceiro lugar, as administracións públicas poden utilizar os robots software como asistentes virtuais, é dicir, non só para informar ou asesorar, senón tamén para realizar tarefas. Non obstante, na actualidade non é unha aplicación estendida entre as administracións públicas españolas malia que, en ocasións, se ofrecen os servizos de robots conversacionais como asistentes virtuais (por exemplo, nos casos da AEAT ou o Concello de Madrid referidos anteriormente). Noutros países, desde hai tempo, algunhas administracións públicas están a utilizar os asistentes virtuais comercializados polas grandes empresas tecnolóxicas para canalizar a comunicación e a asistencia á cidadanía45. En España, o Concello de Madrid presentou en xaneiro de 2021 un proxecto para facilitar o acceso á información urbanística a través de Alexa46.

É previsible que o uso dos robots software se estenda nos próximos tempos entre as administracións públicas españolas de igual modo que está a suceder no sector privado, polos numerosos beneficios que pode xerar47. De feito, durante a crise sanitaria provocada pola Covid-19, observouse un incremento dos robots conversacionais postos á disposición da cidadanía polas administracións públicas48.

A iso pode contribuír o Plan de dixitalización das administracións públicas 2021-2025, que define a Estratexia en materia de Administración dixital e servizos públicos dixitais49, aprobado polo Goberno en xaneiro de 2021, no marco da Axenda España Dixital 202550. O plan contempla especificamente a automatización dixital de procesos no eixe relativo á transformación dixital da Administración xeral do Estado51. En particular, esta medida persegue deseñar e implantar unha plataforma corporativa que permita a automatización de actuacións administrativas e tarefas dos distintos departamentos ministeriais, incorporando compoñentes reutilizables de tratamento de datos, documentos, imaxes, vídeos, audios, etc., baseados en robotización e intelixencia artificial. Así mesmo, o plan tamén propón facilitar axuda financeira ás comunidades autónomas e entidades locais para a realización de proxectos vinculados coa transformación dixital, entre os que se inclúe a automatización de procesos52.

Ademais do impulso que se poida dar desde a estratexia de Administración dixital, a Estratexia Nacional de Intelixencia Artificial tamén prevé, entre as medidas para a mellora dos servizos á cidadanía recollidas no eixe estratéxico relativo a potenciar o uso da intelixencia artificial na Administración pública, a automatización tanto para ofrecer á cidadanía e ás empresas uns servizos máis adaptados, usables, accesibles e personalizados como para optimizar o tempo e os recursos e mellorar a calidade dos servizos a través da automatización de tarefas rutineiras e repetitivas, de maneira que o funcionariado se poida dedicar a actividades de maior valor53.

De todos os xeitos, máis alá das experiencias que xa se foron pondo en marcha por parte de distintas administracións públicas ou dos resultados que se poidan ir obtendo en relación coa automatización das administracións públicas a través de robots software a medida que se vaian implementando as diversas estratexias adoptadas, aínda queda un amplo camiño para xeneralizar o seu uso entre as administracións públicas e para conseguir todo o seu potencial.

3 Os principios da automatización robótica da Administración pública. Especial mención aos principios de transparencia, igualdade e non discriminación

Os principios da Administración dixital definen o marco xeral no que se debe desenvolver calquera servizo electrónico e, polo tanto, tamén a automatización robótica da actuación e o funcionamento das administracións públicas ou o uso de robots conversacionais na prestación de servizos públicos. Así mesmo, estes principios teñen unha importante función interpretativa do ordenamento xurídico e dan resposta ás lagoas que pode ter a lexislación vixente, particularmente respecto á incorporación dos robots software, sobre todo a medida que vaian incorporando tamén intelixencia artificial.

En efecto, como foi amplamente recoñecido, o noso ordenamento xurídico non regula explicitamente o uso da intelixencia artificial nas administracións públicas, o que non é óbice para que non se apliquen a esta tecnoloxía tanto os principios de actuación das administracións públicas como as normas que regulan o uso dos medios electrónicos54.

Nas próximas páxinas expomos brevemente os principios da Administración dixital que inciden de modo particular na automatización da actuación e o funcionamento das administracións públicas, prestando unha especial atención aos principios de transparencia e igualdade e non discriminación debido á incidencia que o uso da intelixencia artificial pode ter en relación con estes.

3.1 Os principios da automatización robótica

Cando as administracións públicas deciden incorporar os robots software na súa actuación e funcionamento, deben ter en conta os principios da Administración dixital que recolle a Lei 40/2015, do 1 de outubro, de réxime xurídico do sector público, e que desenvolveu e ampliou o Real decreto 203/2021, do 30 de marzo, polo que se aproba o Regulamento de actuación e funcionamento do sector público por medios electrónicos55.

En particular, entre os principios da Administración dixital que teñen unha incidencia directa na automatización da actuación e o funcionamento das administracións públicas, podemos traer a colación os seguintes.

En primeiro lugar, o uso de robots software debe ter en conta o principio de servizo efectivo aos cidadáns, é dicir, o uso destas aplicacións debe perseguir mellorar o servizo que presta a Administración pública á cidadanía, por exemplo, reducindo tempos de tramitación ou de espera ou simplificando os trámites grazas á súa automatización. Os servizos prestados a través de robots software ou que conten coa súa intervención nalgún dos trámites deben estar orientados a satisfacer as necesidades da cidadanía. Por iso, os robots software deben ademais basearse no principio da facilidade de uso que persegue pór a persoa usuaria no centro do servizo, minimizando os coñecementos que deban ser necesarios para podelos utilizar.

En segundo lugar, o uso de robots software debe contribuír á simplicidade, claridade e proximidade á cidadanía. Este é un reto importante á vista do estadio de desenvolvemento dalgúns robots conversacionais que con certa frecuencia son incapaces de entender o que se lles pregunta ou simplemente responden as preguntas formuladas pola cidadanía con respostas predefinidas sen ter a capacidade de entender calquera solicitude de aclaración ou personalizar a información ás necesidades específicas de cada persoa. Deste xeito, as administracións públicas, antes de decidir se incorporan un robot conversacional para prestar o servizo de información ou atención á cidadanía, deben valorar se efectivamente con iso se fomentará a proximidade á cidadanía ou a claridade da información. Aínda que o uso dos robots conversacionais é un instrumento que permite substituír a atención a través de empregados públicos nalgúns servizos de atención, non poden converterse nun obstáculo para poder obter unha resposta efectiva e personalizada. Tampouco para que as persoas poidan exercer o seu dereito a elixir en todo momento se se comunican coas administracións públicas para o exercicio dos seus dereitos e obrigas a través de medios electrónicos ou non56.

En terceiro lugar, a automatización a través do emprego de robots software debe promover os principios de racionalización e axilidade dos procedementos administrativos e das actividades materiais de xestión. Tal como vimos antes, precisamente unha das finalidades principais do uso dos robots software é a automatización de tarefas de maneira que se poidan realizar de forma áxil e se incremente a dispoñibilidade dos servizos 24 horas ao día 7 días á semana. Así mesmo, a automatización a través do uso de robots software debe perseguir o principio de simplificación que pretende facilitar que a incorporación dos medios electrónicos na actividade administrativa supoña un auténtico redeseño dos procedementos administrativos para reducir os tempos ou os prazos para a súa tramitación ou suprimir as cargas administrativas57.

En cuarto lugar, o uso de robots software debe respectar o principio de confianza lexítima. A confianza das persoas nos robots conversacionais é o resultado da concorrencia de distintos elementos, como a súa capacidade de interpretar correctamente as preguntas, a calidade das súas respostas ou a súa aparencia humana. Tamén inciden outros elementos, como a seguridade ou privacidade percibida ou calquera outro risco apreciado58. En todo caso, a actuación externa dun robot conversacional pode xerar na persoa aparencia suficientemente atinada de que a Administración pública actuará dun determinado xeito que debe ser respectada pola Administración pública cando adopte unha decisión.

En quinto lugar, o principio de responsabilidade pola xestión pública exixe que as persoas que interactúan con robots software utilizados polas administracións públicas poidan reclamar por calquera dano que lles poida xerar, por exemplo, unha información incorrecta facilitada polo robot. Auditar se a información facilitada é incorrecta é máis sinxelo que cando esta se dá, por exemplo, oralmente nunha oficina de atención cidadá. O uso de robots software permite gravar as transaccións que levan a cabo, de maneira que é relativamente sinxelo auditar o seu funcionamento. Así mesmo, no caso dos robots conversacionais, as persoas poden gardar proba da información intercambiada co robot para os efectos de poder acreditar o contido59.

En sexto lugar, os robots software deben dar cumprimento aos principios de eficacia par lograr os obxectivos fixados; economía, suficiencia e adecuación estrita dos medios aos fins institucionais; e eficiencia na asignación e utilización dos recursos públicos. Tal como indicamos anteriormente, a automatización de tarefas administrativas a través do uso de robots software pode facilitar a actuación das administracións públicas. Ademais, a súa incorporación é un proceso relativamente sinxelo que non debe exixir realizar grandes investimentos nin levar a cabo cambios importantes, polo que o seu uso pode ser unha medida económica e eficiente. A escalabilidade e adaptabilidade tamén poden contribuír significativamente a estes principios.

En sétimo lugar, os robots software deben desenvolverse de acordo cos principios de cooperación e de interoperabilidade. Estes principios teñen diversas manifestacións. Por exemplo, os robots constitúen un mecanismo idóneo para automatizar o intercambio de datos entre administracións públicas. Ademais, os robots software poden estenderse entre as distintas administracións públicas a través da reutilización das aplicacións que utilicen as administracións públicas. En última instancia, as administracións públicas poden promover a cooperación a través do uso de robots software60. Así, por exemplo, en vez de ter que consultar diversos portais de transparencia ou sedes electrónicas, os robots software poden interactuar cos robots software doutras administracións públicas e facilitar de xeito unificado a información requirida61.

En oitavo lugar, a automatización a través do uso de robots software debe respectar o principio de accesibilidade para garantir que a información e os servizos que se prestan a través de medios electrónicos poidan ser recibidos e coñecidos por calquera persoa independentemente das súas circunstancias persoais. Ao respecto, cómpre recordar que a accesibilidade debe terse presente de forma integral no proceso de deseño, xestión, mantemento e actualización de contidos dos sitios web e as aplicacións para dispositivos móbiles62.

Finalmente, os robots software tamén deben promover o principio de personalización e proactividade que perseguen adaptar os servizos ás necesidades ou preferencias das persoas e anticiparse ás súas necesidades e deste modo incrementar a relevancia para elas. A personalización de servizos públicos implica sobre todo deseñar formas de prestación dos servizos que poñan a cidadanía no centro do sistema. A proactividade implica que a Administración pública se anticipa ofrecendo ou prestando un servizo sen esperar a que a persoa manifeste que o necesite ou solicite a súa prestación.

3.2 O principio de transparencia da actuación administrativa

O uso de robots software na Administración pública ten distintas incidencias no principio de transparencia da actuación administrativa.

Por unha banda, o emprego de robots software pode contribuír a unha maior transparencia das administracións públicas, ben facilitando a difusión da información pública, ben facilitando a localización ou o acceso á información pública63.

Por outro lado, non obstante, con frecuencia o uso destas aplicacións pode supor un obstáculo para a transparencia das administracións públicas. En efecto, o uso de robots software pode xerar opacidade porque non sexa posible dispor de información sobre o deseño e o funcionamento do robot software (trazabilidade), de información sobre como o robot software realizou unha determinada tarefa, tomou unha determinada decisión ou chegou a un determinado resultado (explicabilidade) ou de información sobre a existencia mesma dun robot na interacción entre a Administración pública e unha persoa (comunicación).

A garantía do principio de transparencia cando a Administración pública emprega robots software é particularmente complexa sobre todo cando os robots utilizan algoritmos de intelixencia artificial debido aos problemas de opacidade que entraña o uso desta tecnoloxía. Ao respecto, non podemos descoñecer que, como foi amplamente recoñecido, os algoritmos son caixas negras64.

A opacidade dos algoritmos pode ter diversas causas (técnicas, xurídicas ou organizativas)65 que poden impedir que a cidadanía teña información suficiente e axeitada sobre os robots software que están a utilizar as administracións públicas no desenvolvemento da súa actividade e funcionamento ou na prestación de servizos públicos. Pero tamén se pode dar a circunstancia de que as propias administracións públicas carezan desta información, entre outros motivos, porque adquiriran os robots software do mercado. Mesmo no caso de que os robots sexan desenvolvidos pola propia Administración pública, xeralmente os desenvolvedores non programan o código do robot, senón que o seu deseño se basea na combinación de distintos compoñentes preconstituídos a través de ferramentas gráficas, o que, malia que simplifica enormemente o proceso, dificulta coñecer os fundamentos e o funcionamento do robot66.

Polo que respecta á trazabilidade, é dicir, á capacidade de poder coñecer cando interveu un robot software, que tecnoloxía utiliza ou que datos empregou para desenvolver unha determinada tarefa, desde un punto de vista xeral a transparencia pode canalizarse a través dos mecanismos que considera a Lei 19/2013, do 9 de decembro, de transparencia, acceso á información pública e bo goberno, así como as normas autonómicas e locais que a desenvolveron67. Non obstante, a día de hoxe, tanto a difusión proactiva da información sobre os robots software como o exercicio do dereito de acceso á información pública mostráronse como ineficaces mecanismos para garantir a transparencia da actuación e o funcionamento das administracións públicas a través de robots software68.

De todos os xeitos, debemos valorar positivamente que o Real decreto 203/2021, do 30 de marzo, polo que se aproba o Regulamento de actuación e funcionamento do sector público por medios electrónicos, ampliase a información que as administracións públicas deben difundir a través das sedes electrónicas, incluíndo agora tamén a relación actualizada das actuacións administrativas automatizadas vinculadas aos servizos, procedementos e trámites. Para iso, informarase da descrición do deseño e funcionamento da actuación administrativa automatizada, dos mecanismos de rendición de contas e transparencia, así como dos datos utilizados na súa configuración e aprendizaxe69. A pesar do interese do anterior, non podemos deixar de advertir a dificultade ante a que se poden atopar as administracións públicas para cumprir con iso.

En relación coa intervención dun robot software determinado na realización dunha tarefa nun procedemento administrativo, debemos ter presente que, polo xeral, todas as accións realizadas por un robot software quedan rexistradas, normalmente cun identificador único, o que facilita a súa trazabilidade e, polo tanto, a transparencia.

Respecto á explicabilidade, ou sexa, a capacidade para revelar como un robot realizou unha tarefa, debemos ter presente que o ordenamento xurídico non recoñece un dereito á explicación máis alá do que deriva da obriga que teñen as administracións públicas de motivar as súas decisións70. Ante a falta de concreción desta cuestión, iniciativas como a Carta de Dereitos Dixitais tratan de recoñecer un dereito a obter unha motivación comprensible en linguaxe natural das decisións que se adopten no ámbito dixital, con xustificación das normas xurídicas relevantes ao caso e dos criterios de aplicación destas71.

En calquera caso, non podemos descoñecer que, como advirte Gavilán, a falta de explicabilidade “de cara aos robots software aínda non constitúe un problema incitante”72. Mesmo nos casos nos que utilizan intelixencia artificial, como vimos, é xeralmente complementaria ao proceso de toma de decisións, por exemplo achegando ao robot software a capacidade de captar e comprender o que lle din as persoas, pero sen darlle unha capacidade de decisión autónoma que no caso da maioría dos robots software se limita á aplicación dunhas regras claras e sinxelas. Pero é evidente que, a medida que os robots software vaian adquirindo maior intelixencia a través de algoritmos de aprendizaxe automática, cada vez terán unha maior autonomía e, polo tanto, será máis necesario garantir a transparencia do proceso decisional, aínda que tamén iso será máis difícil de conseguir.

Finalmente, polo que se refire á comunicación, as persoas que se relacionan coa Administración pública deben saber que están a interactuar cun robot software e non cun empregado público73. Así, o Grupo de expertos de alto nivel independente sobre intelixencia artificial destacou nas súas directrices éticas para unha intelixencia artificial fiable que “os sistemas de intelixencia artificial non deben presentarse aos usuarios como humanos: os humanos teñen dereito a ser informados de que están a interactuar cun sistema de intelixencia artificial”74. Nesta dirección, o Código francés de relacións entre a cidadanía e a Administración prevé que “unha decisión individual tomada sobre a base do procesamento algorítmico inclúe unha mención explícita informando o interesado”75. O noso ordenamento xurídico non inclúe, polo momento, ningunha regra neste sentido, o que non impide que cando unha Administración pública utilice un robot software informe claramente as persoas diso76.

3.3 O principio de igualdade e non discriminación

Desde un punto de vista xeral, cando a Administración pública automatiza o desenvolvemento de tarefas ou a prestación de servizos a través do uso de robots software, debe garantir que se respecte a igualdade das persoas. Deste modo, debe evitar que o uso dos robots software poida causar restricións no acceso da cidadanía ás administracións públicas ou discriminacións entre as persoas que usen estes medios e aquelas que non os utilicen. Así, as administracións deben adoptar as medidas necesarias para impedir que a automatización xere unha brecha dixital. Para evitalo, as administracións públicas deben garantir o dereito á asistencia no uso dos medios electrónicos a través das oficinas de asistencia en materia de rexistros. Este dereito pode vehicularse a través de distintas canles (presencial, portais de Internet e sedes electrónicas, redes sociais, telefónica e correo electrónico)77. Non obstante, non podemos descoñecer que, a pesar de ser unha nova canle de interacción entre as administracións públicas e a cidadanía, os robots software non se incluíron entre as canles de asistencia para o acceso aos servizos electrónicos previstos no artigo 4 do Real decreto 203/202178.

Máis alá destas consideracións xerais, debemos advertir que o uso de robots software, sobre todo cando utilizan dunha ou doutra maneira intelixencia artificial, pode levar discriminacións xeradas polos nesgos que poidan ter os algoritmos79. Os robots poden ofrecer unha imaxe da Administración pública ou chegar a resultados distorsionados ou incorrectos que non representen a realidade sen que exista unha causa obxectiva e razoable que xustifique a diferenciación de trato.

Dous exemplos poden ilustralo. En primeiro lugar, é habitual que os avatares utilizados polos robots conversacionais sexan femininos. Así, Carina, Victoria ou a avoa Elvira son as asistentas virtuais dos Concellos de Córdoba, Málaga e Arganda80. En segundo lugar, con frecuencia os algoritmos para a tradución automática que utilizan os robots conversacionais tamén teñen nesgos (por exemplo, traducen do inglés nurse por enfermeira mentres que lawyer é avogado).

O nesgo de xénero foi un dos que se observou de xeito máis xeneralizado81.

Pero, ademais dos nesgos de xénero, é habitual que os algoritmos poidan xerar discriminacións con relación a persoas con diversidade funcional82. Así, os algoritmos utilizados para o procesamento da linguaxe natural están a dar maiores erros cando se trata de comprender o contido de textos escritos por unha persoa que ten dislexia e pode confundir as letras ou a súa grafía ou outra que ten disgrafía que lle xera dificultades para espazar correctamente as letras ou para escribilas co mesmo tamaño. Tamén poden mostrar máis dificultades cando se procesa un discurso pronunciado por unha persoa que sofre unha depresión ou autismo83.

Todo iso é debido a que o proceso de deseño e aprendizaxe dos algoritmos utilizados polos robots software pode incorporar nesgos que están nos datos que se usan para construír os modelos (por exemplo, os rostros utilizados para adestrar a maioría dos algoritmos de recoñecemento facial corresponden un 75 % a homes e máis dun 80 % de raza branca)84. Noutras ocasións, outros nesgos débense ao deseño do propio algoritmo ao trasladarlle, de xeito consciente ou inconsciente, nesgos dos propios deseñadores. En última instancia, o nesgo deriva da actuación dos responsables públicos que deciden que algoritmos se utilizan e, por exemplo, deciden que o avatar sexa feminino.

Para evitar que o uso de robots software poida derivar en discriminacións por razón de xénero ou de calquera outra condición persoal ou social, as administracións públicas deben adoptar medidas axeitadas85. Nesta dirección, o Consello de Europa, na recomendación sobre os impactos nos dereitos humanos dos sistemas algorítmicos do 8 de abril de 2020, sinala que os Estados deben revisar as normas e as políticas para garantir que a contratación, deseño, desenvolvemento e despregamento da intelixencia artificial respecte, entre outros aspectos, a non-discriminación.

Entre outras medidas, as administracións públicas deben asegurarse de que os algoritmos que utilizan os robots software fosen adestrados con datos de calidade que respondan á diversidade do colectivo que se verá afectado polas tarefas a desenvolver. Tamén poden fomentar a participación no deseño dos algoritmos co fin de diversificar o perfil dos deseñadores e evitar os nesgos que poidan ter. Así mesmo, deben promover a transparencia sobre como están deseñados os robots software, sobre como funcionan ou sobre os datos que utilizan para realizar unha tarefa, de maneira que calquera persoa pode identificar se un algoritmo contén nesgos ou os resultados obtidos por el son discriminatorios. Por último, o fortalecemento da gobernanza da intelixencia artificial nas entidades públicas é outro mecanismo para previr os nesgos nos robots software.

4 A automatización a través de robots como actuación administrativa automatizada

A principal finalidade do uso dos robots software nas administracións públicas é automatizar a súa actuación e funcionamento.

Cando o uso de robots software substitúa a intervención dun empregado ou empregada pública, atoparémonos ante unha actuación administrativa automatizada que debe desenvolverse e está sometida ás normas que analizamos a continuación. Ademais, cando a automatización supoña o tratamento de datos persoais, estará suxeita a distintos principios e límites que recolle o Regulamento xeral de protección de datos.

4.1 A actuación administrativa robótica

As administracións públicas poden adoptar decisións automatizadas utilizando para iso robots software. En efecto, desde un punto de vista xeral, debemos ter presente que a Lei 40/2015, do 1 de outubro, de réxime xurídico do sector público (LRXSP), regula a actuación administrativa automatizada, entendendo como tal “calquera acto ou actuación realizada integramente a través de medios electrónicos por unha Administración pública no marco dun procedemento administrativo e na que non interviñese de forma directa un empregado público”86.

O uso de robots para realizar actuacións administrativas de xeito automatizado entraña algunhas cuestións específicas, tales como o seu alcance e uso, a vinculación da decisión adoptada por un robot por parte das administracións públicas, as fases do procedemento administrativo en que poden intervir os robots ou a motivación das decisións públicas que toman a través de algoritmos.

a) Actuación realizada a través de medios electrónicos

A LRXSP utiliza de xeito xenérico a expresión medios electrónicos á hora de definir a actuación administrativa automatizada e o Real decreto 203/2021 non concreta no seu anexo con definicións que tecnoloxías deben entenderse incluídas nesta expresión87. Aínda que é probable que o lexislador non tivese en mente a posibilidade de utilizar robots software e, moito menos, intelixencia artificial nun procedemento administrativo, ao noso entender non hai obstáculo ningún para considerar que estas aplicacións poden ser utilizadas polas administracións públicas para automatizar a súa actividade.

Na actualidade, o deseño dun robot software non responde á tramitación dun procedemento específico. Tampouco a decisión de usar robots software na Administración pública se atopa formalizada88.

Non obstante, esta situación non é óbice para sinalar que sería oportuno que a lexislación incorporase un procedemento específico para aprobar o uso de robots software e, en xeral, de algoritmos nas administracións públicas. Na nosa opinión, a extensión dos robots software, así como da intelixencia artificial entre as administracións públicas, debería ir acompañada da previsión dun procedemento que permitise valorar axeitadamente os riscos que o uso destas aplicacións e tecnoloxías poida comportar, que facilitase a participación tanto de técnicos como da cidadanía en xeral na dita valoración e que permitise formalizar axeitadamente a decisión, así como darlle a máxima publicidade e transparencia.

A pesar do anterior, non consideramos que o xeito de dar resposta a todas estas necesidades pase pola consideración dos robots software ou dos algoritmos como normas regulamentarias, posto que non deixan de ser un medio técnico ao servizo da Administración pública que, polo impacto que o seu uso pode ter en distintos bens ou dereitos, exixe que o seu emprego pola Administración pública se dote dunhas determinadas garantías que, por outro lado, probablemente o procedemento de elaboración de disposicións regulamentarias na práctica tampouco ofrecerá de xeito eficaz89.

Xunto á previsión dun procedemento, sería necesario tamén deseñar un marco institucional que permita garantir a seguridade –xurídica e tecnolóxica–, a transparencia e a rendición de contas no uso dos robots software polas administracións públicas tal como tivemos oportunidade de propor especificamente en relación coa intelixencia artificial90.

b) Actuación no marco dun procedemento administrativo

A LRXSP refírese deste xeito a actuacións administrativas formalizadas realizadas durante a tramitación dun procedemento administrativo91. En moitos casos o uso de robots software realizarase no marco dun procedemento administrativo para obter, xestionar ou analizar datos, para enviar ou comunicar documentos ou para comunicar, recibir ou interpretar información das persoas interesadas92. Así mesmo, os robots poden chegar a ser utilizados no marco dun procedemento para a emisión de calquera declaración de vontade, de xuízo, de coñecemento ou de desexo. Con este obxectivo, por exemplo, modificouse o Real decreto lexislativo 5/2000, do 4 de agosto, polo que se aproba o texto refundido da Lei sobre infraccións e sancións na orde social, para prever o inicio dun procedemento administrativo sancionador na orde social mediante a extensión de actas de infracción automatizadas93.

Non obstante, máis alá do concepto estrito da actuación administrativa automatizada que inclúe a LRXSP, iso non debe ser obstáculo para que a Administración pública poida utilizar a intelixencia artificial no desenvolvemento doutras actuacións materiais que non se verán sometidas ao previsto na Lei 39/2015, do 1 de outubro, de procedemento administrativo común das administracións públicas. Este sería o caso, por exemplo, do uso dos robots conversacionais ou asistentes que se utilicen para informar ou atender a cidadanía94.

En función da capacidade do robot software, tanto a súa intervención no procedemento como os efectos xurídicos da actuación automatizada serán distintos e incrementaranse significativamente a medida que se lle dote de maior capacidade de aprendizaxe automática a través da intelixencia artificial. En función dos riscos que iso poida entrañar, deberanse adecuar as medidas que se adopten para garantir o cumprimento dos distintos principios da Administración dixital ou o respecto dos dereitos das persoas interesadas ou o nivel de supervisión humana, que en todo caso deberá ser proporcional a estes95.

c) Actuación sen intervención directa de empregado público

A ausencia de intervención humana é o elemento esencial á hora de determinar se nos atopamos ante unha actuación administrativa automatizada96. Esta é precisamente a principal característica dos robots software, tal como os definimos, ao desenvolver as súas tarefas non só de xeito automático sen a necesidade de que interveña, senón de igual xeito que o faría unha persoa.

Os robots software son unha tecnoloxía para automatizar a actuación e o funcionamento das administracións públicas e, desde esta perspectiva, a súa intervención nun procedemento levará consigo que non participe unha persoa.

Iso non quere dicir que cando interveña un robot software non haxa ningún tipo de implicación humana. Precisamente, para garantir a fiabilidade dos robots software e, en xeral, da intelixencia artificial é necesario garantir a supervisión humana97. A supervisión humana dos robots software pódese dar en distintos momentos e o seu alcance tamén pode ser diferente.

Á marxe doutras consideracións, a lectura da LRXSP permite observar que a actuación administrativa automatizada exixe a intervención humana a través do órgano ou órganos competentes en dous momentos.

En primeiro lugar, ao definir as especificacións, programación, mantemento, supervisión e control de calidade e, se é o caso, auditoría do sistema de información e do seu código fonte98. Este é un aspecto esencial non só para garantir a transparencia no uso dos robots software, senón tamén para asegurar o respecto dos principios e normas que deben guiar o uso destes dispositivos no exercicio de potestades públicas. Tal como indicamos anteriormente, na actualidade non existe un procedemento específico para concretar estes elementos. Non obstante, resulta de interese observar que, aínda que sen carácter básico, o Real decreto 203/2021 engadiu, respecto ao que dispón a LRXSP, que a resolución pola que se autorice o uso dun robot software para automatizar unha actuación administrativa deberá establecer as medidas que sexan adecuadas para salvagardar os dereitos e liberdades e os intereses lexítimos das persoas interesadas99.

En segundo lugar, ao resolver os recursos contra as decisións automatizadas, para o que a Administración pública terá que definir o órgano que deberá ser considerado responsable para os efectos de impugnación100. En relación con este elemento, máis alá dos mecanismos de control administrativo e xudicial que xa recoñece o ordenamento xurídico, sería oportuno promover a creación de órganos administrativos específicos para o control do uso dos robots software e, en xeral, de intelixencia artificial nas administracións públicas.

A LRXSP dispón que a decisión automatizada debe imputarse ao órgano ou organismo determinado por cada Administración pública101. Para iso, debe determinar que sistema de sinatura electrónica utilizará no exercicio da competencia na actuación administrativa automatizada (o selo electrónico de Administración pública, órgano, organismo público ou entidade de dereito público, baseado en certificado electrónico recoñecido ou cualificado ou o código seguro de verificación)102.

Non obstante, na actualidade iso non se fai ou, se se fai, non coa publicidade e a transparencia necesarias para garantir as finalidades que deberían derivar destes trámites que perseguen asegurar a trazabilidade do uso dos robots software na automatización, así como a comunicación á cidadanía de que estes robots son utilizados en determinadas actuacións. Ademais, malia ser habitual que os robots software empreguen un identificador que permite monitorizar a súa actuación, iso non determina que se faga usando os mecanismos previstos na Lei 39/2015, do 1 de outubro.

Máis alá destas limitacións prácticas, a non intervención dunha persoa ao automatizar a actuación administrativa xerou un amplo debate académico, en particular en relación con que potestades poden ser exercidas de xeito automatizado polas administracións públicas e tamén se pode automatizarse o exercicio de potestades discrecionais.

A primeira cuestión que debemos ter presente ao respecto é que na actualidade os robots software dificilmente substituirán as persoas no exercicio de potestades discrecionais. En efecto, como tivemos oportunidade de pór de manifesto anteriormente, polo xeral estes robots son utilizados para desenvolver tarefas seguindo regras claras que non admiten excepcións. O habitual será, pois, que sexan usados para automatizar a realización de trámites regulados.

A segunda cuestión é que, aínda no caso de que un robot software empregado por unha Administración pública incorpore algoritmos de aprendizaxe automática, será utilizada en contornos pouco complexos, xa que, hoxe por hoxe, a intelixencia artificial só demostrou resultados óptimos en contornos de certa incerteza cando a complexidade é baixa103. Malia ser habitual que desenvolva de xeito satisfactorio procesos analíticos ou de razoamento, aínda non é capaz de levar a cabo axeitadamente e de modo xeneralizado procesos racionais como realizar xuízos ou ponderacións complexos104. Polo tanto, os robots software dotados con intelixencia artificial poderían ser usados para desenvolver tarefas cun baixo nivel de discrecionalidade ou cando o exercicio da potestade discrecional supón o uso de criterios técnicos e non políticos105.

En cambio, non parece que o estadio de desenvolvemento actual dos robots software e, en xeral, da intelixencia artificial permita considerar que estes poidan ser utilizados en situacións con maior complexidade ou incerteza, así como en xuízos ou ponderacións máis complicados ou que exixan o uso de criterios non estritamente técnicos, é dicir, cun maior nivel de discrecionalidade. Nestes ámbitos, os robots software poden ser útiles para automatizar algunhas tarefas preparatorias da toma de decisión; por exemplo, a análise de grandes cantidades de datos ou de datos distribuídos en numerosas bases de datos, de maneira que poida pór á disposición dos decisores os elementos necesarios para que estas sexan da máxima calidade posible.

En calquera caso, tal como tivemos oportunidade de analizar noutra ocasión, a decisión sobre se se poden utilizar robots software no exercicio de potestades discrecionais non pode ser nin absoluta nin xeral e debe estar presidida polo principio de precaución e responder a un coñecemento do estado de desenvolvemento técnico da intelixencia artificial e a unha análise dos riscos que o uso dos robots software poida comportar respecto a outros principios e bens106.

Pero, máis alá do que efectivamente poida chegar a permitir o desenvolvemento tecnolóxico, debe valorarse se un robot software pode efectivamente exercer potestades discrecionais ou se se debe establecer “unha reserva para a toma de certas decisións a humanos, o que denominaremos aquí unha reserva de humanidade”, entre outros motivos polas necesidades de garantir a empatía na toma de decisións públicas, habilidade inherente ás persoas107.

En relación con esta cuestión, máis alá de traer a colación o feito de que a pesar de que de xeito aínda moi rudimentario xa se deseñaron algoritmos que son capaces de analizar emocións, debemos recordar a necesidade de garantir a supervisión humana do uso da intelixencia artificial polos robots software. Esta supervisión non debe reservarse en exclusiva á toma da decisión en sentido estrito, senón que tamén pode producirse ex ante ao analizar os riscos inherentes ao uso dun robot software na fase de resolución dun procedemento administrativo ou prever mecanismos de certificación ou auditoría ou ex post ao articular mecanismos ad hoc para o control das decisións adoptadas de xeito automatizado.

4.2 A protección de datos persoais como límite á automatización

A medida que os robots software e, en particular, os robots conversacionais adquiren unha maior habilidade para interactuar coas persoas, increméntase significativamente a posibilidade de intercambiar datos persoais e que estes sexan tratados sen que as persoas afectadas teñan coñecemento diso108, ou a posibilidade de inferir novos datos persoais a partir dos datos intercambiados109. Ademais, tamén se incrementan os riscos de que os ditos datos sexan coñecidos por terceiras persoas sen que teñan lexitimidade para iso110.

Desde un punto de vista xeral, iso supón o sometemento dos tratamentos de datos persoais que realicen de xeito automatizado os robots software aos principios previstos no Regulamento xeral de protección de datos. Ademais, será necesario que a Administración pública dispoña dunha base xurídica lexitimadora adecuada para que os robots software poidan tratar os datos.

Así mesmo, a Administración pública, como responsable do tratamento realizado polo robot software, deberá informar as persoas afectadas acerca da existencia de decisións automatizas que inclúa información significativa sobre a lóxica aplicada, así como a importancia e as consecuencias previstas do dito tratamento para o interesado111. En xeral, as administracións públicas non informan especificamente sobre estes extremos fóra do que poidan recoller os avisos legais ou condicións de uso dos portais de Internet ou sedes electrónicas a través dos que se poida acceder ao robot software112.

Máis alá desta información, os interesados poderán exercer o seu dereito de acceso para poder coñecer se se están a tratar ou non datos persoais que lles concirnen e obter información significativa sobre a lóxica aplicada na toma de decisións automatizada, así como a importancia e as consecuencias previstas do dito tratamento para a persoa interesada113.

Ademais, cando o tratamento de datos persoais que leve a cabo o robot software poida supor un alto risco para os dereitos e as liberdades das persoas físicas, por exemplo porque permita realizar unha elaboración de perfís, o responsable do tratamento debe avaliar o impacto na protección dos datos persoais dese tratamento. Deste xeito, poderá coñecer a necesidade e proporcionalidade do tratamento, a gravidade e a probabilidade de risco para os datos persoais e, se é o caso, identificar as medidas, as garantías e os mecanismos que se deban adoptar para mitigar o risco, garantir a protección dos datos persoais e demostrar a conformidade co RXPD114.

Desde un punto de vista particular, debemos recordar que o RXPD recoñece o dereito de todo interesado a non ser obxecto dunha decisión baseada unicamente no tratamento automatizado que produza efectos xurídicos nel ou lle afecte significativamente de modo similar115. Este dereito recoñeceuse como unha prohibición de que se adopten decisións automatizadas cando concorran os elementos a que nos referiremos a continuación e non exista unha habilitación para iso116.

En primeiro lugar, que a decisión se basee unicamente nun tratamento automatizado, é dicir, que non conte cunha intervención humana ou que, aínda que interveña unha persoa, non teña unha participación significativa117. Este podería ser o caso de decisións administrativas automatizadas adoptadas a través dun robot software.

En segundo lugar, que a decisión produza efectos xurídicos na persoa ou lle afecte significativamente de modo similar; por exemplo, que a decisión adoptada por un robot software afecte ao acceso dunha persoa aos servizos públicos ou lle denegue unha axuda á que teña dereito118.

Deste xeito, un robot software non poderá tratar datos persoais para tomar unha decisión automatizada que produza efectos xurídicos se non concorre algunha das excepcións que considera o propio RXPD. En particular, o robot software poderá tratar datos persoais se a decisión que se automatice é necesaria para a celebración ou a execución dun contrato entre o interesado e un responsable do tratamento; está autorizada polo dereito da Unión ou dos Estados membros que se lle aplique ao responsable do tratamento e que estableza así mesmo medidas axeitadas para salvagardar os dereitos e liberdades e os intereses lexítimos do interesado, ou se basea no consentimento explícito do interesado119.

No caso dos tratamentos realizados polas administracións públicas, polo xeral só será de aplicación o segundo suposto, é dicir, que estea previsto nunha norma con rango de lei120, xa que é pouco probable que, na maioría de casos, a persoa interesada poida manifestar de xeito completamente libre o seu consentimento ante o prexuízo de que a súa eventual negativa poida chegar a ter na actuación pública121. Non obstante, nalgúns casos, por exemplo cando a persoa utiliza un robot conversacional para obter información á que tamén poida acceder a través doutras canles, o tratamento podería chegar a basearse no dito consentimento.

O responsable do tratamento deberá adoptar as medidas adecuadas para protexer os dereitos e as liberdades e os intereses lexítimos do interesado122. Estas medidas deben incluír como mínimo as seguintes123: o dereito a obter intervención humana por parte do responsable, o dereito a expresar o seu punto de vista e o dereito a impugnar a decisión124.

5 Automatización e emprego público

A automatización da Administración pública a través de robots software ten un impacto evidente no emprego público. En efecto, na medida en que os robots software ao realizar as súas tarefas substitúan empregadas e empregados públicos é evidente que estas persoas deixarán de realizar estas tarefas125.

De feito, non podemos descoñecer que, nos últimos anos, algúns estudos concluíron que o 47 % dos traballos actuais están en alto risco de ser automatizados nos próximos 10 ou 20 anos126. Así mesmo, outros estudos indicaron que, en 2025, o tempo dedicado ás tarefas actuais por humanos e por máquinas será o mesmo. Este proceso non só se producirá en relación coas tarefas rutineiras, senón tamén respecto a outras de perfil auxiliar, administrativo e técnico127.

No entanto, estes mesmos estudos tamén apuntaron que esta situación non debe supor unha desaparición do emprego público, senón un cambio no modelo de emprego público128. En primeiro lugar, os empregados e empregadas públicos poderán centrarse en tarefas máis complexas ás que poidan engadir maior valor en vez de en tarefas rutineiras ou sinxelas que poden realizar perfectamente os robots software129. En segundo lugar, as empregadas e empregados públicos poderán realizar aquelas tarefas en que os robots poidan ter maiores dificultades ou ser incapaces de desenvolver (por exemplo, por requirir empatía, creatividade, intelixencia emocional e social ou capacidade de negociación)130. En terceiro lugar, os empregados e empregadas públicos poderán ocupar novos perfís profesionais que serán creados, precisamente, para dar resposta á extensión dos robots software e, en xeral, á intelixencia artificial nas administracións públicas (desde enxeñeiros e informáticos que os deseñen ou implementen ata xuristas ou filósofos que se preocupen de dar resposta aos retos xurídicos ou éticos que a extensión dos robots software poida entrañar)131.

A dúbida que se presenta é ata que punto os robots software poden chegar a substituír os funcionarios e funcionarias en calquera tarefa132. Ao respecto, máis alá das limitacións tecnolóxicas que fomos pondo de manifesto ao longo do traballo, é evidente que a lexislación vixente reserva a funcionarios algunhas funcións, o que, a noso entender, supón un claro límite á substitución do funcionariado polos robots software133.

6 A incorporación dos robots á Administración pública

Os robots software que utilizan as administracións públicas poden ser deseñados polos servizos informáticos ou técnicos das propias entidades públicas.

Non obstante, polo momento, non é habitual que sexan as propias administracións públicas as que programen o código ou deseñen os robots software e, na actualidade, a maioría dos robots que utilizan están xeralmente programados e son implementados por empresas externas que licencian o seu uso á Administración pública. Estes robots poden incorporarse á Administración pública que se encarga de administralos ou simplemente poden ser usados sendo a empresa externa quen se encarga da súa administración (Robot as a Service, RaaS)134.

Deste xeito, pódense reducir os custos, así como fomentar a innovación no desenvolvemento destas aplicacións135. Emporiso, tamén se pode xerar unha dependencia tecnolóxica das administracións públicas particularmente nun ámbito, o dos robots conversacionais e a intelixencia artificial, dominado por poucas empresas136. Así mesmo, debe terse presente que o desenvolvemento de determinadas tarefas por robots software pode chegar a supor o exercicio privado de funcións públicas de autoridade137. En última instancia, pode entrañar problemas respecto ao cumprimento dos principios reitores da actividade pública; por exemplo, tal como advertimos respecto á transparencia pública.

Deste modo, os pregos de cláusulas técnicas deben poder concretar axeitadamente non só os requisitos que deban cumprir os robots software para automatizar de xeito eficaz, eficiente ou económico as actuacións administrativas, senón tamén os elementos suficientes para velar por que estes cumpran cos valores e principios propios das administracións públicas138. Tamén determinar o alcance dos dereitos de propiedade intelectual da contratista respecto ao robot software que desenvolvese para a Administración pública ou que poña a disposición desta para o seu uso139.

Nesta dirección, sería adecuado fomentar un marco institucional que poida impulsar e facilitar a incorporación dos robots software nas administracións públicas de acordo con estes parámetros, como indicamos anteriormente140.

Xunto a esta posibilidade, algunhas administracións públicas están a incorporar os robots software a través da reutilización de aplicacións desenvolvidas por outras entidades públicas de acordo co principio de cooperación141. Para iso, de acordo co que dispón a LRXSP, as administracións públicas porán á disposición doutras entidades públicas, a través de directorios actualizados, os robots software desenvolvidos polos seus servizos técnicos ou que fosen adquiridos do mercado sempre e cando sexan titulares dos seus dereitos de propiedade. Ademais, para facilitar a reutilización das devanditas aplicacións, poden declaralas como de fontes abertas142.

7 Reflexións finais

Ao longo destas páxinas tivemos a oportunidade de mostrar numerosos exemplos tanto das tarefas que poden desenvolver os robots software como de distintas experiencias de uso para a automatización da actividade e o funcionamento das administracións públicas. Á vista de todo iso, é evidente que a automatización das administracións públicas a través dos robots software pode xerar numerosos beneficios en termos de eficacia, eficiencia e economía, pero tamén de servizo efectivo á cidadanía, máis transparente, personalizado e proactivo. Estes beneficios poden verse incrementados a medida que os robots software se vaian desenvolvendo, o que permitirá que os robots presten máis servizos e que as tarefas que se automaticen sexan máis complexas ou completas143.

Porén, a pesar dos beneficios que pode entrañar a automatización das administracións públicas a través do uso de robots software e da innovación que pode comportar, non podemos deixarnos impresionar por esta tecnoloxía nin caer no nesgo da automatización confiando máis no resultado obtido automaticamente por un robot software que na actividade que poidan desenvolver as empregadas e empregados públicos144.

Malia que os robots software van incrementando as súas prestacións e os avances que están a experimentar co uso da intelixencia artificial están a reportar melloras significativas na calidade e complexidade das tarefas que desenvolven ou os servizos que prestan, non podemos descoñecer que aínda en moitas ocasións os robots conversacionais son incapaces de entender correctamente o que se lles pregunta, de manter unha conversa cunha persoa ou de mostrar empatía con ela145.

Ademais, a pesar de que moitas persoas poden quedar admiradas por ser atendidas por asistentes virtuais146, outras tantas poden non querer ou non saber interactuar con robots en vez de con persoas147. De feito, hoxe en día a experiencia das persoas usuarias aínda non é moi positiva, polo que a maioría delas aínda prefiren utilizar as canles habituais de relación (tanto presenciais como mesmo a distancia, pero coa participación de empregados públicos; por exemplo, mediante o correo electrónico)148. Por iso, cómpre que, de xeito paralelo á extensión do uso dos robots software entre as administracións públicas, estas garantan o acceso da cidadanía a través doutras canles, non necesariamente electrónicas, de maneira que poida exercerse efectivamente o dereito a elixir en todo momento se se comunican coas administracións públicas a través de medios electrónicos ou non.

En calquera caso, a incorporación dos robots software ou a automatización de determinadas tarefas non debe ser froito dunha moda pasaxeira ou do influxo das tendencias innovadoras experimentadas ou promovidas por grandes empresas tecnolóxicas e debe ser o resultado dunha análise con carácter previo dos seus usos nas administracións públicas á vista dos riscos que poidan entrañar ou do impacto que poida ter nos principios que deben rexer o desenvolvemento da Administración dixital. Ademais, este proceso non debe desenvolverse de xeito illado, senón que debe ser un elemento máis da transformación dixital que están a experimentar as administracións públicas.

Bibliografía

ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, Machine Learning with Applications, n. 2, 2020.

ALBERTH, M. e MATTERN, M., “Understanding robotic process automation (RPA)”, Journal of Financial Transformation, n. 46, 2017.

ALMANSOR, E.H. e HUSSAIN, F.K., Survey on Intelligent Chatbots: State-of-the-Art and Future Research Directions, Springer International Publishing, Cham, 2020.

ANDERSEN, K.N., LEE, J. e HENRIKSEN, H.Z., “Digital Sclerosis? Wind of Change for Government and the Employees”, ACM Journal on Digital Government Research and Practice, n. 1, 2020.

ANDROUTSOPOULOU, A., KARACAPILIDIS, N., LOUKIS, E. e CHARALABIDIS, Y., “Transforming the communication between citizens and government through AI-guided chatbots”, Government Information Quarterly, n. 36, 2019.

ARTIFICIAL SOLUTIONS, Chatbots: La Guía Definitiva, 2020.

BARCEVIČIUS, E., CIBAITĖ, G., CODAGNONE, C., GINEIKYTĖ, V., KLIMAVIČIŪTĖ, L., LIVA, G., MATULEVIČ, L., MISURACA, G. e VANINI, I., Exploring Digital Government transformation in the EU, Publications Office of the European Union, Luxembourg, 2019.

BELEN SAĞLAM, R. e NURSE, J.R.C., “Is your chatbot GDPR compliant? Open issues in agent design”, 2nd Conference on Conversational User Interfaces, Association for Computing Machinery, Bilbao, 2020.

BOIX PALOP, A., “La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, Revista de Derecho Público: Teoría y Método, n. 1, 2020.

BOLTON, T., DARGAHI, T., BELGUITH, S., AL-RAKHAMI, M.S. e SODHRO, A.H., “On the security and privacy challenges of virtual assistants”, Sensors, n. 21, 2021.

BONALES DAIMIEL, G. e MARTÍNEZ, E., “Using Virtual Assistants and Chatbots for Crisis Communication”, aDResearch: Revista Internacional de Investigación en Comunicación, n. 25, 2021.

BORENSTEIN, J. e ARKIN, R., “Robotic nudges: the ethics of engineering a more socially just human being”, Science and engineering ethics, n. 22, 2016.

BRYAN, J., Trends in Gartner Hype Cycle for Customer Service and Customer Engagement, Gartner, 2018.

BULLOCK, J.B., “Artificial intelligence, discretion, and bureaucracy”, The American Review of Public Administration, n. 49, 2019.

BUOLAMWINI, J. e GEBRU, T., “Gender shades: Intersectional accuracy disparities in commercial gender classification”, Proceedings of Machine Learning Research, n. 81 (Conference on fairness, accountability and transparency), 2018.

CANALS I AMETLLER, D., “El ejercicio de potestades administrativas por operadores privados en régimen de mercado”, Gamero Casado, E. (ed.), La potestad administrativa: concepto y alcance práctico de un criterio clave para la aplicación del Derecho administrativo, Tirant lo Blanch, Valencia, 2021.

CASAS, J., TRICOT, M.-O., ABOU KHALED, O., MUGELLINI, E. e CUDRÉ-MAUROUX, P., “Trends & Methods in Chatbot Evaluation”, Companion Publication of the 2020 International Conference on Multimodal Interaction, Virtual Event Netherlands, 2020.

CERRILLO I MARTÍNEZ, A., “El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?”, Revista General de Derecho Administrativo, n. 50, 2019.

CERRILLO I MARTÍNEZ, A., “Las características del consentimiento del interesado y su incidencia en el tratamiento de datos en las administraciones públicas”, El Consultor de los Ayuntamientos, n. III, 2019.

CERRILLO I MARTÍNEZ, A., “Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes”, Revista Catalana de Dret Públic, n. 56, 2019.

CERRILLO I MARTÍNEZ, A., “¿Son fiables las decisiones de las Administraciones públicas adoptadas por algoritmos?”, European review of digital administration & law, n. 1, 2020.

CERRILLO I MARTÍNEZ, A., “La transparencia de los algoritmos que utilizan las administraciones públicas”, Anuario de Transparencia Local 2020, Fundación Democracia y Gobierno Local, Madrid, 2021.

CERRILLO I MARTÍNEZ, A., “La inteligencia artificial y el control de sus posibles sesgos”, Villoria Mendieta, M. (ed.), Ética pública en el siglo XXI, Instituto Nacional de Administración Pública, Madrid, 2021 (en prensa).

CHUNG, H., IORGA, M., VOAS, J. e LEE, S., “Alexa, Can I Trust You?”, Computer, n. 50, 2017.

COMISIÓN EUROPEA, Libro Blanco sobre la inteligencia artificial - un enfoque europeo orientado a la excelencia y la confianza COM(2020) 65 final, 2020.

DE CICCO, R., DA COSTA E SILVA, S.C.L. e PALUMBO, R., Should a Chatbot Disclose Itself? Implications for an Online Conversational Retailer, Springer International Publishing, Cham, 2021.

ERNST & YOUNG LLP, Inteligencia Artificial en el Sector Público. Cómo se benefician 213 organizaciones públicas de la IA. Perspectivas europeas para 2020 y años siguientes, Microsoft, Madrid, 2020.

FØLSTAD, A., NORDHEIM, C.B. e BJØRKLI, C.A., “What makes users trust a chatbot for customer service? An exploratory interview study”, Internet Science. 5th International Conference. INSCI 2018, Springer, Cham, 2018.

FREY, C.B. e OSBORNE, M.A., “The future of employment: how susceptible are jobs to computerisation?”, Technological forecasting and social change, n. 114, 2017.

GAMERO CASADO, E., “Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas”, Diario La Ley, n. 50, 2021.

GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, Anaya, Madrid, 2021.

GORRITI BONTIGUI, M., “Evolución de los puestos y nuevos perfiles profesionales en la Administración pública del siglo XXI”, Ramió Matas, C. (ed.), Administración digital e innovación pública. Repensando la Administración Pública, Instituto Nacional de Administración Pública, Madrid, 2021.

GRUDIN, J. e JACQUES, R., “Chatbots, Humbots, and the Quest for Artificial General Intelligence”, 2019 CHI Conference on Human Factors in Computing Systems, Association for Computing Machinery, Glasgow, Scotland Uk, 2019.

GRUPO DE TRABALLO DO ARTIGO 29, Directrices sobre decisións individuais automatizadas e elaboración de perfís para os efectos do Regulamento 2016/679, 2018.

HOFMANN, P., SAMP, C. e URBACH, N., “Robotic process automation”, Electronic Markets, n. 30, 2020.

HUERGO LORA, A., “Una aproximación a los algoritmos desde el derecho administrativo”, Huergo Lora, A. (ed.), La regulación de los algoritmos, Aranzadi-Thomson-Reuters, Cizur Menor, 2020.

IEEE STANDARDS ASSOCIATION, IEEE Guide for Terms and Concepts in Intelligent Process Automation. IEEE Std 2755-2017 (IEEE Std 2755-2017), 2017.

INDEPENDENT HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE, Ethics Guidelines for Trustworthy Artificial Intelligence, European Commission, Brussels, 2019.

ISCHEN, C., ARAUJO, T., VOORVELD, H., VAN NOORT, G. e SMIT, E., “Privacy concerns in chatbot interactions”, International Workshop on Chatbot Research and Design, Springer, Cham, 2019.

LINDGREN, I., “Exploring the Use of Robotic Process Automation in Local Government”, EGOV-CeDEM-ePart 2020, Linköping University, Sweden, 2020.

LINDGREN, I., MADSEN, C.Ø., HOFMANN, S. e MELIN, U., “Close encounters of the digital kind: A research agenda for the digitalization of public services”, Government Information Quarterly, n. 36, 2019.

LOMMATZSCH, A., “A next generation chatbot-framework for the public administration”, International Conference on Innovations for Community Services, Springer, Žilina, Slovakia, 2018.

MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “Chatbot-mediated public service delivery: a public service value-based framework”, First Monday, n. 25(12), 2020.

MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “A Typology of Chatbots in Public Service Delivery”, IEEE Software, abril 2021.

MARTÍN DELGADO, I., “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, Revista de Administración Pública, n. 180, 2009.

MESSÍA DE LA CERDA BALLESTEROS, J.A., “Robots inteligentes y personalidad”, Revista Aranzadi de derecho y nuevas tecnologías, n. 53, 2020.

MIRANZO DÍAZ, J., “Inteligencia artificial y contratación pública”, Martín Delgado, I. e Moreno Molina, J.A. (eds.), Administración electrónica, transparencia y contratación pública, Iustel, Madrid, 2020.

MISURACA, G. e VAN NOORDT, C., Overview of the use and impact of AI in public services in the EU, Publications Office of the European Union, Luxembourg, 2020.

NG, K.K.H., CHEN, C.-H., LEE, C.K.M., JIAO, J. e YANG, Z.-X., “A systematic literature review on intelligent automation: Aligning concepts from theory, practice, and future perspectives”, Advanced Engineering Informatics, n. 47, 2021.

NOTO LA DIEGA, G., “Against the Dehumanisation of Decision-Making – Algorithmic Decisions at the Crossroads of Intellectual Property, Data Protection, and Freedom of Information”, Journal of Intellectual Property, Information Technology and E-Commerce Law, n. 9, 2018.

OBSERVATORY OF PUBLIC SECTOR INNOVATION (OPSI) e UNITED ARAB EMIRATES (UAE) MOHAMMED BIN RASHID CENTRE FOR GOVERNMENT INNOVATION (MBRCGI), Seamless Government, Embracing Innovation in Government. Global Trends, 2020.

OFFICE FOR ARTIFICIAL INTELLIGENCE, Guidelines for AI Procurement, 2020.

PARADA VÁZQUEZ, R., Régimen Jurídico de las Administraciones Públicas y Procedimiento Administrativo Común (Estudio, comentarios y texto de la Ley 30/1992, de 26 de noviembre), Marcial Pons, Madrid, 1999.

PASQUALE, F., The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge (MA), 2015.

PASTOR BERMÚDEZ, A., “Innovando con servicios digitales en la administración pública”, Ramió Matas, C. (ed.), Administración digital e innovación pública. Repensando la Administración Pública, Instituto Nacional de Administración Pública, Madrid, 2021.

PETRIV, Y., ERLENHEIM, R., TSAP, V., PAPPEL, I. e DRAHEIM, D., “Designing Effective Chatbot Solutions for the Public Sector: A Case Study from Ukraine”, Chugunov, A., Khodachek, I., Misnikov, Y. e Trutnev, D. (eds.), Electronic Governance and Open Society: Challenges in Eurasia: 7th International Conference, EGOSE 2020, Springer International Publishing, Cham, 2020.

PIETERSON, W., EBBERS, W. e MADSEN, C.Ø., “New channels, new possibilities: A typology and classification of social robots and their role in multi-channel public service delivery”, International Conference on Electronic Government, EGOV 2017, Springer, Cham, 2017.

PISE, R., “Chatbot market size is set to exceed USD 1.34 billion by 2024”, ClickZ, 6 de xullo, 2018.

PONCE SOLÉ, J., “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, n. 50, 2019.

RAMIÓ MATAS, C., “El impacto de la inteligencia artificial y de la robótica en el empleo público”, GIGAPP Estudios Working Papers, n. 98, 2018.

RAMIÓ MATAS, C., “Inteligencia artificial y robotización reclaman un nuevo modelo de gestión del empleo público”, Consultor de los ayuntamientos y de los juzgados: Revista técnica especializada en administración local y justicia municipal, n. 5, 2019.

RANCHORDÁS, S. e KLOP, A., “Data-Driven Regulation and Governance in Smart Cities”, Berlee, A., Mak, V. e Tjong Tjin Ta, E. (eds.), Research Handbook on Data Science and Law, Edward Elgar, Cheltenham, 2018.

ROIG BATALLA, A., Las garantías frente a las decisiones automatizadas. Del Reglamento General de Protección de Datos a la gobernanza algorítmica, JM Bosch, Barcelona, 2020.

SYED, R., SURIADI, S., ADAMS, M., BANDARA, W., LEEMANS, S. J.J., OUYANG, C., TER HOFSTEDE, A.H.M., VAN DE WEERD, I., WYNN, M.T. e REIJERS, H.A., “Robotic Process Automation: Contemporary themes and challenges”, Computers in Industry, n. 115, 2020.

TODOLÍ SIGNES, A., “Retos legales del uso del big data en la selección de sujetos a investigar por la Inspección de Trabajo y de la Seguridad Social”, Revista galega de administración pública, n. 59, 2020.

VALCÁRCEL FERNÁNDEZ, P., “La innovación como objeto prestacional en los contratos del sector público. La Compra Pública de Innovación”, Contratación administrativa práctica: revista de la contratación administrativa y de los contratistas, n. 153, 2018.

VALERO TORRIJOS, J., “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, Revista Catalana de Dret Públic, n. 58, 2019.

VAN NOORDT, C. e MISURACA, G., “New wine in old bottles: Chatbots in government”, International Conference on Electronic Participation, Springer, Cham, 2019.

VEALE, M. e EDWARDS, L., “Clarity, surprises, and further questions in the Article 29 Working Party draft guidance on automated decision-making and profiling”, Computer Law & Security Review, n. 34, 2018.

VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, Asatiani, A. et al. (ed.), Business Process Management: Blockchain and Robotic Process Automation Forum. BPM 2020. Lecture Notes in Business Information Processing, Springer, Cham, 2020.

WAJCMAN, J., “Automation: is it really different this time?”, The British journal of sociology, n. 68, 2017.

WHITTAKER, M., ALPER, M., BENNETT, C.L., HENDREN, S., KAZIUNAS, L., MILLS, M., MORRIS, M.R., RANKIN, J., ROGERS, E. & SALAS, M., Disability, Bias, and AI, AI Now Institute, New York, 2019.

WORLD ECONOMIC FORUM, The Future of Jobs Report 2020, World Economic Forum, Cologny/Geneva, 2020.

WRIGHT, J., “The Alexafication of Adult Social Care: Virtual Assistants and the Changing Role of Local Government in England”, International Journal of Environmental Research and Public Health, n. 18, 2021.

YEUNG, K., “Why worry about decision-making by machine?”, Yeung, K. e Lodge, J. (eds.), Algorithmic Regulation, Oxford University Press, Oxford, 2019.

1 “El pueblo gallego donde los robots son burócratas”, El País, 2 de novembro de 2020. Acceso web: https://elpais.com/tecnologia/2020-11-01/el-pueblo-gallego-donde-los-robots-son-burocratas.html (maio de 2021).

2 “Victoria la Malagueña: la asistente de voz virtual enamorada de su ciudad”, La Vanguardia, 16 de febreiro, 2020. Acceso web: https://www.lavanguardia.com/ocio/viajes/20200216/473600007571/victoria-la-malaguena-la-asistente-de-voz-virtual-enamorada-de-su-ciudad.html (maio de 2021).

3 GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, Anaya, Madrid, 2021.

4 ALBERTH, M. e MATTERN, M., “Understanding robotic process automation (RPA)”, Journal of Financial Transformation, n. 46, 2017, p. 55.

5 No sector privado, os robots software estanse a estender rapidamente. De feito, algúns autores falan do “tsunami dos chatbots” (GRUDIN, J. e JACQUES, R., “Chatbots, Humbots, and the Quest for Artificial General Intelligence”, 2019 CHI Conference on Human Factors in Computing Systems, Association for Computing Machinery, Glasgow, Scotland Uk, 2019, p. 4).

Segundo Gartner, en 2021, o 15 % das interaccións dos consumidores xestionaranse completamente con chatbots (BRYAN, J., Trends in Gartner Hype Cycle for Customer Service and Customer Engagement, Gartner, 2018). Iso comportará un incremento do mercado dos chabots que pasará dos 250 millóns de dólares en 2017 aos 1,34 billóns de dólares en 2024 (PISE, R., “Chatbot market size is set to exceed USD 1.34 billion by 2024”, ClickZ, 6 de xullo, 2018). De feito, é de esperar que, coa crecente extensión de asistentes virtuais da man das grandes empresas tecnolóxicas, tamén se vaian estendendo os robots conversacionais entre as administracións públicas (LOMMATZSCH, A., “A next generation chatbot-framework for the public administration”, International Conference on Innovations for Community Services, Springer, Žilina, Slovakia, 2018, p. 127).

De Cicco sintetiza as razóns do éxito dos robots conversacionais no feito de que “axudan aos consumidores a atopar solucións en calquera lugar, en calquera momento e con calquera dispositivo” (DE CICCO, R., DA COSTA E SILVA, S.C.L. e PALUMBO, R., Should a Chatbot Disclose Itself? Implications for an Online Conversational Retailer, Springer International Publishing, Cham, 2021, p. 4).

6 GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, cit.

7 LINDGREN, I., “Exploring the Use of Robotic Process Automation in Local Government”, EGOV-CeDEM-ePart 2020, Linköping University, Sweden, 2020, p. 249. Unha definición máis técnica da automatización robótica de procesos atopámola en IEEE STANDARDS ASSOCIATION, IEEE Guide for Terms and Concepts in Intelligent Process Automation. IEEE Std 2755-2017 (IEEE Std 2755-2017), 2017.

8 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, Asatiani, A. et al. (ed.), Business Process Management: Blockchain and Robotic Process Automation Forum. BPM 2020. Lecture Notes in Business Information Processing, Springer, Cham, 2020, p. 102.

9 HOFMANN, P., SAMP, C. e URBACH, N., “Robotic process automation”, Electronic Markets, n. 30, 2020, p. 100; SYED, R., SURIADI, S., ADAMS, M., BANDARA, W., LEEMANS, S. J.J., OUYANG, C., TER HOFSTEDE, A.H.M., VAN DE WEERD, I., WYNN, M.T. e REIJERS, H.A., “Robotic Process Automation: Contemporary themes and challenges”, Computers in Industry, n. 115, 2020.

10 Como advierte Gavilán, “non encontramos apenas intelixencia artificial na lóxica, no verdadeiro pensamento do robot” (GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, cit.).

11 Como recordan HOFMANN et al., “os robots software automatizan procesos orixinalmente levados a cabo con traballo humano” (HOFMANN, P., SAMP, C. e URBACH, N., “Robotic process automation”, cit., p. 99). Na mesma dirección, ANDERSEN, K.N., LEE, J. e HENRIKSEN, H.Z., “Digital Sclerosis? Wind of Change for Government and the Employees”, ACM Journal on Digital Government Research and Practice, n. 1, 2020, p. 6.

12 SYED, R., SURIADI, S., ADAMS, M., BANDARA, W., LEEMANS, S. J.J., OUYANG, C., TER HOFSTEDE, A.H.M., VAN DE WEERD, I., WYNN, M.T. e REIJERS, H.A., “Robotic Process Automation: Contemporary themes and challenges”, cit., p. 3.

13 Os chatbots teñen xa unha longa historia que se iniciou co deseño en 1966 de ELIZA, un chatbot que simulaba un psicoterapeuta. Pero, mesmo con anterioridade a esa data, a interacción entre humanos e ordenadores xa fora obxecto de atención, entre outros, por Turing, quen en 1950 creou un test para discernir se unha máquina tiña ou non un comportamento intelixente. Non obstante, non foi ata 1991 cando por primeira vez se utilizou o termo chatbot. Na década actual, os chatbots experimentaron un desenvolvemento significativo especialmente da man dos asistentes virtuais incorporados en distintos dispositivos deseñados por grandes empresas tecnolóxicas (por exemplo, Siri de Apple, Google Assistant, Cortana de Microsoft, Alexa de Amazon ou Watson de IBM). Véxase un breve repaso histórico en ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, Machine Learning with Applications, n. 2, 2020, pp. 2-3.

14 En calquera caso, debemos advertir que non existe unha distinción clara entre robots conversacionais e asistentes virtuais. De feito, propuxéronse numerosos criterios para clasificar os robots conversacionais; por exemplo, en función do seu contexto físico, a memoria de intercambio, a relación entre a conversación e a función realizada ou a profundidade, amplitude e duración da relación coas persoas. Véxase ao respecto CASAS, J., TRICOT, M.-O., ABOU KHALED, O., MUGELLINI, E. e CUDRÉ-MAUROUX, P., “Trends & Methods in Chatbot Evaluation”, Companion Publication of the 2020 International Conference on Multimodal Interaction, Virtual Event Netherlands, 2020, p. 281; e GRUDIN, J. e JACQUES, R., “Chatbots, Humbots, and the Quest for Artificial General Intelligence”, cit.

15 PETRIV, Y., ERLENHEIM, R., TSAP, V., PAPPEL, I. e DRAHEIM, D., “Designing Effective Chatbot Solutions for the Public Sector: A Case Study from Ukraine”, Chugunov, A., Khodachek, I., Misnikov, Y. e Trutnev, D. (eds.), Electronic Governance and Open Society: Challenges in Eurasia: 7th International Conference, EGOSE 2020, Springer International Publishing, Cham, 2020, p. 321.

16 Nesta dirección, os robots conversacionais poden ser un acicate (nudge). Respecto ás consideracións éticas dos robot nudges, véxase BORENSTEIN, J. e ARKIN, R., “Robotic nudges: the ethics of engineering a more socially just human being”, Science and engineering ethics, n. 22, 2016, pp. 31-46.

17 Seguimos neste punto a MAKASI, T., NILI, A., DESOUZA, K. e TATE, M., “Chatbot-mediated public service delivery: a public service value-based framework”, First Monday, n. 25(12), 2020.

18 BELEN SAĞLAM, R. e NURSE, J.R.C., “Is your chatbot GDPR compliant? Open issues in agent design”, 2nd Conference on Conversational User Interfaces, Association for Computing Machinery, Bilbao, 2020, p. 1.

19 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102.

20 VIEHHAUSER observa ao analizar distintos robots software que “a automatización robótica de procesos non é intelixente e non necesita capacidades intelixentes. É, por definición, un software para o procesamento de secuencias de clics baseado en regras con resultados previsibles e estables” (VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102).

21 NG, K.K.H., CHEN, C.-H., LEE, C.K.M., JIAO, J. e YANG, Z.-X., “A systematic literature review on intelligent automation: Aligning concepts from theory, practice, and future perspectives”, Advanced Engineering Informatics, n. 47, 2021, p. 8.

22 Autores como ADAMOPOULOU e MOUSSIADES definen o chatbot como un programa de intelixencia artificial (ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, cit., p. 1).

23 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102; HOFMANN, P., SAMP, C. e URBACH, N., “Robotic process automation”, cit., p. 99. De feito, o renovado interese polos robots conversacionais é debido en parte aos avances experimentados nos últimos anos pola intelixencia (FØLSTAD, A., NORDHEIM, C.B. e BJØRKLI, C.A., “What makes users trust a chatbot for customer service? An exploratory interview study”, Internet Science. 5th International Conference. INSCI 2018, Springer, Cham, 2018).

24 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102, observa que sete de cada dez casos de automatización robótica de procesos analizados utilizan a visión computadorizada para identificar, entender ou clasificar elementos dixitais en obxectos, constituíndo a intelixencia artificial o núcleo da automatización.

25 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102; VAN NOORDT, C. e MISURACA, G., “New wine in old bottles: Chatbots in government”, International Conference on Electronic Participation, Springer, Cham, 2019, p. 50.

26 HOFMANN, P., SAMP, C. e URBACH, N., “Robotic process automation”, cit., p. 99.

27 ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, cit., p. 1; ANDROUTSOPOULOU, A., KARACAPILIDIS, N., LOUKIS, E. e CHARALABIDIS, Y., “Transforming the communication between citizens and government through AI-guided chatbots”. Government Information Quarterly, n. 36, 2019, p. 358.

28 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102.

29 MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “A Typology of Chatbots in Public Service Delivery”, IEEE Software, abril 2021, p. 4.

30 ANDROUTSOPOULOU, A., KARACAPILIDIS, N., LOUKIS, E. e CHARALABIDIS, Y., “Transforming the communication between citizens and government through AI-guided chatbots”, cit. p. 360.

31 VIEHHAUSER, J., “Is Robotic Process Automation Becoming Intelligent? Early Evidence of Influences of Artificial Intelligence on Robotic Process Automation”, cit., p. 102.

32 ALBERTH, M. e MATTERN, M., “Understanding robotic process automation (RPA)”, cit.

33 En función do nivel de uso da intelixencia artificial polos robots software, atopámonos ante o proceso de automatización intelixente (IPA), o proceso de automatización intelixente aumentado (AIPA) ou os axentes autónomos (AA). Véxase ao respecto NG, K.K.H., CHEN, C.-H., LEE, C.K.M., JIAO, J. e YANG, Z.-X., “A systematic literature review on intelligent automation: Aligning concepts from theory, practice, and future perspectives”, cit.

34 Nestas páxinas non analizamos os robots cun soporte físico utilizados para a prestación de servizos públicos. Máis alá do uso tradicional destes robots para realizar tarefas perigosas ou custosas, nos últimos anos foise estendendo o uso de vehículos autónomos nalgúns concellos para prestar transporte público ou realizar tarefas de seguridade cidadá, así como, de xeito experimental, para dar apoio ou axuda a persoas que teñan determinadas necesidades (asistenciais, sanitarias, sociais) non só realizando tarefas físicas, senón tamén facilitando apoio psicolóxico aos seus usuarios. Como exemplo deste último uso, podemos traer colación a ARI, o robot de compaña para persoas maiores de Barcelona que permite recordarlles a medicación ou detectar situacións de urxencia. Véxase máis información en: https://ajuntament.barcelona.cat/personesgrans/es/noticia/el-robot-social-misty-ii-se-incorpora-a-la-vida-de-una-veintena-de-personas-mayores_907595 (maio de 2021).

35 Como observan PIETERSON, W., EBBERS, W. e MADSEN, C.Ø., “New channels, new possibilities: A typology and classification of social robots and their role in multi-channel public service delivery”, International Conference on Electronic Government, EGOV 2017, Springer, Cham, 2017, a incorporación dos robots sociais abre a porta a unha nova xeración de canles para a relación coas administracións públicas. De feito, a automatización robótica de procesos é unha das tendencias máis recentes da Administración dixital BARCEVIČIUS, E., CIBAITĖ, G., CODAGNONE, C., GINEIKYTĖ, V., KLIMAVIČIŪTĖ, L., LIVA, G., MATULEVIČ, L., MISURACA, G. e VANINI, I., Exploring Digital Government transformation in the EU, Publications Office of the European Union, Luxembourg, 2019, p. 24.

Máis alá das oficinas administrativas, algúns estudos sinalan que o 80 % das empresas estaban a estudar incorporar chatbots en 2020 (citado por ALMANSOR, E.H. e HUSSAIN, F.K., Survey on Intelligent Chatbots: State-of-the-Art and Future Research Directions, Springer International Publishing, Cham, 2020, p. 534). Así mesmo, Gartner prognosticaba en 2017 que unha persoa tería máis conversacións cun chatbot que coa súa parella. Acceso web: https://www.gartner.com/smarterwithgartner/gartner-predicts-a-virtual-world-of-exponential-change/ (maio de 2021).

Véxase unha análise exhaustiva de distintos robots conversacionais utilizados por administracións públicas a nivel comparado en MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “A Typology of Chatbots in Public Service Delivery”, cit.

36 PASTOR BERMÚDEZ, A., “Innovando con servicios digitales en la administración pública”, Ramió Matas, C. (ed.), Administración digital e innovación pública. Repensando la Administración Pública, Instituto Nacional de Administración Pública, Madrid, 2021. Segundo este autor, “Esta combinación de produtividade, precisión e baixo custo é unha tormenta perfecta que se dirixe cara ao mercado de traballo e afectará necesariamente ao sector público”.

37 ERNST & YOUNG LLP, Inteligencia artificial en el sector público. Cómo se benefician 213 organizaciones públicas de la IA. Perspectivas europeas para 2020 y años siguientes, Microsoft, Madrid, 2020, pp. 44-45. Segundo o estudo, os usos máis entendidos da intelixencia artificial son mellorar a experiencia do usuario (39 %), detección de fraudes (35 %) ou personalización do servizo (35 %).

En paralelo, cada vez son máis as persoas que afirman utilizar esta canle de comunicación. Segundo Statista, un terzo dos españois usa os asistentes virtuais de voz con frecuencia (un 4,2 % case constantemente, o 9,4 % varias veces ao día ou o 6,1 % cada día). Acceso web: https://es.statista.com/estadisticas/1018541/uso-de-asistentes-virtuales-de-voz-en-espana/ (maio de 2021).

38 Como puxo de manifesto a Red Derecho Administrativo e Inteligencia Artificial (DAIA) nas súas conclusións do I Seminario Internacional Derecho Administrativo e Inteligencia Artificial celebrado en Toledo, 1 de abril de 2019, “hai serios problemas para identificar e controlar as que están en marcha ou van ser implantadas nun futuro inmediato”. Por iso, propúxose que “[c]alquera intento de abordar a análise dos retos xurídicos que presenta a IA no sector público debería partir da elaboración dun catálogo exhaustivo das experiencias e iniciativas”.

39 O uso de robots conversacionais non só pode estar orientado á cidadanía, senón tamén aos empregados públicos. Esta é a finalidade, por exemplo, do chatbot PAIGE (Procurement Answers and Information Guided Experience) da cidade de San Francisco que facilita información aos empregados públicos sobre os procedementos de contratación pública ou do chatbot Mrs. Landingham utilizado para orientar novos empregados públicos na súa incorporación á Administración federal (acceso web: https://18f.gsa.gov/2015/12/15/how-bot-named-dolores-landingham-transformed-18fs-onboarding/).

40 BARCEVIČIUS, E., CIBAITĖ, G., CODAGNONE, C., GINEIKYTĖ, V., KLIMAVIČIŪTĖ, L., LIVA, G., MATULEVIČ, L., MISURACA, G. e VANINI, I., Exploring Digital Government transformation in the EU, cit., p. 24.

41 Acceso web: https://ajuntament.barcelona.cat/imi/es/proyectos/automatizacion-de-procesos-traves-de-la-robotica-rpa (maio de 2021).

42 Acceso web: https://www.cordoba.es/ (maio de 2021).

43 Acceso web: https://www.agenciatributaria.es/AEAT.internet/Inicio/RSS/Todas_las_Novedades/Le_interesa_conocer/Ampliacion_de_contenido_en_el_Asistente_Virtual_IVA.shtml (maio de 2021).

44 Acceso web: https://www.madrid.es/portales/munimadrid/es/Inicio/Actualidad/Noticias/El-Ayuntamiento-de-Madrid-pone-en-marcha-un-asistente-virtual-para-atender-dudas-tributarias/?vgnextfmt=default&vgnextoid=852c423b6c0a1710VgnVCM2000001f4a900aRCRD&vgnextchannel=a12149 (maio de 2021).

45 OBSERVATORY OF PUBLIC SECTOR INNOVATION (OPSI) e UNITED ARAB EMIRATES (UAE) MOHAMMED BIN RASHID CENTRE FOR GOVERNMENT INNOVATION (MBRCGI), Seamless Government, Embracing Innovation in Government. Global Trends, 2020, p. 16. En particular, algunhas administracións públicas xa están a utilizar experimentalmente asistentes virtuais para a prestación de servizos sociais. Véxase ao respecto WRIGHT, quen relata a experiencia dalgúns municipios británicos que utilizan asistentes virtuais como Alexa de Amazon ou Siri de Apple como alternativa ou substituto dos servizos e dispositivos de teleasistencia (WRIGHT, J., “The Alexafication of Adult Social Care: Virtual Assistants and the Changing Role of Local Government in England”, International Journal of Environmental Research and Public Health, n. 18, 2021, p. 812).

Nos Estados Unidos de América, algunhas administracións públicas utilizan Alexa para axudarlle á cidadanía con cuestións relacionadas co censo (Las Vegas), facilitar información aos visitantes (Mississippi). 7 State or Local Governments Using Amazon Alexa. Government technology (26 de setembro de 2017). Acceso web: https://www.govtech.com/civic/7-state-or-local-governments-using-amazon-alexa.html (maio de 2021).

46 Acceso web: https://www.madrid.es/portales/munimadrid/es/Inicio/Actualidad/Noticias/El-Ayuntamiento-presenta-el-Prototipo-Cibeles-un-proyecto-de-inteligencia-artificial-para-facilitar-el-acceso-a-la-informacion-urbanistica/?vgnextfmt=default&vgnextoid=d672d703f2d4771 (maio de 2021).

47 Ao respecto, podemos traer a colación o Informe do 30 de xaneiro de 2019 (A8-0019/2019) do Comité de Industria, Investigación e Enerxía do Parlamento Europeo sobre a política industrial europea en materia de intelixencia artificial e robótica, onde se subliñou que “son moitos os beneficios que se poden obter da intelixencia artificial e a robótica no sector público”, recoñecendo, en particular, “o uso da automatización robótica de procesos e o impacto que pode ter na mellora dos procesos no sector público”.

48 Así, o robot conversacional Carina, incorporado en distintos concellos alacantinos (por exemplo, Alacante ou Novelda) ou Maia do Servizo Vasco de Saúde.

BONALES DAIMIEL e MARTÍNEZ advirten que, xeralmente, estes robots conversacionais incorporan un baixo nivel de intelixencia artificial, dándose a circunstancia de que con frecuencia non chegan a entender as preguntas formuladas, o que leva consigo que as respostas sexan limitadas (BONALES DAIMIEL, G. e MARTÍNEZ, E., “Using Virtual Assistants and Chatbots for Crisis Communication”, aDResearch: Revista Internacional de Investigación en Comunicación, n. 25, 2021, p. 79).

49 Acceso web: https://administracionelectronica.gob.es/pae_Home/dam/jcr:ae43f87a-9cdb-4ed9-9d78-d665a5d8491a/20210127_Plan_Digitalizacion_AP_2021-2025.pdf (maio de 2021).

50 Acceso web: https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/230720-EspañaDigital_2025.pdf (maio de 2021).

51 Medida 5.

52 Medida 17.

53 Acceso web: https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/ENIA2B.pdf (maio de 2021).

54 Por todos, CERRILLO I MARTÍNEZ, A., “El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?”, Revista General de Derecho Administrativo, n. 50, 2019; GAMERO CASADO, E., “Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas”, Diario La Ley, n. 50, 2021.

55 Véxase, ao respecto, o artigo 3 da Lei 40/2015 e artigo 2 do Real decreto 203/2021.

56 Artigos 13 e 14 da Lei 39/2015, do 1 de outubro, do procedemento administrativo común das administracións públicas.

57 Non entramos neste punto a analizar o proceso de deseño da automatización robótica. Respecto ao proceso de automatización, véxase, ARTIFICIAL SOLUTIONS, Chatbots: La Guía Definitiva, 2020.

58 FØLSTAD, A., NORDHEIM, C.B. e BJØRKLI, C.A., “What makes users trust a chatbot for customer service? An exploratory interview study”, cit.

59 Nesta dirección, a Axencia Estatal de Administración Tributaria ofrece a posibilidade de xerar un documento en formato PDF que conteña unha copia exacta da información ofrecida polo asistente virtual. Non obstante, esa información unicamente ten o carácter de mera información dos criterios administrativos existentes para a aplicación da normativa tributaria e non dunha consulta tributaria de acordo co que dispón o artigo 87 da Lei 58/2003, do 17 de decembro, xeral tributaria, en contraposición ao previsto nos artigos 88 e 89 da dita lei. https://www2.agenciatributaria.gob.es/wlpl/AVAC-CALC/AsistenteIVA (maio de 2021).

60 Así, por exemplo, o Goberno de Finlandia creou unha rede de distintos robots software (Migri, utilizado no servizo de inmigración; Vero, usado na área de impostos; e Patentti-ja Rekisterihallitus, utilizado no rexistro de empresas). Grazas a esta iniciativa, os tres robots software poden intercambiar datos ou transferir usuarios en función do tema formulado. Véxase ao respecto MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “A Typology of Chatbots in Public Service Delivery”, cit.

61 VAN NOORDT, C. e MISURACA, G., “New wine in old bottles: Chatbots in government”, cit., p. 56.

62 Segundo o que dispón a Directiva (UE) 2016/2102 do Parlamento Europeo e do Consello, do 26 de outubro de 2016, sobre a accesibilidade dos sitios web e aplicacións para dispositivos móbiles dos organismos do sector público e o Real decreto 1112/2018, do 7 de setembro, sobre accesibilidade dos sitios web e aplicacións para dispositivos móbiles do sector público, as administracións públicas deben ofrecer un mecanismo de comunicación que permita presentar suxestións e queixas, así como informar sobre calquera posible incumprimento dos requisitos de accesibilidade ou que as administracións públicas difundan unha declaración de accesibilidade detallada, exhaustiva e clara sobre a conformidade co disposto na normativa vixente dos seus sitios web e aplicacións para dispositivos móbiles.

63 Como poñen de manifesto VAN NOORDT e MISURACA, “os chatbots facilitarán á xente superar o exceso de información: en vez de ter que encontrar a información por si mesmas, o chatbot axudaralles a atopar a información que necesitan” (VAN NOORDT, C. e MISURACA, G., “New wine in old bottles: Chatbots in government”, cit., p. 56).

64 Por todos, PASQUALE, F., The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge (MA), 2015.

65 CERRILLO I MARTÍNEZ, A., “Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes”, Revista Catalana de Dret Públic, n. 56, 2019; CERRILLO I MARTÍNEZ, A., “La transparencia de los algoritmos que utilizan las administraciones públicas”, Anuario de Transparencia Local 2020, Fundación Democracia y Gobierno Local, Madrid, 2021.

66 GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, cit.

67 Así mesmo, debe terse presente, naqueles casos en que o robot poida tratar datos persoais, que os artigos 13 e 14 RXPD prevén que o responsable do tratamento debe facilitar ao interesado información sobre a existencia de decisións automatizas que inclúa información significativa sobre a lóxica aplicada, así como a importancia e as consecuencias previstas do dito tratamento para o interesado. Ademais, o artigo 15 RXPD recoñece o dereito de acceso para poder coñecer información significativa sobre a lóxica aplicada na toma de decisións automatizada, así como a importancia e as consecuencias previstas dese tratamento para o interesado.

68 Véxanse, ao respecto, as consideracións realizadas en CERRILLO I MARTÍNEZ, A., “La transparencia de los algoritmos que utilizan las administraciones públicas”, cit.

69 Artigo 11.1.i) do Real decreto 203/2021.

70 Artigo 35 da Lei 39/2015, do 1 de outubro. De todos os xeitos, debe terse en conta, como observa GAMERO, que “non fai falta... O problema reside entón en determinar como deben motivarse estes actos, non en discutir se deben motivarse ou non” (GAMERO CASADO, E., “Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas”, cit.).

71 Apartado XVI. Cabe pór de manifesto que, no momento de redactar estas páxinas, a Carta de Dereitos Dixitais promovida pola Secretaría de Estado de Dixitalización e Intelixencia Artificial do Ministerio de Asuntos Económicos e Transformación Dixital se atopa en fase de aprobación.

72 GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, cit.

73 De todos os modos, algúns estudos mostraron que as persoas non están particularmente preocupadas por se están a interactuar con outra persoa ou cun robot, aínda que polo xeral se considera maioritariamente que o elemento humano é importante: OBSERVATORY OF PUBLIC SECTOR INNOVATION (OPSI) e UNITED ARAB EMIRATES (UAE) MOHAMMED BIN RASHID CENTRE FOR GOVERNMENT INNOVATION (MBRCGI), Seamless Government, cit. Non obstante, tamén é relevante observar que outros estudos conclúen que o coñecemento de estar a interactuar cun robot ten unha influencia significativa nos seus usuarios, incidindo na súa confianza a actitude respecto á empresa ou negocio (DE CICCO, R., DA COSTA E SILVA, S.C.L. e PALUMBO, R., Should a Chatbot Disclose Itself? Implications for an Online Conversational Retailer, cit.). Respecto ás causas que xeran confianza nos robots conversacionais, véxase FØLSTAD, A., NORDHEIM, C.B. e BJØRKLI, C.A., “What makes users trust a chatbot for customer service? An exploratory interview study”, cit.

74 INDEPENDENT HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE, Ethics Guidelines for Trustworthy Artificial Intelligence, European Commission, Brussels, 2019, p. 18. Na mesma dirección, posteriormente, manifestouse a COMISIÓN EUROPEA, Libro branco sobre a intelixencia artificial - un enfoque europeo orientado á excelencia e a confianza COM(2020) 65 final. 2020.

75 Artigo 311-3-1 do Código de relacións entre a cidadanía e a Administración.

76 MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “Chatbot-mediated public service delivery: a public service value-based framework”, cit. De feito, polo xeral xa é así. De todos os xeitos, non podemos descoñecer que ALMANSOR, E.H. e HUSSAIN, F.K. Survey on Intelligent Chatbots: State-of-the-Art and Future Research Directions, cit., p. 534, destacan que os chatbots se deseñan co obxectivo de convencer as persoas de que están a falar con humanos en vez de con máquinas.

77 Artigo 4 do Real decreto 203/2021.

78 En calquera caso, debe terse en conta a remisión que contén o dito artigo a “[c]alquera outra canle que poida establecerse de acordo co previsto no artigo 12 da Lei 39/2015, do 1 de outubro”.

79 Tivemos oportunidade de tratar en detalle estas cuestións en CERRILLO I MARTÍNEZ, A., “La inteligencia artificial y el control de sus posibles sesgos”, Villoria Mendieta, M. (ed.), Ética pública en el siglo XXI, Instituto Nacional de Administración Pública, Madrid, 2021 (en prensa).

80 Esta situación non é exclusiva dos avatares das administracións públicas, senón que se dá tamén en grandes corporacións tecnolóxicas (algúns exemplos son Alexa, Cortana, Aura ou Siri), o que deu lugar a unha campaña para desfeminizar os asistentes virtuais (#VocesEnIgualdad) que se iniciou en novembro de 2018 para facer fronte a esta situación.

81 Desde un punto de vista xeral, advírteno ADAMOPOULOU e MOUSSIADES, os cales observan que “a maioría dos chatbots se utilizan normalmente como asistentes persoais ou secretarias para executar actividades que imitan estereotipos femininos” (ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, cit., p. 1). Igualmente, BONALES DAIMIEL, G. e MARTÍNEZ, E., “Using Virtual Assistants and Chatbots for Crisis Communication”, cit., p. 76.

82 MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “Chatbot-mediated public service delivery: a public service value-based framework”, cit., recordan que un chatbot foi interrompido polas súas dificultades para ser utilizados por persoas con discapacidade. Acceso web: https://www.abc.net.au/news/2017-09-21/government-stalls-ndis-virtual-assistant-voiced-by-cate-blanchet/8968074 (maio de 2021).

83 WHITTAKER, M., ALPER, M., BENNETT, C.L., HENDREN, S., KAZIUNAS, L., MILLS, M., MORRIS, M.R., RANKIN, J., ROGERS, E. & SALAS, M., Disability, Bias, and AI, AI Now Institute, New York, 2019.

84 Segundo datos do informe elaborado en febreiro de 2018 por BUOLAMWINI, investigadora do MIT Media Lab. O mesmo informe observou que o erro no recoñecemento dos rostros era menor ao 1 % no caso de homes con pel clara; un 7 % no de mulleres brancas; un 12 % no de homes de pel escura e ata un 35 % no de mulleres de pel escura (BUOLAMWINI, J. e GEBRU, T., “Gender shades: Intersectional accuracy disparities in commercial gender classification”, Proceedings of Machine Learning Research, n. 81 (Conference on fairness, accountability and transparency), 2018, pp. 77-91).

85 A Carta de Dereitos Dixitais a que fixemos referencia anteriormente recoñece que “se deberá garantir o dereito á non discriminación algorítmica”, calquera que fose a súa orixe, causa ou natureza do nesgo, en relación coas decisións e procesos baseados en algoritmos”.

86 Artigo 41.1 da LRXSP. Véxase, así mesmo, o artigo 13 do Real decreto 203/2021.

87 A LRXSP non define na actualidade qué debe entenderse por medio electrónico, como si facía a Lei 11/2007, do 22 de xuño, de acceso electrónico dos cidadáns aos servizos públicos, que definía o medio electrónico dun xeito moi amplo.

88 Como é coñecido, a Lei 30/1992, do 26 de novembro, de réxime xurídico das administracións públicas e do procedemento administrativo común, prevía que as administracións públicas debían aprobar previamente os programas e aplicacións electrónicos, informáticos e telemáticos e difundir as súas características. Non obstante, esta previsión desapareceu na Lei 11/2007, do 22 de xuño, de acceso dos cidadáns aos servizos públicos, e non se incorporou na LRXSP. Esta involución foi criticada por diversos autores. Así, para BOIX “o retroceso producido en 2007 neste punto, e consolidado definitivamente en 2015, é manifesto” (BOIX PALOP, A., “La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, Revista de Derecho Público: Teoría y Método, n. 1, 2020, pp. 223-270). Así mesmo, VALERO TORRIJOS, J., “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, Revista Catalana de Dret Públic, n. 58, 2019.

89 A favor do carácter reglamentario dos algoritmos manifestouse BOIX PALOP, A., “La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, cit. En contra desta postura, HUERGO LORA, A., “Una aproximación a los algoritmos desde el derecho administrativo”, Huergo Lora, A. (ed.), La regulación de los algoritmos, Aranzadi-Thomson-Reuters, Cizur Menor, 2020, pp. 64 e ss.

90 CERRILLO I MARTÍNEZ, A., “¿Son fiables las decisiones de las administraciones públicas adoptadas por algoritmos?”, European review of digital administration & law, n. 1, 2020.

91 Valero pon de manifesto que “a regulación de 2015 se segue centrando na actividade administrativa formalizada e, en particular, no acto e o procedemento administrativos como paradigmas das garantías subxacentes”, o que, advirte, é “un enfoque manifestamente insuficiente desde a perspectiva da transformación dixital que se demanda do sector público” (VALERO TORRIJOS, J., “Las garantías jurídicas de la inteligencia artificial en la actividad administrativa desde la perspectiva de la buena administración”, cit.).

92 Nesta dirección, o artigo 44 da Lei 26/2010, de 3 de agosto, de réxime xurídico e de procedemento das administracións públicas de Cataluña, dispón que as actuacións automatizadas poden utilizarse “para constatar a concorrencia dos requisitos que establece o ordenamento xurídico, declarar as consecuencias previstas, adoptar as resolucións e comunicar ou certificar os datos, actos, resolucións ou acordos que consten nos seus sistemas de información”, sempre e cando os actos “poidan adoptarse cunha programación baseada en criterios e parámetros obxectivos”.

93 Artigo 53.1.a) modificado polo Real decreto-lei 2/2021, do 26 de xaneiro, de reforzo e consolidación de medidas sociais en defensa do emprego. Véxase, en xeral, sobre a selección automatizada de suxeitos a investigar, TODOLÍ SIGNES, A., “Retos legales del uso del big data en la selección de sujetos a investigar por la Inspección de Trabajo y de la Seguridad Social”, Revista Galega de Administración Pública, n. 59, 2020, pp. 313-337.

94 Por exemplo, tal como dispón o artigo 87 da Lei 58/2003, do 17 de decembro, xeral tributaria.

95 Véxase ao respecto ROIG BATALLA, A., Las garantías frente a las decisiones automatizadas. Del Reglamento General de Protección de Datos a la gobernanza algorítmica, JM Bosch, Barcelona, 2020.

96 Máis alá do previsto na lexislación vixente, non podemos descoñecer que tradicionalmente algúns autores negaran a posibilidade de que un acto administrativo puidese ditarse sen a intervención dunha persoa, posto que estas “manifestacións de vontade e as máquinas, ao non tela, carecen de posibilidade de producir actos xurídicos” (PARADA VÁZQUEZ, R., Régimen Jurídico de las Administraciones Públicas y Procedimiento Administrativo Común (Estudio, comentarios y texto de la Ley 30/1992, de 26 de noviembre), Marcial Pons, Madrid, 1999, p. 174).

97 A fiabilidade foi recoñecida como principio ético que debe guiar o desenvolvemento da intelixencia artificial. Así, segundo as Directrices éticas para unha IA fiable, a fiabilidade do algoritmo consiste na licitude do uso da intelixencia artificial; na súa eticidade e na súa robustez (Grupo de expertos de alto nivel sobre intelixencia artificial, 2019). Posteriormente referiuse a este principio COMISIÓN EUROPEA, Libro branco sobre a intelixencia artificial - un enfoque europeo orientado á excelencia e a confianza COM(2020) 65 final, 2020.

98 Véxase ao respecto GAMERO, quen destaca que “a supervisión do sistema e a súa auditoría son, polo tanto, o primeiro e moi relevante mecanismo de control que debe existir sobre a intelixencia artificial no sector público” (GAMERO CASADO, E., “Compliance (o Cumplimiento Normativo) de desarrollos de Inteligencia Artificial para la toma de decisiones administrativas”, cit.).

99 Artigo 13 do Real decreto 203/2021.

100 O artigo 13 do Real decreto 203/2021 previu que, no ámbito estatal, a resolución pola que se autorice o uso dun robot software na actuación administrativa automatizada deberá indicar os recursos que procedan contra a actuación, o órgano administrativo ou xudicial, se é o caso, ante o que terían que presentarse e prazo para interpolos.

101 Ao respecto, o artigo 13 do Real decreto 203/2021 dispón que, no ámbito local, en caso de actuación administrativa automatizada, se observará o establecido na disposición adicional oitava do Real decreto 128/2018, do 16 de marzo, polo que se regula o réxime xurídico de funcionarios de Administración local con habilitación de carácter nacional. En particular, a dita disposición prevé que, no exercicio electrónico das funcións reservadas aos funcionarios con habilitación de carácter xeral, os postos reservados a eles terán a consideración de órgano.

102 Artigo 42 da Lei 40/2015. Non entramos neste punto a analizar se os robots software deberían ter recoñecida personalidade xurídica tal como, con carácter xeral, suxeriu o Parlamento Europeo, na súa resolución do 20 de outubro de 2020, con recomendacións destinadas á Comisión sobre un marco dos aspectos éticos da intelixencia artificial, a robótica e as tecnoloxías conexas. Respecto ao estado actual deste debate, pode consultarse, entre outros, MESSÍA DE LA CERDA BALLESTEROS, J.A., “Robots inteligentes y personalidad”, Revista Aranzadi de Derecho y Nuevas Tecnologías, n. 53, 2020.

103 BULLOCK, J. B., “Artificial intelligence, discretion, and bureaucracy”, The American Review of Public Administration, n. 49, 2019, p. 756.

104 NOTO LA DIEGA, G., “Against the Dehumanisation of Decision-Making – Algorithmic Decisions at the Crossroads of Intellectual Property, Data Protection, and Freedom of Information”, Journal of Intellectual Property, Information Technology and E-Commerce Law, n. 9, 2018, p. 6; YEUNG, K., “Why worry about decision-making by machine?”, Yeung, K. e Lodge, J. (eds.), Algorithmic Regulation, Oxford University Press, Oxford, 2019, p. 24.

105 CERRILLO I MARTÍNEZ, A., “¿Son fiables las decisiones de las administraciones públicas adoptadas por algoritmos?”, cit. Na mesma dirección, aínda que con carácter xeral respecto ao ámbito de aplicación da actuación administrativa automatizada, MARTÍN DELGADO, I., “Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada”, Revista de Administración Pública, n. 180, 2009, pp. 353-386.

106 CERRILLO I MARTÍNEZ, A., “¿Son fiables las decisiones de las administraciones públicas adoptadas por algoritmos?”, cit.

107 PONCE SOLÉ, J., “Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico”, Revista General de Derecho Administrativo, n. 50, 2019.

108 ISCHEN, C., ARAUJO, T., VOORVELD, H., VAN NOORT, G. e SMIT, E., “Privacy concerns in chatbot interactions”, International Workshop on Chatbot Research and Design, Springer, Cham, 2019, pp. 34-48, constataron que os robots conversacionais que teñen unha maior aparencia humana levan a unha maior relevación de información persoal e a unha menor preocupación por cuestións relacionadas coa privacidade por parte das persoas que os que teñen unha aparencia de máquina.

109 Nesta dirección advírteno BELEN SAĞLAM, R. e NURSE, J.R.C., “Is your chatbot GDPR compliant? Open issues in agent design”, cit.

110 Non podemos descoñecer as cuestións de seguridade relacionadas cos robots e asistentes virtuais. Ao respecto, son ilustrativos os seguintes titulares: “Amazon’s Alexa recorded private conversation and sent it to random contact” (Alexa de Amazon gravou conversas privadas e enviounas a un contacto ao chou), The Guardian, 24 de maio, 2018. Acceso web: https://www.theguardian.com/technology/2018/may/24/amazon-alexa-recorded-conversation (maio de 2021), ou “Amazon employees listen in to thousands of customer Alexa recordings” (Traballadores de Amazon escoitan miles de gravacións de clientes de Alexa), The Telegraph, 11 de abril, 2019. Acceso web: https://www.telegraph.co.uk/technology/2019/04/11/amazon-employees-listen-thousands-customer-alexa-recordings/ (maio de 2021). En relación con estas cuestións, véxase BOLTON, T., DARGAHI, T., BELGUITH, S., AL-RAKHAMI, M.S. e SODHRO, A.H., “On the security and privacy challenges of virtual assistants”, Sensors, n. 21, 2021, p. 2312.; CHUNG, H., IORGA, M., VOAS, J. e LEE, S., “Alexa, Can I Trust You?”, Computer, n. 50, 2017, pp. 100-104.

111 Artigos 13 e 14 do RXPD.

112 De todos os modos, xa existen robots conversacionais que informan sobre a política de protección de datos con carácter previo ao inicio da conversa. Véxase como exemplo o robot conversacional do Concello de Córdoba, que ademais de informar sobre a política de privacidade tamén solicita o consentimento á persoa usuaria sobre a gravación das conversas para os efectos de poder mellorar o algoritmo. Acceso web: https://www.cordoba.es/ (maio de 2021). De todos os xeitos, chama a atención que a política de privacidade é a da empresa proveedora. Acceso web: https://1millionbot.com/politica-de-privacidad/ (maio de 2021).

113 Artigo 15 do RXPD. Así mesmo, poderán exercer o dereito de rectificación cando os datos persoais utilizados na elaboración do perfil sexan inexactos (artigo 16 RXPD). Tamén poderán exercer o dereito de supresión dos datos persoais (artigo 17 RXPD).

114 Artigo 28.1 da LOPDGDD. Véxase ao respecto a lista dos tipos de operacións de tratamento elaborada pola Axencia Española de Protección de Datos, de acordo co disposto no artigo 35.4 RXPD. Acceso web: https://www.aepd.es/media/criterios/listas-dpia-es-35-4.pdf (maio de 2021).

115 Artigo 22.1 do RXPD.

116 Como recoñeceu o Grupo de traballo do artigo 29 (2018), o feito de que o artigo 22 do RXPD se refira a un dereito non quere dicir que “se aplique só cando se invoque de forma activa por parte do interesado”.

117 GRUPO DE TRABALLO DO ARTIGO 29, Directrices sobre decisións individuais automatizadas e elaboración de perfís para os efectos do Regulamento 2016/679, 2018, p. 23; VEALE, M. E EDWARDS, L., “Clarity, surprises, and further questions in the Article 29 Working Party draft guidance on automated decision-making and profiling”, Computer Law & Security Review, n. 34, 2018.

118 GRUPO DE TRABALLO DO ARTIGO 29, Directrices sobre decisións individuais automatizadas e elaboración de perfís para os efectos do Regulamento 2016/679, cit., p. 24.

119 Artigo 22.2 do RXPD.

120 Artigo 8.1 da LOPDGDD. No caso das decisións automatizadas adoptadas polas administracións públicas, atopa o seu acomodo no artigo 41 LRXSP. Nesta dirección, BOIX PALOP, A., “La necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, cit.

121 Como puxo de manifesto o Grupo de Traballo do Artigo 29 (2018), “sempre hai un claro desequilibrio de poder na relación” entre o responsable do tratamento e o interesado”. Véxase ao respecto CERRILLO I MARTÍNEZ, A., “Las características del consentimiento del interesado y su incidencia en el tratamiento de datos en las administraciones públicas”, El Consultor de los Ayuntamientos, n. III, 2019.

122 Artigo 22.3 do RXPD.

123 O artigo 9 do Convenio 108+ do Consello de Europa é ilustrativo sobre o alcance que deben ter estas medidas de garantía. En calquera caso, é necesario adoptar as medidas suficientes. Ao respecto, resulta de interese traer a colación a Sentenza do Tribunal de Distrito da Haia do 5 de febreiro de 2020, na que anulou a elaboración automatizada de perfís para loitar contra a fraude na Seguridade Social (SyRI), que entre outros motivos considera que as garantías adoptadas non eran suficientes (6.81 e 6.92).

124 Nesta dirección, debe terse en conta o previsto nos artigos 41.2 da LRXSP e 13.2 do Real decreto 203/2021.

125 Incluso xa existe algunha experiencia de robots utilizados no proceso de selección de empregados públicos. Véxase ao respecto a experiencia do robot Tengai, impulsada polo Municipio sueco de Upplands-Bro (VAN NOORDT, C. e MISURACA, G., “New wine in old bottles: Chatbots in government”, cit., p. 24).

126 FREY, C.B. e OSBORNE, M.A., “The future of employment: how susceptible are jobs to computerisation?”, Technological forecasting and social change, n. 114, 2017, p. 38.

127 RAMIÓ MATAS, C., “El impacto de la inteligencia artificial y de la robótica en el empleo público”, GIGAPP Estudios Working Papers, n. 98, 2018, pp. 403-404.

128 ANDERSEN, K.N., LEE, J. e HENRIKSEN, H.Z., “Digital Sclerosis? Wind of Change for Government and the Employees”, cit., p. 7.

129 SYED, R., SURIADI, S., ADAMS, M., BANDARA, W., LEEMANS, S. J.J., OUYANG, C., TER HOFSTEDE, A.H.M., VAN DE WEERD, I., WYNN, M.T. e REIJERS, H.A., “Robotic Process Automation: Contemporary themes and challenges”, cit., p. 3.

130 De feito, ponse de manifesto que unha das diferenzas máis importantes na interacción entre humanos e na interacción entre humanos e chatbots é a menor capacidade de empatía destes últimos últimos (ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, cit., p. 1). De todos os modos, non podemos descoñecer os avances experimentados nesta dirección, como se recolle en: https://www.bbvaopenmind.com/humanidades/sociologia/en-busca-de-la-nueva-empatia-humano-maquina/ (agosto de 2020).

131 RAMIÓ MATAS, C., “El impacto de la inteligencia artificial y de la robótica en el empleo público”, cit., pp. 406-409; WORLD ECONOMIC FORUM, The Future of Jobs Report 2020, World Economic Forum, Cologny/Geneva, 2020.

132 GORRITI BONTIGUI, M., “Evolución de los puestos y nuevos perfiles profesionales en la Administración pública del siglo XXI”, Ramió Matas, C. (ed.), Administración digital e innovación pública. Repensando la Administración Pública, Instituto Nacional de Administración Pública, Madrid, 2021, recolle distintos criterios para obxectivar a automatización de tarefas na Administración pública.

133 Así, por exemplo, o artigo 9.2 do Real decreto lexislativo 5/2015, do 30 de outubro, polo que se aproba o texto refundido da Lei do Estatuto básico do empregado público, reserva en exclusiva aos funcionarios públicos o exercicio das funcións que impliquen a participación directa ou indirecta no exercicio das potestades públicas ou na salvagarda dos intereses xerais do Estado e das administracións públicas.

134 Un rápido repaso dos procedementos para a adquisición dos robots software polas administracións públicas españolas permite observar que nalgúns casos se adquiren mediante un contrato de servizos e noutros como un contrato de subministracións. Noutras ocasións canalizouse como un convenio, tal como explica a noticia publicada no portal do Concello de Santa Pola. Acceso web: https://www.santapola.es/2020/03/27/el-ayuntamiento-de-santa-pola-habilita-un-asistente-virtual-en-su-web-para-informar-las-24-horas-del-covid-19/ (maio de 2021). Noutros supostos adxudicouse un acordo marco para homologar a diversos provedores para a prestación de servizos de chatbots e asistentes virtuais (por exemplo, o Consorci de Serveis Universitari de Catalunya).

135 En relación coa incorporación da innovación no deseño dos robots software desde o mercado, debemos remitirnos aos instrumentos que dispón a Lei 9/2017, do 8 de novembro, de contratos do sector público, como a asociación para a innovación (artigo 177 Lei 9/2017, do 8 de novembro, de contratos do sector público) ou as consultas preliminares ao mercado (artigo 115 LCSP).

136 O desenvolvemento dos robots software atópase en mans dunhas poucas empresas (WAJCMAN, J., “Automation: is it really different this estafe?”, The British journal of sociology, n. 68, 2017, p. 121). No caso dos robots software, as principais empresas son UiPath, Automation Anywhere e Blue Prism. No caso dos chatbots, DialogFlow (Google), Azure Bot (Microsoft), Lex (Amazon) IBM Watson Assistant. No caso dos robots conversacionais, Amazon, Apple ou Microsoft están liderando o mercado dos asistentes virtuais. Véxase ao respecto ALBERTH, M. e MATTERN, M., “Understanding robotic process automation (RPA)”, cit.; SYED, R., SURIADI, S., ADAMS, M., BANDARA, W., LEEMANS, S. J.J., OUYANG, C., TER HOFSTEDE, A.H.M., VAN DE WEERD, I., WYNN, M.T. e REIJERS, H.A., “Robotic Process Automation: Contemporary themes and challenges”, cit., p. 121.

Desde un punto de vista máis xeral, véxanse ao respecto as reflexións de RANCHORDÁS, S. e KLOP, A., “Data-Driven Regulation and Governance in Smart Cities”, Berlee, A., Mak, V. e Tjong Tjin Ta, E. (eds.), Research Handbook on Data Science and Law, Edward Elgar, Cheltenham, 2018; e VALCÁRCEL FERNÁNDEZ, P., “La innovación como objeto prestacional en los contratos del sector público. La Compra Pública de Innovación”, Contratación administrativa práctica: revista de la contratación administrativa y de los contratistas, n. 153, 2018, pp. 56-68. Esta autora advirte que será o sector público o que deberá definir o alcance da innovación que espera que lle provea o sector privado.

137 CANALS I AMETLLER, D., “El ejercicio de potestades administrativas por operadores privados en régimen de mercado”, Gamero Casado, E. (ed.), La potestad administrativa: concepto y alcance práctico de un criterio clave para la aplicación del Derecho administrativo, Tirant lo Blanch, Valencia, 2021, p. 374; MIRANZO DÍAZ, J., “Inteligencia artificial y contratación pública”, Martín Delgado, I. e Moreno Molina, J.A. (eds.), Administración electrónica, transparencia y contratación pública, Iustel, Madrid, 2020, p. 131.

138 Neste sentido, podemos traer a colación a experiencia do Concello de Barcelona que elaborou a Guía de Compra Pública de TIC (2017), que proporciona unha visión global da estratexia municipal en canto á compra de tecnoloxía e servizos tecnolóxicos. Así mesmo, resultan de interese as directrices para a adquisición de intelixencia artificial desenvolvidas por OFFICE FOR ARTIFICIAL INTELLIGENCE, Guidelines for AI Procurement, 2020.

139 En relación con esta cuestión, debe terse presente o que dispón o artigo 308 da LCSP.

140 Véxase ao respecto CERRILLO I MARTÍNEZ, A., “Com obrir les caixes negres de les Administracions públiques? Transparència i rendició de comptes en l’ús dels algoritmes”, cit. Nesta mesma dirección, RAMIÓ MATAS, C., “Inteligencia artificial y robotización reclaman un nuevo modelo de gestión del empleo público”, Consultor de los ayuntamientos y de los juzgados: Revista técnica especializada en administración local y justicia municipal, n. 5, 2019, pp. 30-46, sinalou que “a Administración pública debería ter un departamento de gobernanza da robótica que, entre outras funcións, se encargase da selección dos robots e dos dispositivos de intelixencia artificial. Os posibles candidatos deberían ser probados atendendo ao principio de capacidade e á superación de determinados filtros con valores públicos (non intrusivos, respecto ao principio de privacidade, amables, etc.)”.

141 Como exemplo, podemos traer a colación a experiencia do chatbot do Consorci Administració Oberta de Catalunya. Acceso web: https://www.aoc.cat/2021/1000280696/nova-versio-aplicacio-nativa-signador-2 (maio de 2021), ou do servizo de chatbot do Consorci de Serveis Universitaris de Catalunya. Acceso web: https://www.csuc.cat/ca/compres-conjuntes/xatbot (maio de 2021).

De todos os xeitos, nos dous casos, o deseño piloto desta experiencia non foi desenvolvido polos propios consorcios, senón a través de empresas externas.

142 Artigos 157 e 158 da LRXSP.

143 Nesta dirección, MAKASI, T., NILI, A., DESOUZA, K.C. e TATE, M., “A Typology of Chatbots in Public Service Delivery”, cit.

144 Os robots non son a panacea. Segundo unha enquisa sobre esta materia publicada polo portal Chatbots, o 53 % dos enquisados consideran que os robots conversacionais non son efectivos ou son pouco efectivos. Acceso web: https://www.chatbots.org/images/news/chatbot_survey_2018.pdf (maio de 2021).

145 Segundo Gartner, en 2020 o 40 % dos chatbots lanzados en 2018 xa terán sido abandonados. Acceso web: https://www.gartner.com/smarterwithgartner (maio de 2021).

146 Referímonos ao coñecido factor wow ou efecto “guau” (GAVILÁN, I.G.R., Robots en la sombra: RPA, robots conversacionales y otras formas de automatización cognitiva, cit.).

147 Ao respecto, ADAMOPOULOU e MOUSSIADES observan que, “cando os clientes descobren durante unha conversación que están a falar cun chabot, se molestan e compran menos produtos” (ADAMOPOULOU, E. e MOUSSIADES, L., “Chatbots: History, technology, and applications”, cit.). Iso veu ser coñecido como a teoría do val inquietante que experimenta unha persoa cando non sabe se está a interactuar cunha persoa ou cun robot.

148 ANDROUTSOPOULOU, A., KARACAPILIDIS, N., LOUKIS, E. e CHARALABIDIS, Y., “Transforming the communication between citizens and government through AI-guided chatbots”, cit.