A finales de octubre del año pasado me contactaron desde la Asociación Española de Asesores Fiscales (AEDAF) con un encargo: escribir el prólogo del libro dirigido por el profesor Bernardo D. Olivares Olivares titulado “La inteligencia artificial en la relación entre los obligados y la Administración tributaria. Retos ante la gestión tecnológica”. Esta misma semana me llegó un ejemplar de la obra, que pueden encontrar en las librerías jurídicas y en línea (ISBN: 9788499547978), cuya lectura recomiendo a todas las personas interesadas en la materia.
A continuación incluyo el texto que ha sido publicado, con la única diferencia aquí de la inclusión de hiperenlaces.
La única referencia que la actual Constitución española (CE) hizo a las Tecnologías de la Información y Comunicación (TIC) se encontraba en su artículo 18, apartado 4: «La ley limitará el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos». Si bien mucho ha cambiado desde entonces, nótese que ya, en aquel momento, de todas las posibles utilizaciones de las TIC la Constitución sólo contempló aquellas que deberían ser objeto de límite. Se ignoraba toda utilización neutra1 o positiva de tales tecnologías y si bien se hubieran podido contemplar sus posibles bondades para ahondar en desarrollos que garantizasen un mejor Estado social y democrático de Derecho, sin embargo la única referencia que se incluyó en la norma fundamental lo fue para prevenir el mal uso.
Tal y como el tiempo nos ha demostrado, por mucho que aquel mandato fuera premonitorio, ha quedado en saco roto. A través de la prestación de un consentimiento informado, permitimos que Google o Apple conozcan nuestra localización a lo largo de las 24 horas, que los relojes de pulsera transmitan nuestro ritmo cardíaco y pasos diarios, que existan hasta 37 compañías2 a las que nuestros automóviles envían los datos de posición, velocidad, temperatura, conducción, música, uso del techo solar y otra multiplicidad de información, que las aspiradoras de nuestros hogares envíen a su central la superficie de nuestra vivienda y el horario durante el que las conectamos, horas de las que se puede presumir que son aquéllas en las que estamos ausentes del hogar, que la Thermomix de nuestras cocinas envíen a Vorwerk las recetas de la comida que preparamos, que nuestros aparatos de televisión envíen a LG, a Netflix, a HBO y a Amazon los programas que vemos, que las universidades conozcan entre otras cuestiones los hábitos de sueño de los cuerpos docentes y del alumnado gracias a los registros de los campus virtuales y que, asimismo una mayoría de dichas instituciones haya delegado en Google el correo electrónico y en Microsoft la plataforma de trabajo Teams, regalándoles así dos perfectos sistemas de vigilancia de las comunidades universitarias. Todo lo anterior es muy legal porque opera a través de un consentimiento informado que, cada día más, es un mero contrato de adhesión que, si se rechaza, expulsa de la sociedad a quien no quiere ceder sus datos personales3.
Se ha hecho realidad el sueño de la Stasi4, si bien lo paradójico es que la implosión de dicho sueño se ha realizado en un sistema democrático totalmente opuesto al modelo político al que servía tal policía política. No deja de ser paradójico que la democracia imponga, como si fuera inane, la obligatoriedad de ser poseedor de un teléfono móvil, ese gran espía en el bolsillo, para que la ciudadanía pueda ejercer sus derechos y obligaciones. Aun cuando no exista una ley escrita que así lo obligue, la configuración del acceso a numerosos servicios a través de un sistema de doble seguridad, en el que uno de los pasos consiste en la recepción de un SMS, obliga en la práctica a tener un teléfono móvil.
Pero la segregación basada en la posesión de una tecnología no es la única que encontramos. Hay una evidente segregación por edades. En nuestro país, la implantación de Lexnet, un sistema de comunicación obligatorio para quienes nos relacionamos con los juzgados y tribunales, se realizó de la noche a la mañana, sin reflexión alguna, produciendo una brecha generacional en perjuicio de los profesionales de mayor edad, brecha que se evidencia diariamente en la relación de las personas mayores con los bancos, un disparate en cuanto a accesibilidad y que exige una solución dado que, si no puede vivirse sin SMS, tampoco podemos vivir sin tener una cuenta corriente.
Tal y como denunciaba Shelley R., bibliotecaria del servicio de adultos de una de las bibliotecas públicas de Filadelfia, en una carta dirigida a Google5, el 13,6% de los hogares de Estados Unidos (el 28,4% en Filadelfia) carecen de acceso a internet por lo que las librerías públicas son la única posibilidad para acceder a este servicio para una cuantía considerable de la población. Las librerías públicas, en cumplimiento de un estándar mínimo de seguridad, borran los datos de acceso cada vez que alguien sale de una cuenta a la que se ha accedido utilizando uno de los ordenadores se uso público instalados en sus salas. De esta manera, en cada ocasión que alguien quiere entrar nuevamente en su cuenta, Google interpreta que se trata de un acceso desde una localización nueva y requiere el doble factor de autorización. Dado que muchas personas pierden el número de móvil debido a impagos o, sencillamente, no tienen acceso a uno, quedan segregadas y sin posibilidad de relacionarse con las administraciones públicas o de obtener, entre otros servicios, ayuda social.
Asistimos de esta manera a la imposición de una sociedad del control6, que sustituye a la prometida sociedad del conocimiento. A los controles cuyo nacimiento proviene de las normas jurídicas se suma la obligatoriedad práctica del uso por la ciudadanía de ciertas tecnologías sin las cuales no se pueden realizar las mínimas actividades, tecnologías que no son neutras, sino que tienen una fuerte carga política7. Basta intentar comprar un coche que no envíe datos de su funcionamiento o ejercitar derechos en línea sin la posesión de un móvil para comprobar esta afirmación.
La justificación que se daba para la implantación de las TIC se llevaba a cabo mediante palabras ampulosas: «las Administraciones públicas están llamadas a desempeñar un papel fundamental para conseguir una efectiva extensión e implantación del uso de las herramientas tecnológicas en la gestión pública en aras de conseguir una mayor eficacia y eficiencia en la gestión, cuando no en la profundización de la objetividad y transparencia de la misma» decía el derogado Real Decreto 84/2007, de 26 de enero, sobre implantación en la Administración de Justicia del sistema Lexnet, mientras obviaba que para su utilización se necesitaba ser usuario (y víctima) de Microsoft, de quien se tenía que aceptar una licencia de propiedad intelectual puesto que Lexnet en principio solamente funcionaba bajo el sistema operativo de dicha empresa. Ni por asomo para la implantación del sistema se había hecho estudio alguno sobre la brecha digital que iba a producir, como si lo importante fuera hacer las cosas rápidamente, en lugar de bien.
Y este es el contexto en el que desembarca la promiscuidad de la inteligencia artificial: una sociedad adocenada por la posesión del último modelo de móvil como símbolo de estatus, que no aparenta hallarse preocupada por su privacidad, y unas administraciones públicas que implantan tecnologías sin ningún previo estudio de impacto, como si fueran buenas per se. Estas actividades se legitiman con términos tales como progreso, eficiencia e innovación, conceptos que se toman como si fueran valores positivos a seguir, «toda acción que quiera presentarse como positiva o apropiada se presenta etiquetada como innovación» nos recuerda el catedrático de filosofía Alonso Puelles8. Es necesario recordar que tales términos son también aplicables a extremos perversos, como lo fueron los dos progresos tecnológicos llevados a cabo en el siglo XX que permitían matar de forma más eficiente a un mayor número de personas: las innovaciones del gas Zyklon B, utilizado por el régimen nazi en el genocidio de los campos de concentración, y el proyecto Manhattan, utilizado por los EEUU para producir las bombas de Hiroshima y Nagasaki.
El libro que tienen ante ustedes mantiene un postura firme en contra de estos reiterados abusos que se producen en nombre del progreso, de la innovación y de la eficacia. Se trata de aportaciones de diferentes autorías que parten de la premisa básica sobre la que se asentó el citado artículo 18 de la CE, consistente en la potencia de las TIC como herramienta útil para invadir los derechos más íntimos de la ciudadanía, perturbando e impidiendo el pleno ejercicio de sus derechos.
En los diversos textos que componen esta obra se aborda la utilización de la inteligencia artificial, sea cual fuere su discutida definición, por parte de las administraciones públicas en un campo muy específico del Ordenamiento Jurídico, el tributario, enfocándose en la relación entre las Administraciones tributarias y las personas obligadas al cumplimiento de las normas fiscales. La lectura de los diferentes textos producirá en quien los lea, no cabe ninguna duda, un enriquecimiento tanto si los utilizan con miras para su ejercicio profesional, por el análisis de los conceptos relevantes en este campo, como para quienes se acerquen al libro con una intención académica, habida cuenta de la puesta al día doctrinal sobre el uso de estas tecnologías que esta obra supone.
El estudio de este novedoso campo, realizado por especialistas de reconocido prestigio en la materia, se ofrece desde tres perspectivas: En primer lugar, se reflexiona sobre la deontología del uso de la inteligencia artificial en el ámbito tributario, ofreciéndose pautas de cómo ha de ser el diseño de los procedimientos automatizados en aplicación del sistema tributario; en segundo lugar, ya desde una perspectiva ontológica, se estudian los desafíos que el uso de la inteligencia artificial supone en este campo del Derecho; por último, la obra se completa mediante el análisis de cómo se está produciendo el uso de estas tecnologías en tres países de la Unión Europea, Alemania, Italia y Francia, donde ya existen aportaciones no solo conceptuales sino desarrollos informáticos.
Para orientar a quien se enfrente a la lectura de esta obra, quisiera realizar unas precisiones que deseo puedan resultar útiles. La primera de ellas es que el propio término de inteligencia artificial es muy discutido. Las máquinas nunca son inteligentes, la inteligencia es única y es exclusivamente una característica humana, por lo que la proliferación de términos como AI (artificial intelligence), smart, neural networks… ha de tomarse con mucha precaución puesto que el uso de dichas palabras tiene una marcada proyección propagandística, cuando no de cancamusa: ¿de verdad que un teléfono o una televisión son inteligentes? Es bien conocida nuestra atracción por lo novedoso, de ahí que las políticas comerciales se esfuercen en presentar, como si fueran nuevos, temas ya muy vistos. Siempre es aconsejable acercarse a estos fenómenos utilizando una cierta incredulidad metodológica.
La segunda precisión es que, bajo los términos inteligencia artificial, se engloban diferentes realidades, muy diferentes entre sí, cuya capacidad de perturbar los derechos de la ciudadanía es muy variada. No existe una inteligencia artificial, sino muchas y diversas. Los científicos de la computación Russell y Norvig9 diferenciaban en 1995 en su ya clásica obra Artificial Intelligence, las siguientes modalidades: resolución de problemas, conocimiento y razonamiento, planificación, incertidumbre y razonamiento, aprendizaje y, finalmente, comunicación, percepción y actuación.
A pesar de la aparente complejidad, todas las modalidades comparten una misma estructura funcional, que se desarrolla en tres fases: una primera fase que tiene como función la de recolectar los datos con los que se alimentará el sistema, una segunda fase que se ocupa de ordenar, clasificar, reducir, traducir, interpretar, combinar, relacionar… tales datos y, por último, una salida de los datos en forma de texto, audio, imagen, código o de instrucciones para dirigir una máquina. No se trata, por tanto, de algo mágico, sino de sistemas previamente diseñados por la actividad humana y que producen unos resultados, esto es, nada diferente de la función que cumple cualquier otra herramienta. Autores como Pasquinelli y Joler denominan a estas tres fases como datos, algoritmos y modelo10 e incluyen a la inteligencia artificial dentro del grupo de las herramientas para la “magnificación del conocimiento”, en cuya trayectoria histórica se hallan los instrumentos ópticos utilizados por la astronomía, la medicina y la navegación, así como también los instrumentos de medida y de percepción. La característica propia de la inteligencia artificial, según estos autores, es la de imponer un nuevo sistema de verdad, de prueba científica, de normatividad social y de racionalidad que, a menudo, toma la forma de alucinación estadística, cuya característica principal es que se sustituye la episteme de la causación por la de las correlaciones automatizadas. Según expresión de estos autores, “el rey [la inteligencia artificial] está desnudo”.
En este terreno tripartito de selección de datos, manejo de los mismos y solución propuesta por la tecnología utilizada, el Derecho ha de poder entrar para verificar el cumplimiento de los derechos fundamentales. Si no puede hacerlo, habrá que descartar la tecnología en el uso de las relaciones entre organismos públicos y ciudadanía. Las black boxes no pueden tener cabida en un sistema que requiere ser analizado para verificar el cumplimiento de los principios jurídicos.
Para cumplir su función, lo jurídico necesitará de la concurrencia de especialistas no solamente en el campo de las ciencias de la computación, sino también de la neurología, cognición, antropología, sociología, psicología social, archivística y biblioteconomía, entre otros campos del conocimiento. Son campos necesarios para desvelar lo que se nos oculta mediante un conjunto de técnicas de las que ya tenemos sobradas pruebas que logran alterar la percepción. Tales sistemas de manipulación se suman a las deficiencias para conocer la verdad que en el ámbito académico, antes de las TIC, se destacaron por múltiples autores, de los que citaremos solamente a tres: el sociólogo Robert K. Merton, en su estudio sobre el síndrome palimpséstico, que consiste en no verificar más referencias que las más recientes, lo que anula toda perspectiva histórica, o los historiadores de la ciencia Robert N. Proctor y Londa Schiebinger11 en su estudio sobre la agnotología, la producción consciente de ignorancia, campo en el que las compañías de tabaco y las de publicidad12 han demostrado ser muy competentes. Volver a los orígenes, utilizando los principios del Derecho romano para reducir la brecha denunciada por Merton, o utilizar la Filosofía del Derecho y el campo de las falacias, para reducir la posibilidad de ignorancia objeto del estudio de Proctor y Schiebinger, son métodos muy útiles.
La tarea, sin embargo, no es fácil. Como nos recuerda el historiador de la ciencia Antonio Lafuente, «siempre hubo discursos hegemónicos que no se escandalizaban ante la desigualdad»13. No debemos olvidar que en el presente caso nos hallamos ante un discurso que impone su propia idea del progreso, idea recibida por la ciudadanía de forma crédula o, cuando menos, acríticamente, y detrás de la cual existen fuertes intereses económicos.
La tercera precisión con la que quisiera acabar estas líneas es que la inteligencia artificial no es sino uno de los múltiples apartados en los que hemos de centrar nuestro análisis y que no debe servir para eludir la pendiente reflexión sobre la transformación que está sufriendo la figura del Estado contemporáneo, que está mutando su tradicional estructura, escrita en lenguaje natural, a una nueva estructura, escrita en lenguaje formal.
La estructura jurídica del Estado contemporáneo nació y se ha sustentado en la tecnología de la escritura. Tal tecnología consiste en dibujar en un soporte material los sonidos que emitimos con las cuerdas vocales y sirve para expandir las posibilidades de nuestra voz (y por tanto, de nuestro pensamiento) tanto de forma espacial como temporal: espacial porque permite que los sonidos alcancen más allá del lugar donde llega la potencia sonora de una persona; temporal pues faculta que tales sonidos queden registrados y puedan ser consultados en un diferente momento. Como es bien conocido por los juristas, se produjo una lucha entre las normas jurídicas no escritas –la costumbre– y las normas escritas, venciendo finalmente la norma escrita, puesto que «La costumbre sólo regirá en defecto de ley aplicable, siempre que no sea contraria a la moral o al orden público, y que resulte probada» y que «Las leyes sólo se derogan por otras posteriores», según dictan los artículos 2 y 3 del Código civil14. Si en sus inicios el Derecho no era más que un conjunto de fórmulas secretas orales –ius dicere– en manos de una élite, la búsqueda de la interdicción de la arbitrariedad, uno de los valores de la Ilustración, conducirá a la obligatoriedad de la escritura de la norma jurídica y, además, a su publicación en un diario oficial, en nuestro caso, el Boletín Oficial del Estado15.
Ocurre que, en la actualidad, parte de los procesos de las funciones estatales, como por ejemplo la definición de parámetros para la búsqueda de infracciones fiscales o las páginas web a través de las que estamos obligados a presentar nuestras declaraciones de impuestos, también se escriben pero dicha escritura ya no se realiza mediante lenguaje natural, sino mediante lenguajes formales16 que sirven para desarrollar aplicaciones.
El Estado por tanto se divide hoy en día en dos partes diferenciadas: la primera de ellas es la tradicional, que está escrita mediante lenguaje natural. Está compuesta por el cuerpo de las normas jurídicas cuya vida se inicia mediante proyectos o proposiciones, donde se aplican procedimientos reglados de redacción y aprobación dictados por otras normas legales, son públicamente legibles y cuya correcta integración y coherencia con el Ordenamiento jurídico se garantiza por medio de unos órganos diseñados para ejercer el control de legalidad.
La segunda parte del aparato estatal se escribe mediante lenguajes formales, cuya relevancia máxima para los derechos de la ciudadanía puede explicarse parafraseando la frase atribuida a Romanones: “Ustedes hagan la ley y el reglamento, que yo haré la aplicación informática”. Análogamente a la costumbre, existen tecnologías secundum legem, praeter legem y contra legem que median entre las administraciones públicas y las personas con las que se relaciona telemáticamente. En estos casos de tecnología contra legem, si no se puede acceder al código fuente de la aplicación, es imposible demostrar que la escritura no respeta los requisitos legales o reglamentarios. No basta, como así se ha afirmado, con que se pueda acceder a la documentación adicional al código. Defender esto es análogo a como si diésemos por válido el texto del comentario de una sentencia, en lugar del propio texto de la propia resolución. El lenguaje formal extiende lo escrito en el lenguaje natural, por lo que solamente accediendo a todo lo escrito podemos realizar un estudio correcto. Al contrario que en los supuestos de lenguajes naturales, la producción de lenguajes formales por el Estado no tiene un procedimiento reglado, no es públicamente accesible y su correcta integración y coherencia con el Ordenamiento jurídico no dispone de ningún órgano diseñado para ejercer el control de legalidad.
Pero no solo el problema se plantea en el nivel de las aplicaciones informáticas, sino también en el diseño de la arquitectura de las redes de comunicación entre los poderes del Estado. En los Federalist Papers17, Madison defendía que la separación de poderes implicaba canales sin ninguna comunicación entre ellos. Esto no ocurre en las redes de información actuales, puesto que el poder judicial ve sus redes administradas por el poder ejecutivo, una de cuyas obligaciones es la provisión de los recursos materiales de los órganos jurisdiccionales. Cuando nos hallábamos en la época de la máquina de escribir, si el ejecutivo cumplía con su obligación, el principio de separación de poderes no sólo no quedaba amenazado sino que se garantizaba dado que, cuantos más recursos se le entregaban al poder judicial, más eficazmente podía cumplir sus mandatos constitucionales. Sin embargo, cuando ahora el ejecutivo provee al poder judicial ordenadores conectados a redes que el propio poder ejecutivo administra, la capacidad de intromisión es absoluta. Nuevamente, la Stasi queda como una mera anécdota histórica.
En síntesis, mucho nos queda todavía por reflexionar. Entre otras cuestiones, debemos plantearnos qué desarrollos tecnológicos necesitan una vuelta atrás no solamente para cumplir la ley y fomentar valores como los de inclusión, sino también para volver a una mejor convivencialidad. Este libro sirve para enriquecer la reflexión y para señalar los caminos adecuados en el desarrollo tanto de aplicaciones como de diseños de las redes con las que se administran nuestros derechos. En definitiva, es una obra que indica cómo construir un sistema más justo utilizando la formidable herramienta de las TIC para cumplir un mandato constitucional:
«Corresponde a los poderes públicos promover las condiciones para que la libertad y la igualdad del individuo y de los grupos en que se integra sean reales y efectivas; remover los obstáculos que impidan o dificulten su plenitud y facilitar la participación de todos los ciudadanos en la vida política, económica, cultural y social.»
Madrid, 11 de noviembre de 2022.
Javier de la Cueva González-Cotera
Abogado
Doctor en Filosofía
Bernardo D. Olivares Olivares (dir.) (2023) La inteligencia artificial en la relación entre los obligados y la Administración tributaria. Retos ante la gestión tecnológica. Madrid: Editorial CISS. ISBN: 9788499547978.
Que la tecnología nunca es neutra, sino que es política, es una cuestión que no se discute desde hace largo tiempo. Vid. Langdon Winner (1978) Autonomous Technology. Technics-out-of-Control as a Theme in Political Thought. The MIT Press: Cambridge, Massachusetts (EE. UU.) y Londres (Reino Unido).
Las compañías a las que los vehículos envían sus datos se pueden consultar en el repositorio siguiente: https://github.com/the-markup/vehicle-data-collection
El autor de este texto lo sabe por experiencia. El no tener Whatsapp instalado en el teléfono excluye de múltiples círculos sociales: grupos familiares, los compañeros de antiguos estudios, la coordinación de estudios actuales y múltiples grupos de ocio. Hay puestos de trabajo que obligan a darse de alta en Whatsapp. Según la web de dicha aplicación, en la fecha de escribir esta introducción (noviembre de 2022) más de 2.000 millones de personas de más de 180 países la utilizan. Vid. https://www.whatsapp.com/about
La célebre Staatssicherheitsdienst, policía política de la República Democrática Alemana desde su fundación en 1950 hasta su extinción en 1990.
Vid. Shoshana Zuboff (2019) The age of Surveillance Capitalism. A Fight for a Human Future at the new Frontier of Power. Londres (Reino Unido): Profile Books.
Langdon Winner (1980). «Do Artifacts Have Politics?» Daedalus, Modern Technology: Problem or Opportunity? (Winter, 1980), Vol. 109, (n.º 1), pp. 121–136. https://www.jstor.org/stable/20024652
Andoni Alonso Puelles (2013) «Ética en la innovación y el movimiento Open», en Isegoría. Revista de Filosofía Moral y Política, N.º 48, enero-junio, 2013, 95-110, doi: 10.3989/isegoria.2013.048.05
Stuart J. Russell y Peter Norvig (1995) Artificial Intelligence. A Modern Approach. Nueva Jersey (EE.UU.): Prentice Hall.
Matteo Pasquinelli y Vladan Joler (2020) «The Nooscope Manifested: Artificial Intelligence as Instrument of Knowledge Extractivism», KIM research group (Karlsruhe University of Arts and Design) and Share Lab (Novi Sad). https://nooscope.ai
Robert N. Proctor y Londa Schiebinger (2008) Agnotology. The making and unmaking of Ignorance. Stanford, California (EE.UU.): Stanford University Press.
Tim Wu (2017) The Attention Merchants. The Epic Scramble to get Inside our Heads. Nueva York (EE.UU.): Vintage Books.
Antonio Lafuente (2022). Itinerarios comunes. Laboratorios ciudadanos y cultura experimental. Madrid: Ned ediciones, p. 119.
Liborio Hierro (2003) La eficacia de las normas jurídicas. Barcelona: Ariel Derecho, pp. 25-68.
Marta Lorente Sariñena (2001) La voz del Estado. La publicación de las normas (1810-1889). Madrid: Boletín Oficial del Estado, Centro de Estudios Políticos y Constitucionales.
Un análisis con mayor detalle de este aspecto puede encontrarse en Javier de la Cueva (2015). «Reescribir el Estado: norma jurídica y norma tecnológica», en Graciano González R. Arnáiz (ed.) Razones para (con)vivir. Perspectivas de Racionalidad Práctica. Madrid: Editorial Biblioteca Nueva, pp. 151-161 y Javier de la Cueva (2018) «La importancia del código fuente», en Derecho digital: Retos y cuestiones actuales. Thomson Reuters Aranzadi. Pamplona (Navarra), pp. 109-127.
«Were this principle rigorously adhered to, it would require that all the appointments for the supreme executive, legislative, and judiciary magistracies, should be drawn from the same fountain of authority, the people, through channels, having no communication whatever with one another», en The Federalist 51. Alexander Hamilton, James Madison, John Jay (2008) The Federalist Papers, Oxford University Press: Oxford (Reino Unido), pág. 256.
