BLOG

Pablo Grande Serrano

El «carné por puntos», cuando aplicábamos las ciencias conductuales y no lo sabíamos

El 22 de abril de 2022 se publicó en el blog de economía Nada es Gratis, esta entrada sobre El permiso de conducción por puntos y las infracciones de tráfico que resumía y explicaba el artículo, publicado en la Journal of Economic Behavior & Organization, de Yolanda Rebollo-Sanz, Jesús Rodríguez-López y Núria Rodríguez-Planas.

En el trabajo –muy interesante–, los autores identifican los efectos causales de la introducción del permiso y licencia de conducción por puntos sobre las infracciones de tráfico, los accidentes y las víctimas en la carretera, utilizando tres metodologías cuasiexperimentales.

¿Qué es el permiso y licencia de conducción por puntos?

El permiso y licencia de conducción por puntos entró en vigor el 1 de julio de 2006 (Ley 17/2005, de 19 de julio). Se trata de un sistema reeducador y punitivo. Punitivo porque se vinculan a determinados comportamientos la disminución o pérdida del crédito en puntos con que cuenta un conductor, titular de permiso o licencia de conducción. La pérdida total de los puntos supone la pérdida de la permiso y licencia de conducción. Para poder recuperar parte, o la totalidad, de los puntos se pueden realizar cursos de sensibilización y reeducación vial.

Recientemente, se han modificado las infracciones que «quitan» puntos –aumentan los puntos que se pierden con las infracciones más peligrosas– y se refuerza el sistema de cursos para la recuperación de los puntos. La reforma entró en vigor el 21 de marzo de 2022.

El permiso y licencia de conducción es eficaz

Simplificando mucho las conclusiones del artículo resumido en Nada es Gratis, podemos decir que “los infractores disminuyeron tanto más cuanto mayor fueron los puntos sancionados y hubo una reducción del número de accidentes y de víctimas, especialmente las mortales (…) Además, causó una disuasión de los excesos de velocidad, de la conducción bajo los efectos del alcohol y las drogas, y de la desobediencia de las señales de tráfico. Con efectos persistentes a lo largo de los años transcurridos.”

El trabajo es de especial interés, como apuntan los autores, la nueva ley aumenta la detracción de puntos por varias infracciones, por lo que, se pueden anticipar los efectos de la nueva reforma.

El análisis conductual del permiso y licencia de conducción

Antes de aprobarse en España, este sistema ya existía en algunos países de la Unión Europea como Francia, Italia, Alemania, Reino Unido. Desconozco si en aquellos países se tuvieron en cuenta los avances de la psicología económica (behavioural economics) para su diseño. No sería una sorpresa, algunos de los mayores avances en este campo se deben a trabajos de Daniel Kahneman y Amos Tversky durante los años 70 del siglo XX.

En España, al menos durante su tramitación parlamentaria, no se habló sobre estas cuestiones conductuales. Es posible revisar los Diarios de Sesiones para comprobarlo, y ver que uno de los éxitos del proyecto fue el consenso positivo y generalizado por el sistema, que mejoró con las enmiendas del grupos parlamentarios (¡qué tiempos!).

Sea como fuere, el permiso y licencia de conducción por puntos está (aunque sea indirectamente) lleno de enseñanzas conductuales (behavioural insights) y, además, podría decirse que es un acicate (nudge).

Una de las características del permiso y licencia de conducción por puntos es la asignación de un crédito de puntos (12) con la obtención del permiso y licencia de conducción. Este crédito de puntos representa la confianza que la sociedad otorga a una persona como conductor. Con cada sanción administrativa firme que lleve aparejada la pérdida de puntos, se detraen de ese crédito inicial hasta agotarlo, momento en el que se pierde el permiso y licencia de conducción.

Estamos ante una interesante aplicación de dos conceptos bien conocidos: el efecto dotación (endowment effect) y la aversión a las pérdidas (loss aversion). El efecto dotación implica que valoramos más lo que tenemos que lo que podríamos tener, incluso aquellas cosas de las que disponemos sin haberlas adquirido del todo. El reconocimiento de un crédito de puntos con símbolo de la confianza depositada en los conductores implica una valoración implícita del permiso y licencia de conducción superior a la que se tenía del mismo con anterioridad a la reforma. Esto conecta con la aversión a las pérdidas, que se refiere a la mayor sensibilidad que tenemos a las pérdidas frente a las ganancias, es decir, las pérdidas duelen –aproximadamente– el doble de lo que gustan las ganancias.

La asignación de un crédito inicial que se va a perdiendo con cada sanción administrativa genera un dolor psicológico mucho mayor que partir de una situación inicial de cero puntos y acumular créditos –negativos– hasta un total de 12 que supondría la retirar del permiso o licencia de conducción. El contexto, como vemos, no es neutro, y el diseño de la arquitectura de la elección, o de la toma de decisiones, (choice architecture) es relevante para lograr que las políticas públicas sean eficaces y eficientes.

Además, el proyecto de ley inicial aprobado por el Consejo de Ministros establecía la posibilidad de recuperar los puntos perdidos tras un periodo de tiempo sin haber sido sancionado, es decir, premiar la mejora de la conducta, pero no premiaba al que siempre había sido buen conductor (comparar artículo 60 del proyecto de ley y de la ley aprobada). Sin embargo, se introdujo una enmienda, que mezclaba las aportaciones del Grupo Parlamentario Popular (ver enmienda 144) y del Grupo Parlamentario Catalán (Convergència i Unió) (ver enmienda 175), de forma que el buen conductor durante tres años era premiado con puntos extra hasta un máximo de 15 puntos.

Sin duda, otro acierto, y es que de acuerdo con la teoría de la identidad social (un ejemplo de aplicación) necesitamos comportarnos de forma tal que estemos satisfechos con nuestra propia imagen, que en el permiso y licencia de conducción por puntos se materializa tanto en la necesidad de no perder los puntos (mantenerse en el estado inicial de buen conductor agradeciendo el crédito de confianza que otorga la sociedad) como el de incrementar los puntos iniciales (mediante un buen comportamiento prologado en el tiempo, proyectando hacia el futuro un buena imagen de sí mismo).

Por último, Thaler y Sunstein definen acicate (nudge) en la edición final de su libro Nudge (tomada de Juli Ponce en la entrada Publicación del libro «Nudge. The Final Edition»), como:

«…cualquier aspecto de la arquitectura de la elección que altere el comportamiento de las personas de forma predecible sin prohibir ninguna opción ni cambiar significativamente sus incentivos económicos. Para que cuente como un mero acicate, la intervención debe ser fácil y barata de evitar. Los acicates no son impuestos, multas, subvenciones, prohibiciones ni mandatos. Poner la fruta a la altura de los ojos cuenta como un acicate. Prohibir la comida basura no».

La detracción de puntos no tiene finalidad sancionadora –de multa en términos de la definición–, esa finalidad sancionadora la conservan las sanciones administrativas (o delitos, según la gravedad) previas a la entrada en vigor del permiso y licencia de conducción por puntos. El fundamento de los puntos es de prevención y concienciación. De la misma forma que la retirada del permiso o licencia de conducción por la pérdida de todos los puntos no es sino la consecuencia lógica de la multirreincidencia, ya sancionada antes de la introducción del sistema por puntos. En consecuencia, dado que tampoco introduce incentivos económicos y es fácil y barata de evitar, pero altera el comportamiento de las personas, podemos concluir que el «carné por puntos» es un acicate.

Como decíamos antes, el contexto no es neutro, la necesidad de adoptar una estrategia proactiva en el diseño de los contextos en los que se toman decisiones es fundamental. Las enseñanzas conductuales (behavioural insights) nos pueden ayudar a que estos diseños sean más eficaces y eficientes. El permiso y licencia de conducción por puntos es buen ejemplo de ello, pero no el único. Para aprender más sobre sus aplicaciones e implicaciones resulta de interés la lectura de la obra coordinada por Juli Ponce: «Acicates (nudges), buen gobierno y buena administración. Aportaciones de las ciencias conductuales, nudging y sector público y privado»

Liane Huttner and Javier Miranzo-Díaz

The Conference on Algorithmic Law Design and Implementation developed by the University of Barcelona on April 28 and 29: advancing on transdisciplinarity

Focus of the Conference

The event, chaired by the professors Joost Joosten and Juli Ponce Solé, was organized within the activities of the Barcelona Group on Proof Theory, the Research Project Personalisation of Public Services, Bias and Artificial Intelligence: Towards the Consolidation of Digital Rights in Public Administration and the Prometheus Group. The objective was to address the problem of several scenarios arising from the interaction between law and software. The use of software to code the law raises a variety of interesting considerations and, at times, potentially troubling issues related to the failure or misuse of legal software. Misinterpretations of the law and inadequate translations into computer code can cause the software to function correctly with respect to its specifications, but disastrously with respect to the rule passed by the legislature or the executive branch. This can open the door to biased automated decisions, whether due to cognitive biases of the programmers, the data used or statistical biases, resulting in mismanagement and discrimination on various grounds.

Some argue that there is a need to take into account algorithmic requirements when drafting legislation in order to avoid inadequacies in the implementation. On the one hand, algorithmic law must be written in a clear and unambiguous manner, and on the other hand, we need to explore the possibilities that computational language offers to represent natural language or human-based conceptual realities in order to develop explainable AI, where any decision comes with a human-readable justification of correctness. This codification of law arises new legal problems, some of which were pointed out by Liane Huttner in her conference: is the correspondence between the law and these codes always guaranteed? What are the legal consequences of bugs? Does law as code contradict certain general legal principles? Must important decisions be taken by human beings?

In any case, the concerns regarding the robustness and explainability of the systems that apply regulations is not only legal, but also algorithmic. And consequently, further technological developments are needed in order to facilitate the oversight tasks and ensure reliability.

A third cross-cutting issue when we talk about implementing new technologies in law enforcement relates to communication and adaptability between legal and IT professionals. A dialogue between lawyers and other experts (engineers, computer scientists, among others) is required to better produce the law and apply it in the digital society, but this task is not always easy.

In this context, the role of the EU and particularly of the European Commission will be central in this task. The Commission is developing some tools that will be used in drafting law: EdiT and LEOS, and there is also a study on “Drafting law in the era of AI” which will be soon published, carried out by the University of Bologna. There is a challenge to integrate the requirements for digital-readable or digital-applicable law into the legislative process at the EU level, which is already quite complex (multilingual, interinstitutional, etc.) and that it involves multiple stakeholders in its different stages.

Research and Future Leads

In order to answer this vast array of questions, the Conference on Algorithmic Law Design and Implementation organized by Professors Joosten and Ponce reunited scholars from various disciplines. During two days in the beautiful University of Barcelona, we were able to exchange and discuss, creating a fertile ground for future research. Among all that was said, two key takeaways from this conference should be highlighted.

The first is the importance of the faithfulness of computer programs to the law. To reach this fundamental objective, the use of formal methods in the design and implementation of algorithmic law is essential. This was shown by Moritz Müller, who explained how the problem of faithfulness could be seen through the eyes of logic and how it could be answered in the field of transportation law. On a similar topic, Mireia Gonzalez Bedmar introduced a methodology created by the Formal Vindications team, showing how important formal verification were in the field of transportation law. David Fernandez-Duque also pointed out how logic and formal methods could be used for creating explainable AI. Yannick Forster showed how the Coq proof assistant could be used when coding the law, in order to obtain the highest possible confidence in computer programs. Denis Merigoux presented the Catala domain-specific language, which uses can raise the level of assurance of legal expert systems, arguing that it is possible to translate a notion of correct legislative drafting into a formal property of well-behaved execution for the Catala programs corresponding to the law. Grant Olney Passmore described the use of formal methods for financial algorithms with Imandra, which is an automated reasoning engine towards an end-to and end governance of the algorithm. Consequently, one could only be convinced by the necessity of using formal methods when coding the law in all areas when it is possible.

The second takeaway is the necessity of interdisciplinary research that takes into account technical, ethical, legal and logical concerns of algorithmic law. It was perfectly demonstrated by Marlies van Eck in her studies and audit of automated individual decision-making systems in The Netherlands, especially with the experience of the project “LegiTimate project: judging algorithms”, which tried to examine the functioning of algorithmic implementation through different perspectives, and gave place to a method for the multidisciplinary approach as to close the gap between the two worlds: legal-digital-technical. Adding a historical point of view, Bart Verheij revealed how new methods of collaboration between human and machines could be built on combination of various techniques. Susana de la Sierra also showed why collaboration between lawyers and computer scientists was needed, in an enlightening presentation. Legal perspectives and the importance of GDPR compliance were also introduced by Liane Huttner. From a broader perspective, Christine Holmgreen Mejling, Mette Eigaard Rasmussen and Julius Lyk-Jensen described the specific methods and principles for creating digital-ready legislation in the context of Danish public administration.

Willy van Puymbroeck, Fernando Nubla Durango and Monica Palmirani also talked about the drafting of EU law in the digital era, showing how and why the legislation should adapt to take into account these new concerns.

To conclude

From the conference and the different insights of the speakers, we can draw some important conclusions that were to a large extent sustained in every conference. First, every legal text can be ambiguous and contradictory, which allows wider interpretations. Second, that IT professionals must be aware, when coding law requirements, of the implications that its implementation might have on individual rights and freedoms –this would foster greater attention on crucial issues and bugs. Thirdly, that the risks of this implementation command a solid legal and technological framework: both legal instruments and requirements for the codification of law and IT tools to verify the software, supervise it and detect possible bugs need to be strengthened. And finally, that to undertake these tasks we need to promote and facilitate a better understanding between the two worlds, legal and technological. A task that might not be easy, but that is crucial for an efficient, reliable and lawfulness implementation of algorithmic regulations.

The web page of the conference with different materials of the participants including a booklet of abstracts and bios with a foreword and an afterword can be found at Conference on Algorithmic Law Design and Implementation | Barcelona Group on Pure and Applied Proof Theory (ub.edu). A kind initial address made by professor Pompeu Casanova can be found here

Juli Ponce Solé

LA EVIDENTE SEDUCCIÓN DEL PROFESOR VAQUER Y DEL MAGISTRADO CHAVES, NO SUBSTITUIBLE POR UNA INTELIGENCIA ARTIFICIAL: A PROPÓSITO DEL LIBRO EL DISCRETO ENCANTO DEL DERECHO ADMINISTRATIVO, SEGUNDA EDICIÓN.

El pasado 23 de marzo de 2022 tuvo lugar en la facultad de Derecho de la Universidad de Barcelona, la presentación del libro El discreto encanto del Derecho Administrativo, 2ª edición, publicado en 2021 por la Editorial Tirant Lo Blanch, del profesor Marcos Vaquer Caballería, acompañada de un coloquio con el magistrado José Ramón Chaves García sobre El Derecho administrativo en broma y en serio en la era de la inteligencia artificial, en el marco del Proyecto de investigación PID2020-115774RB-I00: PERSONALIZACION DE LOS SERVICIOS PUBLICOS, SESGOS E INTELIGENCIA ARTIFICIAL: HACIA LA CONSOLIDACION DE LOS DERECHOS DIGITALES EN LAS ADMINISTRACIONES PUBLICAS.

El evento contó con una numerosa audiencia, tanto in situ, en un salón de grados abarrotado, como a distancia, gracias a una retransmisión on line, que pudo realizarse finalmente, pese a una caída general en la zona de la red de internet, todo ello gracias a los buenos oficios de Jordi Mestre, Técnico Audiovisual de la Universidad de Barcelona en la Facultad de Derecho, y a la magnífica tarea como moderadora de la sesión on line de la profesora de Derecho Administrativo Dra. Mariola Rodríguez Font, quienes salvaron en el último minuto lo que ya parecía inevitable…

Se inició el acto con la presentación de ambos ponentes, con una trayectoria profesional de gran altura, tomando primero el uso de la palabra el autor del libro que se presentaba.

El profesor Marcos Vaquer, autor del libro presentado, es Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid, de la que también es director del Máster en Estudios Avanzados de Derecho Público y Secretario General. Consejero independiente de Red Eléctrica Corporación, S.A. Licenciado en Derecho y en Ciencias Económicas y Empresariales por la Universidad Pontificia de Comillas (ICADE) y Doctor en Derecho por la Universidad Carlos III de Madrid. Autor de siete monografías, la última de las cuales es Derecho del territorio (Tirant lo Blanch, 2018), y de más de ochenta artículos y colaboraciones en libros colectivos, algunos accesibles en Academia.edu o en Researchgate.net. Ha impartido cursos y conferencias en múltiples instituciones españolas y en las Universidades de Nueva York (NYU, EE.UU.), París Ouest (Francia), Pavía y Sassari (Italia), del Externado (Colombia), Andina Simón Bolívar (Ecuador), Alberto Hurtado y Católica de Valparaíso (Chile). Fue Director General de Urbanismo y Política de Suelo del Ministerio de Vivienda (2004-2008), Subsecretario de Vivienda y Presidente de la Entidad Pública Empresarial de Suelo SEPES (2008-2010), miembro del bureau del Comité de Vivienda y Gestión de Suelo de la Comisión Económica para Europa (UNECE) de Naciones Unidas (2006-2008) y ha participado en varias misiones de asistencia técnica internacional de la Unión Europea en Latinoamérica.

El profesor Vaquer durante su primera intervención puso de relieve el enfoque satírico de su libro, que sigue una tradición histórica si no abundante sí existente, con figuras de la talla de Jhering. La obra está compuesta de 20 capítulos, que se despliegan a lo largo de 97 deliciosas páginas, llenas de referencias literarias y artísticas, y que han aumentado en una veintena desde la primera edición.

Aludió Vaquer al título del libro, de claras resonancias buñuelianas, de lo más lógico, pues si el Derecho Administrativo que surgió de las revoluciones liberales francesa y americanas fue un producto de una clase social, la burguesía, el título se revela entonces como muy apropiado.

A lo largo del libro, contó el autor, se consideran cuestiones vinculadas con el Derecho Administrativo y relacionadas con el erotismo, la escatología (impagable la ordenanza municipal de deposiciones comentada durante el acto), el ocultismo, la empatía y muchos otros aspectos de una rama del Derecho que para Vaquer es importante y puede y debe ser, además, divertida, pese a que aún algunos (¿muchos?) estudiantes de Derecho no lo consideren así (cuya opinión cambiará, sin duda, tras la lectura del libro).

En la primera página del libro presentado el autor (capítulo 0, Pretexto) hace uso de las palabras de un “espíritu exquisito” que sí entiende la relevancia del Derecho Administrativo, de los que desgraciadamente no abundan, para demostrar la importancia de esta rama del Derecho. No desvelaremos el nombre de esta persona: les animamos a que lo descubran ustedes mismos…véanlo y escúchenlo en un breve video aquí, que fue emitido durante el evento…

Tomó entonces la palabra José Ramón Chaves, Magistrado especialista de lo Contencioso-Administrativo del Tribunal Superior de Justicia de Asturias y previamente Magistrado titular del Juzgado de lo Contencioso-Administrativo num.5 en Oviedo (2000-2010). Ha sido profesor asociado de Derecho Administrativo y de Derecho Comunitario en la Facultad de Derecho de la Universidad de Oviedo.). Es funcionario en excedencia tanto del Cuerpo Técnico de Administración Local como de la Escala Técnica de Administración Universitaria. Ha desempeñado sucesivamente los puestos de Jefe del Servicio de Asuntos Administrativos de la Universidad de Oviedo y Letrado-Jefe de los Servicios Jurídicos de la Universidad de Salamanca, este último desde 1992 hasta 2000, con la salvedad de los cursos académicos 1997-1998 y 1999-2000, en que ocupó el cargo de Director General de Universidades e Investigación del Principado de Asturias. Chaves es autor de diversos libros, como Derecho Administrativo Mínimo o Derecho Administrativo Vivo (Ed. Bosch,2021). Impulsa el blog delajusticia.com, que fue Premio Puñetas Periféricas 2019, otorgado por la Asociación de Comunicadores e Informadores Jurídicos, en que se resaltó la combinación de derecho, humor, libertad e información.

El Magistrado Chaves hizo un elogio del libro del profesor Vaquer, por la finura de su humor y por referirse a categorías esenciales del Derecho Administrativo, desprovistas de la hojarasca densa y gris que, en numerosas ocasiones, oculta su belleza. De hecho, animó al autor a seguir con futuras ediciones, rogándole que ampliara el análisis, pues el libro se le había hecho corto.

La unanimidad de los ponentes sobre la importancia del humor en la enseñanza y aplicación del Derecho Administrativo, contrasta, sin embargo, frecuentemente, con una realidad, donde la pomposidad académica, pese a que el humor es un instrumento docente reconocido,  y judicial reniega del mismo. Y lo hace siguiendo una larga tradición, por cierto, la cual ha enfrentado a grandes pensadores a lo largo de la historia, pues no todos, ni mucho menos, han estado de acuerdo con la postura de Aristóteles, en favor del humor como una cualidad típicamente humana. Para visualizar dicha polémica, se emitieron durante el acto unos breves minutos de la película El Nombre de la Rosa, basada en el libro del mismo título del autor italiano Umberto Eco, donde frente a la postura franciscana en favor del humor, se alza la figura de Jorge de Burgos, quien reniega de él, pues afirma que Cristo, nunca rió…

En la segunda parte del coloquio, enlazando con lo dicho hasta el momento, se pasó a considerar los efectos de la llamada cuarta revolución industrial ya en marcha, con el uso de sistemas algorítmicos e inteligencia artificial, en relación con las funciones de los juristas (abogadas/os, jueces, profesoras/es…) así como con el futuro profesional de los actuales estudiantes de Derecho. Siendo, de acuerdo con Aristóteles, como se dijo, el humor una característica típicamente humana, ¿nos espera un futuro distópico sin humor, donde el aprendizaje automático (machine learning) y el aprendizaje profundo (deep learning) de los sistemas, y otras posibles tecnologías aún por venir, substituirán a los juristas humanos?

El profesor Vaquer hizo una interesante consideración en torno al papel del Derecho Administrativo en relación con las funciones de asistencia a las personas que desarrollan las Administraciones y los servidores públicos, una faceta social no infrecuentemente abandonada por la doctrina jurídica, centrada en una especie de fontanería del Derecho Administrativo, que lo presenta como un instrumento frío que opera al margen de los seres humanos. Frente a ello, Vaquer reivindicó lo que denominó la subjetividad objetivada, esto es la necesidad del despliegue de la empatía humana por los servidores públicos respecto a los ciudadanos, sirviendo, en todo caso, objetivamente a los intereses generales (art. 103.1 de la Constitución española), tarea en la que la doctrina jurídica puede y debe ayudar.

Subjetividad objetivada que permite el  desarrollo de la mencionada empatía humana (tratada en el capítulo 15 de su libro), necesaria en ciertas funciones públicas que requieren de una reserva de humanidad frente a la maquinización, pues si los ingenieros pueden preguntarse si es posible el máximo despliegue de la inteligencia artificial, y si esta puede tener o no sentido del humor, y los economistas si tal despliegue es o no eficiente, corresponde a los juristas considerar si el mismo es adecuado o no en la protección de la dignidad humana y de los derechos constitucionales de las personas.

Por su parte, el Magistrado Chaves hizo una defensa aguerrida del factor humano en la función de juzgar, cuya importancia ha sido destacada también en un informe del CGPJ a una ley en tramitación, señalando la necesidad de este para el despliegue de la equidad, pues el juez no es una mera boca que pronuncia las palabras de la ley, como dijera en su día Montesquieu.

En el diálogo entre los presentes, se hizo notar que existe una corriente de pensamiento, también jurídico, que considera que el uso de algoritmos puede ser adecuado también en los ámbitos discrecionales administrativos y judiciales, puesto que permite evitar los sesgos cognitivos de los humanos, y, por tanto, los errores sistemáticos a que estos dan lugar, así como evitar decisiones distintas no queridas en situaciones similares.

Así lo han puesto de relieve recientemente Kahneman, premio Nobel de Economía en 2002, Sibony y el jurista norteamericano Sunstein, en su obra Ruido, ya recensionada anteriormente en este blog.  A lo que Chaves, muy oportunamente, repuso que pretender substituir al humano por el algoritmo, cuando éste es programado a su vez por humanos o aprende automáticamente en contextos que son humanos, y, por tanto, con transmisión de los sesgos cognitivos de los programadores o de los sesgos existentes en los datos manejados, es ilusorio.

En fin, si como indica la ciencia, el sentido del humor es un indicador de inteligencia, no cabe duda de que los dos ponentes la lucieron, y en grado extremo. Cabe decir que a la audiencia le supo a poco el magnífico coloquio entre el profesor Vaquer y el Magistrado Chaves, el cual estamos seguros hizo meditar a los asistentes. Esperemos que la deliciosa conversación pueda continuar en un futuro no muy lejano. En todo caso, el proyecto de investigación que enmarcó el acto contribuye a organizar un congreso internacional sobre las relaciones entre tecnología, Derecho y sistemas algorítmicos, cuyo programa puede consultarse aquí, que continuará profundizando en algunos de los aspectos apuntados.

Pese a los serios problemas técnicos sufridos, ya expuestos, ajenos a la voluntad de los organizadores, se consiguió finalmente grabar la retransmisión del acto. La calidad del video no es óptima, por lo que pedimos disculpas, aunque, eso sí, la grabación cuenta con el discreto encanto de haber sido realizada con medios improvisados…Puede accederse a la misma aquí. Recomendamos empezar el visionado por el minuto 24:14, que es cuando se inicia realmente la grabación, tras solventarse los problemas sufridos.

Juli Ponce Solé es co-investigador principal junto a Agustín Cerrillo en el proyecto de investigación PID2020-115774RB-I00: PERSONALIZACION DE LOS SERVICIOS PUBLICOS, SESGOS E INTELIGENCIA ARTIFICIAL: HACIA LA CONSOLIDACION DE LOS DERECHOS DIGITALES EN LAS ADMINISTRACIONES PUBLICAS.

José Andrés Rozas Valdés

La serie de pódcasts “Tributos y Vino” ha dedicado un programa a comentar la incidencia de la perspectiva conductual, Behavioral insights, en el ámbito de la ordenación y aplicación de los tributos

La serie de pódcasts “Tributos y Vino”, que dirigen y editan dos Inspectores de Hacienda del Estado – Juan Faus y Carlos Ramirez – ha dedicado un programa a comentar la incidencia de la perspectiva conductual, Behavioral insights, en el ámbito de la ordenación y aplicación de los tributos.

A lo largo de casi hora y media ambos conversan con los colaboradores de este blog, José-Andrés Rozas, Catedrático de Derecho financiero y tributario, y Pablo Grande Serrano, también Inspector de Hacienda del Estado, sobre las distintas facetas del particular, a partir de la experiencia adquirida en la materia con ocasión de su participación en los trabajos de la Red interdisciplinar “El Nudging aplicado a la mejora de la regulación: políticas públicas y mejoras normativas” – de la que trae causa el blog – a cuyos participantes, resultados y derivadas se hace expresa mención.

En la primera parte – tras abrir el vino que ameniza la conversación – se introduce el marco conceptual de la perspectiva conductual en el diseño y análisis de políticas normativas.

A continuación se pasa revista a los cauces a través de los que ha ido teniendo reflejo específico en la política y normativa tributaria, tanto en el orden internacional como en el ámbito español. En este orden de cosas, el recientemente aprobado Plan Anual de Control Tributario y Aduanero 2022 hace expresa y reiterada referencia al empleo de las metodologías conductuales en la política normativa y aplicativa tributaria. En la misma línea, el Adenda 2022 del Plan estratégico de la AEAT hace referencia expresa al proyecto de I+D «El derecho a entender la comunicación tributaria. Análisis y clarificación del discurso empleado en los procedimientos de Recaudación» que, con la colaboración del Departamento de Recaudación de la AEAT, ha nacido de la Red, y cuya investigadora principal es la Dr. Estrella Montolío.

Petia Guintchev

Del Derecho y del Revés: Diálogos entre Programadores y Juristas, primera sesión del Seminario periódico del Proyecto Personalización de los Servicios Públicos, Sesgos e Inteligencia Artificial: hacia la Consolidación de los Derechos Digitales en las Administraciones Públicas

Photo by cottonbro on Pexels.com

El Proyecto PID2020-115774RB-I00 Personalización de los Servicios Públicos, Sesgos e Inteligencia Artificial: hacia la Consolidación de los Derechos Digitales en las Administraciones Públicas inició el pasado palindrómico y ambigrama día 22 de febrero de 2022 (es decir, el 22/2/22) , su Seminario periódico Del Derecho y del Revés: Diálogos entre Programadores y Juristas con una primera sesión en la Facultad de Derecho de la Universidad de Barcelona.

El centro anfitrión reunió de forma presencial a los miembros del Proyecto – expertos de distintas ramas de las Ciencias Sociales y de las Ciencias Exactas y de la Computación -, así como a algunos representantes de las entidades colaboradoras y observadoras del mismo, con la presencia del señor Antonio Miguel Torrico Aguilar por parte de la Sindicatura de Greuges de Barcelona, para dar comienzo a los diálogos en torno al uso de algoritmos por parte de las Administraciones Públicas.

Presentó el Proyecto e incardinó la primera sesión del Seminario el Investigador Principal, el Dr. Juli Ponce Solé, para después pasar la palabra a la Dra. Alba Soriano Arnanz a cargo de la conferencia invitada.

La Dra. Alba Soriano es Profesora Ayudante Doctora y Secretaria Académica del Departamento de Derecho Administrativo y Procesal de la Universidad de Valencia, y experta en discriminación algorítmica.

Su recientemente publicado libro Data protection for the prevention of algorithmic discrimination. Protecting from discrimination and other harms caused by algorithms through privacy in the EU and US: possibilities shortcomings and proposals estudia en gran profundidad el uso de sistemas de toma de decisiones automatizados y sus implicaciones para con los derechos de los ciudadanos, especialmente para aquéllos más vulnerables, y analiza de manera exhaustiva el actual marco jurídico de protección establecido por la Unión Europea a través de la noción de privacidad (desplegada por el reglamento General de Protección de Datos – Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/  – y la Directiva 2016/680, de 27 de abril de 2016, – Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativa a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales, y a la libre circulación de dichos datos y por la que se deroga la Decisión Marco 2008/977/JAI del Consejo).

Es precisamente en ese marco jurídico de la expertise de la Dra. Soriano en el que previsiblemente seguirán desarrollándose las mejoras en pos de la personalización de los servicios públicos. La intervención de la ponente, titulada Decisiones automatizadas. Problemas y soluciones jurídicas: más allá de la protección de datos, se centró en tres aspectos fundamentales. Así, los problemas derivados del uso de sistemas automatizados tanto en el sector privado como en el público; la estructura y límites del sistema europeo de protección de datos; y la Propuesta de Reglamento Europeo de Inteligencia Artificial.

La Dra. Soriano señaló algunos de los riesgos para los derechos de las personas, tales como los sesgos (ampliamente tratados ya en este blog anteriormente ), los errores o bugs, la discriminación o las amenazas a la singularidad, autonomía e individualidad de las personas, e identificó las quiebras que el uso de sistemas automatizados de toma de decisiones suponen a los principios jurídicos y normas reguladoras de las Administraciones Públicas, con especial atención a la transparencia y la motivación.

Seguidamente, analizó para los asistentes la estructura del sistema europeo de protección de datos como garantía también frente al uso de algoritmos repasando tanto los principios generales establecidos en la normativa como las prohibiciones y los mecanismos de control, y sus límites y alternativas propuestas.

Para finalizar, la Dra. Soriano se refirió a la Propuesta de Ley de Inteligencia Artificial europea (Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial y se modifican determinados actos legislativos de la Unión) y a su grado de adecuación a las necesidades de garantía de los derechos desde la perspectiva de la discriminación algorítmica, subrayando el sistema conformado en los Anejos a la Propuesta, esto es, un sistema basado en riesgos.

Esta primera parte del Seminario presentó el marco jurídico actual y las problemáticas de que adolece para pasar el relevo a una sucinta recopilación de las complejidades que presenta la perspectiva legal para sí misma y para los cuadros científicos no jurídicos en lo que se refiere a la producción y aplicación automatizada de normas jurídicas. La segunda presentación, a cargo de la Sra. Petia Guintchev, doctoranda del Programa en Derecho y Ciencia Política de la Universidad de Barcelona, recogió las preocupaciones de juristas y de teóricos de la computación y la información. De fundamental importancia para el uso de algoritmos en la toma de decisiones públicas resultan los errores y ello como equivocaciones puramente técnicas, pero también como yerros, conscientes o inconscientes, de juicio (sesgos). Para evitarlos cabe el uso de diferentes herramientas y mecanismos propuestos por la doctrina y en la literatura científica (control de la calidad de los datos, etc.).

Errores y sesgos que no deben ser obstáculo para aprovechar todo el potencial de los sistemas algorítmicos y asegurar el acceso a las virtuales bondades de la toma de decisiones mediante sistemas automatizados, especialmente por las Administraciones Públicas. En esa línia, una colaboración estrecha entre diferentes disciplinas y saberes se configura como imprescindible. Así, el equipo del Proyecto se conforma por juristas y matemáticos, politólogos, filósofos, programadores y documentalistas, lo que ha de cumplir perfectamente con la sugerencia, efectuada durante esta segunda parte del Seminario o debate, de usar un enfoque pandisciplinario, pues la Economía, la Historia o el elenco de Neurociencias no pueden ser desconocidas en los trabajos a realizar.

Igualmente durante el tiempo establecido para el debate, los presentes tuvieron la oportunidad de profundizar en algunas de las cuestiones destacadas por la ponente invitada, especialmente en lo referente a la Propuesta de regulación europea de Inteligencia Artificial, así como de debatir desde una perspectiva también histórica acerca de la utilidad de priorizar una perspectiva top-down en la regulación del uso de algoritmos, tanto por el sector privado (en tanto soft law) como por el público, sobre una aproximación bottom-up, más garantista para el libre desarrollo tecnológico. Se inició asimismo un acercamiento de los juristas hacia conceptos computacionales como el Turing completo o la Tesis de Church-Turing.

El prisma de las Ciencias de la Computación tomará el relevo y el protagonismo en la próxima sesión del Seminario, que se anunciará oportunamente y del cual se dará notícia en este blog, para avanzar en esa necesaria conversación pandisciplinar hacia la consolidación de los Derechos Digitales en las Administraciones Públicas.


La Sra. Petia Guintchev, autora del presente post, es licenciada en Derecho y doctoranda del Programa en Derecho y Ciencia Política de la Universidad de Barcelona.

Diego Gómez Fernández

El Certificado COVID y la imposición indirecta de la vacunación

Habría amado la libertad, creo yo, en cualquier época, pero en los tiempos en que vivimos me siento inclinado a adorarla.

A. de Tocqueville

El Certificado Covid que se ha implantado en varias Comunidades Autónomas y países de nuestro entorno como obligación para la realización de determinadas actividades ha causado y está causando mucha polémica. No sólo respecto a su efectividad o al control social, sino también a si la imposición indirecta que supone la limitación de actividades a los no vacunados puede resultar legítima a la luz tanto de la salud pública, como del respeto a la vida privada y a la libertad individual.

1- ¿Podría ser un acicate?

Según la definición dada por Thaler y Sunstein (2009) acicate  o nudge es:

…cualquier aspecto de la arquitectura de la elección que altere el comportamiento de las personas de forma predecible sin prohibir ninguna opción ni cambiar significativamente sus incentivos económicos. Para que cuente como un mero acicate, la intervención debe ser fácil y barata de evitar. Los acicates no son impuestos, multas, subvenciones, prohibiciones ni mandatos. Poner la fruta a la altura de los ojos cuenta como un acicate. Prohibir la comida basura no”.

En el caso gallego el Plan de hostelería segura de la Comunidad Autónoma de Galicia contempla como método de acceso a los locales no sólo el citado Certificado Covid que prueba que el titular está vacunado contra la enfermedad. Permite también la entrada a los locales de hostelería cuando un laboratorio oficial autorizado acredite que una persona dispone de una prueba diagnóstica negativa realizada en las últimas 72 horas, en el caso de las PCR, y 48 horas, en el caso de los test de antígenos o que se recuperó de una infección por el SARS-CoV-2 en los últimos 6 meses.

Ello podría hacer pensar que existe libertad de elección. Pero teniendo en cuenta el coste de las PCR (y aunque en menor medida también de los test de antígenos), la necesidad de que sea un laboratorio oficial autorizado quien los certifique y su necesaria repetición cada poco tiempo hace que no nos encontremos ante una opción “fácil y barata de evitar”. Por lo tanto, parece evidente que el Certificado COVID no podría encajar dentro del concepto de acicate o nudge.

Ahora bien, aún no siendo un acicate, teniendo en cuenta las especiales circunstancias que rodean las vacunas contra el Covid-19 ¿sería ajustado a derecho que las Autoridades sanitarias exigiesen el Certificado Covid no para evitar los contagios dentro de los locales, sino para imponer indirectamente la vacunación a los que han elegido no vacunarse?

No se trata de discutir la efectividad demostrada de las vacunas frente a los fallecimientos y enfermedad grave por Covid. Se trata de saber si, partiendo de estas circunstancias, las Autoridades sanitarias pueden imponer las vacunas indirectamente a través de la introducción de requisitos para la realización de determinadas actividades.

2- Las especiales circunstancias que caracterizan a las vacunas contra el Covid-19

La primera su no obligatoriedad. La vacunación contra el Covid en España es voluntaria según la Estrategia Nacional de Vacunación contra el Covid acordadaen el Consejo interterritorial del Sistema Nacional de Salud.

La segunda que la Agencia Europea del Medicamento ha concedido una autorización condicional a las vacunas (aquí y aquí). Ello quiere decir que serán objeto de un seguimiento temporal tras el cual se puede convertir en una autorización definitiva, prorrogar su temporalidad o revocar la autorización.

La tercera es que no son vacunas esterilizantes. Protegen de manera bastante efectiva contra el fallecimiento y la enfermedad grave pero no contra el contagio.

En un estudio publicado en The Lancet el 29 de octubre de 2021 se concluía por una parte que, de los expuestos al coronavirus se contagiaban un 25% de los vacunados y un 38% de los no vacunados y que, una vez contagiados, los vacunados contagiaban de manera similar a las personas con las que convivían (el 25% de los primeros y el 23% de los segundos).

En otro artículo de la misma revista de 19 de noviembre de 2021 se decía que “Muchos tomadores de decisiones asumen que los vacunados pueden ser excluidos como fuente de transmisión. Parece ser una negligencia grave ignorar a la población vacunada como una posible y relevante fuente de transmisión a la hora de decidir sobre las medidas de control de salud pública”.

Y el pasado 1 de diciembre salían publicadas en El País y en el Diario.es sendas noticias en las que se hacía referencia a un Informe del Centro de Coordinación de Alertas y Emergencias Sanitarias (CCAES) del Ministerio de Sanidad en el que ponen en duda la utilidad del Certificado COVID para evitar los contagios porque  “Equipara el estar vacunado con estar inmunizado y esto no se ajusta a la realidad….Sabemos que aproximadamente un 40% de los vacunados son susceptibles de infectarse y transmitir la infección. Por todo ello, su utilidad para prevenir la transmisión sería muy limitada e incluso podría tener un impacto negativo si se relajaran las medidas de prevención”.

Pese a la importancia de esa aseveración emitida por el organismo que según el art. 2 de la Ley 2/2021 deberá decidir técnicamente cuándo finalizará la crisis sanitaria provocada por la Covid-19, de la obligación de transparencia a la que están sometidas las Autoridades sanitarias por lo previsto en los arts. 3, 4 y 10 de la Ley 33/2011 General de Salud Pública y que el Certificado no parece estar conteniendo el aumento de contagios, sorprendentemente dicho informe no se ha hecho público como denunciaba otro diario.

Una vez más se incurre en los mismos errores cometidos con los comités clínicos, dificultando sobremanera el control sobre la obligación constitucional de interdicción de la arbitrariedad de los Poderes Públicos del art. 9.3 CE.

3- ¿Están las Autoridades sanitarias exigiendo el Certificado Covid para imponer indirectamente la vacunación?

Tenemos algunos indicios que nos pueden llevar a afirmar que , tanto en España como en otros países:

  • En la Sentencia del Tribunal Supremo de 14/9/2021 (RC 5909/2021) en la que la Sala Tercera abandonó el criterio sentado en su STS de 18/8/2021 (RC 5899/2021) en la que había dicho que no superaba el juicio de idoneidad porque los vacunados transmitían igualmente el virus. Cambió de criterio para acoger el de la Xunta de Galicia que defendía que los vacunados transmitían mucho menos el virus que los no vacunados. En esta STS de 14 de septiembre se puede leer lo siguiente: “También reconoce el citado informe, y el informe de la Subdirectora General de Información sobre Salud y Epidemiología, y miembro del Comité Clínico, que la implantación de dicha medida ha servido de medida de fomento de la vacunación y del control epidemiológico de la misma, pues “ha permitido aumentar el control de la enfermedad incentivando la vacunación”.  
  • En el Auto nº 164/2021 de 25 de noviembre del Tribunal Superior de Justicia de Navarra (DDFF 486/2021) al decidir sobre la idoneidad de la introducción del Certificado la Sala dice literalmente “Su objetivo es, siempre unido al mantenimiento de las medidas preventivas como el uso adecuado de la mascarilla y la ventilación, contribuir a reducir la probabilidad de contagio en aquellos espacios con más riesgo…e indirectamente estimular la vacunación y por tanto aumentar la cobertura para tender al 100%”.

  • En el Auto nº 471/2021 de 29 de noviembre del Tribunal Superior de Justicia de la Comunidad Valenciana (Autorizaciones nº 458/2021) se cita el Informe de la Subdirección General de Epidemiología, Vigilancia de la Salud y Sanidad Ambiental valenciana de 22 de noviembre que se dice que “…consideramos que puede tener un efecto indirecto beneficioso, ya que, posiblemente, comportará un incremento de la vacunación en aquella población más reticente a vacunarse”. A lo que la Sala valenciana añade al autorizar la medida que “ello con independencia de que, como hemos visto en otros territorios y estamos viendo en nuestra Comunidad con el solo anuncio de implantación de esta medida, se ha incentivado el aumento de la vacunación”.

4- ¿Sería ajustada a derecho esta decisión de imponer restricciones para lograr obligar indirectamente a los no vacunados a que se vacunen?

Se analizará desde el punto de vista de la incidencia de la medida en la libertad individual (art. 1 CE) y la injerencia en el derecho al respeto de la vida privada del art. 8.2 del Convenio Europeo de Derechos Humanos (CEDH).

Hay que recordar que la libertad es el primer principio citado en el art. 1 de la Constitución después de hacer referencia al Estado social y democrático de derecho. Como dice la STC 19/1988, de 16 de febrero, “no es discutible que en nuestra Constitución la libertad se encuentra erigida, en el artículo 1, como uno de los valores superiores del ordenamiento jurídico, entendida no sólo en su dimensión política, sino su más amplia y comprensiva dimensión de libertad personal”.

Como dicen aquí Ponce, Montolío y RozasSe distingue, pues, la actividad administrativa de la actividad de los privados, pues el principio de libertad que la CE (artículo 1.1) consagra autoriza a los ciudadanos a llevar a cabo todas aquellas actividades que la Ley no prohíba o cuyo ejercicio no subordine a requisitos o condiciones determinadas. El principio de legalidad (arts. 9.3 y 103.1) impide que la Administración dicte normas sin la suficiente habilitación normativa, que deberá ser por ley, si la CE lo exige (STC 83/1984, de 24 de julio, FJ 3; un ejemplo de reserva de ley referida a derechos, art. 53.1 CE. Esta ley deberá ser en su caso orgánica, art. 81 CE). Además, existiendo potestad administrativa para actuar, esta no puede ejercerse de cualquier manera. Debe, en primer lugar, ejercerse de acuerdo con la norma que la otorga y con respeto de los derechos de los ciudadanos”.

Una vez aclarado esto, creo interesante acudir a la Sentencia del Tribunal de Derechos Humanos de 8/4/2021 [Vavřička y otros vs. República Checa] (en adelante, STEDH).

Aunque las diferencias entre el caso resuelto por esta sentencia y el analizado aquí son importantes como ahora veremos, la STEDH analiza si la prohibición de que los niños no vacunados acudan al colegio vulnera el derecho al respeto a la vida privada y familiar del art. 8 CEDH; esto es, si es legítima la prohibición de realización de determinadas actividades a los no vacunados. Todo ello sobre la base de que “el Tribunal considera que el objeto de las denuncias de las demandantes es la obligación de vacunación y las consecuencias para ellas de su incumplimiento” (§260).

Respecto a la injerencia en el derecho al respeto en la vida privada del art. 8 CEDH de la obligación de vacunación y/o de las consecuencias indirectas de no hacerlo, la STEDH confirma que “El Tribunal está de acuerdo, quedando bien establecido que la integridad física de una persona forma parte de su «vida privada» en el sentido de esta disposición de la Convención, que también abarca, en cierta medida, el derecho a establecer y desarrollar relaciones con otros seres humanos…El Tribunal ha establecido en su jurisprudencia que la vacunación obligatoria, como intervención médica involuntaria, representa una injerencia en el derecho al respeto de la vida privada en el sentido del artículo 8 de la Convención (ver Solomakhin c. Ucrania, núm. 24429/03, § 33, 15 de marzo de 2012, con más referencias). Con respecto a los presentes demandantes, es cierto que, como subrayó el Gobierno, no se realizó ninguna de las vacunaciones impugnadas. Sin embargo, según lo establecido anteriormente (ver párrafo 260), y también al hecho de que los niños solicitantes soportaron las consecuencias directas del incumplimiento de la obligación de vacunación en el sentido de que no fueron admitidos a la educación preescolar, el Tribunal constata que, a su respecto, ha habido una injerencia en su derecho al respeto de la vida privada(§262 y §263).

Una vez admitido que dichas prohibiciones pueden afectar al derecho, para resolver si existe o no violación del art. 8 del CEDH, la STEDH nos dice que “Para determinar si esta injerencia implicó una violación del artículo 8 de la Convención, el Tribunal debe examinar si fue justificada al amparo del segundo párrafo de dicho artículo, es decir, si la injerencia fue «conforme a derecho», perseguía una o más de los objetivos legítimos allí especificados, y para ello era «necesario en una sociedad democrática»” (§265).

Es decir, realiza el triple test de Estrasburgo al que se refiere Climent Gallart aquí:

  1. Si se ha tomado la medida de acuerdo con la ley,
  2. Si existe un objetivo legítimo de los previstos en el art. 8.2 CEDH y
  3. Si es necesaria en una sociedad democrática.

1. Si se ha tomado la medida de acuerdo con la ley

Como decíamos antes, nuestra legislación no impone la vacunación obligatoria.

El art. 5.2 de la Ley 33/2011 General de Salud Pública contempla que la participación en materia de salud pública será voluntaria, salvo lo previsto en la Ley Orgánica 3/1986, de 14 de abril, de Medidas especiales en materia de salud pública.

Respecto al Covid, la actualización nº 1 de la Estrategia de vacunación frente a Covid en España de 18/12/2020 nos dice: “Sin perjuicio del deber de colaboración que recae sobre los individuos, la vacunación frente a COVID-19 será voluntaria, y ello, a salvo de lo previsto en la Ley Orgánica 3/1986, de 14 de abril, de Medidas especiales en materia de salud pública”.

Respecto a esta remisión  a la LO 3/986, es interesante el Auto del Tribunal Constitucional 74/2021 de 20 de julio que acordó mantener la suspensión provocada por la presentación de recurso de inconstitucionalidad por el presidente del Gobierno de España ex art. 30 LOTC y art. 161.2 CE de los artículos de la Ley de salud de Galicia introducidos por la Ley autonómica 8/2021 que contemplan la vacunación obligatoria y las sanciones por no vacunarse. Después de recoger los alegatos del Abogado del Estado sobre que dicha medida se aparta de la Estrategia Nacional de Vacunación contra el COVID-19 acordadaen el Consejo interterritorial del Sistema Nacional Salud, que establece la voluntariedad de la vacunación contra dicha enfermedad infecciosa, el Tribunal nos dice que “la vacunación obligatoria no es una medida preventiva que aparezca expresamente contemplada en la Ley Orgánica 3/1986, de medidas especiales en materia de salud pública, y supone una intervención corporal coactiva y practicada al margen de la voluntad del ciudadano, que ha de someterse a la vacunación si se adopta esta medida, so pena de poder ser sancionado, en caso de negativa injustificada a vacunarse, conforme a lo previsto en el artículo 44.bis de la Ley de salud de Galicia, en relación con los artículos 41.bis d), 42.bis c) y 43.bis d) de la misma ley. Cabe, por tanto, apreciar en este caso que el levantamiento de la suspensión del precepto impugnado sería susceptible de provocar perjuicios ciertos y efectivos que pueden resultar irreparables o de difícil reparación, en la medida en que la vacunación puede imponerse en contra de la voluntad del ciudadano”.

La mención del Tribunal Constitucional a esa falta de habilitación normativa expresa en la Ley Orgánica 3/1986 podría hacernos entender que no podría tener amparo dentro de la más genérica que se recoge en su art. 3 para que las Autoridades administrativas puedan tomar las medidas que se consideren necesarias en caso de riesgo de carácter transmisible. Pero aunque se entendiese que esa posibilidad se podría encuadrar dentro del art. 3 LO 3/1986, existiendo una ley especial y posterior que contempla la voluntariedad como regla general, parecería necesario que una norma con el mismo rango de ley para imponer aunque sea de modo indirecto, la obligación de vacunarse.  

De hecho, en el caso resuelto por la STEDH y a diferencia de España la legislación de la República Checa contempla la vacunación infantil como obligatoria.

La voluntariedad de la vacunación en general y en especial contra el Covid que va unido como decía Preciado Domènech aquí, al “hecho de que en nuestro país, a diferencia de lo que acontece en la República Checa, no hay una ley que prevea de forma específica la responsabilidad del Estado por los daños derivados de una imposición de la obligación de vacunarse”, podría llevarnos a concluir que la imposición por vía indirecta de la vacunación a través del Certificado Covid es un fraude de ley del art. 6.4 del Código Civil contrario a derecho que no debería impedir la aplicación de las leyes que expresamente otorgan la libertad a la hora de decidir sobre la vacunación.

2. Si existe un objetivo legítimo de los previstos en el art. 8.2 CEDH

El párrafo 2º del art. 8 CEDH incluye la protección de la salud entre los supuestos que legitiman las injerencias de las Autoridades en el respeto a la vida privada. Otra cosa es si realmente la medida es necesaria y efectiva para proteger la salud, lo que se analiza en el siguiente apartado.

3. Si es necesaria en una sociedad democrática

En este punto la STEDH señala que “una injerencia será considerada «necesaria en una sociedad democrática» para el logro de un fin legítimo si responde a una «necesidad social apremiante» y, en particular, si las razones aducidas por las autoridades nacionales para justificarla son «pertinentes y suficientes» Y si es proporcionado al fin legítimo perseguido”.

La STEDH reconoce un margen de apreciación a los Estados, sobre todo en los casos como éste en que la medida no es la inoculación obligatoria, sino la prohibición de realizar determinadas actividades (en este caso que los niños pudiesen ir al colegio).  Considera que en el caso resuelto no se vulneró el derecho a la vida privada ni el art. 8 CEDH por:

  • La existencia de “un consenso generalizado entre las Partes Contratantes, fuertemente apoyado por los organismos internacionales especializados, de que la vacunación es una de las intervenciones sanitarias más exitosas y rentables y que cada Estado debe aspirar a lograr el nivel más alto posible de vacunación entre sus países” y
  • que “también debe considerarse que engloba el valor de la solidaridad social, siendo el objetivo del deber proteger la salud de todos los miembros de la sociedad, en particular de aquellos que son especialmente vulnerables con respecto a determinadas enfermedades y en cuyo nombre se pide al resto de la población que asuma un riesgo mínimo en forma de vacunación”.

Sin embargo en el caso de las vacunas y Certificado Covid no se dan estos requisitos.

Las vacunas no se encuentran aprobadas definitivamente, sino de manera condicional, existiendo aún indeterminación sobre sus posibles riesgos. Y aunque han demostrado efectividad en la protección individual contra la muerte y la enfermedad grave, no son esterilizantes, es decir, no impiden el contagio a otros. Al no cortar la vacunación la cadena de transmisión social del virus, valores como la solidaridad social como argumento para vacunarse al que se refiere la STEDH que sí pueden esgrimirse en otro tipo de vacunas, no podríamos aplicarlo a éstas.

Con relación a la proporcionalidad, el Informe del CCAES y el estudio y artículo publicados recientemente en The Lancet antes citados, concluyen que los vacunados y lo no vacunados siguen contagiando de manera similar. Y a esa misma conclusión se puede llegar observando los datos de contagiados y niveles de alerta que existen a día de hoy, donde no se aprecian diferencias significativas entre Comunidades como Galicia con Certificado obligatorio y otras como Madrid sin él.

Por lo tanto, el Certificado Covid no superaría el triple juicio de proporcionalidad (idoneidad, necesidad y proporcionalidad en sentido estricto), tanto como medida de salud pública, como de incitación a la vacunación, al no ser una medida eficaz para contener la transmisión comunitaria del virus como había dicho la Sala Tercera en su STS de 18/8/2021.

Diego Gómez Fernández, autor del presente post, es abogado y profesor asociado de derecho administrativo de la Universidad de Vigo www.derechoadministrativoyurbanismo.es/blog
José Andrés Rozas Valdés, Pablo Grande Serrano

Derecho conductual al hilo de la imposición municipal sobre plusvalías

El Tribunal Constitucional dictó el pasado 26 de octubre su sentencia 182/2021, publicada en el «Boletín Oficial del Estado» el 25 de noviembre, en la que se declara la «inconstitucionalidad y nulidad de los arts. 107.1, segundo párrafo, 107.2 a) y 107.4 TRLHL lo que supone su expulsión definitiva del ordenamiento jurídico – tras los previos envites y tarascadas del 2017 y del 2019 – y el consecuente vacío normativo sobre la determinación de la base imponible que impide la liquidación, comprobación, recaudación y revisión de este tributo local.

De cómo hemos llegado hasta esta sentencia y sobre la limitación de efectos de la misma no vamos a hablar, no parece que haya mucho más que decir. Nos interesa ahora comentar la nueva regulación dictada con extraordinaria y urgente necesidad (v.gr. por real decreto-ley) para poder determinar la base imponible del tributo.

El impuesto sobre el incremento de valor de los terrenos de naturaleza urbana es un tributo local de carácter potestativo, es decir, es un impuesto que los ayuntamientos pueden establecer y exigir, pero no es obligatorio que lo hagan; sin embargo, por su importancia recaudatoria está extendido por todo el territorio nacional.

El Real Decreto-ley 26/2021, de 8 de noviembre, modifica tres artículos claves en su configuración y aplicación: 104 (supuesto de no sujeción), 107 (base imponible) y 110 (gestión tributaria del impuesto) del texto refundido de la Ley Reguladora de las Haciendas Locales, aprobado por el Real Decreto Legislativo 2/2004, de 5 de marzo.

El contenido de la reforma

En primer lugar, se introduce un nuevo supuesto de no sujeción cuando no exista incremento de valor. Lógicamente, si el impuesto recae sobre los incrementos de valor de los terrenos, no debería exigirse el impuesto cuando no hay incremento de valor. ¿Y cómo se calcula este incremento de valor para determinar la no sujeción? Por la diferencia entre los valores de transmisión y adquisición del inmueble. Para acreditar este supuesto, el contribuyente tendrá que declarar la transmisión. Lo que no deja de ser estupefaciente: obligación de autoliquidar/declarar para que se pueda evaluar si se está, o no, sujeto al impuesto.

En segundo lugar, se modifica la determinación de la base imponible. Por un lado, se mantiene el método objetivo que consistía en aplicar unos coeficientes sobre el valor del terreno en el momento de realizarse la transmisión (del devengo del tributo). Lo que se hace es modificar los coeficientes (y prever su modificación anualmente). Pero también se introduce como gran novedad un método directo para calcular la base imponible por la diferencia entre los valores de transmisión y adquisición del terreno.

Finalmente, los ayuntamientos pasan a tener reconocida la facultad de comprobación de los valores de transmisión y adquisición. Lo que resulta verdaderamente contradictorio con la reciente regulación que del valor de referencia se ha llevado a cabo en lo relativo a los impuestos patrimoniales estatales, cedidos a las Comunidades autónomas, en la que para los inmuebles se ha transferido toda la responsabilidad sobre la determinación de los valores fiscales de los inmuebles al Catastro inmobiliario.

La perspectiva conductual de la nueva regulación

Uno de los aspectos más relevantes de la reforma es la posibilidad de determinar la base imponible del impuesto (o la no sujeción), es decir, el incremento (o no) de valor del terreno, mediante la diferencia entre los valores de transmisión y adquisición. La gran novedad queda diluida al establecerse como método para determinación de la base imponible por defecto el objetivo mediante la aplicación de coeficientes.

El lector asiduo del blog sabrá del poder de las reglas por defecto (aquí, aquí, aquí, aquí o aquí). La regla por defecto utiliza el homónimo sesgo por defecto (o sesgo del statu quo), esto es, la tendencia de las personas a permanecer en el mismo estado o dejar las cosas como están si no se toma ninguna decisión. Por tanto, no será infrecuente que contribuyentes que se beneficiarían de una menor tributación calculando el incremento de valor por la diferencia de los valores de transmisión y adquisición, no lo hagan al aplicar por defecto el más sencillo método de coeficientes. Y no digamos si podría estar no sujeto por no existir incremento de valor.

El legislador traslada al contribuyente la carga de cambiar el curso de la opción preestablecida. La alternativa era fácil, no establecer ninguna opción por defecto en un sistema de autoliquidación, o establecer la más favorable para el contribuyente en un sistema de declaración mediante liquidación con base en el principio de buena administración.

No sabemos si en esta modificación alguien ha tenido en cuenta el coste psicológico que impone a los contribuyentes, y a las administraciones municipales, tanto chapapote (sludge) tributario. Si lo han tenido en cuenta, la modificación es mejorable; si no lo han tenido en cuenta, ha de servir como un ejemplo más de la importancia de incluir las ciencias conductuales en la tramitación legislativa, quizá como unos hitos a cumplimentar en la memoria de análisis normativo.

En realidad se trata de una opción sólo aparente. Tan solo se puede entrar en el sistema de determinación directa de la base imponible tratando de demostrar que no se ha producido incremento alguno de valor en la enajenación, mediante el extravagante cauce de solicitar el reconocimiento de la no sujeción – art. 104.5 – para enfrentarse a una eventual, más que probable, comprobación de valores por las autoridades municipales, de incierto fin.

En definitiva, si el contribuyente entiende que el incremento de valor es menor al derivado del sistema objetivo se le fuerza a solicitar – autoliquidando con cuota cero – el reconocimiento de la no sujeción. Que puede finalizar con el reconocimiento de que el incremento es menor o con la liquidación conforme al sistema de coeficientes (art. 107.5).

En definitiva, un sistema muy poco transparente y cuya sola comprensión genera una más que considerable fatiga cognitiva. No cabe duda que la intención del legislador – es muy evidente al permitir a los Ayuntamientos reducir las valoraciones mediante coeficientes – es arrastrar prácticamente por la fuerza a los contribuyentes al sistema objetivo con el que verdaderamente se puede aventurar que tiene una obsesiva fijación.

Un sistema de una mucho más inteligible, sencillo, tan eficiente y económico en su aplicación como más equitativo en sus resultados habría sido el de acompasar la tributación de las plusvalías inmobiliarias municipales al de su gravamen en los impuestos sobre la renta (IRPF, IRNR e IS) de quienes eventualmente las disfruten.

Un simple recargo municipal sobre dichos impuestos resolvería todo el modelo de imposición municipal sobre las plusvalías inmobiliarias de modo extraordinariamente automático, sin incidentes de comprobación de valores y sin mayor carga obligacional para el contribuyente que la de presentar una sencillísima autoliquidación cautelar de su impuesto sobre la renta a estos solos efectos y por este único concepto a la AEAT. En aquellos casos, claro está, en los que el municipio de radicación del inmueble hubiera establecido el impuesto.

Si en la configuración de los elementos estructurales de los tributos y, en particular, en la articulación de sus sistemas de aplicación y revisión, se tuviera más presente el modo en el que los contribuyentes – y los funcionarios – toman sus decisiones frente a la información que se les facilita y las opciones que se les presentan. Si se reflexionara con calma sobre las mejores opciones para lograr que el resultado de cada impuesto fuera un equilibrio adecuado entre la cuota a pagar, en razón de la capacidad efectiva del contribuyente, y el coste de los trámites a solventar para su cálculo y abono, tal vez no se desplegarían modelos tan artificiosos, opacos y gravosos como el que se despliega en este urgentísimo Real Decreto-Ley, dictado en unos días, más de cuatro años después de que el Tribunal Constitucional advirtiera por primera vez de las graves carencias del sistema de gravamen municipal de las plusvalías inmobiliarias.

Juli Ponce Solé

De ruido, sesgos, algoritmos e inteligencia artificial

En una entrada anterior de este blog, dábamos cuenta de cómo el año 2021 que ahora va a terminar nos había traído dos obras relevantes en el ámbito de las aportaciones conductuales.

De una de ellas, del libro Nudge. The Final Edition, elaborado por un economista, Thaler, premio Nobel en 2017, y por un jurista, Sunstein, dimos cumplida noticia en una recensión también publicada en este blog, tanto en inglés como en español.

Es el momento ahora, para cerrar el círculo, realizar un comentario sobre el libro Ruido. Un fallo en el juicio humano, editorial Debate, aparecido también este 2021, en traducción española del original en inglés. La obra ha sido escrita por un psicólogo de origen israelí, premio Nobel en Economía también, en 2002, Daniel Kahneman, un especialista francés en gestión, Olivier Sibony, formado en la Escuela de Estudios Superiores de París (HEC París), y un profesor norteamericano de Derecho Público, Cass Sunstein.

Lo primero que puede llamar la atención es el título del libro: Ruido. Si buscamos su significado en el diccionario de la RAE, comprobaremos que ninguna de las acepciones allí recogidas, ni el significado que primero se nos viene a la cabeza en el habla popular, esto es, su relación con el sonido, tiene que ver nada con la definición que los autores hacen de esta palabra en relación con su estudio. Para los autores, el ruido del que se ocupan en el libro es la variabilidad no deseada en juicios que deberían ser idénticos.

¿Qué va a encontrar entonces la lectora o el lector en este libro? ¿Se trata de un título engañoso o erróneo? No. Lo que ocurre es que el ruido del que se ocupa este libro es el ruido estadístico, cuyo significado nos los ofrece esta rama del saber, la estadística: el ruido estadístico es una variabilidad inexplicable dentro de una muestra de datos.  La presencia de ruido significa que los resultados del muestreo podrían no duplicarse si el proceso se repitiera. Los datos ruidosos, entonces, son datos que no tienen sentido por la existencia de demasiadas variaciones.

¿Se trata, pues,  de un libro para estadísticos, de una obra especializada que sólo se refiere a cuestiones arcanas para el común de los ciudadanos, incluyendo a los especialistas en ciencias sociales como el Derecho, por ejemplo? Tampoco.

Los autores hacen uso del termino estadístico ruido para ocuparse de un tipo de fallo de los juicios humanos, entendidos estos como una forma de medición en que el instrumento es una mente humana, incorpore o no magnitudes numéricas. En los ejemplos utilizados en el libro, se podrá comprobar que los juicios humanos son realizados por un conjunto amplio de profesionales (y también en nuestra vida cotidiana como ciudadanas/os): profesores (cuando corrigen exámenes), médicos (cuando diagnostican), abogados y jueces (por ejemplo, al resolver un caso), gestores privados y públicos (al desarrollar una política pública y adoptar una decisión administrativa, por ejemplo) …

Por tanto, el libro interesa a todo el mundo, pues destaca como al juzgar, al integrar información en una evaluación global, frecuentemente fallamos como humanos que somos, haciendo realidad, pues, ahora con datos científicos empíricos, la máxima latina de errare humanum est (si bien, perseverare autem diabolicum)

Esta existencia de errores en el juicio humano ya era bien conocida de la mano de las heurísticas (atajos mentales para ahorrar energía) que producen sesgos (errores sistemáticos previsibles). Conocíamos bien los sesgos, esto es errores de un conjunto de juicios que van en la misma dirección (sesgo de inercia, de optimismo, etc.), como la báscula que sistemáticamente añade un kilo de más a nuestro peso porque está mal equilibrada (podemos repararla o bien conociendo el sesgo, descontar sistemáticamente un kilo a nuestro peso…).

Este libro vuelve a ocuparse de los sesgos, en diversos momentos. Por ejemplo, señaladamente, en el capítulo 19, en el que se vuelve a recordar las diversas opciones para enfrentarse a los sesgos y evitar malas decisiones.

Por un lado, intervenciones ex post, como se ha hecho en el Reino Unido, donde la Administración británica ha publicado un Libro Verde dirigido a contrarrestar el sesgo de optimismo de los planificadores de proyectos públicos en términos de coste y plazo de las obras, recomendando porcentajes de ajuste genérico por tipos de proyecto, lo que no vendría mal, por cierto, a nuestros propios planificadores, a la vista de los estudios disponibles sobre una variante de la mala administración no corrupta, que viola en todo caso el derecho a una buena administración: la negligencia y el despilfarro de recursos públicos, en contra de los principios de eficacia, eficiencia y economía.

Por otro, intervenciones ex ante, ya conocidas, como el nudging o el boosting, esto es, la (in) formación en la prevención, detección y corrección de los sesgos (debiasing). Desde la perspectiva ex ante, quizás la mayor novedad de esta obra es la inclusión de una checklist o lista de comprobación para ayudar a quienes toman decisiones, también en el sector público, a detectar y evitar sesgos, la cual se incluye en el Apéndice B. Sería muy conveniente que los reguladores públicos en España adoptaran este tipo de listas de comprobación, como hemos insistido desde hace tiempo, e incluyeran en las mismas esta preocupación por los sesgos, de acuerdo con estos avances científicos.

Pero este no es un libro sobre sesgos, sino sobre el ruido, si bien ambos conceptos están interconectados, pues la existencia de distintos sesgos en distintos decisores conduce al problema del ruido, al obtener decisiones distintas, no queridas, en supuestos similares. Efectivamente, el ruido es un problema, pues es un error en la toma de decisiones, más difícil incluso de detectar que los sesgos, dado que “Sólo una “visión estadística” del mundo nos permite ver el ruido, per esa visión no es natural, pues preferimos las historias causales” (pág. 405).

El ruido genera un problema cuando se dictan sentencias muy distintas en casos muy parecidos o cuando se realizan diagnósticos muy diferentes ante un mismo paciente, por ejemplo.

Los autores proponen una estrategia para reducir el ruido: lo que denominan la “higiene de las decisiones”, una metáfora muy bien traída en el escenario pandémico en el que aún nos movemos. Al igual que los patógenos desconocidos no son visibles en nuestras manos, el ruido tampoco lo es en nuestras decisiones. Sin embargo, al lavarnos las manos, o al realizar una auditoría de ruido, la higiene evitará enfermedades del cuerpo y de las decisiones.

Los autores ofrecen diversos principios que deberían inspirar una higiene de las decisiones para evitar el ruido y en el Apéndice A nos muestran una guía práctica para desarrollar una auditoría del ruido en las organizaciones, públicas o privadas.

Uno de los principios que deben regir dicha higiene de las decisiones se refiere a que el objetivo de los juicios debe ser la exactitud, no la expresión individual. Por ello, a lo largo del libro se hace un elogio continuado de los algoritmos. Como es sabido, un algoritmo es un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema, como, por ejemplo, una receta de cocina. Cuando esos algoritmos se usan en conexión con programas informáticos y se nutren de datos, se convierten en algoritmos computacionales, los cuales, si disponen de big data y de capacidad de aprendizaje no supervisado, esto es, capacidad de analizar por sí mismos datos una vez elaborados y tomar decisiones, nos conducen al ámbito de la inteligencia artificial y el aprendizaje automático (machine learning).

Pues bien, especialmente el capítulo 26 de este libro es un canto a los algoritmos empleados en inteligencia artificial, pues “los algoritmos eliminan el ruido (…). De hecho, gran parte de este libro podría tomarse como un argumento a favor de una mayor confianza en los algoritmos, simplemente porque no son ruidosos” (pág. 368).

Ciertamente, en la obra se es consciente de los problemas que pueden presentar los algoritmos, entre ellos los sesgos de los propios algoritmos, que conduzcan a discriminar, que, se señala, pueden ser causados por dos razones.

Una puede ser el diseño del algoritmo para utilizar criterios directamente discriminadores o como mínimo indicadores (proxies) que estén altamente correlacionados, por ejemplo, con un grupo étnico y/o económico (por ejemplo, un código postal) o con el género (por ejemplo, la estatura y el peso).

Otra razón puede ser la fuente de los datos con los que se entrena al algoritmo, que pueden estar sesgados y, por tanto, producir el sesgo del algoritmo. Sin embargo, se señala que “el hecho de que se pueda plantear esta cuestión es una clara ventaja de los algoritmos sobre los juicios humanos”, pues éstos son más opacos que los algoritmos, que pueden ser evaluados “para garantizar que no consideren inputs inadmisibles y comprobar si discriminan de forma objetiva”. Dado que los “buenos” algoritmos predicen mejor que los humanos y pueden estar menos sesgados y no generan ruido (variabilidad no querida entre supuestos iguales), la conclusión parece clara. Si aún así tenemos una preferencia intuitiva por las personas, el libro cree que nuestras preferencias deberían ser examinadas cuidadosamente (páginas 371).

Si bien en esta breve recensión del libro no podemos extendernos en las importantes cuestiones planteadas al respecto, si queremos en todo caso aportar algunas reflexiones que abran un debate sobre el papel de los algoritmos, de la inteligencia artificial y de los humanos en relación al ruido y a otras cuestiones.

En primer lugar, puede señalarse que si bien no hay que caer en intuiciones erróneas, tampoco debiéramos ser presa del sesgo cognitivo de automatización, que de acuerdo con encuestas realizadas afecta a muchas personas.

En este sentido, si bien los algoritmos y la inteligencia artificial pueden eliminar el ruido, hay que considerar también los riesgos que presentan y la necesidad de no eliminar la variabilidad querida entre supuestos similares. En cuanto a los riesgos, debe tenerse en cuenta no sólo los sesgos a que se refiere el libro comentado, sino también los errores, los bugs, que pueden producirse en la programación. Si bien se está trabajando en intentar eliminar dichos errores en el futuro (por ejemplo, en la Universidad de Barcelona un equipo liderado por el profesor Joost Joosten está trabajando en un proyecto “Software fallo 0”), no hay que olvidarlos.

Por lo que se refiere a los sesgos, no hay que olvidar que existen diversos tipos de sesgos y que no cabe contraponer los sesgos cognitivos humanos a su ausencia en los programas informáticos. Porque, en primer lugar, los sesgos cognitivos humanos de los programadores, que pueden ser inconscientes, pueden traspasarse a los algoritmos. Dichos sesgos no sólo pueden producir discriminación, sino que el panorama es más complicado: sesgos como el de disponibilidad o del de confirmación pueden provocar que la información seleccionada para nutrir el sistema no sea discriminatoria quizás, pero en todo caso, no será la adecuada para obtener un buen funcionamiento. Además, en segundo lugar, los datos con que se alimenta el sistema probablemente estarán sesgados, como lo está nuestra sociedad, por lo que en el caso de sistemas de aprendizaje automático, el sistema va a usar datos sesgados y se va a sesgar. Además, pueden producirse sesgos estadísticos a añadir a los anteriores.

Quizás los algoritmos “buenos” a que se refiere el libro tomen mejores decisiones que los humanos, pero seguro que los “malos”, los erróneos o sesgados, por sesgos cognitivos de programadores o por sesgos de los datos empleados, tomarán decisiones que no tendrán ruido pero que pueden tener un impacto social en términos de extensión mucho más amplios que los juicios humanos.

Ciertamente, estamos de acuerdo en que es posible, y necesario, que se realice un control de los “inputs” que recibe el sistema, para evitar el llamado garbage in, garbage out. En dicho control tendrán que desplegarse un conjunto de medidas, aún en mantillas en nuestro sistema, que pueden abarcar desde la formación de los programadores para detectar sus sesgos, incluyendo el conocimiento del impacto de su tarea en los derechos de las personas o la generación de equipos de programación con diversidad.

Medidas en las que el Derecho puede y debe tener un papel relevante, diseñando medidas procedimentales de diverso tipo, como evaluaciones de impacto, no sólo de datos, en las que se consideren posibles errores y sesgos o exigiendo evaluación ex post, mientras el sistema de aprendizaje automático se esté desplegando.

La preocupación por los sesgos puede hallarse tanto en la Carta de Derechos Digitales española, soft law necesitado de urgente traslación al hard law español, aún muy deficiente en esta materia, como en la propuesta de Reglamento de la UE sobre inteligencia artificial (arts. 10.2.f o 15.3, por ejemplo). Propuesta que reconoce, por cierto, el sesgo de automatización antes aludido (art. 14: hay que “ser conscientes de la posible tendencia a confiar automáticamente o en exceso en la información de salida generada por un sistema de IA de alto riesgo («sesgo de automatización»), en particular con aquellos sistemas que se utilizan para aportar información o recomendaciones con el fin de que personas físicas adopten una decisión”).

Pero dejando de lado errores y sesgos, debe tenerse en cuenta que si bien los algoritmos pueden contribuir a eliminar el ruido (entendido como variaciones no queridas entre supuestos similares) y por tanto podrían solucionar este problema en la toma de decisiones, también podrían, ma l empleados, generar otro: esto es, la no variabilidad entre decisiones, jurídicas en concreto, que en ciertos casos debe existir, por obligación legal.

Nos referimos a un tradicional tema jurídico: el papel del precedente (administrativo y judicial) y las excepciones a éste, muy bien estudiado entre nosotros por Silvia Díaz. Ante casos similares, se puede y debe esperar una decisión administrativa y judicial parecida. Pero similar no significa idéntico y por ello, el derecho a una buena administración (judicial también) supone la necesidad de considerar cada caso individualmente, teniendo en cuenta, con la diligencia debida, las circunstancias relevantes y descartando las irrelevantes, como señala por ejemplo la STS de 4 de noviembre de 2021, entre otras muchas. En la terminología propia del common law, hay que evitar así la fettering discretion, que conduciría a una mala administración y a la ilegalidad de la decisión así adoptada, esto es, sin ejercicio real de la discrecionalidad concedida por la normativa al decisor.

Y es ahí, quizás, donde el libro comentado no realiza una distinción adecuada entre decisiones jurídicas administrativas y judiciales puramente regladas, de aplicación automática, donde el ruido debe ser evitado a toda costa, y donde los algoritmos que conduzcan a decisiones automatizadas pueden tener sentido, de las decisiones jurídicas en las que existe un margen de apreciación, una posibilidad de elegir entre diversas alternativas. Elección que, ciertamente, no es libre ni indiferente para el Derecho y que, salvo razón justificada, debe seguir los precedentes similares, pero que, ante una ponderación con la diligencia debida y el debido cuidado de las circunstancias relevantes del caso concreto puede, y debe, separarse del precedente, si fuera preciso, para el servicio al interés general o a la Justicia.

En este ámbito, los algoritmos y la inteligencia artificial, si pudieran técnicamente desarrollarse, plantean la duda de si deberían implantarse para el caso de decisiones automatizadas, esto es, sin intervención humana en último lugar (cuestión distinta es su función de apoyo en la toma de la decisión). Tanto la necesidad de garantizar un espacio de discrecionalidad realmente ejercida, como acabamos de exponer, como el juego de la empatía humana, como hemos señalado en otras ocasiones, justifican la duda, que, de momento, ya ha sido resuelta de forma negativa por legislaciones como la alemana o la catalana y también, más matizadamente, por la Carta de Derechos Digitales española (“reconociéndose en todo caso los derechos a: d) Que la adopción de decisiones discrecionales quede reservada a personas, salvo que normativamente se prevea la adopción de decisiones automatizadas con garantías adecuada”).

En fin, en todo caso, el libro que hemos comentado suscita, como puede comprobarse, un ámbito de reflexión sugerente y está llamado, sin duda, a ser una obra de referencia en el ámbito de la toma de decisiones públicas y privada y de las aportaciones conductuales, sumándose por méritos propios a una amplia lista ya de obras de gran relevancia.

covid-19 & public policy, nudging

La RED «NUDGING APLICADO A LA MEJORA DE LA REGULACIÓN» participa en un Congreso Internacional en colaboración con el proyecto de investigación PID2020-115774RB-I00: PERSONALIZACION DE LOS SERVICIOS PUBLICOS, SESGOS E INTELIGENCIA ARTIFICIAL: HACIA LA CONSOLIDACION DE LOS DERECHOS DIGITALES EN LAS ADMINISTRACIONES PUBLICAS

El pasado 24 de noviembre, tuvo lugar el panel “Cómo gestionar la recuperación pospandemia de forma efectiva y honesta” en modalidad mixta (presencial y virtual) en el XXVI Congreso Internacional del CLAD sobre la Reforma del Estado y de la Administración Pública.

El panel fue coordinado por el profesor Manuel Villoria Mendieta y contó con diferentes ponencias desarrolladas por el propio Villoria, Concepción Campos Acuña y Agustí Cerrillo Martínez.

En ese marco, también se desarrolló una ponencia por parte de Juli Ponce Solé y Oscar Capdeferro Villagrasa con el título “ACICATES (NUDGES) DIGITALES Y REGULACIÓN ADMINISTRATIVA: INTELIGENCIA ARTIFICIAL Y DERECHO A UNA BUENA ADMINISTRACIÓN EN LA GESTIÓN POSTPANDEMIA”.

En la misma, se presentaron algunos de los resultados de los casi dos años de trabajo de la red y se avanzaron reflexiones nuevas, que esperamos profundizar en el futuro mediante el proyecto de investigación ya en marcha PID2020-115774RB-I00 PERSONALIZACION DE LOS SERVICIOS PUBLICOS, SESGOS E INTELIGENCIA ARTIFICIAL: HACIA LA CONSOLIDACION DE LOS DERECHOS DIGITALES EN LAS ADMINISTRACIONES PUBLICAS.

En la breve exposición oral, basada en la ponencia presentada por escrito y que puede consultarse aquí, se analizó el uso de aportaciones conductuales (behavioural insights) en el ámbito digital, el cual ha adquirido extraordinaria relevancia durante la pandemia de COVID-19.

La exposición se dividió en dos partes. En la primera, se explicó brevemente el concepto de acicate (nudge) en conexión con las aportaciones de la psicología cognitiva y sus impactos en la Economía y el Derecho conductuales a través, entre otros, del concepto de sesgo cognitivo.

En la segunda parte, se avanzó un paso más y se consideró cómo se están empleando dichos acicates en el ámbito digital, aludiendo a conceptos como los llamados diseños oscuros (dark patterns), ya tratados en este blog, y vinculados al problema de la manipulación, también existente en el sector público, del que se ha ocupado la Declaration by the Committee of Ministers on the manipulative capabilities of algorithmic processes (Adopted by the Committee of Ministers on 13 February 2019 at the 1337 meeting of the Ministers’ Deputies).

La ponencia también considera los denominados acicates de precisión o hyper nudging, también considerados previamente en este blog.

Su uso, tanto por parte del sector privado como del sector público, en vinculación con la personalización de servicios públicos adquiere cada vez mayor relevancia, ofreciendo en el segundo caso, oportunidades para lograr una buena administración, derecho que cada vez adquiere más importancia.

En este sentido, la reciente sentencia del 4 de noviembre de 2021 del Tribunal Supremo español ha sintetizado la abundante jurisprudencia sobre el mismo, con consideraciones que, sin duda, son de plena aplicación también al ámbito digital:

Como se desprende de lo dicho por el Tribunal Supremo el principio de buena administración tiene una base constitucional y legal indiscutible. Podemos distinguir dos manifestaciones del mismo, por un lado constituye un deber y exigencia a la propia Administración que debe guiar su actuación bajo los parámetros referidos, entre los que se encuentra la diligencia y la actividad temporánea; por otro, un derecho del administrado, que como tal puede hacerse valer ante la Administración en defensa de sus intereses y que respecto de la falta de diligencia o inactividad administrativa se refleja no ya sólo en la interdicción de la inactividad que se deriva de la legislación nacional, arts. 9 y 103 de la CE y 3 de la Ley 39/2015, -aunque expresamente no se mencione este principio de buena administración-, sino de forma expresa y categórica en el art. 41 de la CEDH, cierto es, que, art. 51 de la Carta, no estamos aplicando Derecho de la UE, pero cabe recordar que este Tribunal ya advirtió en sentencia de 11 de julio de 2014 – a la que se remitió la de 20 de noviembre de 2015, rec. cas. 1203/2014-, que «(…) dicha persona tiene derecho a obtener una respuesta de aquélla y a que por tanto la Administración se pronuncie sobre su solicitud (artículo 42 LRJAP-PAC), sin que pueda consiguientemente permanecer inactiva durante tiempo indefinido, como si no se hubiese planteado ante ella la solicitud antes indicada (…)

Existe, pues, con base en la normativa antes citada, un deber administrativo a la diligencia debida, y un correlativo derecho de los ciudadanos a la proscripción de la inactividad administrativa. Es consustancial al principio de buena administración la diligencia en el actuar de la Administración y el desarrollo y resolución en tiempo razonable y proporcionado...”

En el contexto algorítmico, el Consejo de Estado italiano ha llamado la atención sobre los efectos positivos que sobre la buena administración podrían tener estos sistemas. Así, la Sentenza 2270/2019 señala como (traducción nuestra):

En general, no se puede cuestionar que un mayor nivel de digitalización de la administración pública es esencial para mejorar la calidad de los servicios prestados a los ciudadanos y usuarios… las ventajas indiscutibles de automatizar el proceso de toma de decisiones de la administración a través del uso de un procedimiento digital y a través de un «algoritmo“…deben ser enfatizadas.(…) De hecho, esto está en consonancia con los cánones de eficiencia y rentabilidad de la acción administrativa (art. 1 de la Ley 241/90), que, de acuerdo con el principio constitucional de buena administración (buen andamento) (art. 97 de la Constitución), imponen a la administración la consecución de sus objetivos con el menor gasto de recursos y medios y mediante la racionalización y aceleración del proceso procesal. Por esta razón, en estos casos (…) no debe estigmatizarse el uso de un procedimiento informático que conduzca directamente a la decisión final, sino más bien, en principio, fomentarse: de hecho, implica numerosas ventajas como, por ejemplo, una reducción considerable de los plazos procesales para las operaciones puramente repetitivas sin discrecionalidad, la exclusión de interferencias debidas a negligencias (o, peor aún, a faltas intencionadas) por parte del funcionario (ser humano) y, por consiguiente, una mayor garantía de imparcialidad de los procedimientos”.

En la misma línea, en una decisión posterior ha destacado como (sentencia de 13 de diciembre de 2019, No 8472):

«7.1 En términos generales, cabe destacar que la administración pública también debe ser capaz de explotar el considerable potencial de la revolución digital.
En este contexto, el uso de algoritmos computarizados para la toma de decisiones en las esferas pública y privada se basa en el temor a la eficiencia y la neutralidad. En muchos campos, los algoritmos prometen convertirse en la herramienta a través de la cual corregir las distorsiones e imperfecciones que caracterizan típicamente los procesos cognitivos y las elecciones realizadas por los seres humanos, destacadas especialmente en los últimos años por una impresionante literatura sobre la economía del comportamiento y la psicología cognitiva. En este contexto, las decisiones tomadas por el algoritmo asumen así un aura de neutralidad, resultado de cálculos racionales asépticos basados en datos».

Pero conviene no olvidar que el contexto digital no evita los sesgos cognitivos de los programadores, elementos que interfieren con la buena administración, que se transfieren a los sistemas. Dichos sesgos cognitivos (disponibilidad, confirmación, etc) pueden ser totalmente inconscientes, por lo que es preciso desarrollar métodos de prevención de los mismos, estudiados en la ponencia.

Sobre la inconsciencia en los sesgos cognitivos, animamos al lector o lectora a realizar el siguiente test, para autoevaluar su propensión a los mismos

http://www.rightsinternationalspain.org/es/campanias/23/roma-y-el-sistema-de-justicia-penal/99/test-tienes-sesgos-inconscientes

Es más, el contexto digital puede añadir, además, otros sesgos cognitivos nuevos (como el de automatización, o excesiva confianza en las máquinas).

Un robot se presentó a la alcaldía de un distrito de Tokio para acabar con la corrupción. El androide consiguió quedar en la tercera posición, con 4.013 votos.

Además, la digitalización y el uso de inteligencia artificial puede añadir sesgos de otro tipo, como los estadísticos y los asociados a los datos usados para entrenar y hacer funcionar el sistema, conduciendo a discriminaciones. Por ello, la digitalización plantea retos regulatorios relevantes para la defensa de los derechos de las personas en el entorno digital.

Por otro lado, volviendo de nuevo a la cara luminosa del tema que nos ocupa, las aportaciones conductuales y los acicates pueden contribuir a prevenir el fraude, la mala administración y la corrupción, tanto en el ámbito digital como fuera de él, aspecto considerado especialmente por el profesor Capdeferro en la mencionada ponencia, como la OCDE ha puesto de relieve.

Todos estos retos, y oportunidades, se destacó, parece que no harán sino aumentar en el escenario de la postpandemia.

Finalmente, se consideró el papel del Derecho al respecto, considerándose las últimas iniciativas jurídicas en este ámbito, desde la Carta de Derechos Digitales española aprobada el verano pasado hasta la regulación de la IA que se está elaborando en la Unión Europea, las cuales se refieren a los sesgos y manipulaciones en el entorno digital.

La presentación en power point utilizada durante la sesión, de la que se han extraído algunas imágenes para incluirlas en esta entrada es consultable en su integridad aquí.

nudging and compliance

¿Ese pequeño empujón que necesitábamos? Presente y futuro de los nudges en el ámbito del cumplimiento normativo

Diariamente y en multitud de situaciones cotidianas se presentan ante nosotros dos (o más) alternativas y tenemos que escoger una de ellas. ¿Voy al trabajo en autobús o camino para hacer un poco de deporte? ¿Compro el nuevo disco de AC/DC o ahorro mi dinero? ¿Preparo dorada al horno para cenar o encargo una pizza a domicilio? Lejos de lo que pueda pensarse, rara vez nuestra elección es producto de la más pura racionalidad y autocontrol. Sencillamente no nos es posible operar siempre como un homo economicus: tenemos demasiadas decisiones que tomar en nuestro día a día, el tiempo del que disponemos es limitado al igual que nuestra energía (y paciencia). Más bien, solemos escoger qué hacer de manera rápida, intuitiva y sin invertir demasiado esfuerzo. Ya lo advirtió el premio Nobel de Economía Daniel Kahneman: la mayor parte de nuestras decisiones las adopta nuestro automático, emotivo y precipitado Sistema 1, no el más frío, sosegado y reflexivo Sistema 2 al que le competen aquellas otras operaciones que demandan una mayor carga cognitiva (por ejemplo, resolver un complejo acertijo).

Desde luego, que los seres humanos nos comportemos de este modo tiene como evidente ventaja poder adoptar multitud de decisiones sin entorpecer con ello nuestras vidas. Pero también esa racionalidad y fuerza de voluntad limitadas comportan que más de una vez incurramos en errores a la hora de procesar la información. Errores que en psicología han recibido el nombre de sesgos (cognitivos o volitivos). En consecuencia, no siempre nuestra decisión final es la más acertada. A unos tales Richard H. Thaler y Cass R. Sunstein (2008), partidarios ambos de la denominada economía conductual (behavioral economics), se les ocurrió una rompedora y poco costosa estrategia para corregir esta tendencia. Si resulta que los seres humanos nos parecemos mucho más al irracional e impaciente Homer Simpson que al frío y calculador Mr. Spock y el contexto influye decisivamente en nuestras decisiones, ¿por qué no alterarlo sutilmente a fin de auxiliarnos a tomar aquellas que más nos benefician? A esta ligera modificación contextual introducida gracias a lo que sabemos sobre el comportamiento humano se le llamó “nudge”, en alusión al pequeño empujón brindado por las madres elefantes a sus recién nacidos con el propósito de ayudarles a empezar a andar, y a la persona encargada de ponerla en la práctica “arquitecto de decisión”. Para muestra, un botón:

En el aeropuerto de Ámsterdam-Schipol estaban hartos de que los hombres ensuciaran los baños públicos al momento de orinar. Por culpa de este desconsiderado comportamiento el coste de limpiar los baños de hombres era cinco veces superior al de mujeres. Cansado de esta situación, a un operario se le ocurrió una solución sencilla y barata que permitió ahorrar miles de euros a la compañía: colocar una pegatina en forma de mosca en el urinario, justo al lado del sistema de drenaje. El adhesivo aumentó la concentración y precisión de los usuarios ya que estos lo percibieron como una suerte de blanco de tiro, con lo cual, dejaron de salpicar. Este divertido ejemplo, que fue precisamente el que inspiró la filosofía nudge, demuestra lo prometedor que puede llegar a ser una minúscula pero decisiva modificación contextual realizada en atención a cómo los humanos nos comportamos. Gracias a ello, se redujeron hasta más de un 80 % las salpicaduras y, en consecuencia, los costes de limpieza disminuyeron drásticamente.

Me parece que no sería exagerado calificar a los nudges como una revolucionaria forma de lograr cambios en el comportamiento de los individuos. Tal es así que esta propuesta ya ha sido aplicada en el campo de las políticas públicas (por ejemplo, con miras a aumentar el pago de impuestos por los contribuyentes, promover hábitos alimenticios más saludables o conseguir que los conductores reduzcan la velocidad en la carretera) y en el sector privado (por ejemplo, para combatir el problema de la entrega de información falsa por los clientes de compañías de seguro o conseguir que las entidades de crédito cobren las deudas acumuladas por aquellos a quienes se le concedió un préstamo). Recientemente, también se está discutiendo si recurrir a los nudges durante los tiempos de pandemia que nos ha tocado vivir con el objetivo de incrementar las tasas de vacunación o evitar conductas que acarrean un riesgo de contagio para terceros (por ejemplo, colocarse inadecuadamente la mascarilla en lugares cerrados).

Como no podía ser de otro modo, el mundo del cumplimiento normativo no ha dejado pasar la oportunidad ofrecida por los nudges. En los últimos años algunos académicos se han mostrado a favor de emplearlos para mejorar la prevención de la delincuencia corporativa (por ejemplo, en Estados Unidos, Haugh, 2017 o Killingsworth, 2017; en Países Bajos, Kantorowicz-Reznichenko y Wells, 2021; en España, Cigüela Sola, 2020, Pérez Triviño, 2020, Tejada Plana, 2021, Turienzo Fernández, 2021). Nos hemos dado cuenta de que sólo con ética de los negocios (business ethics) no vamos a llegar muy lejos. Formar a los integrantes de la mercantil acerca de aquello dictado por la legislación penal y esforzarse por que interioricen lo transmitido sin duda es necesario. Pero contentarnos con esto equivaldría a quedarnos a medio camino. Es erróneo pensar que aquellos que en la esfera corporativa delinquen son siempre agentes pocos éticos con una brújula moral estropeada y un sistema de valores que difiere respecto aquel defendido firmemente por la compañía. La realidad es bien distinta. Entre quienes cometen delitos también hay sujetos que de base comparten las virtudes de cumplir con el Derecho pero que terminan por actuar de un modo contradictorio con ese deseo por su forma de actuar (condicionada por multitud de sesgos), las características del contexto empresarial en el que se desenvuelven así como, particularmente, las dinámicas de grupo que allí se gestan. Por ello, ya se está hablando sobre si los nudges servirían para corregir algunas (predecibles) tendencias conductuales nocivas que pueden terminar por conducir al individuo a quebrantar la Ley. No hay que olvidar que delinquir es una decisión como otra cualquiera y lo que interesa es todo lo contrario: acatar las normas. Introducir sutiles alteraciones en el contexto corporativo diseñadas a partir de lo aprendido de las ciencias del comportamiento tal vez sea de utilidad con tal de alcanzar tal fin.

Siguiendo a Haugh (2017), es posible identificar hasta tres categorías de nudges en cumplimiento normativo:

a) Nudges de primer grado (o nudges deliberativos) que proporcionan información o recordatorios con el fin de activar el más racional Sistema 2 (por ejemplo, obligar a firmar la declaración de veracidad antes de rellenar un formulario, no después, o conceder tiempos de reflexión adicionales antes de completar una determinada operación);

b) Nudges de segundo grado que o bien introducen una opción por defecto para aprovecharse del proceso de pensamiento dominante o reactivo o bien modifican el contexto empresarial de una forma tal que sólo mediante un esfuerzo mental es dable superar la alteración implementada (por ejemplo, contemplar espacios amplios y diáfanos en el lugar de trabajo con tal de promover vigilancia mutua entre los empleados);

c) Nudges de tercer grado que impulsan una previsible respuesta asociativa ante la emisión de un determinado estímulo, apelando directamente, por tanto, al más irreflexivo Sistema 1 (por ejemplo, colgar posters de ojos observadores en los muros de la empresa con tal de generar una -falsa- sensación de vigilancia en los empleados).

Un primer reto que no podremos dejar de lado tiene que ver con la eficacia preventiva de los nudges. En compliance ninguna herramienta de control es perfecta e infalible. Los nudges no van a tener por qué ser una excepción a esa regla. Por eso mismo, habrá que explorar su potencial y ser muy prudentes a la hora de pretender extrapolar los resultados de estudios empíricos llevados a cabo sobre estos mecanismos en campos distintos al cumplimiento normativo (pues puede que los nudges sean operativos en un contexto pero no, en cambio, en otro). Por el momento, ya se está discutiendo sobre algunas de sus limitaciones. Entre otras, cabe señalar su presunto efecto cortoplacista, mas no largoplacista (puede que una vez los nudges se acoplen a una actividad rutinaria la gente deje de responder del mismo modo que cuando fueron introducidos por primera vez y de manera novedosa) o su menor capacidad para alterar comportamientos intencionales cuya comisión promete altos réditos personales o aquellos otros que acontecen en situaciones imprevisibles o azarosas. Naturalmente la resolución de este tipo de cuestiones posee una repercusión práctica innegable, toda vez que determina qué clases de nudges conviene implementar en el seno de la empresa y, en su caso, si es preciso actualizarlos a medida que pase el tiempo con tal de preservar su eficacia.

Paralelamente, se presenta otro reto más a propósito de aquel grupo de nudges que, en lugar de invitar a la reflexión, se aprovechan deliberadamente del lado irracional del ser humano. Thaler y Sunstein (2008) se afanaron por defender la filosofía paternalista libertaria que, a su juicio, subyace en los nudges. Sería libertaria porque a los sujetos no se les prohíbe escoger alguna de las opciones disponibles, lo que preserva su libertad de decisión. Pero también paternalista en tanto que al arquitecto de decisión se le concede la oportunidad de influir en la vida de la gente por su propio bien. Sin embargo, parte de la academia ha denunciado que aquellos nudges más intrusivos no serían más que tácticas manipuladoras, poco transparentes y, sobre todo, irrespetuosas con la autonomía individual. Naturalmente los expertos en compliance tendrán que abordar este debate. Ya no sólo será preciso explorar qué nudges funcionan óptimamente en aras de reducir los riesgos de incumplimiento y, en su caso, en qué medida. Por mucho que quede probado que algunos de ellos son realmente funcionales, deberá reflexionarse igualmente acerca de los límites éticos respecto a su uso con tal de definir cuáles superan los filtros necesarios como para que su implementación sea valorada como moralmente aceptable.

En resumen, los nudges representan una prometedora estrategia preventiva que cabría encuadrar dentro de una novedosa corriente del compliance que toma ventaja para sus propios fines de las investigaciones de las ciencias del comportamiento: el behavioral compliance. Parece que estamos avanzando hacia un modelo de cumplimiento normativo atento a los procesos de decisión individuales y a cómo los humanos nos comportamos en un determinado contexto. Naturalmente los nudges (o cualquier otra herramienta de modificación del comportamiento humano) ni pretenden ser la panacea ni aspiran a sustituir la más clásica mecánica de la vigilancia, el control y la disuasión delictiva a partir del juego de incentivos y amenazas (command and control). Como señala Killingsworth (2017), los sistemas de gestión de cumplimiento son una gran caja de herramientas y ninguna de ellas hace todo el trabajo sola. Esto tiene todo el sentido: donde no llegue una determinada medida de compliance, puede que sí llegue otra, por eso, hace falta contemplar varias y garantizar su debida armonía en tanto componentes de un sistema de prevención que son.

La presente entrada es una réplica del artículo original de Alejandro Turienzo publicado el 27 de septiembre de 2021 en el Blog de la Facultad de Derecho de la Universidad Autónoma de Madrid