• “La deshumanización de la justicia” es el nombre de la conferencia enmarcada dentro del ciclo de la Real Academia Valenciana de Jurisprudencia y Legislación, con la que el juez Manuel Marchena mantuvo anoche la atención de un salón de actos repleto durante una hora en el ICAV.

Al final de la ponencia, Marchena reivindicó “una justicia de rostro humano”. Aseguró que la inteligencia artificial ya está cambiando muchas cosas, pero que más allá del valor instrumental “al final de la cadena debe haber un juez”.

Hasta llegar a esta conclusión, el magistrado hizo un recorrido del estado actual de la inclusión de la IA en la justicia a nivel mundial, con casos como el de Shangai o Reino Unido, este último con un dispositivo-robot, ya funcionando, para reclamaciones de escasa cuantía. “Pero todo esto pertenecía al terreno de lo teórico o al de la preparación del caso, hasta el caso State v Loomis”, aseguró Marchena. Un caso por el que un condenado acabó yendo a prisión pese a haber llegado a un acuerdo previo con el fiscal debido a que este consultó un programa basado en algoritmos que asignó la etiqueta de “peligroso social” al condenado. Loomis recurrió al Tribunal Supremo, quien decidió que la aplicación de sistemas predictivos no es contraria a derecho y que la fiscalía puede utilizarlos porque permiten conocer el perfil del acusado.

Esto fue percibido positivamente por parte de la sociedad y fue un escándalo para otra. Al analizar el algoritmo utilizado por el sistema, a través de un estudio informático, se encontraron sesgos racistas y machistas, y en este punto Marchena lanzó la pregunta de si la verdad de una estadística puede convertirse en un axioma.

Marchena tuvo muy presente la filosofía a lo largo de su disquisición, como no podía ser de otra forma. El magistrado basó su reflexión en el planteamiento continuo de cuestiones basadas en realidades, como las vistas anteriormente y en estudios filosóficos como el de Yuval Noah Harari, quien plantea si caminamos hacia una dictadura digital. En este sentido, el juez aseguró, basándose en el poder de los datos, que “el estado que más datos pueda tener de nosotros será el más poderoso y que la idea de una justicia que se base en los datos se vislumbra a medio o largo plazo”. La conferencia acabó, como se ha dicho al principio, con el deseo por parte del juez de ir hacia una justicia todo lo instrumentalmente algorítmica que se quiera, pero en la que el desenlace final sea llevado a cabo por “un juez humano”.

Como moderadora en la conferencia del presidente de la Sala Segunda de lo Penal del Tribunal Supremo, estuvo la académica de la RAVJL, Carolina del Carmen Castillo. Al acto, en el que estuvo presente el presidente de la RAVJL y decano del ICAV, José Soriano junto a académicos, también asistieron diferentes personalidades, entre ellas, la presidenta del Tribunal Superior de Justicia, Pilar de la Oliva; la también académica de la RAVJL y Fiscal superior de la CV, Teresa Gisbert; el juez decano de Valencia, César Zenón; el presidente de la Fundación Profesor Manuel Broseta, Vicente Garrido; representantes de las universidades, diputados/as de la Junta de gobierno del ICAV y magistrados, entre otros.