Hacienda quiere ocultar el algoritmo que usa para controlar que los autónomos pagan sus impuestos

1. Toda actuación de la Agencia Tributaria contra un autónomo usando IA debería quedar documentada
2. El riesgo de que siempre se inspeccionen los mismos perfiles
3. Qué deberían poder revisar jueces y organismos de control
4. Los fiscalistas piden más protección frente a decisiones automatizadas

¿Puede Hacienda decidir que un autónomo merece una inspección sin que éste llegue a saber qué datos, patrones o criterios ha utilizado la inteligencia artificial para señalarlo? Esta es la pregunta que ha abierto una modificación en la Ley General Tributaria, que pretende incluir Economía en el proyecto de Ley Orgánica para el Buen Uso y la Gobernanza de la Inteligencia Artificial. Reforma que permitiría mantener bajo reserva los sistemas automatizados, algoritmos e instrumentos de IA empleados por la Agencia Tributaria.

Para intentar frenar lo que considera un “blindaje de estas herramientas tecnológicas”, la Asociación Española de Asesores Fiscales (Aedaf) ha remitido a los grupos parlamentarios una batería de enmiendas. Esta organización no cuestiona que Hacienda utilice IA para detectar irregularidades, pero sí reclama que los contribuyentes puedan conocer información suficiente para defenderse cuando una actuación administrativa haya estado influida por un algoritmo.

La polémica afecta sobre todo a autónomos y pymes, dos de los colectivos que con más frecuencia reciben requerimientos, comprobaciones o inspecciones tributarias. El debate de fondo consiste en determinar si podrán conocer por qué fueron considerado de riesgo por Hacienda o si esa información quedará protegida por el secreto de los sistemas antifraude.

Toda actuación de la Agencia Tributaria contra un autónomo usando IA debería quedar documentada

Uno de los principales puntos de fricción es qué información debería recibir un autónomo cuando una actuación administrativa haya estado influida por un sistema automatizado.

Daniel Gómez-Olano, coordinador del Consejo Asesor Institucional de Aedaf, explicó a este diario que la Administración tributaria “debería revelar al contribuyente, al menos, información inteligible sobre la lógica aplicada por el sistema. Esto es, de qué forma extrae en concreto sus conclusiones, las categorías principales de datos utilizados, el grado y modo de contribución del sistema en la actuación administrativa, el tipo de intervención humana realizada y la forma en que el resultado automatizado ha sido valorado por el órgano competente”.

Es más, Aedaf considera que esa información debería quedar documentada cuando el resultado generado por un sistema automatizado haya influido en una actuación de la Agencia Tributaria.

Gómez-Olano añadió que, si no se dejara constancia en el expediente administrativo del sistema informático utilizado, “del resultado obtenido de forma automatizada, de la intervención humana realizada y de la incidencia del resultado en la actuación administrativa, el correspondiente acto administrativo debería considerarse como insuficientemente motivado y, por tanto, debería ser anulable”.

El riesgo de que siempre se inspeccionen los mismos perfiles

La discusión no se limita únicamente a la transparencia. Otra de las preocupaciones expresadas por los asesores fiscales es la posibilidad de que los sistemas de inteligencia artificial reproduzcan sesgos o patrones que terminen concentrando las actuaciones de control sobre determinados colectivos, como el de autónomos.

“La selección de los contribuyentes podría estar sesgada si, por ejemplo, se partiera de datos estadísticos respecto de sectores de actividad en los que históricamente se hubieran liquidado mayores deudas tributarias”, según Gómez-Olano. Para quien podría dar lugar “a una profecía autocumplida: siempre se inspeccionarían y regularizarían a los mismos tipos de contribuyentes”.

Esta organización advierte también de que el desarrollo tecnológico permite recopilar y cruzar cada vez más información procedente de fuentes abiertas, redes sociales, plataformas digitales y mercados electrónicos. Circunstancia que, a su juicio, obliga a extremar las garantías sobre el uso de esos datos.

En este sentido, Gómez-Olano alertó de que la recogida de información por estos sistemas, “podría dar lugar también a estereotipos arbitrarios o discriminatorios de ciudadanos, calificados como de mayor o menor riesgo en atención a datos relativos a su origen racial, opiniones políticas, convicciones religiosas u orientación sexual”.

Qué deberían poder revisar jueces y organismos de control

Las enmiendas planteadas por Aedaf pretenden evitar que los sistemas utilizados por Hacienda queden fuera del alcance de jueces, tribunales económico-administrativos o autoridades de supervisión. La asociación considera que el secreto no puede convertirse en un obstáculo para controlar la legalidad de una actuación administrativa.

Las propuestas remitidas al Congreso plantean que determinados órganos de control puedan acceder a información suficiente para supervisar el funcionamiento de estos sistemas cuando una decisión administrativa se haya apoyado en ellos.

“Los jueces y tribunales deberían poder entender la lógica del sistema automatizado, qué resultados concretos ofrece, cuáles han sido las fuentes de datos utilizadas y cuál ha sido el grado de intervención humana para motivar un acto administrativo concreto”, señaló a AyE Gómez-Olano.

El experto defendió además que la revisión judicial debería extenderse a la calidad y legalidad de la información empleada por estos sistemas. “Los jueces deberían verificar que los datos utilizados son fiables, que son de acceso manifiestamente público, que no son sesgados ni discriminatorios, y que han sido obtenidos sin vulnerar derechos básicos del ciudadano como el derecho a la intimidad”.

Los fiscalistas piden más protección frente a decisiones automatizadas

Las enmiendas remitidas buscan reforzar las garantías de los contribuyentes, sin impedir el uso de herramientas tecnológicas para combatir el fraude fiscal. Entre otras cuestiones, pretenden facilitar la impugnación de actuaciones administrativas cuando la utilización de sistemas automatizados no quede suficientemente justificada o documentada.

La asociación considera que la inteligencia artificial puede contribuir a mejorar la eficacia de la Administración, pero entiende que esa modernización debe ir acompañada de mecanismos de transparencia y supervisión adecuados.

Según los fiscalistas, las modificaciones propuestas tendrían efectos directos sobre la capacidad de los autónomos para defender sus derechos frente a decisiones apoyadas en algoritmos.

“Si prosperaran las enmiendas de Aedaf, el contribuyente estaría más protegido frente a posibles arbitrariedades provocadas por algoritmos opacos, generados sobre la base de información desconocida y tal vez obtenida de forma ilegítima”.

El experto situó el debate en un plano más amplio que el puramente tecnológico. “El autónomo tendría ciertas garantías de que, en el futuro, las decisiones tributarias que le afectasen no dependerían, en última instancia, de un algoritmo oculto, inaccesible e inexpugnable, que recordase a la situación descrita por Kafka en El Castillo”.

En la cual, el protagonista, K., intenta acceder a las autoridades de una fortaleza que controla la vida del pueblo. Sin embargo, se enfrenta a una burocracia opaca, incomprensible e inaccesible: las decisiones se toman lejos, nadie le explica con claridad los motivos, los procedimientos son confusos y resulta casi imposible discutir o recurrir lo que han decidido las autoridades…