AI Act y gestión de personas: ¿tu app de fichajes es de alto riesgo?

Un responsable de una empresa de limpieza lee una noticia sobre el nuevo Reglamento de IA europeo y se para en seco delante de la pantalla del móvil. El titular habla de sistemas de inteligencia artificial de alto riesgo en el trabajo, de obligaciones para las empresas, de sanciones que suenan a mucho dinero. Y a él le viene a la cabeza la aplicación que usa su equipo para fichar en cada centro. ¿Eso también entra ahí dentro? La pregunta no es tonta, y tampoco es nueva: cada vez que aparece una norma sobre tecnología, el primer instinto es asumir que te toca a ti también, por si acaso. Pero el Reglamento (UE) 2024/1689, el que todo el mundo llama ya AI Act, no mete en el mismo saco cualquier programa que toque datos de personal. Traza una línea, y esa línea merece la pena entenderla antes de asustarse.

Qué dice de verdad el Reglamento sobre el trabajo

El AI Act clasifica como alto riesgo, entre otros ámbitos, los sistemas de inteligencia artificial usados en la gestión del empleo: seleccionar candidatos, filtrar currículums, decidir ascensos, asignar o retirar tareas, evaluar el rendimiento o rescindir relaciones laborales con criterios generados por un algoritmo. El considerando 57 de la norma lo dice sin rodeos: estos sistemas inciden directamente en las perspectivas profesionales y en el sustento de las personas, y por eso quien los ponga en marcha carga con obligaciones serias, no cosméticas: evaluación de riesgos, supervisión humana efectiva, trazabilidad de las decisiones e información previa a los trabajadores y a sus representantes de que van a estar expuestos a ese sistema. Nada de esto está pensado para asustar a una pyme con un cuadrante de turnos; está pensado para el software que puntúa personas y decide por ellas, muchas veces sin que nadie sepa explicar por qué.

Ese fenómeno tiene nombre propio, gestión algorítmica, y ya circulaba por Europa antes de que el Reglamento le pusiera etiqueta legal. Plataformas que reparten repartos según un cálculo interno, sistemas que bajan la puntuación de un empleado sin que un humano revise el motivo, herramientas que deciden quién trabaja más horas esta semana en función de variables que nadie del equipo ha visto nunca. El AI Act no prohíbe estos sistemas, los somete a control. Y ahí es donde muchas empresas se equivocan de miedo: no es que la ley vaya a por cualquier aplicación con datos de personal, es que va a por la que decide en lugar del jefe. Confundir las dos cosas lleva a la reacción contraria a la útil, desconfiar de cualquier programa que toque una nómina o un cuadrante, cuando el verdadero filtro es mucho más simple: ¿quién aprieta el botón que decide, una persona o una máquina?

La frontera entre decidir y registrar

España, además, llegó pronto a esta conversación. La reforma de 2021 conocida como ley rider modificó el Estatuto de los Trabajadores para añadir el artículo 64.4.d, que reconoce al comité de empresa el derecho a conocer los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afecten a las condiciones de trabajo, al acceso al empleo o a su mantenimiento, incluida la elaboración de perfiles. Aunque nació pensando en los repartidores de plataformas, el precepto se aplica a cualquier empresa que use algoritmos para gestionar personal, y el Ministerio de Trabajo lo desarrolló después con una guía práctica sobre información algorítmica en el ámbito laboral. El hilo conductor con el Reglamento europeo es el mismo: cuando una máquina decide sobre una persona, esa persona tiene derecho a saberlo y a entender el porqué. Dos normas que nacen en momentos distintos y a escalas distintas, una nacional y de urgencia por los repartidores, la otra continental y de largo alcance, acaban convergiendo en la misma exigencia de fondo.

Aquí está el punto práctico que de verdad importa a quien dirige un equipo sobre el terreno. Una herramienta que se limita a registrar, que anota quién ha estado en un centro de trabajo, a qué hora ha llegado y cuándo se ha marchado, no decide nada por nadie. No puntúa, no filtra candidatos, no reparte tareas según un cálculo opaco, no puede despedir ni ascender. Es un dato de hecho, no un juicio. Y esa diferencia es exactamente la que traza el Reglamento entre lo que exige vigilancia reforzada y lo que queda fuera de esa categoría. La transparencia hacia el trabajador, no la sofisticación técnica, es la clave: un sistema que el propio empleado puede ver y entender de un vistazo cumple ya la parte más difícil de la norma, casi sin proponérselo.

Dicho de otro modo: el problema nunca fue la tecnología en sí, sino la caja negra. Un algoritmo que asigna turnos según criterios que nadie del equipo conoce genera desconfianza y, ahora, también responsabilidad legal. Un registro que cualquiera puede consultar y contrastar con su propio recuerdo del día no genera ninguna de las dos cosas.

La solución empieza por lo que no hace la herramienta

La respuesta a un marco normativo que aprieta sobre la IA que gestiona personas no es meter más inteligencia artificial en el proceso, es volver a algo más sencillo: una prueba del trabajo transparente, con fecha, hora y ubicación, que el propio trabajador ve y en la que ninguna máquina toma decisiones por él. Eso es, en principio, lo que cualquier empresa con equipos repartidos por distintos centros necesita para estar tranquila frente al Reglamento.

GeoTapp se mueve justo en ese terreno: no perfila a nadie ni asigna notas ni decide turnos por su cuenta, es un fichaje geolocalizado que queda a la vista del propio trabajador, un dato objetivo y no un veredicto, así que se queda fuera del territorio de alto riesgo que regula el AI Act. Certifica el trabajo realizado, no lo evalúa ni lo sentencia.

¿Tu aplicación de fichajes decide algo por sus trabajadores o solo deja constancia de lo que ya ha pasado? Pruébalo con tu propio equipo antes de que llegue la próxima inspección o la próxima pregunta incómoda del comité de empresa.