AI-förordningen: räknas tidsstämpling som högrisk-AI?

En arbetsledare blir sittande en kväll efter att killarna på städlaget har gått hem, skrollar bland nyheter på mobilen och fastnar på en rubrik om EU:s nya AI-förordning. Något om att AI-system som används för att styra och bedöma anställda klassas som högrisk, i samma kategori som mjukvara i flygplan och kraftverk. Han lägger ifrån sig telefonen och tänker på appen som personalen stämplar in och ut med varje morgon ute på objekten. Är det den där högrisk-AI:n rubriken pratar om? Frågan känns överdriven ända tills man faktiskt läser texten, för förordningen pekar verkligen ut mjukvara som styr människor på jobbet, och en del av den mjukvaran hamnar i samma riskklass som medicinteknisk utrustning.

Men svaret beror helt på vad verktyget faktiskt gör, inte på att det råkar leva i en app med en grön ikon. EU:s AI-förordning, formellt förordning (EU) 2024/1689, trädde i kraft i augusti 2024 och bygger på ett riskbaserat system: vissa användningar av AI är förbjudna, en del klassas som högrisk och belastas med tunga skyldigheter, resten faller under lättare reglering eller ingen alls. Arbetslivet är inte ett område som glömdes bort i förhandlingarna, det är tvärtom ett av de fält lagstiftarna namngav uttryckligen, just för att AI som bestämmer över någons jobb kan påverka försörjning, karriär och rättigheter på ett sätt som få andra tekniska system gör.

Det är den delen av nyheten som når städbolag, bevakningsföretag och byggfirmor runt om i landet, oftast i en förkortad version som låter alarmerande: AI i arbetslivet är högrisk, punkt slut. Sant, men ofullständigt. Det som faktiskt avgör om ett system hamnar i den tunga kategorin är inte att det används på jobbet, utan vad det gör med informationen om de anställda. Och där går en gräns som är betydligt skarpare än rubrikerna antyder.

Vad AI-förordningen faktiskt säger om arbetslivet

Bilaga III i förordningen listar de användningsområden som räknas som högrisk, och punkt fyra i den bilagan handlar just om anställning, arbetsledning och egenföretagande. Den pekar ut AI-system som är avsedda att rekrytera eller välja ut personer, till exempel genom att rikta platsannonser, sålla bland ansökningar eller poängsätta kandidater. Därefter går den vidare till system som fattar beslut om befordran, uppsägning eller fördelning av arbetsuppgifter utifrån en persons beteende eller personliga egenskaper, och till system som används för att övervaka och utvärdera hur anställda presterar och uppför sig. Norstedts Juridik, en av landets tyngre juridiska utgivare, sammanfattar just den punkten rakt av: AI som tränas på data som redan speglar historiska ojämlikheter i arbetslivet riskerar att återskapa och förstärka dem, vilket är själva skälet till att lagstiftaren satte kategorin så högt.

Fenomenet som förordningen försöker tygla har fått ett eget namn, algoritmisk styrning: mjukvara som lägger scheman, rangordnar prestation, flaggar den som presterar sämst eller föreslår vem som bör gå, medan en chef mest signerar det algoritmen redan har bestämt. Det har smugit sig in i logistik, callcenter och plattformsjobb under det senaste decenniet, sålt som effektivitet men fungerande som en arbetsledare ingen någonsin valde. Förordningen förbjuder det inte rakt av. Den tvingar i stället fram öppenhet: den som utvecklar eller använder ett sådant system ska göra en konsekvensbedömning för grundläggande rättigheter, föra loggar, se till att en person med rätt kompetens har verklig insyn och kontroll, och informera de anställda, och i den svenska modellen i regel även facket via förhandling, innan systemet ens tas i bruk.

Var gränsen egentligen går

Här är skillnaden som brukar försvinna varje gång ämnet dyker upp i ett nyhetsflöde: det finns ett stort avstånd mellan en AI som beslutar något om en anställd och ett register som bara konstaterar ett faktum om personen. Ett system som poängsätter kandidater, rangordnar prestation eller flaggar vem som bör sägas upp gör en bedömning, och förordningen har goda skäl att behandla den typen av bedömning som allvarlig. Ett system som loggar vem som klockade in på ett arbetsobjekt, vid vilken tid, och hur många timmar personen stannade, bedömer däremot ingenting. Det väger inte in personliga egenskaper, det förutspår inte vem som kommer underprestera nästa kvartal, och det avgör inte vem som får nästa arbetspass. Det slår bara fast något som redan hänt, och lämnar varje beslut om vad som ska göras med den informationen i mänskliga händer. Bilaga III fångar den första sortens system. Den har ingen anledning att fånga den andra.

Det praktiska testet för ett företag som driver lag av städare, väktare eller montörer ute på fältet handlar alltså inte om huruvida mjukvaran över huvud taget rör anställningsförhållandet. Det handlar om huruvida mjukvaran fattar ett automatiskt beslut eller producerar ett automatiskt betyg om en person, och om den anställde kan se, förstå och ifrågasätta det som registreras om honom eller henne. Öppenhet är gångjärnet hela förordningen vilar på. En arbetsgivare som faktiskt inför ett högriskssystem enligt bilaga III måste informera skyddsombud och de som berörs innan det slås på, föra register en människa kan granska, och se till att en behörig person, inte algoritmen, fattar det slutgiltiga beslutet. Ett verktyg som aldrig fattar det beslutet till att börja med har redan klarat den svåraste delen av den skyldigheten, bara genom hur det är byggt. Att registrera är inte att besluta, och förordningen skrevs egentligen aldrig för att fånga registreringen.

Den enkla principen

I praktiken landar det hela i en ganska anspråkslös princip: det säkraste verktyget på en arbetsplats just nu är det tråkiga. Ett transparent, geo-daterat register som den anställde själv kan öppna och läsa, utan poäng kopplade till sig och utan en automatisk dom gömd bakom siffrorna. GeoTapp är byggt precis efter den linjen. Verktyget profilerar ingen och sätter inga betyg, det är en geo-daterad stämpling som den anställde ser på sin egen telefon, ett konstaterande snarare än en dom, och just därför hamnar det utanför det högriskterritorium som AI-förordningen faktiskt skrevs för.

Så innan nästa rubrik om AI-förordningen skickar en obehaglig rysning genom fikarummet är det värt att ställa en enklare fråga om de egna verktygen på arbetsplatsen: bestämmer det något om dina anställda, eller berättar det bara sanningen om deras dag?