PowerQuantSESkicka ert frågeformulär

AI-system som används för rekryteringsscreening, kandidatpoängsättning, utvärdering av anställdas prestationer, uppgiftstilldelning eller beslut om befordran och avslutande av anställning klassificeras som högrisk enligt Bilaga III, punkt 4 i förordning (EU) 2024/1689. Den klassificeringen utlöser obligatoriska krav på datastyrning enligt artikel 10, inklusive granskning av träningsdataset för bias som kan påverka grundläggande rättigheter eller leda till diskriminering. Denna guide förklarar vad en biasrevision måste täcka och vem som ansvarar för vad.

Varför biasrevision är obligatorisk för HR AI

Bilaga III, punkt 4 i EU AI Act listar följande som högrisk-AI-system i anställningssammanhang:

  • AI som används för rekrytering eller urval av fysiska personer, i synnerhet för annonsering av lediga tjänster, screening eller filtrering av ansökningar och utvärdering av kandidater under intervjuer eller tester.
  • AI som används för att fatta beslut som påverkar arbetsvillkor, befordran eller avslutande av arbetsrelaterade avtalsförhållanden.
  • AI som används för att tilldela uppgifter baserat på individuellt beteende eller personliga egenskaper eller karaktärsdrag.
  • AI som används för att övervaka och utvärdera prestationer och beteende hos personer i anställningsförhållanden.

För leverantör av dessa system kräver artikel 10 att tränings-, validerings- och testdataset granskas "med tanke på möjliga biaser som sannolikt påverkar hälsa, säkerhet eller grundläggande rättigheter eller leder till diskriminering som är förbjuden enligt unionsrätten, i synnerhet när datautdata påverkar indata för framtida operationer" (artikel 10(2)(f)). Detta är en skyldighet att detektera, mäta och dokumentera bias, inte bara att hävda att systemet är rättvist.

För tillhandahållare kräver artikel 26(4) att där en tillhandahållare utövar kontroll över indata måste dessa data vara relevanta och tillräckligt representativa för det avsedda ändamålet. Detta utvidgar bias-kvalitetsskyldigheten till tillhandahållarens egna datapipeline.

Tillämpningsdatum

Högrisk-skyldigheter inklusive artikel 10 och artikel 26 gäller från 2 augusti 2026. Den provisoriska politiska överenskommelsen om Digital Omnibus (7 maj 2026 — ännu inte antagen eller publicerad i Officiella tidningen) föreslår att fristående högrisk-skyldigheter enligt Bilaga III ska senareläggas till 2 december 2027 för system som redan finns på marknaden. Tills det formellt antas gäller 2 augusti 2026 som det bindande datumet.

Den fyrastegsprocess för biasrevision

  1. Definiera skyddade attribut. Identifiera de egenskaper som skyddas av tillämplig antidiskrimineringslagstiftning — på EU-nivå inkluderar dessa kön, ras eller etniskt ursprung, religion eller övertygelse, funktionsnedsättning, ålder och sexuell läggning (direktiven 2000/43/EG och 2000/78/EG). Lägg till nationalitet och liknande attribut som skyddas enligt nationell rätt. Revisionen måste namnge de attribut som undersöks; en generisk "rättviseanalys" utan specificerade attribut uppfyller inte kraven i artikel 10.
  2. Mät disparat påverkan. Välj mätvärden som passar ditt användningsfall: statistisk paritet (lika utfallsfrekvenser mellan grupper), likvärdig möjlighet (lika sanna positivfrekvenser för kvalificerade kandidater) eller disparatpåverkansförhållande. US EEOC:s fyrafemtedelsregel (en urvalsfrekvens under 80 % av gruppen med högst frekvens utlöser granskning) används allmänt som riktmärke och refereras i EU:s tillsynsvägledning. Dokumentera det valda mätvärdet, det använda tröskelvärdet och de faktiskt uppmätta förhållandena per skyddad grupp. Dokumentera metoden, inte bara resultatet.
  3. Revidera per modellversion och datamängdsögonblicksbild. Bias-egenskaper är inte stabila mellan omtränade versioner. Varje revision måste knytas till en specifik modellversionsidentifierare, den datamängdsögonblicksbild som använts för träning eller testning, och det avsedda operativa sammanhanget. Detta skapar en artefakt som kan jämföras mellan versioner och presenteras för en tillsynsmyndighet på begäran.
  4. Mildra och dokumentera resterande risk. Där bias konstateras, tillämpa åtgärder: ombalansering av dataset, borttagning av proxy-variabler för skyddade attribut, justering av beslutströsklar eller begränsning av funktionsuppsättningen (feature ablation). Resterande risk som inte kan mildras fullständigt måste anges uttryckligen i den tekniska dokumentationen enligt Bilaga IV och i bruksanvisningarna som lämnas till tillhandahållare.

Leverantörs kontra tillhandahållarens ansvar

  • Leverantör (artikel 10, artikel 43, Bilaga IV): Genomför biasgranskning av tränings- och testdataset; inkludera biasmätvärden (noggrannhet, robusthet, diskrimineringsmått enligt Bilaga IV, punkt 2(g)) i den tekniska dokumentationen; dokumentera kända begränsningar i bruksanvisningarna; genomgå bedömning av överensstämmelse innan systemet släpps ut på marknaden.
  • Tillhandahållare (artiklarna 26(4), 26(6), 26(7)): Verifiera relevansen och representativiteten hos indata där tillhandahållare kontrollerar dem (artikel 26(4)); behåll automatiska loggar som genereras av systemet i minst 6 månader (artikel 26(6)); informera arbetstagare och arbetstagarrepresentanter innan systemet driftsätts på arbetsplatsen (artikel 26(7)); utse en kompetent mänsklig tillsynsperson med befogenhet att åsidosätta AI-utdata (artikel 26(2)).

När revisionen ska upprepas

  • Efter varje väsentlig ändring av modellen (omträning på väsentligt annorlunda data, ny arkitektur, ändring av avsett syfte).
  • När användningen utvidgas till en ny geografisk marknad eller ny yrkeskategori, eftersom fördelningen av skyddade attribut i sökandepolen kan skilja sig.
  • När data från övervakning efter utsläppande på marknaden (artikel 72) eller rapporter om allvarliga incidenter (artikel 73) signalerar oväntade mönster med disparata påverkningar i produktion.
  • Minst årligen för högrisk-system i kontinuerlig användning.

Samspelet med GDPR

En biasrevision som avslöjar att systemet använder proxy-variabler för känsliga kategorier av data (t.ex. egenskaper som starkt korrelerar med hälsostatus, religion eller rasursprung) kan utlösa en skyldighet att genomföra en konsekvensbedömning avseende dataskydd (DPIA) enligt GDPR artikel 35, vilken separat krävs där automatiserad behandling ger rättsliga eller på liknande sätt väsentliga effekter. Tillhandahållare som använder ett HR AI-system inom tillämpningsområdet för GDPR artikel 22 om automatiserat beslutsfattande måste också kunna tillhandahålla meningsfull information om den logik som används och erbjuda mänsklig granskning.

Checklista med bevishandlingar för tillhandahållare

  • Teknisk dokumentation eller sammanfattning enligt Bilaga IV som tillhandahålls av leverantören, inklusive biasmätvärden.
  • Dokumentation av tillhandahållarens kontroll av indatakvalitet enligt artikel 26(4): vilka data, relevansbedömning, resultat.
  • Dokumentation av arbetstagaravisering: datum, metod, mottagargrupp (artikel 26(7)).
  • Bekräftelse av loggbevarande: system, bevarandeperiod, åtkomstkontroller (artikel 26(6)).
  • Utseende av mänsklig tillsyn: namngiven ansvarig person, kompetensbevis, åsidosättningsförfarande (artikel 26(2)).
  • Plan för övervakning efter utsläppande på marknaden: hur biasdrift kommer att detekteras i produktion (artikel 72).

Sanktioner

Underlåtenhet att uppfylla högrisk-tillhandahållarskyldigheter sanktioneras enligt artikel 99(4) med administrativa böter på upp till EUR 15 000 000 eller 3 % av den totala globala årsomsättningen, beroende på vilket belopp som är högst. För SMF och nystartade företag tillämpar artikel 99(6) det lägre av de två beloppen.

Relaterade EU-guider

Källor

  • Förordning (EU) 2024/1689, artiklarna 10, 26, 43, 72, 73, 99, Bilaga III(4), Bilaga IV — EUR-Lex: eur-lex.europa.eu/eli/reg/2024/1689/oj
  • Rådets direktiv 2000/43/EG (om rasjämlikhet) och direktiv 2000/78/EG (om likabehandling i arbetslivet) — EUR-Lex: eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32000L0043
  • Förordning (EU) 2016/679 (GDPR), artiklarna 22, 35 — EUR-Lex: eur-lex.europa.eu/eli/reg/2016/679/oj

Anmärkning: AI-förordningens krav på biasrevision är formulerade på principnivå; de specifika statistiska metoderna och tröskelvärdena är inte föreskrivna i förordningen. Att tillämpa dem kräver expertbedömning. PowerQuant levererar programvara och dokumentation för användning i din interna efterlevnadsprocess — inte juridisk rådgivning.