PowerQuantSESkicka ert frågeformulär

Artikel 5 i förordning (EU) 2024/1689 förbjuder utsläppandet på marknaden, ibruktagandet eller användningen av vissa AI-metoder inom unionen. Förbuden har varit tillämpningsbara sedan den 2 februari 2025 (artikel 113 a). Överträdelse av artikel 5 medför den högsta sanktionsnivån enligt artikel 99.3 — upp till 35 miljoner euro eller 7 % av den globala årsomsättningen, beroende på vilket belopp som är högst.

De åtta förbjudna kategorierna

  1. Art 5.1 a — Subliminala, manipulativa eller vilseledande tekniker. AI-system som använder subliminala tekniker utanför en persons medvetande eller avsiktligt manipulativa eller vilseledande tekniker, med syftet eller effekten att på ett väsentligt sätt snedvrida beteendet hos en person genom att märkbart försämra personens förmåga att fatta ett välgrundat beslut, vilket därigenom orsakar eller rimligen kan orsaka avsevärd skada.

  2. Art 5.1 b — Utnyttjande av sårbarheter. AI-system som utnyttjar sårbarheter hos en fysisk person eller en specifik grupp av personer på grund av deras ålder, funktionsnedsättning eller en specifik social eller ekonomisk situation, med syftet eller effekten att på ett väsentligt sätt snedvrida deras beteende på ett sätt som orsakar eller rimligen kan orsaka avsevärd skada.

  3. Art 5.1 c — Social poängsättning. AI-system för bedömning eller klassificering av fysiska personer eller grupper under en viss tidsperiod baserat på deras sociala beteende eller kända, härledda eller förutsagda personliga egenskaper eller personlighetsegenskaper, där den sociala poängen leder till förnedrande eller ogynnsam behandling i sociala sammanhang som saknar samband med de sammanhang i vilka uppgifterna genererades, eller till omotiverad eller oproportionerlig behandling.

  4. Art 5.1 d — Prediktiv polisverksamhet baserad enbart på profilering. AI-system för riskbedömning av fysiska personer i syfte att bedöma risken för att de begår ett brott, baserat enbart på profilering eller på bedömning av personlighetsdrag och personlighetsegenskaper. Undantag för system som används för att stödja mänsklig bedömning av en persons inblandning i brottslig verksamhet som redan grundas på objektiva och verifierbara fakta.

  5. Art 5.1 e — Icke-riktad skrapning av ansiktsbilder. AI-system som skapar eller utvidgar databaser för ansiktsigenkänning genom icke-riktad skrapning av ansiktsbilder från internet eller CCTV-material.

  6. Art 5.1 f — Igenkänning av känslotillstånd på arbetsplatser och i utbildningsinstitutioner. AI-system som används för att härleda känslotillstånd hos en fysisk person på arbetsplatser och i utbildningsinstitutioner. Smalt undantag för system avsedda att tas i bruk eller släppas ut på marknaden av medicinska eller säkerhetsmässiga skäl.

  7. Art 5.1 g — Biometrisk kategorisering utifrån känsliga attribut. Biometriska kategoriseringssystem som kategoriserar individuella fysiska personer utifrån deras biometriska uppgifter för att härleda eller sluta sig till deras ras, politiska åsikter, fackföreningstillhörighet, religiösa eller filosofiska övertygelser, sexliv eller sexuella läggning. Smala undantag för märkning och filtrering av lagligen inhämtade biometriska datauppsättningar och för kategorisering av biometriska uppgifter inom brottsbekämpning.

  8. Art 5.1 h — Biometrisk identifiering på distans i realtid på allmänna platser för brottsbekämpning. Användning av system för biometrisk identifiering på distans i realtid på offentligt tillgängliga platser i syfte att bekämpa brott, med tre smala undantag som är föremål för skyddsåtgärderna i artikel 5.2–5.7 (riktad sökning efter offer, förebyggande av ett specifikt och nära förestående hot inklusive terroristattack, identifiering av en misstänkt för ett allvarligt brott).

Varför förbudet mot igenkänning av känslotillstånd på arbetsplatsen är viktigt för HR-tech

Artikel 5.1 f är det förbud som är mest relevant för tillhandahållare av HR-tech. Det gäller på arbetsplatsen oavsett de anställdas befattningsnivå, de registrerades samtycke eller det kommersiella syftet. Det fångar exempelvis AI-funktioner som härleder lycka, stress, ilska eller engagemang från röst, ansiktsuttryck eller kroppsspråk under intervjuer, resultatöversikter eller rutinmässig arbetsplatsövervakning.

Undantaget för medicinska eller säkerhetsmässiga skäl är smalt: systemet måste vara avsett att tas i bruk för dessa ändamål, inte enbart kapabelt att användas på det sättet. Välbefinnandetavlor och engagemangsanalyser som härleder känslotillstånd kvalificerar inte för undantaget.

Skäl 18 och skäl 44 skiljer mellan härledning av känslotillstånd (förbjuden på arbetsplatsen och i utbildning) och detektion av fysiska tillstånd som trötthet (inte förbjuden). En dåsighetsdetektering för säkerhetssystem för lastbilsförare kan därför fortsätta; ett intervjuverktyg som poängsätter kandidatens känslotillstånd kan inte det.

Kommissionens riktlinjer — februari 2025

Den 4 februari 2025 publicerade Europeiska kommissionen riktlinjer om förbjudna metoder för artificiell intelligens fastställda genom förordning (EU) 2024/1689. Riktlinjerna utvecklar varje underpunkt i artikel 5, undantagen och förhållandet till annan unionsrätt (GDPR, direktivet om brottsbekämpning, stadgan om de grundläggande rättigheterna). De är inte bindande men avspeglar kommissionens ståndpunkt i fråga om tillsyn.

Sanktionsexponering (artikel 99.3)

Artikel 99.3 fastställer den högsta nivån av böter för överträdelser av artikel 5: upp till 35 000 000 euro eller, om gärningspersonen är ett företag, upp till 7 % av det totala globala årliga omsättningen under det föregående räkenskapsåret, beroende på vilket belopp som är högst. Artikel 99.6 fastställer ett lägre tak (det lägre av de två beloppen eller procentsatserna) för SMF inklusive nystartade företag.

Behöriga myndigheter i medlemsstaterna tillämpar tillsynen av artikel 5 på nationell nivå; för vissa metoder (artikel 5.1 h) gäller tillståndsordningar innan användning.

Checklista för tillhandahållarens granskning

  • För varje AI-system i inventeringen: förekommer någon artikel 5-utlösare? Dokumenterat ja/nej med motivering.
  • HR-tech-system: uttrycklig kontroll av funktioner för härledning av känslotillstånd (artikel 5.1 f).
  • Verktyg för engagemang/välbefinnande: bekräfta att de inte härleder känslotillstånd.
  • Avtalsklausul med leverantören som kräver att denne bekräftar att ingen artikel 5-metod är i tillämpningsområdet.
  • Process för att upphöra med användning om en förbjuden funktion senare läggs till av leverantören.
  • Utbildning enligt artikel 4 som listar de åtta artikel 5-kategorierna.

Vanliga missuppfattningar

  • "Samtycke gör det tillåtet." Artikel 5 förbjuder metoden; den registrerades samtycke frigör den inte.
  • "Emotions-AI är okej om det marknadsförs som välbefinnande." Om systemet härleder känslotillstånd hos personal på arbetsplatsen är etiketten irrelevant — artikel 5.1 f är tillämplig.
  • "Artikel 5 berör bara leverantörer." Förbudet täcker utsläppande på marknaden, ibruktagande och användning. Tillhandahållare som använder ett förbjudet system är lika exponerade.
  • "Artikel 5 börjar gälla i augusti 2026." Nej. Artikel 5 har varit tillämpningsbara sedan den 2 februari 2025 (artikel 113 a).

Relaterade EU-guider

Källor

Obs: Huruvida en specifik funktion faller inom artikel 5 beror på systemets design, avsedda ändamål och effekt — juridisk rådgivning från fall till fall kan behövas. PowerQuant tillhandahåller programvara och dokumentation för användning i din interna efterlevnadsprocess — inte juridisk rådgivning.

PowerQuant Modul 1

AI-inventering plus en granskningsmatris för artikel 5 och ett leverantörsintygsregister, levereras inom 5 arbetsdagar. Fast pris, ingen prenumeration.