Mänsklig tillsyn enligt artikel 14 i EU:s AI-förordning

Högrisk-AI-system får inte fungera som svarta lådor som människor automatiskt godkänner. Artikel 14 i förordning (EU) 2024/1689 kräver att de utformas och utvecklas så att fysiska personer effektivt kan övervaka dem medan de används. Artikel 26(2) lägger sedan den dagliga verkställigheten av denna tillsyn på den tillhandahållaren. Denna sida går igenom båda sidor och vad ett faktiskt tillsynsprotokoll innebär.

Vad artikel 14 faktiskt säger

Artikel 14(1) kräver att högrisk-AI-system utformas och utvecklas på ett sådant sätt, inklusive med lämpliga verktyg för människa-maskin-gränssnitt, att de effektivt kan övervakas av fysiska personer under den period de används. Artikel 14(2) klargör att syftet med tillsynen är att förebygga eller minimera de risker för hälsa, säkerhet eller grundläggande rättigheter som kan uppstå när ett högrisk-AI-system används i enlighet med dess avsedda ändamål eller under förhållanden av rimligt förutsebar felanvändning, i synnerhet när sådana risker kvarstår trots tillämpningen av andra krav i avsnitt 2.

Artikel 14(3) gör leverantören ansvarig för att identifiera lämpliga tillsynsåtgärder, antingen inbyggda i systemet innan det placeras på marknaden, eller identifierade av leverantören för den tillhandahållaren att implementera innan systemet tas i drift.

De fyra tillsynsfunktionerna (art. 14(4) a–e)

Artikel 14(4) fastställer vad tillsynsåtgärderna måste göra det möjligt för den utsedda fysiska personen att göra, i mån av vad som är lämpligt och proportionellt mot omständigheterna:

Förstå kapaciteterna och begränsningarna hos högrisk-AI-systemet på rätt sätt och övervaka dess drift så att tecken på anomalier, dysfunktioner och oväntad prestanda kan identifieras och hanteras så snart som möjligt.
Förbli medveten om automatiseringsbias. Den person som utövar tillsyn måste förbli medveten om den möjliga tendensen att automatiskt förlita sig på eller förlita sig för mycket på de resultat som produceras av ett högrisk-AI-system, i synnerhet för högrisk-AI-system som används för att tillhandahålla information eller rekommendationer för beslut som ska fattas av fysiska personer.
Korrekt tolka resultaten, med beaktande av i synnerhet systemets egenskaper och de tolkningsverktyg och -metoder som finns tillgängliga.
Besluta att inte använda resultaten eller på annat sätt bortse från, upphäva eller omvända dem i en specifik situation.
Ingripa i driften eller avbryta systemet via en "stopp"-knapp eller ett liknande förfarande som gör det möjligt för systemet att komma till ett säkert tillstånd.

Tvåpersonsregeln för fjärrbiometrisk identifiering

Artikel 14(5) lägger till en specifik förstärkning för högrisk-AI-system som avses i punkt 1(a) i bilaga III (fjärrbiometriska identifieringssystem). För dessa måste tillsynsåtgärderna säkerställa att, dessutom, ingen åtgärd eller inget beslut fattas av den tillhandahållaren baserat på den identifiering som systemet resulterat i, såvida inte identifieringen har separat verifierats och bekräftats av minst två fysiska personer med nödvändig kompetens, utbildning och befogenhet.

Tvåpersonsregeln gäller inte när unions- eller nationell rätt anser att tillämpningen av detta krav är oproportionellt.

Var den tillhandahållaren kommer in — artikel 26(2)

Artikel 26(2) gör den tillhandahållarens sida av tillsynen explicit: tillhandahållare måste tilldela mänsklig tillsyn till fysiska personer som har nödvändig kompetens, utbildning och befogenhet, samt nödvändigt stöd. Leverantören tillhandahåller medlen; den tillhandahållaren tillhandahåller människorna, deras utbildning, deras befogenhet och tid i deras kalender.

För en nordisk HR-tech-tillhandahållare innebär detta att en namngiven rekryterare, rekryteringsansvarig eller HR-chef är den mänskliga länken i kedjan — inte en anonym granskare i ett leverantörsavtal. Deras utbildningsprotokoll, rollbeskrivning och befogenhet att upphäva tillhör artikel 26-protokollet.

Vad ett artikel 14-tillsynsprotokoll ser ut

Per-system-utseende av de fysiska personer som ansvarar för tillsyn.
Bevis på deras kompetens och utbildning (rollprofil, utbildningslogg, datum för undertecknande).
Befogenhetsutlåtande: personen har explicit befogenhet att upphäva eller stoppa systemet.
Hänvisning till leverantörens bruksanvisningar enligt artikel 13 och de tillsynsåtgärder leverantören har identifierat.
Stående driftsprocedur för "stopp"- eller återställningsåtgärden.
Där bilaga III punkt 1(a) gäller, tvåpersonsverifikationsprotokollet och loggmallen.
Periodisk granskningskadens och en incidentutlösare som tvingar fram en omgranskning.

Vanliga missuppfattningar

"En mänsklig länk i kedjan är tillräckligt." Artikel 14 kräver effektiv tillsyn. En granskare som godkänner 100 % av resultaten för att kön är för lång är presumtiv automatiseringsbias, vilket artikel 14(4)(b) explicit lyfter fram.
"Leverantören tar hand om tillsynen." Leverantören utformar medlen; den tillhandahållaren måste tilldela och sätta upp faktiska människor (artikel 26(2)) och dokumentera det.
"Tvåpersonsregeln gäller all biometrisk användning." Den gäller specifikt för fjärrbiometriska identifieringssystem enligt bilaga III punkt 1(a). Biometrisk kategorisering och känslоigenkänning faller under andra underpunkter i bilaga III och har sitt eget regelverk.
"Tillsyn är ett engångsbeslut vid utformningen." Artikel 14 talar om "den period under vilken systemet används" — tillsyn är operativ och kontinuerlig, inte ett godkännande vid driftsättning.

Relaterade EU-guider

Källor

Förordning (EU) 2024/1689, artiklarna 13, 14, 26; bilaga III — EUR-Lex: eur-lex.europa.eu/eli/reg/2024/1689/oj
Europeiska kommissionen — AI Act Service Desk, artikel 14: ai-act-service-desk.ec.europa.eu/en/ai-act/article-14

Obs: Lämpliga tillsynsåtgärder är systemspecifika. PowerQuant tillhandahåller dokumentationsmallar och beslutsprotokoll som du kan använda i din interna efterlevnadsprocess — inte juridisk rådgivning. För system som används av brottsbekämpande myndigheter, migrations-, rättskipnings- eller kritisk infrastruktur-enheter kan ytterligare unions- eller nationella regler gälla.