AI på arbetsplatsen – fem frågor arbetsgivaren måste ha kontroll över
Artificiell intelligens har på kort tid blivit en del av det dagliga arbetet på många arbetsplatser. Generativa AI-verktyg används för att sammanfatta dokument, skriva texter och analysera information, samtidigt som mer avancerade AI-system kan användas inom bland annat rekrytering, personaladministration och uppföljning av arbetstagare.
För arbetsgivare innebär utvecklingen betydande möjligheter till effektivisering. Samtidigt aktualiserar användningen av AI flera arbetsrättsliga och dataskyddsrättsliga frågor. EU:s AI-förordning (AI Act) innebär dessutom ett nytt regelverk som arbetsgivare behöver förhålla sig till parallellt med bland annat GDPR, diskrimineringslagen, arbetsmiljöregleringen och den kollektivavtalsrättsliga regleringen.
Nedan behandlas fem frågor som arbetsgivare bör ha kontroll över när AI används på arbetsplatsen.
1. Vet arbetsgivaren hur AI faktiskt används i verksamheten?
En första fråga är om arbetsgivaren över huvud taget har en samlad bild av vilka AI-tjänster som används och för vilka ändamål.
Det är inte ovanligt att användningen börjar på individnivå. En arbetstagare använder exempelvis ett generativt AI-verktyg för att formulera ett mejl, sammanfatta ett dokument eller bearbeta information. På kort tid kan ett verktyg därmed bli en del av verksamhetens arbetsprocesser utan att arbetsgivaren fattat något formellt beslut om införandet.
Det kan skapa flera problem. Information som matas in i externa AI-tjänster kan exempelvis innehålla personuppgifter, företagshemligheter eller annan konfidentiell information. När personuppgifter behandlas genom en AI-tjänst gäller GDPR, och arbetsgivaren kan fortfarande bära ansvaret för personuppgiftsbehandlingen. Integritetsskyddsmyndigheten (IMY) framhåller att arbetsgivaren som personuppgiftsansvarig ansvarar för att personuppgifter inte behandlas på ett otillåtet sätt av anställda i tjänsten och att arbetsgivaren därför behöver ge tydliga instruktioner om hur personuppgifter får hanteras.
Arbetsgivaren bör därför inventera vilka AI-verktyg som används, vilka uppgifter som behandlas och vilka externa leverantörer som får tillgång till information. En tydlig AI-policy kan därefter ange vilka verktyg som är godkända, vilka uppgifter som får matas in och i vilka situationer AI inte får användas. Även IMY rekommenderar policyer och instruktioner som tydliggör hur generativ AI får användas och vilken information som får delas med tjänsten.
2. Används AI för att fatta beslut om arbetstagare?
Riskerna ökar när AI inte enbart fungerar som ett administrativt hjälpmedel utan används för att bedöma människor.
AI-förordningen pekar särskilt ut vissa system som används inom arbetslivet som högrisk-AI. Det gäller bland annat system som används vid rekrytering och urval samt vissa system för beslut om anställningsförhållanden, befordran och uppsägning. Även AI som används för arbetsfördelning utifrån individuellt beteende eller personliga egenskaper samt för övervakning eller utvärdering av arbetstagare kan omfattas.
För arbetsgivaren innebär detta att frågan om vad AI-systemet faktiskt används till blir central. Det är en sak att använda AI för att exempelvis förbättra språket i en platsannons och en annan att låta ett system rangordna arbetssökande eller bedöma vilka medarbetare som presterar bäst.
AI-förordningen innehåller omfattande krav för system som klassificeras som högrisk-AI, samtidigt som vissa användningsfall kan falla utanför högriskklassificeringen om förordningens särskilda förutsättningar är uppfyllda. Arbetsgivaren bör därför inte utgå från att ett system är oproblematiskt enbart eftersom det marknadsförs som ett HR- eller produktivitetsverktyg. Systemets funktion och den konkreta användningen måste bedömas.
Det finns dessutom AI-användning som är direkt förbjuden. Ett exempel med tydlig anknytning till arbetslivet är AI-system som används för att dra slutsatser om en persons känslor på arbetsplatsen, med vissa undantag för medicinska ändamål eller säkerhetsändamål.
3. Finns det risk för diskriminering eller felaktiga beslut?
Ett AI-system är inte nödvändigtvis objektivt bara för att bedömningen görs automatiskt. Systemets resultat påverkas bland annat av hur systemet är konstruerat och vilken information det bygger sina analyser på.
Detta är särskilt viktigt inom rekrytering och andra personalbeslut. Ett system som exempelvis rangordnar kandidater kan riskera att reproducera tidigare mönster eller skapa indirekta nackdelar för vissa grupper. AI-förordningen lyfter uttryckligen risken för att AI inom rekrytering, utvärdering och befordran kan upprätthålla historiska diskrimineringsmönster.
För arbetsgivaren försvinner inte ansvaret för ett beslut därför att ett externt AI-system har lämnat rekommendationen. Ett beslut om exempelvis rekrytering, befordran eller uppsägning måste fortfarande kunna försvaras utifrån de regler som gäller för arbetsgivarens agerande.
Det finns därför goda skäl att upprätthålla en verklig mänsklig kontroll över AI-baserade bedömningar. Den som fattar beslut bör förstå vilket underlag systemet använder, vilka begränsningar som finns och när resultatet behöver ifrågasättas. AI bör med andra ord inte bli en ”svart låda” vars rekommendationer automatiskt omvandlas till arbetsgivarbeslut.
4. Hur hanteras arbetstagarnas personuppgifter?
AI-användning på arbetsplatsen innebär ofta behandling av personuppgifter. Det kan röra sig om allt från namn och kontaktuppgifter till information om prestationer, frånvaro, kommunikation eller andra förhållanden kopplade till en viss arbetstagare.
GDPR gäller fullt ut när personuppgifter behandlas i samband med användning av AI. Arbetsgivaren behöver därför bland annat identifiera en rättslig grund för behandlingen och följa principerna om ändamålsbegränsning, uppgiftsminimering, lagringsminimering och säkerhet. Arbetsgivaren ska också kunna visa att reglerna följs.
I arbetslivet finns ett särskilt integritetsintresse eftersom arbetstagaren befinner sig i en beroendeställning till arbetsgivaren. IMY betonar att behandlingen ska vara skälig och proportionerlig och att arbetsgivaren ska vara öppen med hur arbetstagarnas personuppgifter används. Behandlingen får alltså inte ske i det fördolda.
Detta får särskild betydelse om AI används för kontroll eller uppföljning. Ett system som analyserar exempelvis arbetstakt, kommunikation eller andra beteenden kan innebära en betydligt mer ingripande behandling än ett vanligt administrativt system.
Arbetsgivaren har dessutom en långtgående skyldighet att informera arbetstagarna om hur deras personuppgifter behandlas. De anställda ska bland annat kunna förstå vilka uppgifter som samlas in, varför de samlas in och hur de används.
5. Har arbetsgivaren involverat arbetstagarna – och gett dem rätt kompetens?
Införandet av AI är inte enbart en IT-fråga. Beroende på hur tekniken införs och används kan förändringen även aktualisera arbetsrättsliga skyldigheter.
Om ett nytt AI-system exempelvis innebär en viktigare förändring av verksamheten eller av arbetstagarnas arbets- eller anställningsförhållanden kan förhandlingsskyldighet enligt medbestämmandelagen aktualiseras. Arbetsgivare som är bundna av kollektivavtal behöver därför i ett tidigt skede bedöma om ett planerat AI-införande ska föregås av facklig förhandling.
Även arbetsmiljöperspektivet bör beaktas. Ett AI-system kan förändra arbetsuppgifter, kontrollmöjligheter, arbetstakt och ansvarsfördelning. Effektivisering för arbetsgivaren kan samtidigt innebära ökad övervakning eller minskad möjlighet för arbetstagaren att påverka hur arbetet utförs. Sådana konsekvenser bör ingå i arbetsgivarens bedömning när nya system införs. En riskbedömning av arbetsmiljön ska alltid genomföras innan förändringar i verksamheten sker för att arbetsgivaren ska säkerställa efterlevnad av det systematiska arbetsmiljöarbetet enligt arbetsmiljölagstiftningen. För detta kan du använda Lawbox mall – Riskbedömning vid förändring i verksamheten.
Till detta kommer kravet på AI-kompetens i AI-förordningen. Leverantörer och de som använder AI-system i verksamheten ska vidta åtgärder för att, så långt som möjligt, säkerställa en tillräcklig nivå av AI-kunnighet hos personal och andra som hanterar systemen för deras räkning. Hänsyn ska bland annat tas till personernas tekniska kunskaper, erfarenhet och utbildning samt till det sammanhang där AI-systemet används.
Det räcker därför inte nödvändigtvis att köpa in ett AI-system och ge personalen tillgång till det. Arbetsgivaren behöver också säkerställa att de personer som använder systemet förstår både möjligheterna och riskerna.
AI kräver styrning – inte bara teknik
AI kan skapa betydande värden på arbetsplatsen, men tekniken förändrar inte de grundläggande utgångspunkterna för arbetsgivaransvaret. Tvärtom kan automatiseringen göra det ännu viktigare att veta hur beslut fattas, vilka uppgifter som används och vem som ansvarar när något går fel.
För arbetsgivare finns därför anledning att arbeta strukturerat med AI-frågorna redan innan nya system införs. En lämplig utgångspunkt är att kartlägga vilka AI-system som används, klassificera användningsområdenas risker, reglera användningen genom interna riktlinjer och säkerställa mänsklig kontroll över beslut som rör arbetstagare.
AI på arbetsplatsen bör med andra ord inte behandlas som en isolerad IT-fråga. Det är i lika hög grad en fråga om arbetsrätt, dataskydd, arbetsmiljö och intern styrning – och i takt med att AI-förordningens regler får genomslag blir det allt viktigare att arbetsgivaren kan visa att dessa frågor har hanterats på ett genomtänkt sätt.
