Regleringen av artificiell intelligens och andra digitala verktyg i Arbetsplatsen står återigen i centrum för debatten. Den andre vicepresidenten och arbetsmarknadsministern, Yolanda Díaz, meddelade i torsdags att regeringen kommer att försvara en striktare reglering av användningen av AI och algoritmer i arbetsrelationer. Även om EU har beslutat att skjuta upp tillämpningen av de mest krävande skyldigheterna i den europeiska förordningen om artificiell intelligens till december 2027 (AI-lagen).
Ministern gjorde detta tillkännagivande under en konferens vid University of Oxford, där kritiserade det avtal som EU-institutionerna nyligen nått att skjuta upp ikraftträdandet av de skyldigheter som avser artificiell intelligens, anses vara hög risk på arbetsplatsen. Som han försvarade bör Spanien inte vänta till det datumet och avser att främja sin egen reglering som stärker arbetstagarnas rättigheter.
Förslaget skulle till fullo påverka tusentals egenföretagare och små och medelstora företag som redan de använder artificiell intelligens-program antingen programvara med algoritmer att välja ut kandidater, hantera skift, utvärdera prestationer, tilldela uppgifter, organisera schemanberäkna incitament eller stödbeslut relaterade till befordran, avtalsändringar eller uppsägningar.
Allt detta medan administrationen själv fortsätter att gå framåt i användningen av algoritmer för att kontrollera skattebedrägerier. Ett område där en intensiv debatt har uppstått, som denna tidning rapporterade i går, efter finansministeriets avsikt att hålla konfidentiella de automatiserade system som den använder för att välja ut skattebetalare som ska verifieras.
- Díaz vill skärpa den AI som företag använder för att hantera anställningar, löner eller uppsägningar
- Hur skulle en striktare reglering av användningen av AI påverka egenföretagare och små och medelstora företag?
- Den europeiska förordningen, uppskjuten till december 2027
Díaz vill skärpa den AI som företag använder för att hantera anställningar, löner eller uppsägningar
Ministern anser att förseningen som godkänts av Europeiska unionen kan uppmuntra många företag att påskynda verktygsutplacering artificiell intelligens innan framtida förpliktelser träder i kraft gemenskap.
Under hans ingripande försäkrade han att högrisksystem relaterade till anställning – till exempel algoritmer som används för anställning, prestationsutvärdering, uppgiftstilldelning, övervakning eller uppsägningar – de bör inte vara kvar längre utan särskild reglering.
Regleringen skulle påverka praktiskt taget all arbetsledning som genomförs genom algoritmer
Enligt Díaz ingriper artificiell intelligens redan i en stor del av arbetsmarknadsbeslut fattade av företag.
Enligt hans åsikt deltar algoritmer för närvarande i processer som:
- Urval av personal.
- Prestationsutvärdering.
- Tilldelningen av uppgifter.
- Anordnandet av konferenser.
- Ändringar av arbetsförhållandena.
- Kampanjerna.
- Uppsägningarna.
- Hantering av tillsvidareanställning.
Av denna anledning försvarade han att all denna verksamhet måste omfattas av särskilda regler som garanterar respekt för arbetstagares rättigheter och insyn i automatiserade beslut.
Vicepresidenten påminde också om att Spanien redan var en pionjär i Europa med godkännande av vad som kallas ryttarelagensom tvingade digitala plattformar att förse arbetarrepresentation med information om algoritmer som används för att organisera leveranspersonalens arbete.
Detta prejudikat tyder på att arbetsministeriet återigen skulle kunna välja en mer krävande nationell reglering än den som ursprungligen planerades av Bryssel.
Hur skulle en striktare reglering av användningen av AI påverka egenföretagare och små och medelstora företag?
Även om det fortfarande inte finns någon specifik regleringstext tillåter ministerns uttalanden oss att förutse vilken typ av verktyg som kan påverkas.
Fler och fler småföretag använder program med artificiell intelligens för att filtrera meritförteckningar, klassificera kandidater, automatiskt fördela skift, kontrollera produktivitetenförbered arbetskalendrar, beräkna incitament eller till och med generera uppsägningsförslag baserade på resultatindikatorer.
Användningen av personalprogramvara som innehåller prediktiva modeller för att upptäcka personalomsättning, analysera sjukfrånvaro eller rekommendera interna befordringar ökar också.
Små företag kan behöva motivera hur de använder dessa algoritmer
Framtida reglering kan införa nya transparenskrav när dessa verktyg påverkar anställningsbeslut relevant.
Bland annat kan företag tvingas förklara vilka automatiserade system de använder, vilken data de analyserar, vilken grad av mänskligt ingripande som finns innan de fattar ett beslut och hur de säkerställer att algoritmer inte genererar diskriminering eller godtyckliga resultat.
Målet, som försvaras av ministern, är förhindra att beslut så relevanta som att anställa eller avskeda enbart beror på hur en algoritm fungerar utan tillräckliga garantier för arbetarna.
Allt detta inträffar vid en tidpunkt då den europeiska AI-lagen i sig just har försenat skyldigheterna som gäller för dessa system som anses vara högrisk.
Den europeiska förordningen, uppskjuten till december 2027
Den europeiska förordningen om artificiell intelligens trädde formellt i kraft 2024, men Europaparlamentet och rådet nådde nyligen en politisk överenskommelse, inom det så kallade Omnibuspaketet, om att skjuta upp till december 2027 tillämpningen av en stor del av de skyldigheter som påverkar AI-system som används på arbetsplatsen.
Díaz kritiserade hårt denna försening, med tanke på det Det representerar en avreglering som främst gynnar stora teknikföretag.
Parallellt upprätthåller regeringen en strategi att öka användningen av automatiserade system i förvaltningen. De Skatteverket, till exempel, främjar alltmer artificiell intelligens-verktyg för att upptäcka skatterisker och har nyligen främjat lagändringar att hålla de algoritmer som används i deras kontrollåtgärder konfidentiella, en fråga som har ifrågasatts av olika sammanslutningar av skatterådgivare.
För arbete däremot, Tillvägagångssättet måste vara annorlunda när artificiell intelligens direkt påverkar till arbetsrättigheterna för miljontals arbetare.
Ministern insisterade på att debatten inte längre handlar om att bestämma huruvida AI ska användas eller inte, utan snarare om att bestämma under vilka regler det ska göras. Enligt hans åsikt kan artificiell intelligens bli ett användbart verktyg för att förbättra produktiviteten och skapa nya jobb, men bara om dess utveckling åtföljs av tillräckliga garantier för att undvika ogenomskinliga, diskriminerande eller oförenliga beslut med arbetslagstiftningen.
