Artificiell intelligens, förkortat AI används för att beskriva tekniska system där datorprogram eller maskiner kan uppvisa och efterlikna intelligent beteende. Det kan handla om beteenden såsom att lära sig saker, planera, resonera och uppvisa kreativitet. AI som vi känner den idag har existerat i olika former sedan 50–talet, intresset för AI-teknik har sedan dess fluktuerat kraftigt. Sedan ett par år tillbaka har AI åter igen hamnat på tapeten till följd av lanseringen av flera nya tjänster och produkter såsom självkörande bilar, röstassistenter och nya verktyg för generativ AI vilka kan skapa bilder, musik, filmer och texter baserat på användarnas önskemål. Idag används AI i allt från riktad reklam på nätet och spamfiltret i din e-posttjänst till behandling av information i offentlig administration och lagerhållning inom tillverkningsindustrin.
För att högrisk-AI ska få lov att tillhandhållas inom EU krävs det att produkten underkastas följande krav i syfte att säkerställa systemets säkerhet.
Den 21 maj 2024 antogs AI-förordningen eller AI-act, som efter långa förhandlingar mellan Europeiska unionens råd och Europaparlamentet blir världens första heltäckande AI-lagstiftning. AI-förordningen väntas träda i kraft under 2026 varför det är viktigt för både företag och privatpersoner att bekanta sig med det nya regelverket.
För att högrisk-AI ska få lov att tillhandhållas inom EU krävs det att produkten underkastas följande krav i syfte att säkerställa systemets säkerhet.
Till följd av det nya direktivet kommer EU att skapa en central tillsynsmyndighet i syfte att övervaka efterlevnaden bland medlemsstaterna. Tillsynsmyndigheten kommer att samarbeta med nationella myndigheter för att säkerställa en enhetlig tillämpning av reglerna. Det rigorösa sanktionssystemet som finns implementerat i förordningen är till för att avskräcka företag från överträdelser och säkerställa regelverkets strikta efterlevnad. Ett företag som vidtar åtgärder i strid med AI-förordningens regler kan komma att få stränga sanktionsavgifter. Beloppen kommer i allvarliga fall att kunna uppgå till 6% av företagets globala omsättning. Därför är det viktigt att företag alltid kontrollerar att ett AI-system uppfyller kraven innan det implementeras i verksamheten.
Innovation: Förordningen avser stödja utveckling av AI och främja innovation inom EU. Genom att skapa en stabil och tydlig ram ämnar EU uppmuntra forskare och företag att utveckla och skapa ny och avancerad AI-teknologi.
Transparens: Förordningen syftar även till att användare ska förstå AI-system fungerar samt kunna identifiera och spåra beslut som fattas av AI. Detta inkluderar bland annat krav på information till användare som tydliggör att de interagerar med AI, samt information som förklarar för användaren hur och varför AI fattar ett visst beslut eller kommer fram till en viss slutsats.
Skydda människor: Ett av förordningens främsta syften är att säkerställa att AI inte skadar människor eller äventyrar deras rättigheter. Detta uppnås genom att AI-system inte får vara diskriminerande, måste vara pålitliga och alltid respektera individers frihet och integritet.
Ansvar: Förordningen tillhandahåller även klara och tydliga regler för vem som bär ansvaret i händelse av att något går fel med ett AI-system, alternativt om reglerna inte efterlevs. Ansvarsutkrävande åtgärder säkerställer förekomsten av tydliga ansvarsområden samt att de som använder, implementerar och utvecklar AI-system kan hållas ansvariga till följd av fel och skador orsakade av AI.
Till följd av förordningen kommer användningen av AI-system att regleras baserat på en modell som består av olika risknivåer. Det medför att viss användning av AI kommer att förbjudas helt, medan andra former av AI kommer att regleras och begränsas. AI-system delas in i fyra olika kategorier utifrån vilka risker som systemen anses vara behäftade med: oacceptabel risk, hög risk, begränsad risk och minimal eller ingen risk. Riskanalysen baseras i sin tur på systemens potentiella påverkan på individers säkerhet och rättigheter.
Oacceptabel risk utgör den högsta risknivån och innefattar AI-system som anses vara alltför farliga till följd av systemens risk för menlig inverkan på människors rättigheter, säkerhet och försörjningsmöjligheter. AI-system som placerar sig i denna kategori kommer helt att förbjudas till följd av implementeringen av EU-direktivet. AI-system som sällar sig till kategorin kan utgöras av AI som används i:
Hög risk utgör den näst högsta risknivån och omfattar AI-system som används i känsliga områden, där användningen av AI kan leda till allvarliga konsekvenser för individers liv och rättigheter. AI-system som sällar sig till denna kategori måste uppfylla strikta krav innan de får användas. AI-system som sällar sig till kategorin kan utgöras av AI som används i:
Begränsad risk avser AI-system vilka måste uppfylla ett visst mått av transparens och specifika skyldigheter i syfte att säkerställa att användare är på det klara med att de interagerar med ett AI-system. Exempel på AI-system med begränsad risk är:
Minimal eller ingen risk är den vanligast förekommande kategorin i EU vilken inte regleras lika strikt som övriga kategorier. Kategorin omfattar bland annat:
© 2024 EZlegal
Den 21 maj 2024 antogs AI-förordningen eller AI-act, som efter långa förhandlingar mellan Europeiska unionens råd och Europaparlamentet blir världens första heltäckande AI-lagstiftning. AI-förordningen väntas träda i kraft under 2026 varför det är viktigt för både företag och privatpersoner att bekanta sig med det nya regelverket.
EU:s avsikt med AI-förordningen är att skapa en rättslig ram för användning och utveckling av artificiell intelligens med verkan inom hela unionen. Målet är att säkerställa att AI-system är säkra och respekterar grundläggande värden och rättigheter, samtidigt som AI kan fortsätta främja innovation och ekonomisk tillväxt. Förordningen syftar även till att göra EU till en global ledare inom AI genom att skapa en förutsägbar och harmoniserad reglering vilken ämnas ligga till grund för framtida utveckling av AI.
Om ert företag har eller ska implementera AI i verksamheten finns det en del saker som kan vara bra att känna till. Att redan nu arbeta utefter det nya regelverket innebär att ni har en god förberedelse inför förordningens ikraftträdande. Företag som anpassar sig tidigt till reglerna kan komma att åtnjuta konkurrensfördelar, förbättrad riskhantering såväl som ökad kvalitet och säkerhet till förmån för innovation och ansvarsfull användning av AI.
