Artificiell intelligens, förkortat AI används för att beskriva tekniska system där datorprogram eller maskiner kan uppvisa och efterlikna intelligent beteende. Det kan handla om beteenden såsom att lära sig saker, planera, resonera och uppvisa kreativitet. AI som vi känner den idag har existerat i olika former sedan 50–talet, intresset för AI-teknik har sedan dess fluktuerat kraftigt.
Sedan ett par år tillbaka har AI åter igen hamnat på tapeten till följd av lanseringen av flera nya tjänster och produkter såsom självkörande bilar, röstassistenter och nya verktyg för generativ AI vilka kan skapa bilder, musik, filmer och texter baserat på användarnas önskemål. Idag används AI i allt från riktad reklam på nätet och spamfiltret i din e-posttjänst till behandling av information i offentlig administration och lagerhållning inom tillverkningsindustrin.
Under konsultationen får du prata med en av våra jurister i 20 minuter där de ger dig en inledande vägledning, en behovsanalys, och förslag till nästa steg — helt utan bindning.
AI-förordningen delar in AI-system i fyra risknivåer utifrån systemens potentiella påverkan på individers säkerhet och rättigheter. Klicka igenom nivåerna för att se var era system kan hamna.
Den högsta risknivån. Omfattar AI-system som anses alltför farliga på grund av risken för menlig inverkan på människors rättigheter, säkerhet och försörjningsmöjligheter. Dessa förbjuds helt inom EU.
Profilering som kan föranleda diskriminering och rättsosäkerhet.
System som rangordnar individer baserat på deras beteende.
AI som utnyttjar sårbarheter hos barn, äldre eller funktionshindrade.
Används i känsliga områden där AI kan leda till allvarliga konsekvenser för individers liv och rättigheter. Dessa system måste uppfylla strikta krav innan de får användas.
Röstning, rättslig tolkning och lagtillämpning.
T.ex. bevisvärdering som kan inkräkta på rättigheter.
Automatiserade prövningar av uppehållstillstånd.
Transportmedel som självkörande bilar.
Kreditbedömningsverktyg som styr låntagares möjligheter.
Provpoängsättning och granskning av jobbansökningar.
Måste uppfylla ett visst mått av transparens för att säkerställa att användare vet att de interagerar med ett AI-system.
AI-kundtjänst eller generativ AI som skapar bilder, musik och text.
Produktrekommendationer på e-handel och sociala medier.
Röststyrda assistenter i telefoner och datorer.
Den vanligast förekommande kategorin i EU. Regleras inte lika strikt som övriga nivåer.
AI som analyserar trender och mönster i data utan direkt påverkan på människor.
Motspelare och spelkaraktärer.
Filtrering av skräppost i e-postsystem.
Den 21 maj 2024 antogs AI-förordningen eller AI-act, som efter långa förhandlingar mellan Europeiska unionens råd och Europaparlamentet blir världens första heltäckande AI-lagstiftning. AI-förordningen väntas träda i kraft under 2026 varför det är viktigt för både företag och privatpersoner att bekanta sig med det nya regelverket.
Om ert företag har eller ska implementera AI i verksamheten finns det en del saker som kan vara bra att känna till. Att redan nu arbeta utefter det nya regelverket innebär att ni har en god förberedelse inför förordningens ikraftträdande. Företag som anpassar sig tidigt till reglerna kan komma att åtnjuta konkurrensfördelar, förbättrad riskhantering såväl som ökad kvalitet och säkerhet till förmån för innovation och ansvarsfull användning av AI.
För att högrisk-AI ska få tillhandahållas inom EU krävs att produkten uppfyller följande fem krav i syfte att säkerställa systemets säkerhet.
Tillverkare måste identifiera och hantera risker innan systemet når marknaden, inklusive grundliga riskanalyser och kontinuerlig övervakning av prestanda.
Beslut fattade av AI måste kunna granskas och åsidosättas av människor – det ska alltid finnas möjlighet till mänsklig intervention.
Utförlig dokumentation som bevisar att kraven uppfylls, så att relevanta regler och standarder kan visas för tillsynsmyndigheter.
AI-system måste vara skyddade från obehörig åtkomst.
Systemet måste övervakas kontinuerligt för att identifiera och korrigera fel och brister i realtid.
AI-förordningen antogs 21 maj 2024 och är världens första heltäckande AI-lagstiftning. Den skapar en rättslig ram för användning och utveckling av AI inom EU och väntas träda i kraft under 2026.
Ett företag som vidtar åtgärder i strid med AI-förordningens regler kan komma att få stränga sanktionsavgifter. Beloppen kommer i allvarliga fall att kunna uppgå till 6% av företagets globala omsättning. Därför är det viktigt att företag alltid kontrollerar att ett AI-system uppfyller kraven innan det implementeras i verksamheten.
Till följd av det nya direktivet kommer EU att skapa en central tillsynsmyndighet i syfte att övervaka efterlevnaden bland medlemsstaterna. Tillsynsmyndigheten kommer att samarbeta med nationella myndigheter för att säkerställa en enhetlig tillämpning av reglerna. Det rigorösa sanktionssystemet som finns implementerat i förordningen är till för att avskräcka företag från överträdelser och säkerställa regelverkets strikta efterlevnad.
Det beror på vilket område systemet används inom , till exempel rekrytering, kreditbedömning, kritisk infrastruktur eller brottsbekämpning. Boka en konsultation så går vi igenom era system och var de placerar sig i riskmodellen.
Företag som anpassar sig tidigt till reglerna kan åtnjuta konkurrensfördelar, förbättrad riskhantering samt ökad kvalitet och säkerhet till förmån för innovation och ansvarsfull användning av AI.
© 2024 EZlegal
