EU-kommissionen (EC) föreslår nu en första rättslig ram för AI och en ny samordnad plan med medlemsländerna som avser att garantera säkerheten och de grundläggande rättigheterna för människor och företag. Bland annat anses AI-system för biometrisk fjärridentifiering utgöra en särskilt hög risk och omfattas därför av strikta krav. Därtill kommer maskindirektivet att ersättas med en ny maskinförordning med uppdaterade regler.
Foto:Barbara Zandoval, Unsplash
– När det gäller artificiell intelligens är förtroende ett måste, inte bara något som det är trevligt att ha. Med dessa banbrytande regler tar EU ledningen i utvecklingen av nya globala normer för att säkerställa AI som vi kan lita på. Genom standarder kan vi bana vägen för en etisk teknik globalt och samtidigt se till att EU behåller sin konkurrenskraft. Våra regler är framtidssäkrade och innovationsvänliga och kommer endast att ingripa när det är strikt nödvändigt – alltså när EU-medborgarnas säkerhet och grundläggande rättigheter hotas, säger EU-kommissionär Margrethe Vestager,
– AI har funnits i flera årtionden, men kapaciteten har ökat avsevärt med hjälp av datorkraft. Det skapar en enorm potential inom så varierande områden som hälsa, transport, energi, jordbruk, turism och cybersäkerhet. Samtidigt är tekniken förbunden med ett antal risker. Dagens förslag syftar till att stärka Europas ställning som en global knutpunkt för spetskompetens inom AI hela vägen från laboratoriet till marknaden, till att säkerställa att AI i Europa är förenlig med våra värderingar och regler och till att utnyttja AI-teknikens potential för industriell användning, AI är ett medel, inte ett mål, säger EU-kommissionär Thierry Breton, som ansvarar för den inre marknaden.
Den nya AI-förordningen kommer att säkerställa att människorna i Europa kan lita på det som AI kan erbjuda. Det kommer att finnas proportionerliga och flexibla regler för de särskilda risker som är förbundna med AI-systemen, och de högsta standarderna i världen kommer att fastställas. Den samordnade planen beskriver de policyändringar och investeringar som enligt EC behövs i EU-länderna för att stärka Europas ledning i utvecklingen av människocentrerad, säker, inkluderande och tillförlitlig AI.
Den europeiska strategin för tillförlitlig AI
De nya reglerna kommer direkt att börja gälla på samma sätt i alla EU-länder baserat på en framtidssäkrad definition av AI. En riskbaserad metod används:
Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter kommer att vara förbjudna. Detta inbegriper AI-system eller tillämpningar som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (t.ex. leksaker som använder röstassistans som uppmuntrar minderåriga till farliga beteenden) och system som stater kan använda för ”social poängsättning”.
Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används i:
- Kritiska infrastrukturer (t.ex. transport), som kan innebära hot mot människors liv och hälsa.
- Utbildning, där systemen kan avgöra personers tillgång till utbildning och yrkeskarriär (t.ex. poängsättning av prov).
- Säkerhetskomponenter i produkter, (t.ex. AI-tillämpningar för robotstöd vid operationer).
- Anställning, arbetsledning och tillgång till egenföretagande, (t.ex. mjukvara för sortering av cv:n i samband med rekrytering).
- Väsentliga privata och offentliga tjänster,(t.ex. kreditbedömning som innebär att medborgare hindras från att ta lån).
- Brottsbekämpning som kan påverka människors grundläggande rättigheter (t.ex. bedömning av tillförlitligheten i bevis).
- Hantering av migration, asyl och gränskontroll. (t.ex. kontroll av äktheten i resehandlingar).
- Rättskipning och demokratiska processer, (t.ex. tillämpning av lagstiftning på ett konkret faktaunderlag).
AI-system med hög risk kommer att omfattas av strikta skyldigheter innan de släpps ut på marknaden.
- Ändamålsenlig riskbedömning och riskreducerande system
- Dataset av hög kvalitet som används i systemet för att minimera risker och diskriminerande resultat.
- Loggning av åtgärder för att säkerställa spårbarheten för resultaten.
- Detaljerad dokumentation som omfattar all nödvändig information om systemet och dess ändamål, lämnas till myndigheter som kontrollerar att kraven uppfylls.
- Tydlig och tillräcklig information till användaren.
- Ändamålsenliga åtgärder för mänsklig översyn för att minimera riskerna.
- Hög nivå av robusthet, säkerhet och noggrannhet.
AI-system för biometrisk fjärridentifiering anses utgöra en särskilt hög risk och omfattas därför av strikta krav. Användningen av sådana på offentligt tillgängliga platser för brottsbekämpande ändamål är i princip förbjuden. Snäva undantag är strikt definierade och reglerade (t.ex. när det är strikt nödvändigt för att söka efter ett försvunnet barn, förhindra ett specifikt och omedelbart terrorhot eller upptäcka, lokalisera, identifiera eller lagföra en förövare av ett allvarligt brott). Sådan användning ska godkännas av ett rättsligt eller annat oberoende organ och på lämpligt sätt avgränsas vad gäller tid, geografisk omfattning och genomsökta databaser.
Begränsad risk, dvs. AI-system med särskilda transparenskrav:: Vid användning av sådana AI-system som chattbotar ska användarna vara medvetna om att de interagerar med en maskin så att de kan fatta ett välgrundat beslut om att fortsätta eller avsluta.
Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. Utkastet till förordning omfattar inga åtgärder för dessa system, eftersom de utgör en minimal eller obefintlig risk för medborgarnas rättigheter eller säkerhet.
När det gäller styrning föreslår EU-kommissionen att de nationella behöriga marknadskontrollmyndigheterna övervakar de nya reglerna, och att det inrättas en europeisk nämnd för artificiell intelligens som främjar genomförandet och utvecklingen av AI-standarder. Man föreslår också frivilliga uppförandekoder för sådan AI som inte utgör hög risk samt ”regulatorisk sandlådor” som främjar ansvarsfull innovation.
Den europeiska strategin för spetskompetens inom AI
Enligt EC kommer en samordning att stärka Europas ledande ställning inom människocentrerad, hållbar, säker, inkluderande och tillförlitlig AI. För att Europa ska behålla sin globala konkurrenskraft vill EU-kommissionen främja innovation inom AI-teknikutvecklingen och AI-användningen inom alla sektorer i alla medlemsländer.
Den samordnade AI-planen, som först lades fram 2018 och som omfattar åtgärder och finansieringsinstrument för utveckling och ökad användning av AI, främjade ett dynamiskt landskap av nationella strategier och EU-finansiering för offentlig-privata partnerskap och för forsknings- och innovationsnätverk. Den omfattande uppdateringen av den samordnade planen innehåller förslag på konkreta gemensamma samverkansåtgärder som garanterar att alla insatser anpassas till den europeiska AI-strategin och den europeiska gröna given. Den beaktar också nya utmaningar som uppstått i samband med coronapandemin. Den beskriver en vision för att påskynda investeringarna i AI, vilket kan bidra till återhämtningen. Enligt EC syftar planen också till att främja genomförandet av nationella AI-strategier, motverka fragmentering och ta itu med globala utmaningar.
Den uppdaterade samordnade planen kommer att använda medel från programmet för ett digitalt Europa Horisont Europa och faciliteten för återhämtning och resiliens som omfattar ett mål på 20 procent för digitala utgifter, samt programmen inom sammanhållningspolitiken för att:
- Skapa villkor som främjar AI-utveckling och användning genom utbyte av insikter, datadelning och investering i kritisk datorkapacitet.
- Främja AI-spetskompetenshela vägen ”från laboratoriet till marknaden” genom att inrätta ett offentligt-privat partnerskap, bygga upp och mobilisera forsknings-, utvecklings- och innovationskapacitet och göra test- och försöksanläggningar och digitala innovationsknutpunkter tillgängliga för små och medelstora företag och offentliga förvaltningar.
- Säkerställa att AI tjänar människorna och är en positiv kraft i samhället genom att ligga i utvecklingens framkant och använda tillförlitlig AI, främja begåvningar och kompetens genom att stödja praktikplatser, doktorandnätverk och stipendier för personer med doktorsexamen inom digitala områden. Man måste också se till att AI-politiken beaktar förtroendefrågor och främjar den europeiska visionen om hållbar och tillförlitlig AI globalt.
- Bygga ett strategiskt ledarskap inom sektorer och tekniker med stort genomslag, exempelvis miljö – genom att fokusera på AI:s bidrag till hållbar produktion, hälsa – genom att utöka det gränsöverskridande informationsutbytet, och offentlig sektor, mobilitet, inrikes frågor, jordbruk och robotteknik.
En europeisk strategi för nya maskinprodukter
Maskinprodukter omfattar en mängd olika produkter för privat och yrkesmässig användning, alltifrån robotar till gräsklippare, 3D-skrivare, bygg- och anläggningsmaskiner och industriella produktionslinjer. Maskindirektivet, som ersätts av den nya maskinförordningen, fastställde hälso- och säkerhetskrav för maskiner. Denna nya maskinförordning kommer att säkerställa att nya generationer av maskiner garanterar användarnas och konsumenternas säkerhet och den ska även främja innovation. Medan AI-förordningen kommer att behandla säkerhetsriskerna med AI-system kommer den nya maskinförordningen att säkerställa en säker integrering av AI-system i maskinerna som helhet. Företagen kommer bara att behöva göra en enda bedömning av överensstämmelse.
Den nya maskinförordningen kommer också att tillgodose marknadens behov genom att förbättra rättssäkerheten jämfört med de nuvarande bestämmelserna och förenkla administrationen och kostnaderna för företagen genom att tillåta digitala format för dokumentation och anpassa avgifterna för bedömning av överensstämmelse för små och medelstora företag och samtidigt säkerställa överenstämmelse med EU:s regelverk för produkter.
Vad händer nu?
Europaparlamentet och medlemsländerna kommer att behöva anta EU-kommissionens förslag till en europeisk strategi för artificiell intelligens och för maskinprodukter genom det ordinarie lagstiftningsförfarandet. När förordningarna antagits kommer de att vara direkt tillämpliga i hela EU. Samtidigt kommer EU-kommissionen att fortsätta att samverka med medlemsländerna för att genomföra de åtgärder som aviseras i den samordnade planen.
