Het digitale tijdperk en het EC wetsvoorstel Verordening Kunstmatige Intelligentie
Gezien het feit dat de innovatieve, technologische ontwikkeling van Kunstmatige Intelligentie (AI= Artificial Intelligence) in de afgelopen jaren wereldwijd enorm is gestegen, achtte de Europese Commissie (EC) het van groot belang om de veiligheid van AI technologie eens nader te bestuderen.
Op 21 april 2021 presenteerde de Europese Commissie een wetsvoorstel omtrent veiligheidsregels en –acties met betrekking tot Kunstmatige Intelligentie, met het doel de veiligheidsregels van AI-systemen te harmoniseren. Uitgaande van de whitepaper van de Commissie in 2020, “Een Europa dat klaar is voor het digitale tijdperk”, stelde de Commissie de volgende verordeningen voor:
Het allereerste wetsvoorstel dat ooit
werd ingediend op dit gebied.
Een wetsvoorstel voor het aanpassen
van de Machinerichtlijn 2006/42/EG.
Wat is het doel van de voorgestelde Verordeningen?
Door het wetsvoorstel voor de AI-Verordening in te dienen, hoopt de Commissie de veiligheid van personen en bedrijven te waarborgen, alsmede de groei en innovatie van AI te bevorderen. Het is daarom van groot belang dat de juiste normen worden ontwikkeld, om zodoende te kunnen garanderen dat AI veilig en betrouwbaar is. Deze aanpak wordt ook verder aangevuld met een wetsvoorstel voor de Machine Verordening.
Kort gezegd: de AI-Verordening zal zich focusen op de veiligheidsrisico’s van AI-systemen, terwijl de Machine Verordening zich, in dit kader, zal richten op de veilige integratie van AI- systemen in machines/installaties.
Wat is AI?
Het wetsvoorstel AI-Verordening in een notendop
In onze dagelijkse routines worden we regelmatig geconfronteerd met Artificial Intelligence in allerlei vormen, zoals in transport (b.v. je auto gadgets), cyber security (b.v. op je computer), of in de gezondheidszorg (b.v. robotondersteunde operatie-apparatuur). Omdat het gebruik van deze systemen ook risico’s met zich meebrengt, streeft de EC ernaar om de hoogst mogelijke veiligheidsnormen vast te leggen, en tegelijkertijd van Europa een universeel middelpunt te maken dat bekend staat om AI van topklasse.
De AI-definitie op basis van risicoclassificatie
Gelet op de diverse risico’s die gepaard gaan met het gebruik van verschillende AI- producten, terwijl daarbij ook gedacht wordt aan het beperken van toekomstige problemen van de AI (future-proof oftewel toekomstbestendige aanpak), heeft de Commissie de volgende risicogebaseerde classificatie van AI-technologie opgesteld:
- riskante infrastructuurwerken die het leven van een persoon in gevaar kunnen brengen, b.v. in de transport;
- onderwijs- of beroepsopleiding die bepalend is voor het opleidings- of beroepsniveau van een persoon, bv. middels testuitslagen;
- veiligheidscomponenten van producten, b.v. in de robot-ondersteunde auto-industrie;
- werkgelegenheid, b.v. software voor het screenen van CV’s tijdens selectieprocedures;
- essentiële privé en openbare diensten, b.v. kredietwaardigheidsbeoordeling op basis waarvan een leningaanvraag wordt afgekeurd;
- wetshandhaving dat onze grondrechten kan beïnvloeden, b.v. de verificatie van de echtheid van bewijsstukken;
- beheer van migratie, asiel en grenscontrole, b.v. de verificatie van de echtheid van reisdocumenten;
- de toepassing van justitiële en democratische processen, b.v. het toepassen van een wettelijke procedure in een specifiek traject.
Conformiteitsprocedures van AI-systemen
Gebaseerd op de classificatie, heeft de EC een overzicht opgesteld van de stappen die genomen moeten worden, indien een fabrikant of provider van plan is om een AI-systeem op de markt te brengen en/of deze in gebruik te nemen.
- een conformiteitsprocedure op basis van interne controle (Bijlage VI van het wetsvoorstel AI-Verordening),
of
- een conformiteitsprocedure waarvoor een Notified Body (aangemelde instantie) is vereist en welke is gebaseerd op de keuring van een kwaliteitsmanagementsysteem en keuring van de Technische Documentatie (Bijlage VII van het wetsvoorstel AI-Verordening).
De procedure wordt bepaald door het type AI-systeem en de vraag of er een Notified Body vereist is.
Beide soorten conformiteitsprocedures worden uitgebreid besproken in zowel Hoofdstuk V als in de begeleidende Bijlagen van het wetsvoorstel AI-Verordening.
Hiermee zal getracht worden de bedrijven zover te krijgen dat ze vrijwillig de vereisten waaraan hoog risico AI-systemen (Titel III, Hoofdstuk 2) moeten voldoen, toe te passen op hun AI-systemen die niet in de categorie hoog risico vallen.
Wat volgt er nu?
De Europese Commissie koos voor de invoering van een verordening in plaats van een richtlijn. Dit zal zorgdragen voor een snellere en nauwkeurigere wettelijke tenuitvoerlegging. In tegenstelling tot een richtlijn die in elke Lidstaat eerst apart dient te worden omgezet (getransponeerd) naar een juridisch onderdeel van de nationale wetgeving van elke Lidstaat, zal een verordening meteen rechtstreeks van toepassing zijn in alle Lidstaten. Op deze wijze zal de EC trachten de consistentie en conformiteit van de AI-technologie te handhaven.
Het wetsvoorstel AI-Verordening zal nu (tezamen met het wetsvoorstel Machine Verordening) in het Europese Parlement verder worden behandeld.
Certification Company zal de komende ontwikkelingen in de gaten houden. De updates met betrekking tot de ontwikkeling en uitvoering van de AI-Verordening zullen dan ook op onze website worden gepubliceerd.