×

Het digitale tijdperk en het EC wetsvoorstel Verordening Kunstmatige Intelligentie

11.05.2021

Gezien het feit dat de innovatieve, technologische ontwikkeling van Kunstmatige Intelligentie (AI= Artificial Intelligence) in de afgelopen jaren wereldwijd enorm is gestegen, achtte de Europese Commissie (EC) het van groot belang om de veiligheid van AI technologie eens nader te bestuderen.

Op 21 april 2021 presenteerde de Europese Commissie een wetsvoorstel omtrent veiligheidsregels en –acties met betrekking tot Kunstmatige Intelligentie, met het doel de veiligheidsregels van AI-systemen te harmoniseren. Uitgaande van de whitepaper van de Commissie in 2020, “Een Europa dat klaar is voor het digitale tijdperk”, stelde de Commissie de volgende verordeningen voor:

Het allereerste wetsvoorstel dat ooit
werd ingediend op dit gebied.

Een wetsvoorstel voor het aanpassen
van de Machinerichtlijn 2006/42/EG.

Wat is het doel van de voorgestelde Verordeningen?

Door het wetsvoorstel voor de AI-Verordening in te dienen, hoopt de Commissie de veiligheid van personen en bedrijven te waarborgen, alsmede de groei en innovatie van AI te bevorderen. Het is daarom van groot belang dat de juiste normen worden ontwikkeld, om zodoende te kunnen garanderen dat AI veilig en betrouwbaar is. Deze aanpak wordt ook verder aangevuld met een wetsvoorstel voor de Machine Verordening.

Kort gezegd: de AI-Verordening zal zich focusen op de veiligheidsrisico’s van AI-systemen, terwijl de Machine Verordening zich, in dit kader, zal richten op de veilige integratie van AI- systemen in machines/installaties.

 

Wat is AI?

Artificial Intelligence (AI) oftewel Kunstmatige Intelligentie (KI) heeft betrekking op software programma's die informatie (data of output) genereren die de omgeving beïnvloedt. Het kan informatie zijn met betrekking tot content (b.v. de inhoud van een website), prognoses (b.v. weersverwachtingen), uitslagen (b.v. na deelname aan een online stembureau), en aanbevelingen (b.v. na een examen). Een AI-systeem kan betrekking heb op een onderdeel een product (ingebedde software) of een product op zich (stand-alone software).

Het wetsvoorstel AI-Verordening in een notendop

In onze dagelijkse routines worden we regelmatig geconfronteerd met Artificial Intelligence in allerlei vormen, zoals in transport (b.v. je auto gadgets), cyber security (b.v. op je computer), of in de gezondheidszorg (b.v. robotondersteunde operatie-apparatuur). Omdat het gebruik van deze systemen ook risico’s met zich meebrengt, streeft de EC ernaar om de hoogst mogelijke veiligheidsnormen vast te leggen, en tegelijkertijd van Europa een universeel middelpunt te maken dat bekend staat om AI van topklasse.

De AI-definitie op basis van risicoclassificatie

Gelet op de diverse risico’s die gepaard gaan met het gebruik van verschillende AI- producten, terwijl daarbij ook gedacht wordt aan het beperken van toekomstige problemen van de AI (future-proof oftewel toekomstbestendige aanpak), heeft de Commissie de volgende risicogebaseerde classificatie van AI-technologie opgesteld:

Onaanvaardbaar risicoHoog risicoBeperkt risico (laag risico)Minimaal risico
Dat een duidelijke bedreiging vormt voor de veiligheid, bestaansmiddelen of fundamentele rechten van de mens, b.v. softwaretechnologie dat het menselijk gedrag manipuleert, zoals interactief speelgoed dat gevaarlijk gedrag bij kinderen uitlokt.
Dat betrekking heeft op een veiligheidscomponent (ingebed of stand-alone) met ernstige risico’s voor de veiligheid en gezondheid of fundamentele rechten van de mens, zoals:

  • riskante infrastructuurwerken die het leven van een persoon in gevaar kunnen brengen, b.v. in de transport;
  • onderwijs- of beroepsopleiding die bepalend is voor het opleidings- of beroepsniveau van een persoon, bv. middels testuitslagen;
  • veiligheidscomponenten van producten, b.v. in de robot-ondersteunde auto-industrie;
  • werkgelegenheid, b.v. software voor het screenen van CV’s tijdens selectieprocedures;
  • essentiële privé en openbare diensten, b.v. kredietwaardigheidsbeoordeling op basis waarvan een leningaanvraag wordt afgekeurd;
  • wetshandhaving dat onze grondrechten kan beïnvloeden, b.v. de verificatie van de echtheid van bewijsstukken;
  • beheer van migratie, asiel en grenscontrole, b.v. de verificatie van de echtheid van reisdocumenten;
  • de toepassing van justitiële en democratische processen, b.v. het toepassen van een wettelijke procedure in een specifiek traject.
Waarvoor transparantieverplichtingen gelden, b.v. softwareprogramma’s met een chat optie. In dat geval dient de gebruiker zich ervan bewust te zijn dat hij in interactief contact staat met een softwareprogramma.
Dat in de meeste softwareprogramma’s , zoals videogames, wordt gebruikt.

Conformiteitsprocedures van AI-systemen

Gebaseerd op de classificatie, heeft de EC een overzicht opgesteld van de stappen die genomen moeten worden, indien een fabrikant of provider van plan is om een AI-systeem op de markt te brengen en/of deze in gebruik te nemen.

Onaanvaardbaar risicoHoog risicoBeperkt risico (laag risico) en Minimaal risico
Titel II, artikel 5 van het wetsvoorstel AI-Verordening betreft “verboden Artificiële Intelligentie praktijken” die lichamelijke of (op manipulatieve wijze) psychologische schade veroorzaken. Deze AI-systemen zullen worden verboden, wat betekent dat deze niet op de market zullen worden gebracht en/of in gebruik zullen worden genomen.
Volgens Titel III, Hoofdstuk V, artikel 43, lid 1 van het wetsvoorstel AI-Verordening, zijn er twee soorten conformiteitsprocedures die van toepassing kunnen zijn op hoog risico AI-systemen:

  • een conformiteitsprocedure op basis van interne controle (Bijlage VI van het wetsvoorstel AI-Verordening),

of

  • een conformiteitsprocedure waarvoor een Notified Body (aangemelde instantie) is vereist en welke is gebaseerd op de keuring van een kwaliteitsmanagementsysteem en keuring van de Technische Documentatie (Bijlage VII van het wetsvoorstel AI-Verordening).

De procedure wordt bepaald door het type AI-systeem en de vraag of er een Notified Body vereist is.

Beide soorten conformiteitsprocedures worden uitgebreid besproken in zowel Hoofdstuk V als in de begeleidende Bijlagen van het wetsvoorstel AI-Verordening.

Volgens Titel IX, artikel 69, lid 1 van het wetsvoorstel AI-Verordening, zullen de EC en de Lidstaten bedrijven die van plan zijn AI-systemen op de markt te brengen die niet vallen in de categorie hoog risico, stimuleren om gedragsregels op te stellen.

Hiermee zal getracht worden de bedrijven zover te krijgen dat ze vrijwillig de vereisten waaraan hoog risico AI-systemen (Titel III, Hoofdstuk 2) moeten voldoen, toe te passen op hun AI-systemen die niet in de categorie hoog risico vallen.

Wat volgt er nu?

De Europese Commissie koos voor de invoering van een verordening in plaats van een richtlijn. Dit zal zorgdragen voor een snellere en nauwkeurigere wettelijke tenuitvoerlegging. In tegenstelling tot een richtlijn die in elke Lidstaat eerst apart dient te worden omgezet (getransponeerd) naar een juridisch onderdeel van de nationale wetgeving van elke Lidstaat, zal een verordening meteen rechtstreeks van toepassing zijn in alle Lidstaten. Op deze wijze zal de EC trachten de consistentie en conformiteit van de AI-technologie te handhaven.

Het wetsvoorstel AI-Verordening zal nu (tezamen met het wetsvoorstel Machine Verordening) in het Europese Parlement verder worden behandeld.

Certification Company zal de komende ontwikkelingen in de gaten houden. De updates met betrekking tot de ontwikkeling en uitvoering van de AI-Verordening zullen dan ook op onze website worden gepubliceerd.

    Neem contact met ons op

    Heeft u meer vragen?

    Onze specialisten helpen u graag verder