AI wordt gereguleerd: zal u aan de regels moeten voldoen?

De Verordening inzake artificiële intelligentie (AI) (“AI-wet“) zou binnenkort formeel moeten worden aangenomen, nadat het Europees Parlement op 13 maart 2024 het politiek akkoord dat in december 2023 met de Raad werd bereikt, heeft goedgekeurd.

Het wordt de eerste wetgeving ter wereld die AI reguleert!

Het belangrijkste doel van de AI-verordening is het definiëren van de regels die van toepassing zijn op het op de markt brengen en het gebruiken van een AI-systeem en het verbieden van bepaalde AI-praktijken waarvan het risico onaanvaardbaar wordt geacht.

Hoe bepaalt u of deze nieuwe regels van toepassing zijn op uw activiteiten?

Aan de hand van twee vragen zou elke onderneming de impact van de AI-verordening moeten kunnen beoordelen:

Gebruikt u AI die onder de Verordening valt in uw activiteiten?

AI-systemen – op risico gebaseerde benadering

De AI Verordening definieert een AI-systeem als « een machinegebaseerd systeem dat is ontworpen om op verschillende autonome niveaus te werken, dat zich na de inzet kan aanpassen en dat […] uit de ontvangen gegevens afleidt hoe resultaten kunnen worden gegenereerd, zoals voorspellingen, inhoud, aanbevelingen of beslissingen die fysieke of virtuele omgevingen kunnen beïnvloeden ».

AI-systemen worden ingedeeld in verschillende categorieën op basis van het risico dat ze vormen:

AI-systemen met een hoog risico kunnen in twee categorieën vallen:

• AI-systemen die een product of een veiligheidscomponent vormen van een product dat onderworpen is aan conformiteitsbeoordeling door derden overeenkomstig bepaalde EU-wetgevingshandelingen (bv. medische hulpmiddelen, machines, speelgoed)
• AI-systemen in bepaalde gebieden zoals onderwijs en beroepsopleiding, biometrische identificatie op afstand, kritieke infrastructuur (bijv. elektriciteit, water, gas), rechtsbedeling en democratische processen.

Bij wijze van uitzondering worden AI-systemen die geen significant risico op schade aan de gezondheid, veiligheid of grondrechten van natuurlijke personen inhouden en die geen profilering uitvoeren, niet als AI-systemen met een hoog risico beschouwd. Dit zou bijvoorbeeld het geval zijn bij een AI-systeem dat bedoeld is om een beperkte procedurele taak uit te voeren.

AI-systemen en -modellen voor algemeen gebruik

Een AI-systeem voor algemeen gebruik is “een AI-systeem dat is gebaseerd op een AI-model voor algemeen gebruik en dat in uiteenlopende behoeften kan voorzien, zowel voor direct gebruik als voor integratie in andere AI-systemen”.

Een AI-model voor algemeen gebruik wordt gedefinieerd als “een AI-model, ook als het is getraind met grote hoeveelheden gegevens met behulp van grootschalige zelfsupervisie, […] dat in staat is om met competentie een breed scala aan verschillende taken uit te voeren, […] en dat kan worden geïntegreerd in een verscheidenheid aan downstreamsystemen of -toepassingen”.

Van de AI-modellen voor algemeen gebruik worden de modellen met een hoge impactcapaciteit (d.w.z. een rekenkracht gebruikt bij hun training van meer dan 10^25 FLOP’s) gekwalificeerd als AI-modellen voor algemeen gebruik die een systemisch risico inhouden.

Wat zijn je activiteiten met betrekking tot dit AI-systeem?

U zal onderworpen zijn aan de vereisten van AI Verordening in een van de volgende gevallen:

• als leverancier, als u een AI-systeem of AI-model voor algemeen gebruik op de markt brengt of in dienst stelt in de Europese Unie (EU);
• als leverancier, gevestigd/gelegen in een derde land, als het AI-systeem dat u op de markt brengt/in een dienst stelt, resultaten (output) genereert die in de EU worden gebruikt;
• als plaatser, als u op eigen gezag voor beroepsdoeleinden een AI-systeem gebruikt en u in de EU gevestigd bent/gelegen bent (of als u buiten de EU gevestigd bent maar de resultaten (output) van het AI-systeem binnen de EU worden gebruikt);
• als importeur, als u een AI-systeem in de EU op de markt brengt/in dienst stelt onder de naam of het handelsmerk van een derde die buiten de EU is gevestigd;
• als verdeler, als u een AI-systeem op de EU-markt beschikbaar maakt;
• als productfabrikant, als u een AI-systeem samen met uw product in de EU op de markt brengt/in dienst brengt onder uw eigen naam of merk;
• als agent in de EU van een leverancier die niet in de EU gevestigd is, als u als zodanig bent aangesteld door een leverancier van buiten de EU.

Aan wat voor verplichtingen zal u onderworpen zijn?

De omvang en het soort verplichtingen waaraan u onderworpen zal zijn, hangen af van uw hoedanigheid (leverancier, plaatser, enz.) en de AI in kwestie.

Als leverancier van een AI-systeem met een hoog risico zal u bijvoorbeeld een technische documentatie moeten opstellen alsook een kwaliteitsbeheersysteem, of zelfs het systeem onderwerpen aan een conformiteitsbeoordeling (indien nodig uitgevoerd door een derde partij).

Als plaatser van een systeem dat inhoud genereert of manipuleert (deep fake), zal u bijvoorbeeld moeten aangeven dat de inhoud kunstmatig is gegenereerd of gemanipuleerd.

Vanaf wanneer zullen die nieuwe vereisten van toepassing zijn?

Ter herinnering: de IA-verordening is nog niet formeel aangenomen. Het is daarom niet mogelijk om de precieze datum te bepalen waarop deze van toepassing zal zijn.

Als de Verordening eenmaal in werking is getreden, zal deze naar verwachting na 24 maanden van toepassing zijn. Sommige bepalingen zullen op een ander moment toepasselijk worden, in het bijzonder die met betrekking tot AI-systemen met onaanvaardbare risico’s (6 maanden na inwerkingtreding) en AI-modellen voor algemeen gebruik (12 maanden na inwerkingtreding) en de verplichtingen voor AI-systemen met een hoog risico (36 maanden na inwerkingtreding).