Na intensief en lang onderhandelen is er vrijdag 8 december een voorlopig akkoord in Europa gekomen over wetgeving voor Artifiële Intelligentie (AI). Deze zogenaamde 'AI Act' moet (nieuwe) toepassingen van kunstmatige intelligentie gaan reguleren. Het is de eerste wet in de wereld over nieuwe AI-technologie.

Hoog-risico AI

Ten grondslag aan de lange onderhandelingen lagen met name de verplichtingen inzake de zogenaamde hoog-risico toepassingen van AI, bijvoorbeeld het gebruik van biometrische gegevens en de beperking in gebruik daarvan, of AI-systemen die mogelijk de uitkomst van verkiezingen beïnvloeden. De hoog-risico kwalificatie is ook van toepassing op AI-systemen in het onderwijs, bijvoorbeeld bij AI-software die emoties kan herkennen.

Generatieve AI

Voor generatieve AI-systemen, zoals ChatGPT, gaan transparantieregels gelden met name op het gebied van hun trainingsdata. Aanbieders van chatbots in webwinkels, deepfake technieken of generatieve AI-systemen moeten ervoor zorgen dat het voor mensen duidelijk is dat ze met een AI praten of dat content door AI is gemaakt. AI-systemen met geen tot weinig risico’s voor mensen hoeven niet aan extra eisen te voldoen. Dit zijn bijvoorbeeld AI-systemen voor klantenservices, voor voorraadbeheer of voor laag-risico data.

De boetes bij overtreding kunnen fors zijn, tot 35 miljoen euro of 7% van de totale omzet.

Vervolgstappen

Het akkoord moet nog wel worden goedgekeurd door alle EU-lidstaten en het hele Europees Parlement. De wet treedt na twee jaar in werking, maar delen zoals de transparantieverplichting kunnen al eerder gaan gelden. Verwacht wordt dat de wet pas op zijn vroegst in 2025 van kracht wordt.

Mediafederatie Academy: Werken met ChatGPT

De Academy van de Mediafederatie heeft het afgelopen jaar veel aandacht besteed aan AI, zowel aan de juridische aspecten als de praktische toepassingen. Op 1 februari staat er weer een webinar gepland over werken met ChatGPT.