AI en webshops – transparantieverplichtingen, hoe zit het eigenlijk?

Tegenwoordig zie je vaak koppen als de volgende: 'Chatbots: hoe een AI-gestuurde chatbot jouw webshop kan helpen', 'Verbeter de reactiesnelheid van jouw klantenservice met AI' of 'Personaliseer jouw webshopaanbod nog beter aan op de behoefte van je klant'.

Dit is slechts een greep uit de manieren waarop Artificial Intelligence (“AI”) webshops kan ondersteunen. We draaien er niet omheen, AI is een hot topic. Tegenwoordig kan je jouw LinkedIn of een nieuwsbrief niet meer openen of er staan allerlei posts en artikelen over hoe AI jouw webshop, bedrijfsvoering, administratie of processen kan verbeteren. Ook het feit dat er risico’s aan het gebruik van AI verbonden zijn, is geen baanbrekend nieuws meer. Men wordt hier veelvuldig, soms in hetzelfde bericht, op gewezen. En nee; dat blijft niet alleen bij doemscenario’s zoals “AI zal alle banen, inclusief die van jou, overnemen”.

Na een weg gebaand te hebben door het web van mogelijkheden om AI toe te passen, stuit je (tegenwoordig) op allerlei regels rondom AI. De wetgeving loopt altijd een beetje achter de feiten aan: eerst zijn er de technologische ontwikkelingen, en vervolgens na een hele lange tijd de regels. Nou is dat voor AI niet anders, maar de Europese wetgever vond het wel belangrijk om hier vaart achter te zetten. Zie daar: de kogel ging sneller dan gemiddeld door de spreekwoordelijke Europese kerk (a.k.a. het Europees Parlement) en in januari 2024 verscheen de definitieve tekst van de AI Act.

De AI Act heeft als doel om ethische en transparante ontwikkeling en toepassing van AI te bevorderen. Het is een baanbrekende wet die het gebruik van AI, algoritmes en machine learning reguleert, en eist dat de risico’s voor mens en maatschappij worden geminimaliseerd.

Transparantie

Wat zijn dan de verplichtingen voor webshops t.a.v. AI? Er gelden allerlei verplichtingen uit de AI Act. Deze verplichtingen zijn opgezet vanuit een risico-gebaseerde benadering. Des te hoger het risico van de AI toepassing, des te meer verplichtingen (meer hierover kan je hier lezen).

Onafhankelijk van de AI toepassing, dus ook bij een laag risico, geldt er een transparantieverplichting. Het doel hiervan is het bevorderen van vertrouwen van gebruikers in AI. Maar ook wordt in een eerdere toelichting genoemd dat transparantie over AI mensen de mogelijkheid geeft om “weloverwogen keuzes te maken of afstand te nemen van een bepaalde situatie”.[1]

Niet alleen vanuit Europa wordt het belang van transparantie benadrukt, maar wat blijkt: (potentiële) klanten verwachten dit ook van retailers. Uit onderzoek blijkt dat 80% van ondervraagde shoppers meer vertrouwen heeft in (persoonlijke) productaanbevelingen indien retailers transparant zijn over AI gebruik.[2] Uit dezelfde survey blijkt dat 90% van de klanten vindt dat er ook uitgelegd moet worden hoe de klantgegevens gebruikt worden in een AI toepassing.[3]

Hoe voldoe je als webshop aan de transparantieverplichting?

Hoe kan je dan invulling geven aan deze transparantieverplichting? Wat moet je dan openbaar maken en op welke manier?

Een transparantieverplichting in deze context houdt niet meer in dan dat bezoekers het toegepaste AI systeem moeten kunnen begrijpen en controleren. Dit kan echter in de praktijk best lastig zijn: hoever moet je gaan om de werking van AI begrijpelijk te maken Consumenten zitten niet altijd te wachten op hele technische verhalen, de gemiddelde consument moet jouw transparantieverhaal ook nog begrijpen. Daarnaast kan (of wil) je ook niet altijd alle logica en techniek vrijgeven, want wat als jouw concurrent hiermee aan de haal gaat?

De High Level Expert Group on AI van de Europese Commissie heeft transparantie in het kader van AI gedefinieerd aan de hand van een drietal kernprincipes.

• Traceerbaarheid: kan je de besluitvorming van een AI (stap voor stap) volgen en kan je terugzien hoe deze tot een uitkomst komt?
• Uitlegbaarheid: is het systeem begrijpelijk en hoe werkt het technisch gezien?
• Communicatie: worden gebruikers geïnformeerd dat zij met een AI te maken hebben?

Deze kernprincipes dienen bij de eerste interactie met of blootstelling aan het AI systeem voor mensen duidelijk te zijn. Hierbij dien je rekening te houden met je publiek, bijvoorbeeld ‘de gemiddelde consument’.

Transparantie kan zo simpel zijn als bij jouw chatbot aangegeven dat de websitebezoeker met een AI communiceert, in plaats van een ‘echt’ persoon. Hierbij kan je tevens de logica van die chatbot aangegeven, denk aan: “Onze AI bot is getraind op basis van onze interne kennisbank/FAQ/geanonimiseerde klantcases”. Transparantie kan ook inhouden dat je duidelijk maakt dat bepaalde content door AI is gegenereerd, bijvoorbeeld bij afbeeldingen of video’s.

Hoe ver de transparantieplicht precies reikt, moet zich nog uitkristalliseren in de praktijk Bovenstaande criteria zullen de basis vormen voor die verplichting. Wil je meer weten over transparantie en AI, lees dan ook deze blog. Heb je nog aanvullende vragen, neem dan contact op met ICTRecht.

[1] Toelichting AI Act, Achtergrond van het voorstel, 5.2.4 TRANSPARANTIEVERPLICHTINGEN VOOR BEPAALDE AI-SYSTEMEN (TITEL IV) (https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:52021PC0206)

[2] Gebaseerd op 1000 ondervraagde Amerikaanse shoppers die wekelijks of maandelijks online aankopen doen. Zie Talkdesk Bias & Ethical AI in Retail survey https://www.talkdesk.com/blog/ethical-considerations-ai-retail/

[3] N.B. Hierop is naast de AI Act ook de Algemene Verordening Gegevensbescherming (AVG) van toepassing. Ook de AVG kent een transparantieverplichting. Deze blog spitst zich toe op de AI Act en laat de AVG voor nu buiten scope.