Naar de inhoud
Alle video’s

Zeg dat het AI is en leg vast wat de agent niet mag

Klantenservice & SalesDuur: 3:05 minVanaf 37:48 in de opname

Freek Schouten, Mantawise

Uit de sessie: Klantenservice: Battle of the CS Tools

Aan het eind van de klantenservicesessie van maart 2026 stelt Tachmy Dilmy twee vragen aan gastspreker Freek Schouten van Mantawise. Moet een voice agent zeggen dat hij AI is, nu de stemmen bijna menselijk klinken? En hoe zorg je dat een gesprek op tijd bij een mens terechtkomt?

Voor wie: Je zet AI in voor klantcontact en wilt weten hoe je openheid en de overstap naar een medewerker regelt.

Waarom dit ertoe doet

Een klant die later ontdekt dat hij zonder het te weten met een computer sprak, voelt zich misleid. Freek kiest daarom altijd voor openheid: 'je spreekt met de AI-assistent van...'. Sinds 2 augustus 2026 is dat in de EU ook een regel. Artikel 50 van de AI Act verplicht dat mensen weten dat ze met een AI-systeem praten, tenzij dat voor een oplettend persoon al duidelijk is. De tweede vraag gaat over kwaliteit. Een agent die niet weet wanneer hij moet stoppen, maakt fouten die geld of klanten kosten. Freek begint daarom met een lijst van ongeveer 10 dingen die de agent nooit zelf mag doen, met voorbeelden. Pas daarna volgen de regels voor doorschakelen naar een mens, een andere agent, een noodnummer of een e-mail.

Belangrijkste inzichten

  • Mantawise laat de agent altijd zeggen dat de klant met een AI-assistent spreekt.
  • Artikel 50 van de EU AI Act verplicht vanaf 2 augustus 2026 dat mensen weten dat ze met AI praten, tenzij dat al duidelijk is.
  • Begin escalatieregels met wat de agent nooit zelf mag doen; Freek noemt een lijst van 10 dingen met voorbeelden.
  • Daarna volgt per situatie een actie: doorschakelen naar een mens of andere agent, een noodnummer bellen, mailen of WhatsAppen.
  • Freek stelt de regels samen met de klant vast, controleert ze 3 keer en test ze voor de livegang.

Eerlijk zijn over AI

Tachmy ziet dat voice agents bijna menselijk klinken en dat de vertraging met snellere modellen en nieuwe GPU's verder verdwijnt. Hij vraagt wanneer het onderscheid tussen mens en AI wegvalt. Freek geeft eerst zijn persoonlijke mening en daarna de lijn van Mantawise: zo eerlijk mogelijk zijn en duidelijk maken dat het om AI gaat, zeker in deze overgangsfase. Doen alsof je een echt persoon bent, is volgens hem nooit de juiste route. Hij merkt wel dat klanten in gesprekken soms niet meer doorhebben of ze met een mens spraken. Daarom laat Mantawise de agent het netjes zeggen, met een zin als 'je spreekt met de AI-assistent van' en dan de naam van het bedrijf.

Wat de wet zegt

Artikel 50, lid 1 van de Europese AI-verordening zegt dat aanbieders AI-systemen die rechtstreeks met mensen praten zo moeten ontwerpen dat die mensen weten dat ze met een AI-systeem te maken hebben. De uitzondering geldt als dat al duidelijk is voor iemand die redelijk geïnformeerd, oplettend en voorzichtig is. Het artikel geldt vanaf 2 augustus 2026. Bij een stem die bijna menselijk klinkt, is het lastig om op die uitzondering te leunen. Een korte openingszin is dan de veilige keuze. De verplichting ligt formeel bij de aanbieder van het systeem; als webshop wil je in je contract zien hoe je leverancier dat regelt.

Eerst wat de agent niet mag

Op de vraag hoe je een gesprek naar een echte medewerker leidt, noemt Freek de escalatie-guardrails. Het fundament is dat de agent heel helder heeft wat hij vooral niet zelf mag doen. Geef daar voorbeelden bij: 'deze tien dingen mag jij nooit zelf doen, dit zijn voorbeelden, en dit zijn de uitzonderingen daarop.' Pas als dat kader staat, bouw je de tweede regelset: in situatie A doe je actie X, in situatie B actie Y. Die acties kunnen zijn: doorschakelen naar een andere voice agent of naar een persoon, een noodnummer bellen, een e-mail of een WhatsApp-bericht sturen. Is het eerste kader niet op orde, dan krijg je volgens Freek problemen. OWASP noemt een systeem met meer ruimte dan nodig 'excessive agency', plek 6 in de risicolijst voor taalmodellen van 2025.

Testen voor de livegang

Freek sluit af met een werkwijze. Stel de regels strikt vast samen met de klant, controleer ze drie keer en valideer ze in een testfase. Dat sluit aan bij wat Tachmy eerder in de sessie over Klarna vertelde: snel automatiseren zonder goede escalatiepaden kost kwaliteit. De tien verboden zijn Freeks voorbeeldgetal, geen norm. Hoeveel regels je nodig hebt, hangt af van je producten en risico's.

Probeer dit deze week

  1. Lees de openingszin van je chatbot of voice agent: hoort of ziet de klant in de eerste 10 seconden dat hij met AI praat?
  2. Schrijf met je teamleider klantenservice 10 dingen op die de agent nooit zelf mag doen, met per punt 1 voorbeeld.
  3. Leg voor elk van die 10 punten vast wat de agent dan wel doet en naar wie hij doorschakelt, en test dat met 3 collega's.

Begrippen

Escalatie-guardrails
Regels die bepalen wat een AI-agent niet zelf mag doen en wanneer hij een gesprek doorgeeft.
Artikel 50 AI Act
Europese transparantieregel: mensen moeten weten dat ze met een AI-systeem praten.
Doorschakelen
Een gesprek overdragen aan een medewerker of een ander systeem, met de context erbij.

Verdiep je in de gids

Transcriptie

Uitgeschreven uit de audio van dit fragment. Stopwoorden en herhalingen zijn weggelaten. Waar [onverstaanbaar] staat, is de opname niet te verstaan.

Ik heb nog wel één ding waar ik zelf ook nog geïnteresseerd in ben, Freek. Ik zag, er zijn nu steeds meer, we zijn nu bijna op het punt dat het echt menselijk begint te lijken. Ja. In de zin van, er zit toch nog wat latency tussen, de modellen worden sneller. Ja, en hier hebben we nieuwe GPU's die nog veel beter worden. Dus dat is echt een kwestie van tijd. de duidelijkheid verschaffen dat het nog steeds een AI agent is wanneer verwacht je dat dat onderscheid weg begint te vallen, jij zit echt aan de cutting edge nu hier aan te zitten met modellen latencies en dat soort zaken ja wat is je verwachting daarvan dat is ook wel denk ik persoonlijk maar onze visie is wel altijd om maar gewoon zo eerlijk mogelijk te zijn en duidelijk te maken dat het om een AI gaat. Zeker in deze technologische transitie waar we nog in zitten. Ik denk als je echt gaat veinzen dat je een daadwerkelijk persoon bent, dat dat nooit de juiste route zal zijn. Alleen dit wordt straks zo echt, en dat merken we ook wel eens in gesprekken met klanten, dat je als klant niet meer echt door hebt van, was het nou een mens of niet? Dus wij neigen er nou om toch altijd wel te kiezen om het netjes te zeggen. Je spreekt met puntje, puntje, de AI-assistent van, ja. Ja, precies. Absoluut, ja. En dan nog een laatste vraag rondom het uitbreken naar een daadwerkelijke agent toe. Heb je daar nog ervaring mee over hoe je dat het beste kan doen in jouw, noem het even, of het dan voice applicatie is, of in je reguliere klantenservice, e-mail, zaken van de route naar een echte agent toe. Hoe implementeer je die het beste? Ja, dat zijn de escalatie guardrails. Dat begint bij dat de voice agent zelf heel helder heeft wat hij vooral niet zelf mag doen. En dat is echt het allerbelangrijkste fundament. En je moet daar ook voorbeelden bij geven. Dus deze tien dingen mag jij nooit zelf doen. En dit zijn voorbeelden van die tien dingen en sub-uitzonderingen daar nog op. Op het moment dat hij dat kader heeft, dan kan je daarna gaan bouwen van oké, als dat dan gebeurt, wat moet je dan wel doen? En dan komt er een nieuwe regelset. Situatie A moet jij stap actie X uitvoeren, situatie B actie I. En dat kan zijn doorschakelen naar een andere voice agent, doorschakelen naar een persoon, een noodnummer bellen, een e-mail sturen, een whatsappje sturen. Maar dat begint bij de interne geprompte guardrails van dit mag je vooral niet doen. Dat is denk ik het meest belangrijke fundament. Als dat net niet op orde is, dan krijg je al problemen. En dat is ook echt iets om heel strikt vast te stellen samen met een klant. Te triple checken en goed te valideren in een testfase.

Spreker: Freek Schouten, Mantawise

Bronnen

Meer over Klantenservice & Sales