Een AI-model vragen om iets níét te doen, is geen garantie dat het dat ook laat. Voor een grappig plaatje is dat niet erg. In een telefoongesprek wel, want een telefoongesprek heeft geen undo-knop.
Een telefoongesprek heeft geen undo-knop
Een chatbot kun je opnieuw laten antwoorden. Een telefonist die net iets heeft gezegd, kan dat niet terugnemen. Onze AI-telefonist maakt zijn antwoord bovendien direct als geluid: hij bedenkt wat hij zegt en zegt het in één adem. Er zit geen moment tussen waarop wij de zin eerst kunnen controleren.
Wat de telefonist zegt, moet dus in één keer goed zijn. En sommige dingen moeten áltijd goed gaan.
Instructies verliezen van reflexen
In de paradox van de rode kater schreven we hoe lastig het is om een AI-model veel instructies tegelijk mee te geven. Aan de telefoon komt daar tijdsdruk bij. En onder tijdsdruk wint de reflex van het model het soms van de instructie.
Vooral instructies die iets verbieden blijken kwetsbaar, zoals ‘kondig het doorverbinden nog niet aan’. Het model wil behulpzaam zijn, en behulpzaam voelt voor een model als: meteen doen.
Is ‘bedankt, fijne dag’ een ja?
Neem doorverbinden. De telefonist vraagt: ‘Zal ik u doorverbinden?’ De beller antwoordt: ‘Bedankt, fijne dag.’ Of stelt een wedervraag: ‘Hebben jullie daar ook ondersteuning bij?’
Een mens hoort meteen dat dit geen ja is. Voor een model dat graag wil helpen, kon het wel zo tellen. Dan werd er doorverbonden terwijl de beller eigenlijk wilde ophangen, of nog een vraag had.
Daarom beslist nu code of er doorverbonden wordt, en niet alleen de instructie:
- alleen bij een duidelijk ja gaat het gesprek door
- op een wedervraag of een vaag antwoord vraagt de telefonist het nog één keer
- op een afscheid sluit hij het gesprek netjes af
Het model zegt het, de code bepaalt het
Dat is het principe achter alles wat in een gesprek niet mis mag gaan. Het model bepaalt hóé iets gezegd wordt: vriendelijk, in de taal van de beller, met de juiste toon. De code bepaalt wát er mag gebeuren: of er doorverbonden wordt, welke gegevens nog ontbreken, wat eerst gecontroleerd moet worden.
Staat een regel alleen in de prompt, dan hopen we dat het model zich eraan houdt. Staat hij in de code, dan kán de telefonist simpelweg niet doorverbinden zolang de beller geen ja heeft gezegd.
Engels voor de telefonist, Nederlands voor de beller
Nog zo'n les. Tijdens een gesprek geven we de telefonist soms een extra aanwijzing, bijvoorbeeld nadat hij iets heeft opgezocht. Die aanwijzing is altijd een Engelse omschrijving van wat hij moet doen, nooit een kant-en-klare Nederlandse zin.
De reden: het model kiest zijn taal op basis van wat de beller zegt. Zet je er een Nederlandse zin in, dan krijgt een Duitse beller ineens Nederlands terug. Beschrijf je alleen de bedoeling, dan zegt de telefonist het in de taal van de beller.
Behulpzaam én betrouwbaar
De kunst is de balans. Leg je te veel vast in code, dan voelt de telefonist als een keuzemenu. Laat je te veel aan de prompt over, dan improviseert hij waar dat niet mag. Wij laten het model doen waar het goed in is, een natuurlijk gesprek voeren, en leggen vast wat altijd goed moet gaan.
Benieuwd hoe dat voelt? Probeer het zelf op onze website.