Een AI-tool kan vol overtuiging een openingstijd, prijs of wetsartikel noemen dat helemaal niet bestaat; dat heet een hallucinatie.
Kort antwoord
Taalmodellen voorspellen welke woorden logisch volgen, ze zoeken niet zelf naar de waarheid. Als ze iets niet weten, vullen ze het soms aan met iets wat plausibel klinkt. U beperkt dat door AI alleen te laten werken met uw eigen, gecontroleerde informatie, door duidelijke grenzen te stellen en door alles wat naar klanten gaat te laten controleren of af te bakenen.
Waarom AI dingen verzint
Een taalmodel is getraind op enorme hoeveelheden tekst en heeft geleerd hoe zinnen meestal verder gaan. Dat werkt verrassend goed, maar het systeem heeft geen ingebouwd besef van wat waar is. Stelt u een vraag waarop het geen goed antwoord heeft, dan volgt vaak geen "dat weet ik niet", maar een aannemelijk klinkend antwoord.
Typische situaties waarin dat gebeurt:
Vragen over specifieke details, zoals prijzen, data, namen of nummers.
Vragen over uw eigen bedrijf, als die informatie niet is meegegeven.
Verzoeken om bronnen of citaten, die dan soms worden verzonnen.
Rekenwerk met meerdere stappen.
Vragen die net buiten het onderwerp vallen waarvoor de assistent is ingericht.
Wat dit betekent voor uw bedrijf
Voor eigen gebruik is een fout vervelend maar te herstellen: u leest na en corrigeert. Bij een assistent die met klanten praat, ligt dat anders. Een klant die een verkeerde prijs of een niet-bestaande garantie te horen krijgt, houdt u daar mogelijk aan. En het kost vertrouwen.
Zo beperkt u het risico
Geef de AI uw eigen bron. Een assistent die antwoordt op basis van uw website en vragenlijst, en de opdracht heeft om alleen daarop te antwoorden, verzint veel minder.
Leer hem "weet ik niet" zeggen. Geef een vaste zin voor onbekende vragen en laat hem die vragen doorzetten naar u.
Verbied gevaarlijke onderwerpen. Geen prijzen buiten de vastgelegde lijst, geen toezeggingen, geen juridisch of medisch advies.
Laat feiten uit systemen komen. Een agendakoppeling geeft echte vrije tijden; een taalmodel dat "denkt" dat u dinsdag kunt, niet.
Controleer wat naar buiten gaat. Offertes, belangrijke mails en websiteteksten leest u zelf na.
Lees gesprekken terug. Vooral de eerste weken. Elke fout die u ziet, is een gat in de informatie dat u kunt dichten.
Test met lastige vragen. Probeer de assistent te verleiden tot iets wat hij niet mag zeggen, voordat een klant dat doet.
Herkent u een hallucinatie?
Wees extra kritisch als een AI-antwoord:
Heel specifiek is zonder bron (een exact bedrag, een artikelnummer, een datum).
Iets bevestigt wat u graag wilt horen.
Een bron noemt die u niet kunt terugvinden.
Anders luidt als u dezelfde vraag opnieuw stelt.
Bij twijfel: controleer het bij de oorspronkelijke bron.
Veelgestelde vragen
Worden hallucinaties met nieuwere AI-modellen minder?
Ze worden over het algemeen minder vaak gezien, maar ze verdwijnen niet helemaal. Ga er dus van uit dat controle nodig blijft.
Ben ik aansprakelijk als mijn chatbot iets verkeerds zegt?
Dat hangt van de situatie af, maar u kunt er niet zomaar vanuit gaan dat u niet aan een uitspraak van uw eigen assistent wordt gehouden. Laat hem daarom geen prijzen of toezeggingen doen die u niet hebt vastgelegd. Dit is geen juridisch advies.
Kan ik zien waarop een antwoord gebaseerd is?
Bij goed ingerichte assistenten kunt u terugzien welke stukken informatie zijn gebruikt. Dat helpt enorm bij het opsporen van fouten.
Hulp nodig?
Wilt u een assistent die binnen de lijnen blijft? Lees hoe ik een AI-assistent inricht, met duidelijke grenzen en terugleesbare gesprekken.
