Een AI-tool geeft aan dat een aandeel of index waarschijnlijk zal stijgen. Het percentage oogt precies, de grafiek ziet er overtuigend uit en de conclusie staat er duidelijk bij. Alleen ontbreekt één ding: waarom komt het model tot die uitkomst?
Dat is precies waar uitlegbare AI belangrijk wordt. Een modeluitkomst is pas goed te beoordelen wanneer voldoende duidelijk is welke informatie is gebruikt, welke factoren zwaar meewegen en waar de onzekerheid zit. Bij beleggen is dat extra relevant, omdat een overtuigend ogende voorspelling nog niets zegt over de betrouwbaarheid ervan.
Wat betekent uitlegbare AI bij beleggen?
Uitlegbare AI, vaak aangeduid als explainable AI, draait om het begrijpelijk maken van de manier waarop een AI-model tot een uitkomst komt. Dat betekent niet dat iedere interne berekening volledig zichtbaar moet zijn. Wel moet de gebruiker voldoende informatie krijgen om te begrijpen waarop een conclusie is gebaseerd en welke beperkingen daarbij gelden.
Bij artificial intelligence en algoritmisch traden kunnen bijvoorbeeld koersgegevens, technische indicatoren, volatiliteit en andere marktinformatie worden verwerkt. Wanneer daaruit een signaal of kansinschatting ontstaat, is het nuttig te weten welke gegevens bepalend waren voor die uitkomst.
Dat onderscheidt een uitleg van alleen een resultaat. “Kans op stijging: 68%” is een uitkomst. “De kansinschatting wordt vooral beïnvloed door momentum, volatiliteit en de recente trend” geeft al meer context. Pas daarna kun je beoordelen of die factoren logisch aansluiten bij het doel van het model.
Eerste vraag: weet je welke gegevens het model gebruikt?
Als niet duidelijk is welke gegevens een AI-model verwerkt, is het lastig om de uitkomst op waarde te schatten. Een model dat uitsluitend historische koersdata gebruikt, kijkt naar iets anders dan een model dat daarnaast bedrijfsgegevens, economische cijfers of nieuws verwerkt.
Daarbij gaat het niet alleen om het soort data. Ook actualiteit en kwaliteit tellen mee. Oude, ontbrekende of verkeerd verwerkte gegevens kunnen de uitkomst beïnvloeden zonder dat dit aan de buitenkant zichtbaar is.
Dat sluit aan op een belangrijk punt bij machine learning bij beleggen: een model leert statistische verbanden uit gegevens, maar begrijpt die gegevens niet zoals een mens dat doet. Als de invoer tekortschiet, kan een technisch correct werkend model toch een weinig bruikbare uitkomst produceren.
Wie een AI-uitkomst beoordeelt, kan daarom beginnen met een eenvoudige vraag: welke informatie mocht het model zien toen deze conclusie werd berekend?
Tweede vraag: is duidelijk welke factoren belangrijk waren?
Niet iedere invoervariabele heeft evenveel invloed op een voorspelling. Een bruikbare uitleg laat daarom bij voorkeur zien welke factoren het sterkst aan de uitkomst hebben bijgedragen.
Dat kan op verschillende niveaus. Soms wordt uitgelegd welke kenmerken binnen het model in het algemeen belangrijk zijn. In andere gevallen wordt specifiek toegelicht waarom juist één bepaalde voorspelling tot stand kwam.
Algemene uitleg van het model
Een algemene uitleg beschrijft hoe het model normaal gesproken werkt. Bijvoorbeeld dat trendsterkte, koersvolatiliteit en handelsvolume belangrijke variabelen zijn.
Dat is nuttig om de methode te begrijpen, maar zegt nog niet waarom het model vandaag tot een specifieke uitkomst kwam. De verhouding tussen factoren kan per marktsituatie veranderen.
Uitleg van één specifieke uitkomst
Een lokale uitleg richt zich op één voorspelling of signaal. Bijvoorbeeld dat bij de actuele berekening vooral een plotselinge verandering in volatiliteit en momentum zwaar heeft meegewogen.
Voor een gebruiker is zo’n uitleg vaak praktischer. Je kunt dan beoordelen of de modeluitkomst voortkomt uit relevante marktinformatie of sterk afhankelijk is van één bijzondere variabele.
Derde vraag: wordt onzekerheid zichtbaar gemaakt?
Een AI-model kan een zeer precies getal produceren zonder dat de werkelijkheid even precies voorspelbaar is. Dat verschil is belangrijk.
Een percentage of score kan bijvoorbeeld een modelinschatting zijn, maar geen garantie dat de gebeurtenis zich werkelijk met exact die kans zal voordoen. Zeker op financiële markten kunnen nieuwe gebeurtenissen de omstandigheden snel veranderen.
Een goede toelichting maakt daarom onderscheid tussen een modeluitkomst en zekerheid. Het systeem moet niet alleen aangeven wat het berekent, maar waar mogelijk ook duidelijk maken hoe sterk of zwak de onderbouwing is.
Wanneer twee modellen dezelfde richting voorspellen, maar het ene model sterk afhankelijk is van enkele onzekere variabelen, zijn de uitkomsten inhoudelijk niet noodzakelijk gelijkwaardig.
Vierde vraag: zijn de beperkingen van het model bekend?
Een model wordt bruikbaarder wanneer niet alleen de sterke kanten worden uitgelegd, maar ook de omstandigheden waarin het minder betrouwbaar kan zijn.
Denk aan een systeem dat is ontwikkeld op historische gegevens uit voornamelijk rustige markten. Zo’n model kan anders reageren wanneer volatiliteit plotseling sterk stijgt. Ook structurele veranderingen in markten kunnen ertoe leiden dat eerder gevonden verbanden minder bruikbaar worden.
Uitlegbaarheid betekent daarom ook dat grenzen zichtbaar zijn. Welke marktdata zijn gebruikt? Voor welk doel is het model gebouwd? Op welke periode is het getest? En onder welke omstandigheden kan de uitkomst minder representatief zijn?
Een model dat zijn beperkingen duidelijk maakt, geeft de gebruiker meer informatie dan een systeem dat uitsluitend een koop-, verkoop- of kansscore toont.
Vijfde vraag: kun je de uitleg controleren?
Een verklaring is pas echt nuttig wanneer er iets mee te controleren valt. Een tekst als “ons geavanceerde AI-model heeft duizenden factoren geanalyseerd” klinkt technisch, maar biedt weinig houvast.
Een controleerbare uitleg is concreter. Het moet bijvoorbeeld duidelijk zijn dat bepaalde koersgegevens, indicatoren of andere variabelen een rol speelden en welke daarvan relatief belangrijk waren.
Dat betekent niet dat de volledige broncode openbaar moet zijn. Voor een inhoudelijke beoordeling is vooral van belang of de logica voldoende inzichtelijk is om de uitkomst kritisch te kunnen bekijken.
Hier ontstaat een belangrijk verschil tussen transparantie en technische openheid. Een systeem kan gesloten software zijn en toch duidelijk uitleggen welke soorten gegevens worden gebruikt, welk doel het model heeft en welke beperkingen gelden.
Waarom een begrijpelijke uitleg nog geen betrouwbare voorspelling is
Een goed uitlegbaar model is niet automatisch een goed voorspellend model. Uitlegbaarheid helpt vooral om te beoordelen hoe een uitkomst is ontstaan.
Een eenvoudig model kan volledig transparant zijn en toch slechte voorspellingen geven. Omgekeerd kan een complex model bruikbare resultaten leveren terwijl niet ieder intern verband eenvoudig in woorden is samen te vatten.
De juiste vergelijking is daarom niet “uitlegbaar is goed en complex is slecht”. De vraag is hoeveel inzicht nodig is voor de beslissing waarvoor het model wordt gebruikt.
Hoe groter de financiële consequentie van een beslissing, hoe belangrijker het wordt om niet alleen naar het eindresultaat te kijken.
Wat zegt ESMA over AI bij beleggen?
De Europese toezichthouder ESMA waarschuwt beleggers dat openbare AI-tools onnauwkeurige of misleidende informatie kunnen produceren en dat uitkomsten kunnen zijn gebaseerd op verouderde, onjuiste of onvolledige gegevens. ESMA adviseert daarom om AI bij beleggen niet als enige informatiebron te gebruiken.
Dat raakt direct aan uitlegbaarheid. Als je niet weet welke gegevens zijn gebruikt, hoe actueel die zijn en welke aannames achter de uitkomst zitten, kun je moeilijk bepalen hoeveel gewicht de conclusie verdient.
Uitlegbaarheid voorkomt zulke risico’s niet, maar maakt sommige ervan wel beter zichtbaar.
Wanneer is een AI-uitleg bruikbaar genoeg?
Een praktische beoordeling kan als een beslisroute worden gezien.
Als duidelijk is welke gegevens worden gebruikt, kijk je vervolgens welke factoren de actuele uitkomst bepalen. Is dat ook duidelijk, dan is de volgende vraag of onzekerheid en beperkingen worden benoemd. Daarna kun je beoordelen of de verklaring concreet genoeg is om zelf kritisch te controleren.
Ontbreekt al vroeg in die route essentiële informatie, dan moet je de uitkomst voorzichtiger interpreteren. Een zeer precieze voorspelling compenseert niet voor onduidelijke invoer of verborgen aannames.
Daarmee wordt uitlegbaarheid geen technisch extraatje, maar een hulpmiddel om onderscheid te maken tussen een modeluitkomst die je kunt beoordelen en een conclusie die je vooral moet aannemen.
Begin met één controlevraag
Je hoeft geen AI-specialist te zijn om een eerste controle uit te voeren. Begin voordat je een modeluitkomst gebruikt met één vraag: welke informatie heeft deze conclusie veroorzaakt, en wat kan het model daarbij niet weten?
Als daar geen duidelijk antwoord op komt, weet je in ieder geval dat de nauwkeurigheid van het getoonde getal niet hetzelfde is als inzicht in de betrouwbaarheid ervan.