Hoe Achmea AI ethisch inzet

Klanten willen op elk moment van de dag een verzekering kunnen aanvragen. Het liefst ontvangen ze meteen de offerte. Met Artificial Intelligence (AI) kan Achmea accuraat risico’s inschatten en klanten snel helpen. Mitch Angenent en Angelo van Meel vertellen over hoe de financiële dienstverlener processen automatiseert. En hoe Achmea ervoor zorgt dat dit verantwoord gebeurt.

Mitch en Angelo komen in hun werk allebei in aanraking met Artificial Intelligence (AI). Mitch ontwikkelt als data scientist software om AI-toepassingen te beheersen. Hij werkt hierbij samen met Angelo. Hij zorgt er als compliance officer voor dat de inzet van AI volgens de privacy- en AI-wetgeving gebeurt, waaronder het Ethisch Kader datatoepassingen van het Verbond van Verzekeraars.

We moeten het kunnen uitleggen

“We hebben een (deels) geautomatiseerd acceptatieproces,” vertelt Angelo. “Maar mensen hebben ook het recht om niet alleen onderworpen te worden aan geautomatiseerde verwerking, zoals wanneer het gaat om besluiten waar rechtsgevolgen aan zijn verbonden. Dat staat in de Algemene verordening gegevensbescherming (AVG). In die gevallen willen we bijvoorbeeld menselijke tussenkomst. Die persoon moet ook daadwerkelijk invloed hebben. Als Achmea moeten we, kortom, kunnen uitleggen waarom we een klant wel of niet accepteren. Alleen op die manier hebben we een verantwoord proces waar onze klanten en medewerkers vertrouwen in hebben en houden.”

Wat gebeurt er onder de motorkap?

“Vroeger gebruikten we data om achteraf inzichten te krijgen. Tegenwoordig gebruiken we die steeds vaker samen met AI om voorspellingen te doen” vervolgt Mitch. “Bijvoorbeeld als een klant een verzekering aanvraagt. Dan kunnen we AI inzetten om het risico in te schatten. Een ander voorbeeld: er komt een claim van een klant binnen. Welke afdeling kan deze het beste afhandelen? Doordat we deze voorspellingen met AI kunnen doen, kunnen we klanten efficiënt helpen. Maar het moet wel transparant zijn hoe een model, een AI-systeem, tot een uitkomst komt. Dit soort systemen kunnen een black box zijn: er gaat informatie in en er komt een voorspelling uit, maar we weten niet wat er onder de motorkap gebeurt. Terwijl het wel voor iedereen duidelijk moet zijn wat AI doet. Wat gebeurt er nou eigenlijk onder die motorkap. Hoe controleer je dat? En hoe maak je het inzichtelijk? Hiervoor hebben we een tool in Python ontwikkeld om inzicht te krijgen in de werking en eerlijkheid van voorspellende modellen.”

Tooling om andere tooling uit te leggen

Hoe werkt dat dan, die voorspellingssoftware met AI? Mitch: "Stel, we willen het acceptatieproces voor een verzekering verder automatiseren met AI. Zo'n model voor een acceptatieproces moeten we eerst trainen. Dat doen we met historisch data. We halen grote hoeveelheden oude aanvragen en polissen door een algoritme heen, zodat het de patronen tussen de input en output leert. Als vervolgens een klant een verzekering afsluit, past het model de geleerde patronen toe op de nieuwe aanvraag om een voorspelling te doen. Voor een mens is het lastig om alle verbanden te zien die een AI-model legt. Daarom hebben we een uitlegbaarheidstool ontwikkeld. Met deze tooling krijgen we inzicht in de geleerde patronen. Hierdoor kunnen we beter uitleggen hoe een voorspelling tot stand komt. En weten we of het model voor alle klanten en scenario's even goed werkt. Het is dus tooling om andere tooling uit te leggen.”

Vijf in plaats van vijftig of vijfhonderd

“Als je algoritmes of AI gebruikt, moet dat natuurlijk verantwoord gebeuren,” benadrukt Angelo. “In de zomer van 2023 is er in de EU een grote stap gezet naar de AI Act. Het is een raamwerk voor de inzet van AI-toepassingen. Deze wet schrijft onder meer voor dat je risico’s in kaart moet brengen als je er gebruik van maakt. Is het risico hoog? Dan is een hoger beheersingsniveau vereist. De AVG schrijft voor dat je alleen die persoonsgegevens mag gebruiken, die je écht nodig hebt. Heb je aan vijf kenmerken genoeg? Dan mag je er geen vijftig of vijfhonderd gebruiken. Met de ontwikkelde tooling krijgen we inzichten welke variabelen doorslaggevend zijn bij voorspellingen. Hierdoor kunnen we een betere keuze maken welke data we echt nodig hebben om voorspellingen te maken.”

Extra checks bij moderne technologieën

“Ook verzekeraars onderling hebben afspraken gemaakt,” vervolgt Angelo. “Sinds 2021 geldt het Ethisch kader datatoepassingen van het Verbond van Verzekeraars. Hierin staat dat verzekeraars extra checks moeten uitvoeren als ze moderne technologieën gebruiken. Denk aan kunstmatige intelligentie, chatbots en automatische besluitvorming. Het verbond heeft dertig normen opgesteld. Deze normen schrijven onder andere voor dat de uitkomst van AI-systemen uitlegbaar moet zijn en dat er geen ongerechtvaardigde discriminatoire vooringenomenheid in die systemen mag zitten. Met de uitlegbaarheidstool die Mitch heeft ontwikkeld, kunnen we dit makkelijker checken.”

Het Ethisch Wiel van Achmea

“Elke verzekeraar mag daar op zijn eigen manier verdere invulling aan geven. Voor lastige ethische kwesties hebben wij het Ethisch Wiel ontwikkeld. Het is een hulpmiddel waarmee je aan de hand van een aantal vragen de ethische aspecten in het werkproces kunt herkennen en bespreken. Je kunt er ook de afwegingen en keuzes die je hebt gemaakt in vastleggen. Iedereen binnen Achmea kan ermee aan de slag gaan. We proberen onze klanten zo snel en goed mogelijk te helpen. AI biedt hier veel mogelijkheden voor. Dankzij ons beleid en de tools kunnen we dit op een verantwoorde en transparante manier doen. Hierdoor kunnen we de voordelen van de nieuwste technologieën optimaal benutten," aldus Mitch en Angelo.

Luister onze podcast over " AI onder controle houden"

Randal maakt een wandeling met datascientist Mitch Angenent. Binnen Achmea houdt hij zich bezig met de beheersing van AI en algoritmes. Ook bij Achmea worden kunstmatige intelligentie en algoritmes steeds vaker ingezet, maar hoe werken ze nou echt? En op basis van welke aannames tonen zij resultaten? Kortom: hoe werken ze onder de motorkap? Mitch en zijn team maken software om AI en algoritmes te beheren en verantwoord in te zetten Soms zelfs door andere algoritmes deze algoritmes te laten uitleggen. Mitch deelt twee inspiratietips over ethiek en AI, namelijk de boeken Wapens of Math Destruction en Zo hadden we het niet bedoeld.

Jouw droombaan
in je inbox

Stel een job alert in met jouw persoonlijke instellingen. Zodra er een nieuwe relevante vacature is, dan sturen we je een e-mail!