AVG-proof AI voor persoonsgegevens en vertrouwelijke data
Veel van de nuttigste AI-toepassingen raken persoonsgegevens of vertrouwelijke data. Ik ontwerp systemen waarin het model het taalwerk doet, terwijl u bepaalt wie wat ziet.
Vertel over uw projectHet probleem
Klantdossiers, aanvragen of interne documenten naar een openbare AI-dienst sturen is een risico: de gegevens verlaten uw omgeving, en vaak weet u niet waar ze terechtkomen. De Autoriteit Persoonsgegevens kreeg al meldingen van datalekken die precies zo ontstonden.
Een contract met een AI-aanbieder helpt, maar haalt uw AVG-verplichtingen niet weg. U hebt nog steeds een grondslag nodig en moet de gegevens beperken tot wat nodig is. Het veiligste ontwerp is er een waarin het model het gevoelige deel nooit nodig heeft.
Hoe ik het aanpak
De gegevensstromen in kaart brengen
Welke gegevens gaan waarheen, wie verwerkt ze en waarom. Dat is meteen de basis voor het gesprek met uw privacy officer.
Pseudonimiseren vóór het model
Namen, adressen, geboortedata en rekeningnummers worden vervangen door vaste tokens. De koppeling met de echte waarden blijft in een kluis in uw eigen omgeving.
Kiezen waar het model draait
Bij een Europese aanbieder met een verwerkersovereenkomst, of met open modellen op uw eigen servers als de gegevens uw omgeving helemaal niet mogen verlaten.
Lekcontroles en logging
Elk uitgaand verzoek wordt gecontroleerd op oorspronkelijke waarden, en elke herleiding wordt gelogd.
Besluiten uitlegbaar houden
Taalmodellen verzamelen de feiten. Vaste regels die een auditor kan lezen nemen de besluiten.
Waar u op moet letten
- Gepseudonimiseerde gegevens zijn volgens de AVG nog steeds persoonsgegevens. Het risico wordt kleiner, maar uw verplichtingen blijven.
- Vrije tekst kan iemand herkenbaar maken zonder naam. Test de detectie op echte voorbeelden.
- Zelf hosten geeft controle, maar vraagt om GPU's en onderhoud. Het is niet automatisch goedkoper.
- Medewerkers die zelf gegevens in chatbots plakken zijn vaak het grotere risico. Duidelijke afspraken zijn net zo belangrijk als de techniek.
Vergelijkbare projecten
Eerste beoordeling van leaseaanvragen
Vroeger las en controleerde een medewerker elke aanvraag met de hand. Nu leest het systeem het dossier, raadpleegt het de krediet- en bedrijfsregisters en maakt het een eerste beoordeling voor de beoordelaar. De taalmodellen zien nooit gegevens waarmee een klant te herkennen is.
- Persoonsgegevens worden vervangen door pseudoniemen voordat een model ze ziet, en elke herleiding wordt gelogd.
- Het besluit komt uit een vaste set regels die los staat van het taalmodel, zodat een auditor ze kan controleren.
- Beoordelaars passen de beleidsregels zelf aan, met een volledige geschiedenis van elke wijziging.
- De beoordelaars besparen naar schatting 60 tot 80% van het werk per aanvraag.
- SharePoint-dossierKrediet- en bedrijfsregisters
- Pseudonimiseren
- Feiten extraheren
- Beleidsregels toepassen
- Eerste beoordeling voor de beoordelaar
Een eigen AI-werkomgeving met meerdere agents
Het team wilde AI-assistenten die geen gegevens naar een openbare chatapp sturen. Nu is er een zelf gehoste chatomgeving met gespecialiseerde agents, plus een aparte API-laag die het gebruik logt en antwoorden in een cache bewaart.
- Een zelf gehoste chatomgeving met agents voor verschillende taken.
- Een API-laag tussen de agents en de modelaanbieders die het gebruik logt en antwoorden cachet.
- Alles draait op infrastructuur die de klant al had.
- Vragen en documenten van het team
- Gespecialiseerde agents
- Laag voor logs en cache
- Antwoorden in de eigen omgeving van de klant
Lokale taalmodellen, alleen als het team ze nodig heeft
Het team wilde taalmodellen gebruiken zonder data naar een externe aanbieder te sturen. Maar een model op een lokale GPU houdt een groot deel van het GPU-geheugen bezet, ook als niemand het gebruikt. Nu heeft het team één API voor alle lokale modellen. Een agent op elke GPU-machine start een model bij het eerste verzoek en stopt het na een uur zonder verzoeken. Dan is de GPU weer vrij voor ander werk.
- Eén OpenAI-compatibele API voor alle lokale modellen, waar teamleden hun chat- en codeertools aan koppelen.
- Een dashboard toont welke modellen draaien, en beheerders kunnen elk model starten en stoppen.
- De modellen draaien op GPU-machines die het bedrijf al heeft. Er gaat geen data naar een externe aanbieder.
- Verzoek uit een chat- of codeertool
- Gedeelde API
- Model starten als dat nodig is
- Antwoord van het lokale model
Veelgestelde vragen
Is dit juridisch advies?
Nee. Ik ontwerp en bouw de technische kant en werk samen met uw privacy officer of jurist, die de juridische kant beoordeelt.
Kunnen we ChatGPT of Claude dan wel gebruiken?
Vaak wel: met een zakelijke overeenkomst, de juiste instellingen en pseudonimisering van gevoelige velden. Voor sommige gegevens is een eigen model de betere keuze. Dat hangt af van de gegevens, niet van een algemene regel.
Hoe zit het met de AI Act?
De meeste systemen voor document- en gegevensverwerking zijn onder de AI Act geen hoog risico. Sommige toepassingen wel, zoals het beoordelen van de kredietwaardigheid van personen of het selecteren van sollicitanten, en daar gelden extra eisen voor. Dat bekijken we aan het begin van een project.