Het risico van schaduw-AI

Bij een gratis account staat in de voorwaarden dat de aanbieder de input mag gebruiken om het model te verbeteren. Er is geen verwerkersovereenkomst, er zijn geen afspraken over retentie, en er is geen garantie dat de data niet ergens in een toekomstige versie van het model terugkomt.

Dat is de standaard constructie van vrijwel elk gratis AI-account. De medewerker die het gebruikt, overtreedt geen enkele regel die hij kent. Er is geen aanvraag ingediend, geen inkooptraject doorlopen, geen contract getekend, en precies daarom staat het nergens geregistreerd.

Er gaat hierbij ook iets verloren dat los staat van datalekken. Namelijk: de opgebouwde kennis van de medewerker. Deze blijft achter in het persoonlijke account. Niet gekoppeld aan een project, niet terug te vinden door een collega en niet opgeslagen voor de organisatie. Vertrekt die medewerker, dan vertrekt die opgebouwde kennis mee.

Vijftien jaar geleden ging een organisatie om de fileserver heen zodra iemand iets sneller nodig had. Bijvoorbeeld Dropbox in plaats van de netwerkschijf. Onwenselijk, maar overzichtelijk. Er stond een bestand op een plek waar het niet hoorde, en in het slechtste geval was het terug te halen.

Bij AI werkt dat anders. Data gaat niet naar een map, maar in een prompt. Er is geen bestand, geen logregel, geen plek waar achteraf te zien is wat er precies is gedeeld. Bij schaduw-IT was de vraag waar de data staat. Bij schaduw-AI is de vraag welke data de organisatie de afgelopen maanden heeft verlaten, en dat is een vraag die achteraf niet meer te beantwoorden is.

Voor een organisatie met een ISO 27001- of NEN 7510-certificering is niet kunnen monitoren van AI-gebruik een direct probleem. Een auditor die vraagt hoe de organisatie aantoont welke gegevens zijn uitgewisseld, accepteert namelijk geen schattingen. Aantoonbaarheid is de kern van de norm: kun je exact bewijzen welke data naar een AI-model is geüpload en hoe deze is beveiligd?

Een beleidsdocument dat medewerkers vraagt voorzichtig te zijn, beantwoordt die vraag niet. Het beschrijft wat medewerkers zouden moeten doen, maar zegt niets over wat ze werkelijk doen, en een auditor toetst op het laatste.

De meest voor de hand liggende reactie is het blokkeren van AI-tools. Op papier de voorzichtigste keuze. In de praktijk pakt een medewerker gewoon zijn telefoon en verplaatst het gebruik zich naar een apparaat waar helemaal geen zicht op is. Na de maatregel is er dan minder zicht dan ervoor.

Vrijwel niemand doet dit om regels te ontwijken. Mensen doen het omdat het werkt en omdat er geen goedgekeurd alternatief was dat net zo goed of net zo snel is. Zolang dat alternatief ontbreekt, verplaatst elke maatregel het gebruik in plaats van het zichtbaar te maken.

Dat geldt ook wanneer er al wel een goedgekeurde tool beschikbaar is. In een gesprek met een klant vertelde iemand onlangs hoe waardevol AI voor hem was geworden bij het schrijven. Het hielp hem vragen scherper te formuleren en leverde bruikbare suggesties voor zijn platform op. Op de vraag welke tool hij daarvoor gebruikte, was het antwoord: “de gratis versie van ChatGPT”. Copilot was er ook, maar werkte voor dit werk niet goed genoeg.

Er stond dus een goedgekeurd alternatief klaar, en toch koos hij voor de tool die zijn probleem het beste oploste. Niet uit onwil, maar omdat het ene model beter is in de ene taak dan het andere. Zolang goedkeuring en geschiktheid niet samenvallen, wint geschiktheid.

De medewerker uit dat gesprek deed niets stiekems. Hij loste een probleem op met het beste gereedschap dat hij kende, en dat gereedschap was toevallig niet degene die de organisatie had goedgekeurd. Dat is de situatie waar veel organisaties nu in zitten. Ook als dat nog niet overal in beeld is.

Het antwoord daarop is geen strenger beleid en ook geen langere lijst met verboden domeinen. Het is een omgeving aanbieden die net zo goed werkt als wat een medewerker er zelf bij zou zoeken, met als verschil dat de organisatie wel ziet wat er gebeurt. Zodra die omgeving er is, verdwijnt de reden om uit te wijken, niet omdat het moet, maar omdat het niet meer nodig is.

1. Als je vandaag zou moeten aantonen welke data de afgelopen maand je organisatie heeft verlaten via AI-tools, wat zou je dan laten zien?

2. Weet je hoeveel gratis AI-accounts er binnen je organisatie in gebruik zijn, en op welke voorwaarden die data verwerken?

3. Wie is vandaag verantwoordelijk voor het herkennen van gevoelige data voordat die een model bereikt, en gebeurt dat vooraf of pas achteraf?

Kun je deze drie beantwoorden, dan is er al meer zicht dan bij de meeste organisaties die dit voor het eerst in kaart brengen. Kun je dat niet, dan is dat een signaal dat schaduw-AI nog onzichtbaar is, niet dat het er niet is. De vraag is niet langer óf je medewerkers AI gebruiken, maar hoe je faciliteert dat ze dit veilig doen.

Gravity Orbit is het AI-werkplatform dat controle over data, kosten, gebruik en eigen beheer samenbrengt in één omgeving. Het platform draait binnen de eigen infrastructuur van de organisatie, zodat gevoelige data niet naar externe modellen gaat, en voldoet aan ISO 27001, AVG en de AI Act. Medewerkers werken met meerdere AI-modellen binnen één omgeving die voor IT wel te monitoren, te budgetteren en aantoonbaar te maken is, in plaats van via losse accounts buiten beeld.

Benieuwd naar Gravity Orbit? Ga dan naar Gravity.nl/orbit.