DPIA EduGenAI - werken aan veilige en verantwoorde AI in het onderwijs

Samen met Npuls werken we aan EduGenAI: een platform dat een veilige en verantwoorde toepassing van generatieve AI in het vervolgonderwijs mogelijk maakt. Al in de ontwikkelfase hebben we een data protection impact assessment (DPIA) laten uitvoeren, waaruit een aantal lage risico’s kwamen. Zo kunnen we deze nog tijdens de ontwikkeling van EduGenAI oplossen.   

Resultaat: 12 lage risico’s worden ontwikkeldoelen

Een DPIA is een instrument om de privacyrisico’s van een gegevensverwerking in kaart te brengen. Uit de EduGenAI-DPIA, die werd uitgevoerd door Privacy Company, kwamen 12 lage risico’s naar voren. Het DPIA-rapport beveelt bij ieder geïdentificeerd risico een concrete mitigerende maatregel aan. Denk aan maatregelen tegen overmatig vertrouwen op de juistheid van gegenereerde teksten, en maatregelen om de verwerking van persoonsgegevens te minimaliseren. Als deze ontwikkeldoelen effectief worden geïmplementeerd en getest, kunnen SURF en de onderwijsinstellingen de gevonden gegevensbeschermingsrisico’s beperken.  

Vervolg

Deze DPIA biedt een voorproefje van de toekomstige functionaliteit van EduGenAI. De ontwikkelaars nemen de aanbevolen maatregelen mee in de verdere ontwikkeling van het platform. Zo werken we als sector gezamenlijk aan een veilig, gebalanceerd aanbod van AI-diensten om de autonomie van ons onderwijs te waarborgen.   

Volledig rapport openbaar beschikbaar  

​​​De volledige bevindingen van het onderzoek zijn te vinden in de ​​Data Protection Impact Assessment (DPIA).   

Over EduGenAI

Het EduGenAI-platform biedt onderwijsinstellingen de mogelijkheid om te chatten met verschillende taalmodellen. Zowel open-source-modellen die SURF zelf host, als commerciële modellen. We ontwikkelen EduGenAI om publieke waarden als datasoevereiniteit en privacy te beschermen bij het gebruik van generatieve AI, en om te bevorderen dat instellingen van elkaar leren. Het platform wordt ontwikkeld in nauwe samenwerking met onderwijsinstellingen en sluit aan bij de behoeften en wensen van de gebruikers.  Meer over EduGenAI  

Vragen?

Heb je vragen over deze DPIA? Meld je aan voor het verdiepende webinar op 4 september (van 10-12:00 uur, alleen voor SURF-leden).  Of neem contact op met SURF via vendorcompliance@surf.nl.   
 
Vragen over de ontwikkeling van EduGenAI? Mail edugenai@npuls.nl.