Samenvatting van deze podcast:
Aanleiding en regelgeving: Vanaf vandaag (5 oktober 2026) moeten AI-bedrijven onder Artikel 50 van de EU AI Act transparant zijn over door AI gegenereerde contentHier is een samenvatting van de podcast:
- EU-wetgeving (EU AI Act): Techbedrijven zijn vanwege Europese regelgeving (zoals Artikel 50 van de EU AI Act) verplicht om transparant te zijn over AI-gegenereerde content. Bedrijven zoals OpenAI voeren hiervoor onzichtbare watermerken in (zoals TextGrain).
- Werking van watermerken: In plaats van verborgen metadata of Unicode-tekens (wat zoek- en voorleesfuncties verstoort), werkt het watermerk via een wiskundige methode (keyed token bias). Het model kiest op basis van een geheime sleutel vaker voor specifieke 'groene' synoniemen, wat een statistische vingerafdruk achterlaat.
- Beperkingen bij strakke teksten: Deze techniek werkt alleen bij teksten met veel taalvariatie (hoge entropie). Bij bronnen met weinig variatie, zoals programmeercode, wiskunde of feitelijke rapporten, werkt het watermerken niet goed zonder de tekst te beschadigen.
- Omzeiling en 'wapenwedloop': Lichte aanpassingen of spelfouten wissen het watermerk niet gemakkelijk. Het watermerk kan echter wel gewist worden door de tekst te laten herschrijven door een ander AI-model of door het te vertalen.
- Risico's en valse beschuldigingen: AI-detectoren zijn onbetrouwbaar en leiden tot veel valse beschuldigingen van fraude. Uit onderzoek van Stanford blijkt dat de teksten van niet-moedertaalsprekers veel vaker onterecht als AI worden aangemerkt, doordat hun gestructureerde taalgebruik een lage perplexity (voorspelbaarheid) heeft.
- Impact op het onderwijs: Valse beschuldigingen veroorzaken zware mentale en financiële schade bij studenten. Sommige universiteiten stoppen daarom met automatische AI-detectoren en stappen over op 'authentieke beoordeling', zoals mondelinge presentaties en reflecties.
