Leren en onderwijzen over ethiek in taaltechnologie

Studenten Informatiekunde gingen in gesprek met middelbare scholieren over de maatschappelijke impact van taaltechnologie. De bezoeken aan verschillende middelbare scholen in en rond Groningen zijn onderdeel van het derdejaars vak Ethical Aspects in Natural Language Processing, dat in het academisch jaar 2021-2022 aan het bachelorprogramma Informatiekunde is toegevoegd. In dit vak leren toekomstige professionals om na te denken over de ethische implicaties en de impact op de samenleving als geheel van de op taal gebaseerde AI-tools waar ze later zelf aan zullen bijdragen, en leren ze hierover in gesprek te gaan met niet-professionals. Het vak is mede-ontwikkeld door prof. dr. Malvina Nissim.

De introductie van ChatGPT aan het grote publiek heeft de aandacht gevestigd op hoe alomtegenwoordig en belangrijk op taal gebaseerde kunstmatige intelligentie is in de samenleving. De recente ontwikkelingen voelen misschien revolutionair aan, maar vooruitgang is geleidelijk geweest en tot nu toe grotendeels onopgemerkt gebleven, zegt Malvina Nissim, hoogleraar Computationele Taalkunde en Maatschappij aan de RUG.

“Al enkele jaren maken miljoenen mensen dagelijks gebruik van machinevertaling, bewonen spraakassistenten onze huizen en zijn verbeterde webzoekopdrachten geïntegreerd in onze online zoekopdrachten”, vertelt ze. “Deze tools zijn zo alomtegenwoordig geworden in verschillende aspecten van ons openbare en persoonlijke leven, dat we hun aanwezigheid en goede werking vaak als vanzelfsprekend beschouwen.”

Vragen, zorgen en verhitte debatten

De opkomst van deze technologie gaat gepaard met vragen, zorgen en verhitte debatten over hoe het gebruik ervan mensen kan beïnvloeden. Zijn deze tools veilig in gebruik? Wat zijn de risico's van het genereren van teksten die bijna niet te onderscheiden zijn van door mensen geproduceerde taal, maar geen enkele basis hebben in de realiteit? En wie is verantwoordelijk voor de mogelijke schadelijke output van op taal gebaseerde technologieën?

“De ethische zorgen in dit vakgebied zijn voortdurend onderwerp van debat en veranderen naarmate er steeds weer nieuwe toepassingen in de samenleving worden geïntroduceerd”, zegt Nissim. “Het is daarom van cruciaal belang dat we jonge professionals trainen om te reflecteren op dergelijke zorgen, en om ze effectief te kunnen communiceren, vooral naar de mensen die waarschijnlijk het meest gebruik zullen maken van taaltechnologie.”

Leren over de ethische aspecten

Daarom is het vak Ethical Aspects in Natural Language Processing onderdeel geworden van de bachelor Informatiekunde. “Deze module is bedoeld om expliciete verbindingen te leggen tussen de praktische vaardigheden die studenten leren en de impact die de toepassing van die vaardigheden kan hebben”, vertelt Nissim. “In plaats van ethische zorgen als een bijzaak te behandelen, is het doel de studenten te leren kritisch te reflecteren op taaltechnologische ontwikkelingen, en om bewustzijn te stimuleren door onuitgesproken aannames te bevragen die inherent zijn aan het ontwerp en gebruik van technologie.”

Ook is het belangrijk dat studenten leren de impact van taaltechnologie op de samenleving aan anderen over te brengen. Hiervoor gingen zes groepen studenten naar verschillende middelbare scholen in en rond de stad Groningen. Ze gaven daar een presentatie over de ethische aspecten van taaltechnologie en gingen in gesprek met de scholieren. Nissim: “Het presenteren aan middelbare scholieren gaf de studenten de mogelijkheid om de rol van experts te vervullen en de verantwoordelijkheid om het algemene publiek, vooral de jongere generatie, te informeren.”

“Bovendien moesten de studenten gevoelige informatie overbrengen aan jongeren, die massaal gebruikmaken van taaltechnologie, maar nog niet volledig op de hoogte zijn van hoe deze werkt of van de implicaties van het gebruik ervan”, vervolgt Nissim. “Hierdoor moesten de studenten dieper nadenken over de lesmaterialen en de behandelde onderwerpen.”

Voor de studenten waren de schoolbezoeken een verrijkende ervaring. Nissim: “Veel studenten hadden nog niet eerder een presentatie gegeven op een middelbare school, en ze waren verrast hoe leuk ze het vonden om met scholieren over deze belangrijke onderwerpen te praten." En de scholieren hebben er ook veel van geleerd, dat is minstens zo belangrijk. Zij zijn immers de generatie die veel NLP-modellen gebruikt.”

Over het vak

Het vak Ethical Aspects in Natural Language Processing is ontworpen en ontwikkeld door prof. dr. Malvina Nissim, hoogleraar Computational Linguistics and Society aan de Faculteit der Letteren, en dr. Beatrice Savoldi, destijds een bezoekende promovendus van de Universiteit van Trento & Fondazione Bruno Kessler, en nu een postdoc aan dezelfde instelling. Het vak wordt sinds collegejaar ’21 – ’22 aangeboden aan derdejaars bachelorstudenten Informatiekunde en gegeven door prof. Nissim en een docent-assistent (in 2021-2022 was dit Riemmelth Ruitenbeek). Samenwerking met middelbare scholen zal onderdeel van het vak blijven.

Over de groep

Binnen de Faculteit der Letteren doet de GroNLP-groep, de Computational Linguistics-groep van het Centrum voor Taal en Cognitie (CLCG), onderzoek verricht op het gebied van op taal gebaseerde AI. Daarnaast geven ze seminars en workshops, zowel binnen als buiten de universiteit, om te informeren en bewustzijn te creëren over de werking, voordelen en gevaren van de ontwikkeling en het gebruik van taaltechnologie, zoals Een avond met ChatGPT.

Quotes van studenten:

"Ik heb geleerd dat het beter is om open te staan voor het feit dat dit een proces van voortdurend leren is, waarbij ik de mogelijke risico's en onbedoelde gevolgen van NLP-technologie moet erkennen, actief op zoek moet gaan naar verschillende perspectieven en open moet staan voor het opnieuw evalueren en herzien van mijn mening als er nieuwe, 'betere' inzichten beschikbaar komen."

"Ik vond het proces van het stap voor stap opbouwen van een presentatie gericht op jongere studenten een geweldige leerzame ervaring. Het verwerken van alle informatie op wekelijkse basis en het samen met mijn vrienden beperken tot de kernconcepten die voor mij het belangrijkst waren, hielp me echt om ze te internaliseren."

"Het is verfrissend om een cursus als deze te hebben waar we reflecteren en kritisch nadenken over het veld waarin we ons bevinden. NLP en machine learning in het algemeen hebben elk jaar een grotere impact op de wereld, wat waarschijnlijk zal betekenen dat de tools die we later in onze carrière creëren ook een impact zullen hebben op het leven van sommige mensen. We zullen moeten nadenken over de impact van de tools die we bouwen en ze niet zomaar uitbrengen zonder na te denken over de gevolgen."

Lees ook: Hoe menselijke vooroordelen in computerprogramma’s sluipen