Ethical Aspects in Natural Lang. Proc.

Uitgebreide vaknaam	Ethical Aspect in Natural Language Processing
Leerdoelen	Na deze cursus is de student in staat om: 1. 1. De ethische uitdagingen te begrijpen die gepaard gaan met het werken met taaltechnologie (1.2, 1.4) 2. De ethische uitdagingen van NLP-onderzoek te identificeren en weten hoe ze aan te pakken in praktijk en in theorie (in modellen en in papers) zowel als ontwikkelaar en als gebruiker/lezer(2.1, 2.3, 2.4). Gegevens, privacy, vooringenomenheid in modellen van uiteenlopende aard. 3. Te rapporteren over ethische kwesties (zoals dataverklaringen, biasverklaringen, etc) (2.1, 4.1, 4.2, 5.2) 4. 4. Op de hoogte van de state-of-the-art discussie over ethiek in de NLP-gemeenschap te zijn(1.4, 2.4, 4.1, 4.2, 5.2) 5. Na te denken over sociodemografische aspecten van taal en over de afweging tussen succesvol onderzoek en legitiem 'gedrag' (3.1, 3.2, 3.3, 3.4*) 6. Na te denken over wat verantwoord gedrag is en de gevaren van potentieel misbruik door derden (2.1, 2.4, 3.1, 3.2, 3.3, 3.4*). 7. 7. Te begrijpen hoe belangrijk de interpreteerbaarheid van een model is, en weten welke technieken beschikbaar zijn om dit te bereiken, om vertekeningen in modellen op te sporen en om de vooringenomenheid in modellen te corrigeren (2.1, 2.2, 2.3),2.3) Leeruitkomst 3.4 zal worden toegevoegd aan de programmaleeruitkomsten van de OER van 2023-2024 en latere jaren.
Omschrijving	De verspreiding en democratisering van taaltechnologie heeft het mogelijk gemaakt om gebruik te maken van NLP in een verscheidenheid van toepassingen. Op taal gebaseerde instrumenten worden immers niet alleen ontwikkeld binnen de academische wereld, maar worden ook gebruikt door zeer veel grote en kleine bedrijven, veel verder dan alleen voor onderzoeksdoeleinden. Werken met NLP brengt, nu meer dan vroeger, ethische reflecties in vele richtingen. Deze hebben betrekking op: (i) de keuzes die we maken bij het ontwikkelen van methoden, modellen en gegevens voor taalverwerking (bijvoorbeeld: annotatie categorieën, kenmerken, enz.); (ii) de vooroordelen die intrinsiek zijn aan door mensen geproduceerde gegevens en dus aan van gegevens afgeleide modellen, met inbegrip van verklaarbaarheidsproblemen; (iii) de gevolgen van ons werk, in termen van persoonlijke verantwoordelijkheid en (verkeerd) gebruik door derden; (iv) privacy en open wetenschap.
Uren per week	variabel
Onderwijsvorm	hoorcollege, werkcollege (2 uur hoorcollege, 2 uur computer practicum)
Toetsvorm	presentatie, tentamen, wekelijkse opdrachten (schriftelijk 2 uur)
Vaksoort	bachelor
Coördinator	Prof. Dr. M. Nissim
Docent(en)	Prof. Dr. M. Nissim
Verplichte literatuur	Titel Auteur ISBN Prijs "The social impact of natural language processing." Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers). 2016. Hovy, Dirk, and Shannon L. Spruit. Existing Tutorial materials References from the ACL wiki “Ethics in NLP” ( https://aclweb.org/aclwiki/Ethics_in_NLP ) Video of Meg Mitchell at COLING 2020, and related Q&A
Entreevoorwaarden	Studenten moeten hebben gehaald/aanwezig zijn geweest bij de kerncursussen van het programma in termen van thema's methodologie, en toepassingen. Meer specifiek: - Inleiding Informatiekunde - Inleiding Wetenschappelijk Onderzoek - Caleidoscoop - Project Tekstanalyse (aanwezigheid voldoende) - Annotation for Machine Learning (aanwezigheid voldoende) - Introduction to Neural Networks (deelname voldoende) - Zoekmachines (aanwezigheid voldoende) Mits goedkeuring van de docenten kan de cursus ook gevolgd worden als de student de bovenstaande cursussen heeft gevolgd (zie waar dit is aangegeven), en voldoende heeft gepresteerd, zelfs gedeeltelijk, op de praktische opdrachten. Voor deze cursus is het wenselijk dat de student met de stof van de genoemde cursussen in aanraking is geweest, ook al heeft hij/zij deze misschien nog niet nog niet volledig heeft geabsorbeerd om de examens te halen.
Opmerkingen
Opgenomen in	Opleiding Jaar Periode Type BSc Informatiekunde 3 semester II b verplicht