Hoe pas je AI, kunstmatige intelligentie, toe in je (kerkelijk) werk. Computerprogramma’s (apps) kunnen je helpen op allerlei terreinen: het schrijven van teksten, het maken van afbeeldingen en filmpjes, het ordenen van een project, het samenvatten van een boek of artikel… noem maar op. Hartstikke mooi toch? Een verrijking van het gemeenteleven en een verlichting voor werkers en vrijwilligers in de kerk.
Toch zijn er ook heel wat risico’s verbonden aan AI. Een paar ervan wil ik, als afsluitend artikel in deze reeks, noemen.
1. Waarheid en fictie
AI werkt door middel van het snel doorzoeken van een heel grote hoeveelheid gegevens en door die te combineren. Omdat alles snel en handig moet gaan, is er geen factcheck. Het criterium is vooral: wat lijkt er voor de vragensteller handig en bruikbaar? De gegevens (‘data’) die als antwoord worden gepresenteerd, zijn vaak weer gebaseerd op andere vragen en antwoorden. En zo kan er een heel dun lijntje naar de werkelijkheid ontstaan. Dat leidt tot allerlei problemen.
Er is geen factcheck.
Reizigers vragen aan AI wanneer een trein vertrekt, nemen klakkeloos het gegeven antwoord over zonder dat te checken en zijn dan boos als dat in werkelijkheid anders blijkt te zijn. Studenten schrijven werkstukken met citaten uit bronnen die helemaal niet blijken te bestaan.
Nu kun je wel zeggen: dan moet je gewoon die bronnen checken. Maar AI gebruik je nou juist omdat je zelf een grote hoeveelheid gegevens niet kan overzien. De samenvatting van AI neem je voor waarheid aan, omdat je zelf een lange tekst niet kunt doorploegen. Anders had je zelf de samenvatting wel gemaakt.
De venijnige suggestie van alle AI is, dat het naadloos aansluit bij wat je aan de app vroeg. Het lijkt dus alsof je heer en meester van je onderzoek bent, en dan laat je een kritische check van het antwoord achterwege. De zondeval begon ooit met de listige suggestie van alomvattende kennis. En dat is met AI niet veel anders geworden.
2. AI maakt je afhankelijk
AI kan een verslaving worden waar je niet meer zonder kunt. Een student gebruikt AI om de tekst van een werkstuk op te maken en goed te ordenen. De volgende stap is dat de student aan AI vraagt om een tekst te schrijven bij een bepaald onderwerp. En de stap erna is dat de student ook aan AI vraagt om een onderwerp te bedenken voor het werkstuk van een bepaald vak, een vraagstelling, een opzet, de uiteindelijke tekst én de correctie van die tekst. Toekomstfantasie? Nee hoor, inmiddels al de praktijk in het onderwijs, zoals ik van docenten hoor. En ben je eenmaal verslaafd, dan kún je het op een gegeven moment niet meer om nog zelf na te denken, te brainstormen, te ordenen en te produceren.
3. Privacy
De kracht van AI is dat het met een hele vracht gegevens (datasets) werkt. Die verzameling groeit met elke vraag die aan een AI-app gesteld wordt. Reik ik een tekst aan ter correctie, dan wordt die tekst vervolgens onderdeel van de dataset van de app. ‘Zelflerend vermogen’ heet dat en het maakt een AI-app beter hoe meer die gebruikt wordt. Maar het betekent ook diefstal van gegevens en gebruik van iets waar je geen toestemming voor hebt gegeven, behalve in de kleine lettertjes bij het downloaden van de app.
Je moet er dus voor betalen om niet misbruikt te worden.
Soms geven de AI-apps de mogelijkheid van een betaalversie waarin je gegevens niet gebruikt worden. Je moet er dus voor betalen om niet misbruikt te worden en dan ook nog de datadief die je betaalt op zijn blauwe ogen geloven dat hij dat inderdaad niet doet. Want dat kan ik op geen enkele manier controleren.
4. Klimaat en gebruik van grondstoffen
Het doorzoek van de immense datasets kost veel stroom. Eén enkele uitgebreide AI-vraag kost 7 watt aan elektriciteit. Het Nederlandse datacenter van Microsoft alleen al verbruikt 1 procent van alle stroom in Nederland. En daar komt nog het gebruik van water bij om de servers te koelen. Willen we dat met elkaar in Nederland, omdat we blijkbaar te lui zijn om, met misschien een kwart van de grondstoffen, op een website of in een boek iets te moeten opzoeken, of zelf te moeten bedenken?
Waarom ga ik aan AI vijf thema’s voor een kerstdienst vragen en ga ik niet vijf mensen in mijn gemeente vragen wat zij een belangrijk onderwerp vinden voor Kerst? Dat laatste zou pastoraal en voor de gemeenteopbouw toch veel meer opleveren?
5. Mensenrechten
De golven aan gegevens die bij de datacentra binnenkomen worden enigszins gemodereerd en op een gegeven moment komen daar ook mensen aan te pas. Het is bekend dat dat vaak werknemers in derdewereldlanden zijn, die in uiterst slechte werkomstandigheden en voor een schamel salaris hun werk moeten doen. Wil ik met mijn AI-gebruik dit ondersteunen?
Ik noem nu niet eens het extreme gebruik van apps waar ze niet voor bedoeld zijn. Foto-apps kunnen de foto van een willekeurige voorbijlopende vrouw bewerken tot een bikinifoto. En een andere app weet er dan wel weer een naaktfoto van te maken. De app zegt keurig dat dat alleen mag wanneer de gefotografeerde daarvoor toestemming heeft gegeven. Maar zal dat in de praktijk daarom niet gebeuren?
Ik ben dus heel kritisch over het gebruik van AI. Maar ik besef ook dat de generatie tieners die nu opgroeit daar totaal geen probleem mee heeft. Toch hoop en bid ik dat ik mensen enthousiast kan maken om zélf te denken, te verbeelden, te mindmappen en uit te drukken.
Uiteindelijk heb ik bedacht: als christenen zijn we geroepen om vrij te zij.
Ik heb het afgelopen jaar zelf op een aantal manieren AI gebruikt. Uiteindelijk heb ik bedacht: als christenen zijn we geroepen om vrij te zijn (Galaten 5,13), niet om ons klakkeloos over te leveren aan technologie. Maar liever dan te waarschuwen over wat niet mag, wil ik positieve voorbeelden geven en ontmoetingen met mensen hebben. En daar past AI niet bij.
Je zult dus van mij in de kerkdienst een preek horen waar ik zelf over heb nagedacht. Meer zal ik er niet van maken. En dit stukje heb ik geschreven door er een paar maanden mee rond te lopen en bij verschillende gelegenheden in die periode er een krabbel over te maken.
Is het niet naar jouw zin? Dan vraagt je maar aan AI of er nog meer risico’s verbonden zijn aan het gebruik van kunstmatige intelligentie. Ik hoor het graag!
Dr. Theo Hettema, staftheoloog Bond VEG