ChatGPT: bedreigingen en mogelijkheden

De eerste indruk en reflecties van Dorrestijn zijn onderdeel van een artikel en filmpje, op zaterdag 14 januari verschenen bij Tubantia (en andere kranten van uitgeverij DPG). Lees het artikel.

Deze eerste kennismaking met de ChatGPT duurde drie kwartier. Uiteraard zijn er maar een paar stukjes daarvan in de reportage gekomen. Er is veel meer te zeggen en uit te zoeken. En dat is ook nodig, want deze app en dit soort toepassingen van kunstmatige intelligentie zijn zeer ingrijpend.

Nieuwe technologie: van alle tijden

In de korte samenvatting kwam als Dorrestijns conclusie naar voren dat ChatGPT grote impact kan hebben, en het onderwijs van binnenuit een beetje kan laten ontploffen. Maar ook dat zulke veranderingen door nieuwe technologie van alle tijden zijn, denk aan de uitvinding van de rekenmachine, en vooral het schrift.

We kunnen zulke toepassingen van generatieve kunstmatige intelligentie goed inbedden in onze maatschappij, als we het tijd geven. Bedenk, als voorbeeld van welke kant dat op kan gaan, hoe menselijke schaker plus schaakcomputer samen beter zijn dan een mens alleen maar ook dan de computer alleen.

Schaduwkanten

Dat is een samenvatting waar Dorrestijn helemaal achter kan staan, maar waarin vooral goede hoop doorklinkt en de schaduwkanten en zorgen onderbelicht blijven. En, zorgen en risico’s zijn er genoeg.

Zelfs als het lukt om uiteindelijk AI op een goede manier te gebruiken en te integreren in onze manier van leven, dan nog kan er onderweg van alles misgaan en kunnen er mensen slachtoffer worden. In de vele opinies en analyses over ChatGPT komen effecten en zorgen naar voren:

• fraude in het onderwijs, studenten die opdrachten door ChatGPT laten schrijven
• bepaalde banen die overbodig worden, van tekstschrijvers voor reclame, of bij overheid
• copyrightschending, onrechtmatig gebruik allerlei tekst door het systeem
• foutieve informatie, met gevolgen van misleiding tot persoonlijke ongelukken
• vermindering van creativiteit van teksten
• verlies van menselijkheid, vermogen tot zelf origineel formuleren en denken

Dit wordt allemaal snel nog veel ernstiger doordat ChatGPT steeds sneller steeds slimmer wordt.

De balans opmaken

“Denk niet in bedreigingen, maar in kansen”, stond in een commentaar op de vele ophef. Studenten die opdrachten moeten maken of mensen die voor hun beroep teksten schrijven, kunnen ChatGPT gebruiken voor informatieverzameling en voor een eerste versie. Als mensen de antwoorden van ChatGPT niet klakkeloos overnemen, maar meer zelf verwerken, aanvullen, corrigeren, dan kan het juist een krachtig hulpmiddel zijn om extra origineel te denken en te schrijven. Dit sluit aan bij de oplossingsrichting van goed gebruik, goede integratie.

Maar dat doet niets af aan de bedreigingen en ongelukken die er ook kunnen zijn en die de overhand zouden kunnen krijgen. Het beste is om niet of-of te denken maar en-en. Voor een eerlijke evaluatie en leren van goed gebruik moeten we open staan voor zowel de kansen als de bedreigingen.

ChatGPT en het lectoraat

Vanuit het lectoraat Ethiek & Technologie zijn we zeer geïnteresseerd in deze ontwikkeling, juist ook omdat het een vraagstuk over ethiek en technologie is dat heel dichtbij speelt, in het onderwijs. We zijn bezig met het organiseren van sessies om vanuit onze onderzoeksgroep een bijdrage te leveren aan debat en reflectie hierover. Wordt vervolgd.