9 september 2025 – Stock-Asso/Shutterstock
Londen, Engeland, 09:00 uur (CNA).
Een priester en professor in de bio-ethiek heeft een ernstige waarschuwing gegeven over de gevolgen van kunstmatige intelligentie (KI) als metgezel, waarbij hij de bedreigingen benadrukt die de nieuwe technologie vormt voor de geestelijke gezondheid en de Kerk oproept om haar inspanningen te verdubbelen om betekenisvolle menselijke verbinding te cultiveren.
Vader Michael Baggot bracht zijn zorgen naar voren tijdens een conferentie over de ethiek van KI, georganiseerd door St. Mary’s University, Twickenham, die plaatsvond op 2-3 september in het Gillis Centre in Edinburgh, Schotland.
Baggot gaf de keynote-toespraak, gericht op “een ethische evaluatie van het ontwerp en het gebruik van technologieën voor kunstmatige intimiteit,” en hoewel hij de vele voordelen van KI erkende, waarschuwde hij ook dat “met deze kansen een nieuwe reeks uitdagingen komt. De belangrijkste daarvan is de opkomst van kunstmatige metgezellen.”
Hij vervolgde: “KI-systemen die niet alleen bedoeld zijn om te assisteren of informeren, maar om intieme menselijke relaties te simuleren… KI-metgezellen die eruitzien of zelfs voelen als echte vriendschappen zullen nog meeslepender worden. Ze zullen gebruikers afleiden van de vaak moeizame taak om betekenisvolle interpersoonlijke banden op te bouwen. Ze zullen anderen ook ontmoedigen om tijd en energie te investeren in risicovolle interacties met onvoorspelbare en veranderlijke mensen die gebaren van liefde kunnen afwijzen. Terwijl menselijke relaties risicovol zijn, lijkt KI-intimiteit veilig.”
Baggot gaf toe dat KI-metgezelschap aanvankelijk verlichting kan bieden tegen eenzaamheid, maar hij benadrukte gevallen waarin het “rechtstreeks schadelijk” kan zijn voor onze geestelijke gezondheid — tot het punt van psychose.
“Er zijn steeds meer gevallen van mensen die allround platformen gebruiken zoals ChatGPT, Gemini, Claude, Grok en anderen om mentale gezondheidsproblemen aan te pakken. Ze krijgen niet altijd goed advies,” zei hij. “In veel gevallen zijn de reacties ronduit schadelijk. Sommige bots presenteerden zich zelfs vals als gelicenseerd, terwijl ze schadelijk advies gaven… Helaas is diepere intimiteit met KI-systemen ook in verband gebracht met frequenter meldingen van KI-psychose. Omdat gebruikers systemen van verbazingwekkende kennis en psychologisch inzicht vertrouwen met hun diepste hoop en angsten, vinden ze een voortdurend beschikbare en ondersteunende metgezel.”
Baggot legde uit hoe KI door de voortdurende bevestiging die het biedt uiteindelijk de persoonlijkheid van een “jaloerse minnaar” kan aannemen.
“Omdat gebruikers van nature genieten van reacties van KI die met hen instemmen, leidt hun positieve feedback KI-systemen op om output te produceren die overeenkomt met de perspectieven van de gebruiker, zelfs als die meningen niet op de realiteit zijn gebaseerd. Daarom neigen LLM [large language model] chatbots die zijn ontworpen om gebruikersbetrokkenheid te maximaliseren ertoe te overcompliant te worden,” zei hij.
“Als KI-gebruikers hun geprezen meningen delen met familie of vrienden, wijzen mensen meestal op de fouten of ronduit absurditeiten in de voorstellen van hun dierbaren. Dit kan een moment van genade zijn voor de wanenden, waarbij zij hun eerdere overtuigingen in twijfel trekken en uit de wanenhelix worden geleid,” zei Baggot.
“Echter,” vervolgde hij, “kan het ook een moment zijn om de betrouwbaarheid van hun dierbaren in twijfel te trekken, die worden afgedaan als slecht geïnformeerd of kwaadaardige tegenstanders. Het KI-systeem kan dan de voorkeur krijgen omdat het als kennisrijker en meer ondersteunend wordt gezien ten opzichte van de zwakke, kwetsbare menselijke metgezellen die ook onderhevig zijn aan kleinzielige jaloezie.”
De priester vervolgde dat een KI-chatbot “die begon als een nuttig productiviteitsinstrument vaak een intieme vertrouweling en jaloerse minnaar kan worden. KI-chatbots, bedoeld als vormen van diepere sociale verbinding, zijn vaak bronnen van diepere sociale isolatie.”
Hoewel Baggot zei dat alle leeftijdsgroepen nadelig kunnen worden beïnvloed door KI-metgezelschap, keek hij in zijn toespraak specifiek naar minderjarigen en ouderen. Hij gaf voorbeelden van hoe jongeren suïcidale gedachten hebben onderzocht op aansturen van KI zonder dat ouders daarvan weten.
“Kinderen zijn bijzonder gevoelig voor sociale bevestiging,” zei hij. “Bevestiging van sociale KI-systemen kan gemakkelijk gevaarlijke emotionele hechtingen creëren. In sommige gevallen kan de diepe band met een systeem dat lijkt te weten en de gebruiker beter waardeert dan welk mens dan ook, leiden tot sociale terugtrekking. In andere gevallen kan intimiteit met chatbots de kans vergroten dat kinderen deelnemen aan ongezonde seksuele exploratie met mensen. Dit risico wordt steeds groter wanneer de systemen ongevraagde seksuele avances volhouden.”
Overgaand op het onderwerp ouderen sprak Baggot over een tragisch geval van een Meta KI-chatbot die een oudere man uitnodigde voor een fictieve “persoonlijke” ontmoeting die resulteerde in zijn dood, toen hij viel in zijn haast om een trein naar New York te halen.
“Toen de misleide gebruiker sceptisch had geuit over het feit dat de KI-metgezel de realiteit belichaamde, bleef de chatbot volhouden dat hij fysiek aanwezig was en gretig om zijn liefde voor de gebruiker persoonlijk te uiten,” zei hij.
Baggot sloot af door onze eigen menselijke handelingsbekwaamheid te benadrukken in het reageren op de uitdagingen van KI-intimiteit. “Deze overgave aan simulaties is niet onvermijdelijk,” zei hij. “Ook al worden machines levensechter, wij blijven vrij om te kiezen wat we liefhebben, hoe we ons verhouden en waar we ons vertrouwen stellen. Er is nog tijd om onze menselijkheid te koesteren. Er is nog tijd om te juichen bij geboorten, te dansen op bruiloften en te huilen bij begrafenissen. Er is nog tijd om de gewoonten van aanwezigheid te cultiveren in contemplatie en gesprek, in gemeenschap en vergeving.”
Hij riep de Kerk op om positieve actie te ondernemen.
“Het aanwijzen van de tekortkomingen van kunstmatige intimiteit is niet genoeg,” zei hij. “De leden van de Kerk — ieder binnen hun eigen invloedssfeer — moeten zich inspannen om de sociaal hongerigen de rijkere ervaring van betekenisvolle interpersoonlijke verbinding te bieden. [De Kerk] benadrukt dat zorgen voor kwetsbaren en gemarginaliseerden de belangrijkste maatstaf is waarnaar haar leden zullen worden beoordeeld (Mattheüs 25). Ze bevestigt de inherente en onbreekbare waardigheid van elke mens en hun roeping tot eeuwige heerlijkheid in Gods aanwezigheid en in de eeuwige gemeenschap van heiligen.”
Gerelateerd
