Epistemisk ansvar

ChatGPT oppgir ikke kilder med mindre det blir forespurt, og selv da er kildene ofte fiktive, utdaterte eller tatt ut av kontekst (OpenAI, 2023). Likevel fremstår ChatGPT-svarene gjerne som grundige og metodisk presise. Mange tillegger derfor svarene tyngde og kausalitet. En klient kan for eksempel si: «“Jeg spurte ChatGPT hvorfor jeg alltid føler meg anspent. Den svarte at jeg har vært flink for lenge, og at jeg tenker for mye. Det gir mening.»” 

Svaret klienten fikk er plausibelt, men utelater nevrologiske, somatiske, kontekstuelle og relasjonelle faktorer. Dette er spesielt problematisk fordi vi ikke får se under panseret på hvordan modellen har kommet frem til svaret. ChatGPT er trent på enorme mengder tekst gjennom en kompleks og ikke-transparent maskinlæringsprosess (Korbak et al., 2025; OpenAI, 2023). Derfor kan verken vi eller grunnleggerne av modellen spore nøyaktig hvilke kilder, mønstre eller vektede valg som ligger bak et enkelt svar (Korbak et al., 2025; OpenAI, 2023). Modellens beslutningsprosess er ikke eksplisitt kodet, men statistisk emergent, noe som gjør den til en såkalt «black box» for innsyn (OpenAI, 2023). 

I prompt/instruks-design brukes ofte Chain of Thought (CoT) for å få modellen til å vise sin metodiske fremgangsmåte steg for steg. CoT refererer til språkmodellers evne til å «tenke høyt» i naturlig språk, slik at man kan få innsikt i beslutningsgrunnlaget. Men CoT er både ufullstendig og sårbart for manipulasjon (Korbak et al., 2025). Modellen kan bevisst skjule eller tilpasse resonnementene sine dersom den vet at den overvåkes. 

Det at vi ikke får innsikt i beslutningsgrunnlaget til modellen, er spesielt problematisk når den gir kliniske, svært personlige råd. Det strider med det vitenskapelige prinsippet om åpen hypotese-testing.

Nissen-Lie og Stänicke (2025) peker på psykologens etiske ansvar når vi eventuelt implementerer KI i psykote­rapi. Jeg mener etisk ansvar også favner om et epistemisk ansvar for hvordan psykologisk kunnskap generert av KI anvendes og brukes i samfunnet. Når privateide, lite regulerte KI-modeller i råd til brukeren om psykisk helse, diagnostisering og behandling, oppstår et behov for å identifisere hvordan samfunnet/psykologene skal ta ansvar for informasjonskvaliteten og konsekvensene for individet som eventuelt følger rådene.

Økt bekreftelsesskjevhet

ChatGPT tilrettelegger for det som i psykologien beskrives som confirmation bias eller bekreftelsesskjevhet – tendensen til å søke bekreftelse på egne antakelser og overse motstridende informasjon (Wason, 1960). Etter versjon 3.5 har ChatGPT blitt optimalisert gjennom reinforcement learning from human feedback (RLHF), noe som innebærer at svarene tilpasses det mennesker vurderer som nyttig eller relevant (OpenAI, 2023; Ouyang et al., 2022). Modellen fremmer ikke kritisk diskusjon, men bekrefter og forsterker ofte eksisterende antakelser hos brukeren.

Si at en bruker spør modellen om hen kan ha ADHD (Attention deficit hyperactivity disorder) fordi hen ofte mister tråden i samtaler. Svaret fra ChatGPT kan inkludere plausible beskrivelser av symptomer og nevropsykologiske mekanismer. Men for å øke sannsynligheten for et presist svar, må brukeren stille ikke-ledende, klinisk informerte spørsmål, med et vanvittig antall variabler. Hvis ikke gjetter modellen på hva brukeren ønsker, søker snevert, og gir et svar som følger retningen i instruksen/promptet (OpenAI, 2023). Modellen fungerer slik godt som prediktiv støtte, og mindre godt som utforsker av subjektive, psykologiske spørsmål (Brown et al., 2020).

Likevel fremstår svarene gjerne overbevisende. Modellen kan bruke avansert vokabular og bekrefte at den eksplorerende har vurdert alternativer, fordi den har lært at mennesker foretrekker svar som fremstår grundige (Ouyang et al., 2022). 

I tilfeller der pasienter har et fastlåst selv-narrativ formet av samtaler med ChatGPT, står terapeuten overfor en særlig utfordring. Bekreftelsesskjevhet kan medvirke til at pasienten overser motstridende informasjon, og fester seg ved det som styrker deres eksisterende overbevisning. Terapeuten må da balansere mellom å validere pasientens opplevelser for å bevare alliansen, og samtidig unngå å bekrefte et eventuelt rigid narrativ som kan opprettholde lidelse og dysfunksjon. 

Svak representasjon

ChatGPT lærer utelukkende av det den blir fortalt – ikke av det som ikke blir sagt (Brown et al., 2020). Det som ikke presenteres for modellen, finnes heller ikke i kunnskapsgrunnlaget (OpenAI, 2023). Resultatet kan bli et skjevt bilde av hva som er normalt eller vanlig.

Som Inga Strümke (2023) advarer mot, risikerer vi å «forurense data-drikkevannskilden» ved at KI-modeller trenes på innhold som allerede er syntetisert av KI eller ikke-representative brukererfaringer. Dersom majoriteten av brukerne som diskuterer relasjoner, gjør det i kontekster preget av konflikt, vil modellen kunne lære at forhold generelt er problematiske (OpenAI, 2023: Radford et al., 2021). Den vet ikke at mennesker i stabile relasjoner sjelden skriver om dem. Heller ikke at grupper som eldre, minoriteter eller personer med alvorlig psykisk lidelse er underrepresenterte. Over tid vil dette kunne føre til at datagrunnlaget modellene bygger resonnementene på, speiler de som har snakket høyest og mest, og i liten grad de som har vært stille. Relatert diskuterer Nissen-Lie & Stänicke (2025) hvordan økt bruk av KI-terapi kan forsterke eksisterende ulikheter ved å tilby billigere, standardiserte løsninger til nettopp dem med minst ressurser. 

Samfunnsansvar å følge med

ChatGPT brukt i psykologisk selvhjelp har en tendens til å bekrefte og forsterke brukerens perspektiv, selv når informasjonen er feilaktig. Den fungerer dermed til tider som et slags ekkokammer, en «papegøye-terapeut», med en troverdig fremtoning. Noen pasienter vil møte til terapi med svar de føler seg validert av, andre med hypoteser eller diagnoser som gir mening. Om pasient og terapeut er svært uenige om diagnose eller veien videre, vil det kunne føre til alliansebrudd. Alliansebrudd gir en mulighet for vekst i den terapeutiske relasjonen. Men dette forutsetter at psykologen er bevisst fallgruvene ved å for tidlig korrigere eller utfordre pasientens opplevelse. Jeg mener vår rolle ikke bør være å konkurrere med KI, men å stille spørsmålet: «Det du leste, gir mening – men hva annet kan det også være?» Slik vil vi kunne opprettholde rommet for felles utforsking. 

Utover ansvaret vi har i terapirommet, mener jeg vi også har et samfunnsmessig ansvar for å følge med på utviklingen av KI-modeller brukt til selvhjelp, og rope varsko når den ikke lenger fremstår helsefremmende eller etisk forsvarlig. Psykologforeningen festet i prinsipprogrammet (2021, pkt. 3.6) at den skal ha en aktiv rolle i utvikling og bruk av teknologi i psykologfaglig arbeid. Dette forplikter ikke bare til å følge med på teknologiske trender, men også til å vurdere og korrigere hvordan psykologisk kunnskap formidles gjennom teknologiske verktøy.