Reell risiko

I sommer fant jeg flere alvorlige sikkerhetshull hos en norsk tjeneste for KI-transkripsjon og veiledning av terapitimer (Haram, 2025). Systemet reklamerte med å være norskutviklet, sikkert og i henhold til alle GDPR-krav. Til tross for løftene om sikkerhet fant jeg at det var overveiende sannsynlig at uvedkommende med grunnleggende kunnskap om IT kunne få tilgang til transkripsjonene i systemet. Jeg meldte både Datatilsynet og selskapet selv, og selskapet svarte forbilledlig raskt med å ta ned tjenesten umiddelbart og holde den nede mens de viktigste sikkerhetshullene ble utbedret. VG plukket opp at det var sikkerhetshull i systemet, og fant i tillegg ut at systemet stilte tentative diagnoser og oppførte seg som medisinsk utstyr uten nødvendige sertifiseringer.

Det er fint å se at selskapet det var snakk om, har tatt ansvar og har lagt ned tjenesten permanent som følge av VG-undersøkelsene, og det er heldigvis ikke noe som tyder på at data kom på avveie som følge av sårbarheten. At dette ikke fikk konsekvenser for pasientene, skyldtes imidlertid at sårbarheten ble oppdaget og varslet om før den ble utnyttet – ikke at pasientenes opplysninger var tilstrekkelig beskyttet. Det bør være til ettertanke at et norsk system som var i bruk på pasienter og kunne se tilforlatelig trygt ut ved første øyekast, hadde slike sårbarheter. Jeg mener likevel temaet er langt større enn denne ene tjenesten, som kanskje mer kan være til advarsel om risikoen pasienten utsettes for når vi kobler terapirommet på nettet.

Ingen systemer er helt sikre

Det er allment akseptert i IT-sikkerhetsverden at ingen systemer som er koblet på nettet, kan garantere absolutt sikkerhet. Man må derfor alltid vurdere fordelene ved systemet opp mot risikoene for at det går galt, og konsekvensene hvis det går galt (NIST, 2017). Saken over er bare ett eksempel på farene. I Finland i 2020 ble rundt 30 000 pasientjournaler fra den private psykoterapikjeden Vastaamo lekket og pasienter kontaktet direkte og presset for penger (Kleeman, 2023). Innbryterne hadde over tid stjålet journalnotater fra systemet, og det tok lang tid før det ble oppdaget (Ralston, 2021). Vastaamo hadde dårlig sikkerhet, men selv verdens største IT-selskaper med enorme sikkerhetsressurser opplever fra tid til annen store datalekkasjer. Å sikre IT-systemer er ekstremt mye vanskeligere enn å sørge for at et terapirom er lydtett. Svært mye attraktiv informasjon er samlet på ett sted, og ingen kan love garantert sikkerhet. Med terapiopptak må man tenke på sikkerhet ikke bare i dag, men også tiår frem i tid. «Harvest Now, Decrypt Later» er for eksempel en velkjent strategi blant større aktører som går ut på å samle inn krypterte data i dag, for å kunne dekryptere og bruke dem til for eksempel utpressing eller politisk påvirkning i fremtiden, når dagens krypteringsalgoritmer kan knekkes (NIST, 2025). Selv om det for tiden arbeides med nye former for kryptering som skal ta høyde for slike trusler, er dette løsninger som i liten grad er tatt i bruk i dagens kommersielle systemer.

Bort fra prinsippet om dataminimering?

Når vi vet at alle IT-systemer som er koblet til internett, er utsatte, vil det være naturlig å innvende at elektronisk journalføring i seg selv vil innebære en risiko for pasienten. Det var tross alt journalnotater som ble stjålet i datalekkasjen fra Finland, og ikke KI-transkripsjoner. Og sannsynligvis er det nettopp den reelle risikoen for at journalnotater kan komme på avveie, som ligger bak at det i Psykologforeningens veiledning for journalføring påpekes at journalnotatene skal være så korte som mulig, og kun inneholde relevant informasjon. Det grunnleggende personvernprinsippet om dataminimering er altså allerede bakt inn i retningslinjene for journalføring. Det er et viktig tiltak for å redusere konsekvensene dersom datalekkasje skulle skje. Når dataene er mindre sensitive, kan i tillegg risikoen for at et angrep skjer, være lavere.

KI-tjenestene for transkribering innebærer på sin side å dele både svært mye mer, men også en helt annen type data fra terapitimene. Der journalnotatene er filtrerte, bearbeidete og begrenset til det som er strengt relevant for behandlingen, vil man ved bruk av KI-transkripsjon la hele terapitimen bli behandlet i skyen. I vanlig journalføring vil detaljer som vurderes som sensitive og ikke nødvendige for behandlingen, ofte bli utelatt. For eksempel ved arbeid med overgrep er det lett å se for seg at forskjellene mellom et godt skrevet journalnotat og et fullstendig taleopptak vil være enorme. Med mikrofonen påskrudd vil taleopptak av alt som skjer, hvile 100 % på at sikkerheten til leverandørene faktisk holder vann. Mengden informasjon ved taleopptak er enormt mye større, og typen informasjon kan være langt mer sensitiv.

Mye på spill

En av de viktigste rettighetene til en pasient er at det som fortelles på psykologkontoret, skal behandles konfidensielt. Taushetsplikten er ikke bare passiv, men krever at man aktivt hindrer at informasjon kan komme på avveie. Samtidig er det langt mer enn juridiske aspekter som bør tas hensyn til når man vurderer å bruke en KI-løsning i terapirommet. Pasientene oppfordres gjerne til å dele svært private tanker, følelser og erfaringer, ofte ting som aldri har vært delt med noen før. På studiet lærer vi hvordan vi skaper psykologisk trygge rom som legger til rette for at pasienten kan åpne seg mer. Mange pasienter er vant med å tilpasse seg andres behov, og de aller fleste vil forstå at når psykologen spør om de kan bruke KI-verktøy for transkripsjon, vil det gå ut over psykologens tid om man takker nei. På toppen av det hele vil pasientene ofte bære med seg erfaringer om at relasjoner som skulle vært trygge, ikke var det. Taushetsplikten er ikke bare et juridisk anliggende, men en grunnleggende verdi for all terapi, og når ny teknologi øker risikoene for at den brytes, må det behandles med stort alvor. At risikoen bæres fullt ut av pasienten, mens gevinsten i stor grad tilfaller behandleren og systemet, gjør at dette må behandles ekstra forsiktig.

I 2020 ble titusenvis av finske journalnotater lekket og enkeltpasienter utpresset. I sommer fant og rapporterte jeg et sikkerhetshull som kunne ført til uautorisert tilgang til ord-for-ord-transkripsjoner av norske pasienters terapitimer. Når neste sikkerhetshull i pasientsystemer blir avdekket, og hvorvidt det er ondsinnete aktører eller ikke som finner det, kan hverken leverandører, psykologer eller pasienter vite sikkert. Men det som er helt sikkert, er at hver gang et journalnotat skrives manuelt, med Psykologforeningens retningslinjer om å kun inkludere relevant informasjon, reduserer vi konsekvensen det kan få for en pasient ved datainnbrudd, betydelig. Om det likevel er verdt det å ta i bruk denne teknologien, mener jeg gevinstene må være store, sannsynligvis betydelig større enn de minuttene man sparer per pasient i journalføring.