KI-doktoren

«Hun der, hun er sikkert kjempefrekk,» skrev folk i kommentarfeltet. Lege og KI-forsker Ishita Barua hadde sagt i en podkast at hun ikke gidder å være høflig med ChatGPT.

– Jeg fikk tyn for at jeg ikke skriver takk til disse programmene. Det er jo helt meningsløst.

– Du sier ikke takk til oppvaskmaskinen heller?

– Nei, det var bare helt komisk. Jeg mener jo at om du er høflig og intim med en språkmodell, så ser du på maskinen som en fortrolig person. Og da er grensen for at du også deler intime detaljer om livet ditt, ganske lav.

– Men modellen er jo høflig tilbake?

– Det synes jeg er den aller verste egenskapen til disse verktøyene. Hvor medgjørlige de er. Jeg får aldri kritikk eller kritiske tilbakemeldinger, selv om jeg ber om det. Det er så utrolig mye smiger blandet inn, som bryter ned vårt eget forsvar. Det er det som selger, det er det folk underbevisst vil ha. Så jeg bare tenker, vi bare lengter etter validering, selv fra en maskin. Og det gjør oss skremmende sårbare, sier hun.

Om du er høflig og intim med en språk modell, så ser du på maskinen som en fortrolig person.

Passe seg selv

Mange tror Ishita Barua valgte medisin fordi hun hadde innvandrerforeldre fra Bangladesh. Det stemmer ikke. Det kunne blitt juss. Det kunne blitt språk. Det kunne blitt musikk. Hun spilte tross alt tverrfløyte i korps, sang i kor og tok pianotimer.

Men da hun var 13–14 år, skjedde det noe som forandret alt. Moren var gravid. Ishita og lillebroren gledet seg til å få et søsken til. Men så viste det seg at barnet var dødfødt. Det var et sjokk. Ikke minst fordi det var første gangen hun så de voksne gråte på den måten.

– Jeg hadde en veldig klar formening om at sykehuset ikke hadde tatt mamma på alvor. Mitt inntrykk var at de hadde sagt at det her går fint, det er ikke rier, bare dra hjem, sier Ishita, som husker at hun tenkte at livet er så skjørt. Og at man må passe på seg selv.

– Jeg kunne endt opp andre steder, men Ishita 14 år tenkte at alle må passe på seg selv, og da måtte jeg gå «all in» for å bli fødselslege selv. Men da jeg kom på medisinstudiet, skjønte jeg jo at det ikke er sånn det funker. Det finnes ting som man ikke vet svaret på, ting som kan gå galt uten at noen har neglisjert jobben sin, sier hun.

Polyppjegeren

Teknologiinteressen begynte i tarmen. Ishita elsket å leite etter polypper i tarmene på pasienter. Hun kunne til og med drømme om den perfekte polyppfangsten på natta. Da kastet hun små lassoer over polyppene og brente dem bort.

På dagtid satt hun med joystick i ene hånden og kamerarøret i andre hånden og så etter polypper på skjermen. Hun hadde gamet litt som ung, så det gjorde det lettere for henne, reint teknisk, å gjøre koloskopier.

Men samtidig var det frustrerende å vite at leger overser 25 prosent av polyppene i tarmen, uansett hvor flinke de er.

Hvis du ikke følger veldig nøye med, eller mister fokus litt, kan du gå glipp av en polypp som kan være et forstadium til tarmkreft.

– Det er ikke den statistikken du forteller om til folk som ligger foran deg på benken. Så det var da jeg tenkte: Hvorfor bruker vi ikke teknologi til å hjelpe oss? Når du gamer, kan du velge assist mode, det vil si at maskinen hjelper deg å komme videre i spillet, sier hun.

Hvorfor har ikke leger assist mode, tenkte hun. Hvorfor bruker vi ikke verdens flinkeste spillutviklere til å lage treningsmateriale for leger, eller bare noe som man har fast.

Dette var i 2018, fire år før ChatGPT gjorde KI til allemannseie. Det var mange som mente det ikke ville fungere. At KI ikke hadde noe i helsevesenet å gjøre. Men hun ble spurt av en foreleser om hun ville forske på det. Så da brukte hun bildegjenkjenning, med en algoritme som kunne skille mellom den farlige og den ufarlige typen polypper.

Det overraskende funnet i doktorgraden var imidlertid at legene var like gode til å finne polypper, enten de brukte KI eller ikke.

– Mange av de verktøyene vi bruker i dag, er jo ikke bedre enn menneskelegene. Språkmodellene klarer å få veldig god score på eksamener, men når du skal bruke dem som beslutningsstøtte, så er det ikke alltid de treffer, sier hun og drar litt på det.

– Samtidig må jeg ta et forbehold. For disse modellene utvikler seg veldig, veldig raskt. Det kommer stadig forskning som sier at KI gjør det bedre på enkelte områder. Også helt alene. Men denne forskningen er ny og må ettergås.

Forskning avler innovasjon

Ishita har fortsatt med å forsøke å utvikle teknologi som kan gjøre legene bedre. Og selv om hun opplever at mange i akademia rynker på nesen av at forskere har lyst til å jobbe med spennende kommersielle prosjekter, sitter hun nå her i 14. etasje i Bjørvika og jobber med oppstartsbedriften Engram. De skal satse på KI-verktøy for helsetjenesten.

– Visjonen er å lage noe som legene kan bruke. Så vi skal fjerne tidstyver for legene. Det er målet, egentlig, sier Ishita, som samtidig har 20 prosent stilling som forsker ved Universitetet i Agder.

Hva er utfordringen med å bruke KI i helsetjenesten?

– I medisin er du helt avhengig av at ting er faktamessig helt riktig. Men en iboende egenskap ved språkmodeller er jo at de kan hallusinere. Dette er ikke modellens feil. Den skal sannsynlighetsberegne det neste ordet i setningen. Som oftest ser svaret greit ut. Og det gjør at vi ikke får noen fornemmelse av hvor usikre disse modellene faktisk er.

– Det er mange som spør ChatGPT mens de venter på legetime?

– Alle med helsefaglig bakgrunn skjønner intuitivt at de ikke kan la ChatGPT være legen. Men vanlige mennesker har ikke ekspertisen til å gjennomskue når det blir feil.

– Likevel tror du KI kan gjøre oss friskere?

– Det kommer jo masse ny teknologi som de store teknologiselskapene ikke snakker så mye om, men som de er veldig investerte i. Det er såkalt brain computer interface (BCI), sier hun og forklarer hvordan man allerede kan få hjernen til å snakke direkte med en datamaskin ved hjelp av tankene dine. Hvis du har en lammelse på grunn av en stor skade i ryggmargen, finnes det nå teknologi som kan sende signaler fra hjernen og til verktøy som hjelper deg å stå og gå.

– Så kan man spørre seg hvorfor tek-selskapene er så interessert i det. Jo, jeg tror det går fra å være språkmodeller som du prompter tekst til, til at vi skal være enda tettere på, og at de dermed også får oversikt over tankene dine, sier hun.

– Det er vel de som har penger til å styre dette?

– Ja, tek-selskapene driver mye forskning selv. De har muskler til å finansiere disse prosjektene. Jeg tror vi må begynne å se på forskning som et premiss for å drive innovasjon, og ikke to separate ting.

– Så du mener Norge burde drive mer forskning for å leve av noe?

– Det er rart at vi som er en så uttalt oljeøkonomi, ikke har skjønt at for å få nye ideer og ny innovasjon og ny industri så må vi satse på forskning. Det er jo ikke en politisk vinnersak med mer penger til forskning.

– På tross av dette satser du på gründerlivet selv?

– Ja, men jeg har jo fallback career som lege. Jeg har tenkt at jeg hele tiden må jobbe med å være sulten. Men det verste som kan skje, er ikke at jeg må gå tilbake til klinikken.

Alle med helsefaglig bakgrunn skjønner intuitivt at de ikke kan la ChatGPT være legen. Men vanlige mennesker har ikke e kspertisen til å gjennomskue når det blir feil.

Computerhjernen

Ishita Barua har jobbet som lege ved siden av forskning og andre prosjekter helt til hun begynte gründervirksomheten. Hun tok ektemannen med seg en sommerferie og jobbet som legevikar i Nord-Norge.

– Der tenkte jeg at er det noen som trenger medisinsk KI, så er det jo disse menneskene her. Jeg opplevde flere ganger samtidighetskonflikter, det vil si at jeg måtte prioritere mellom forskjellige typer pasienter. Da skulle du gjerne hatt en som kunne hjelpe deg med å ta bedre beslutninger.

– Ja, for du er både legevakt og fastlege og psykolog.

– Ja, du er alt. På mindre steder så er du eneste lege på noen tusen mennesker. Og om jeg sendte noen med en ambulanse inn til sykehuset, som lå tre timer unna, så var det jo gjerne seks timer til den kunne være tilbake. Da kan du ikke kaste ambulanser etter folk som om det var sukkertøy. For da er hele øya uten ambulanse.

– Da har du brukt opp den muligheten.

– Ja, alle kan ikke bli kritisk syke samtidig, i hvert fall.

– Men likte du det, å være landsbylege?

– Jeg likte det veldig godt, så jeg kan godt gjøre det igjen senere. Men akkurat nå er jeg veldig gira på å prøve å få dette selskapet til å løse lignende utfordringer med teknologi.

– Kan teknologien redde helsevesenet?

– Det er veldig få som vet at man har trent roboter til å kunne drive med kirurgi. Og selv om det åpner opp for et hav av misbruk, er det veldig fascinerende med denne brain computer interfacen, som på en måte skjønner hva du tenker, og som kan gjøre den kommandoen uten at du eksplisitt sier det høyt eller beveger på deg. Du tenker, og så kan den omsette tanker i handlinger. Det synes jeg er kjempespennende.

– Og så er det kanskje litt skummelt at det er Musk & co. som sitter og styrer med det?

– Ja, det kan du si, det skriver jeg masse om i boka som kommer seinere i år. Jeg lurer litt på hvorfor den gjengen der er så interessert i å vite hva vi tenker.

– Det er ikke først og fremst altruisme?

– Nei, men det er jo ting som har med helse å gjøre, så det må gjennom streng regulering, sånn at de må gå veien om det å prøve det på pasienter. Men til slutt kommer det til å bli et kommersielt produkt som skal selges til alle.

Du tenker, og så kan den omsette tanker i handlinger. Det synes jeg er kjempespennende.

Supernisjekraften

Den som forsker på kunstig intelligens, står selvsagt i en skvis. Det er moralske dilemma og faresignaler versus vidunderlige nye verdener. Hun er ikke så bekymret for at vi mister jobbene våre. Det vil bare være enda mer kamp om dem som virkelig er gode på noe. De som har talenter. Men en ting Ishita er bekymret for, er hvordan vi skal lære oss ting fremover. Vi blir mer og mer allergiske mot friksjon, motstand og lange tankeprosesser, jo mer integrert KI blir i livet vårt, mener hun.

– I fremtiden tror jeg nisjene kommer til å vinne. Det å finne noe som du er veldig god på, og som gjør deg unik, vil være etterspurt når kunstig intelligens gjør alt veldig likt. Folk må innse at jo flinkere du er på en nisjeoppgave, jo bedre er det, sier hun.

KI tar over veldig mange generalistoppgaver, så til syvende og sist er det noe med virkelig å kunne noe til fingerspissene. For å gjøre det må du trene. Og når du har trent på det, så har du skaffet deg en jobb, mener hun.

– Fremtidens viktigste superkraft blir det å klare å konsentrere seg. Folk er jo egentlig så late, men det gir en konkurransefordel for dem som gidder å gjøre the hard work.

Fem kjappe

Hva ville du bli da du var liten?
Forfatter, og det har jeg på en måte blitt. Men jeg har jo også blitt gründer, forsker og lege.

Hva gjør du for å kople av?
Tar badstue. Hjemme. Ikke fordi det har noen helsegevinster, men for velvære. Eller jeg tar på meg badetøy, tar heisen ned og hopper uti sjøen her i Bjørvika, der jeg både bor og arbeider.

Hva klarer du deg ikke uten?
Skrivebrettet mitt (Remarkable). Jeg tar hele tiden notater og skriver dagbøker på den. Og den har ingen distraksjoner.

Hva er det beste rådet du har fått?
Foreldrene mine sa alltid: «Du må gjøre ditt beste. Alltid.» Det kan være slitsomt, men det er en god innstilling å ha.

Hva gir deg håp for fremtiden?
At vi stadig finner nye kurer for sykdommer. At vaksine mot helvetesild kan bekjempe demens. At vi ikke er langt unna vaksine for enkelte krefttyper.