Mer enn data

Møterommet er hvitt og blått. Korridoren utenfor fører til de luftige broene som preger innsiden av BIs bygg i Nydalen. Professor Matilda Dorotic ler mens hun prater om at hun liker å prate. Det var aldri analyse og tall som drev henne, snarere en nysgjerrighet på hvordan hun kunne gjøre verden bedre.

– Matte og data var aldri favorittfag. Jeg er samfunnsviter av hjerte og prøver å tenke i form av menneskelig psykologi. Jeg bryr meg om menneskeheten, ikke om teknologi eller data. Jeg ønsker å hjelpe folk på min lille måte.

Dorotic søkte inn i den nye digitale hverdagen.

– Ny teknologi påvirker forbrukere på mange måter. Og summen av påvirkning på mennesker påvirker hele samfunnet. Så hvordan beskytter vi den menneskelige verdigheten til hvert individ på jorden? Kan 10 prosent av verden bestemme over alle andre?

For professoren betyr «samfunnet» mer enn kun landet hun bor i, og hun har bodd i flere enn de fleste.

– Vi lever i en global verden, og jeg føler meg som hardcore europeer, med europeiske verdier som menneskerettigheter og kollektivt ansvar. Men det startet i Kroatia.

Paradis og regn

Dorotic vokste opp i en kystby nær Split ved Adriaterhavet, kjent for gamle gater, sol og sommer.

– Det var liksom paradis, og hva gjør man der? Ikke kalkulasjoner! I paradis jobber du vanligvis ikke med vitenskapelige undersøkelser. Derfor reiste jeg til regnet i stedet! ler hun.

Før hun forlot paradis, rakk hun å ta en bachelor i økonomi ved universitetet i Split.

– Jeg spesialiserte meg på business og markedsføring, og lette etter det vitenskapelige. Jeg elsket krysningspunktet mellom datavitenskap, psykologi og business.

I virkeligheten var det et masterstipend som brakte henne til England, der hun tok en MBA-grad i global markedsføring.

Det vekket hennes kjærlighet til data, som ble redskapet hun behøvde.

– Jeg forelsket meg i ideen om hvordan vi bruker data til å ta bedre beslutninger. Det ledet meg til Universitet i Groningen, et av Europas ledende innen forskning på markedsføring. Jeg tok en ph.d. der.

Der utforsket hun lojalitetsprogrammer, som åpnet for å kombinere data og forbrukerpsykologi. For hva får kunder til å danne relasjoner til visse merker?

– Hvordan påvirker det å belønne adferd? Trenger vi å sette opp hindringer og true med at poengene utløper, for at kundene fortsatt skal være lojale?

Hun var tilfreds med svarene hun fant.

– Lojalitet handler egentlig ikke om en rabatt her og der eller om en gratis gave, det handler om relasjoner. Det er et verktøy for å bygge relasjoner som ofte misbrukes.

To år etter doktorgraden gikk reisen videre – til mer regn, mindre sol og ny gater, men også nye spørsmål. Fra 2012 ble hun førsteamanuensis ved BI, og det var der interessen for kunstig intelligens vokste frem.

– Summen av påvirkning

Det ovale møtebordet har plass til telefoner, latter og store ideer. En av de største av sistnevnte handler om kunstig intelligens, som i løpet av kort tid gjennomsyrer alle fag og yrker. Dorotics kunnskap gjenspeiler en verden som ennå ikke helt vet hva det vil føre til. KI er ettertraktet, og med det også hennes kunnskaper. Noe hun har merket.

– Jeg holdt et foredrag for et stort publikum av toppledere, da en fra politiet kom bort til meg. Vi trenger virkelig deg, sa hun. – Noen som kan gi oss råd om hvordan vi beskytter mennesker.

Et møte satte spor i henne.

– Jeg har utviklet flere prosjekter om hvordan KI påvirker mennesker. Og gjennom det kom samarbeid med politiet, EU og FN om globale saker. Jeg forsket for eksempel på hvordan teknologi påvirker seksuell utnyttelse av barn på nett. Noe som absolutt ikke er et forretningsspørsmål, men et samfunnsspørsmål. Snart ble MIT og Harvard interessert i noen av prosjektene.

Det førte henne til det ærverdige universitet som gjesteforsker i 2024. Samme år ble hun også gjesteforsker ved Massachusetts Institute of Technology (MIT), der hun jobber med hvordan KI påvirker helsevesenet.

– Det arbeidet vokser, fordi bedrifter, leger og forskere famler i mørket. Problemet er at mye data er sosialt konstruert, og det påvirker hele verden. Data er utmerket når det faktisk representerer det vi vil studere. Problemet er at det egentlig ikke representerer sannheten utenfor datasettet, til dem som ikke er inkludert i dataene.

Datasett lages ofte i det skjulte, forklarer hun.

– Alle disse tingene starter med subtile, ofte ugjennomsiktige måter som teknologi endrer hverdagslivet eller våre beslutninger på. Jeg tror ikke bedrifter eller verktøy som KI er gode eller dårlige. Men reguleringene ligger etter den teknologiske utviklingen, det var det som ledet meg til å forske på dette.

Mye av helseforskningen handler om bias, eller fordommer, i dataene som brukes innenfor helse.

– Vi har mye diskriminering og ekskludering i dataene. Folk tror det bare gjelder svarte amerikanere i en eller annen landsby, men det handler om folk overalt, og nordmenn på daglig basis. For eksempel er 90 prosent av alle medisinske studier laget på en veldig liten gruppe amerikanske hvite menn.

En tysk-amerikansk fortelling illustrerer hva hun sikter til.

– Ved sykehuset i Boston innså de at termometeret og oksymeteret målte feil for noen grupper pasienter. Det var konstant feil for mørkhudede pasienter.

Det viste seg at Siemens produkttester kun foregikk i en liten landsby i Tyskland.

– Det samme gjelder alle slags medisiner, sier hun. Og når vi skal optimalisere bussrutene, hvor er de funksjonshemmede i det? De er ikke en del av det bildet.

Ansiktsgjenkjenning for å åpne telefonen er greit, men hvis politiet skal bruke det til å analysere forbrytelser, er vi imot.

– Dårligere beslutninger

I 2024 mottok hun Best Paper Award sammen med kollegene Emanuela Stagno og Luk Warlop. Den deles ut av International Journal of Research in Marketing og belønnet forskerne for arbeidet med KI og risikovurdering.

– Forskningen viser at vi forstår lite av fordelene og enda mindre av risikoene. Vi mennesker er dårlige på å veie langsiktig risiko opp mot umiddelbare fordeler. Vi tenker ofte i form av min telefon – ansiktsgjenkjenning for å åpne telefonen er greit, men hvis politiet skal bruke det til å analysere forbrytelser, er vi er imot. Selv med nøyaktig samme type risikabel teknologi.

En hel del av arbeidet hennes handler om å hindre uheldige sider ved ny teknologi. Er hun selv en tek-pessimist?

– Jeg blir ofte anklaget for å være imot KI. Det er jeg ikke, men jeg er opptatt av kostnadene. Hvem vil ikke redusere utgiftene eller få bussen til å kjøre raskere … men til hvilken pris?

Og hvordan vi bruker chatboter, illustrerer poenget, mener hun.

– De fleste bruker språkmodellene til å forbedre skrivingen, som betyr at vi blir bedre til å uttrykke oss. Problemet er at det avlaster noe av den kognitive tenkningen. Hvis den designes på en bestemt måte, kan den advare oss om feil eller kognitive snarveier. Men verktøy som advarer, er ikke er like populære.

– De har blitt for komfortable?

– Ja, for det er de behagelige verktøyene som er kommersielt levedyktige. Regel nummer én ved tekniske fremskritt er at jo enklere det er for meg å bruke, desto mer vil jeg bruke det.

Hun kaller slike språkmodeller sykofantiske, som betyr overdrevent smigrende.

– Det gjør folk overmodige i sine feilaktige beslutninger. Vi tar dårligere beslutninger, men er supertrygge på at vi tar gode.

Men ingen bør vente på at industrien regulerer seg selv, mener hun.

– Vi kan ikke forvente at det er viktigere for dem å beskytte minoriteter eller ikke-lønnsomme segmenter enn å få ut gode produkter på markedet.

Som er grunnen til at hun inviteres til å holde taler i EU og jobber med FN om hvordan vi bør regulere høyrisiko-KI. Ikke bare fordi hun er en hardcore europeer, men for å hjelpe myndighetene med å regulere klokt. For teknologi er verken god eller dårlig i seg selv, mener hun.

– Det er verktøy, og spørsmålet er hvilken retning vi tillater den å ta oss i. Men retningen teknologien tar oss i nå, fungerer ikke så godt, verken med tanke på menneskerettigheter eller generell menneskelig verdighet.

Hun tror likevel at vi er i stand til å justere kursen.

– Jeg ser forskere som hever stemmen. Bevisstheten om personvern har gått fra null til veldig høyt på et par år. Bevisstheten om KI-skjevheter, diskriminering … Vi ligger etter, men vi kommer dit. Vi regulerte røyking, vi regulerte bilbelter og sukker. Kanskje vi ikke kan gjøre så mye på kort sikt, men forståelsen av at vi kan gjøre noe, har endret seg enormt.

Humanisme

Hun åpner døren og leder vei mot utgangen og de luftige broene, som forbinder BIs mange fagfelt og avdelinger.

– Du jobber med politikere, bedrifter og akademikere. Hvordan får du til å kommunisere på tvers av miljøene?

– Ting har endret seg. Hvis vi vil være relevante, må vi jobbe sammen, så det blir enklere og enklere. Alle sammen, selv politikere, er enige om verdien av menneskerettigheter og grunnleggende menneskelig verdighet. Jeg har aldri møtt en bedrift som sier at, nei, vi bryr oss ikke om menneskelig verdighet. Vi går forskjellige veier, men jeg tror virkelig de fleste vil komme til det samme globale målet. Vi er uenige om detaljer i hvordan vi bør gjøre det, men enige om de store målene, sier hun.

Spørsmålet er hvem som er skikket til å lose oss dit, mot de store målene.

– Jeg tror forskere og vitenskap spiller en viktig rolle i å forsvare menneskenes, dyrenes og naturens verdighet. Det er noe flere bør tenke på. Hvis du tenker smått, vokser du ikke så mye. Jeg prøver å tenke stort gjennom små skritt.

– Er det slik du engasjerer deg? Med kreative prosjekter i stedet for å protestere i gatene?

– Jeg tror på å protestere, på å si det du vil. Men jeg tror også på å gjøre. På ideen om å gjøre det du tror er riktig. Forhåpentligvis vil det føre til en bedre fremtid for oss alle. Jeg tror virkelig på det.

Hennes egen fremtid er i Norge, der hun har bosatt seg og stiftet familie. Men hvordan klarer hun å balansere en voldsom forskergjerning med privatlivet?

– Et godt spørsmål, ler hun. – Det er en vanskelig balanse … Jeg er velsignet med en fantastisk familie, og hjemme forsøker vi å oppmuntre til å gjøre det du elsker. Når barna mine ser lidenskapen min, så oppmuntrer jeg også dem til det samme.

Hun er likevel opptatt av at noe av tiden må være felles.

– Så prøver jeg også virkelig å beskytte tiden min med dem.

Når vi klarer å legge vekk mobiltelefoner og spill og bare sitte sammen rundt middagsbordet, da bringer det den menneskelige verdigheten inn. Både samfunnet og bedrifter bør pleie og beskytte denne verdigheten, og det starter med familien, sier Dorotic.

Hun byttet paradiset mot kulde og regn. Til gjengjeld fikk hun familie, jobb og en unik innsikt i tiden vi lever i. Og teknologien hun hjelper oss med å forstå, hjelper henne også med å fortsette på reisen.

– Jeg elsker teknologi, så jeg kan reise overalt og delta i MIT-møter fra Norge, ler hun.

Hun står stødig på broa. Studentene fire etasjer nedenfor beveger seg mellom kafeer og forelesninger. Noen av dem skal snart fylle samfunnet med ny kunnskap.

– Forskere, bedrifter og beslutningstakere bør finne sammen, for å beskytte og styrke menneskelig verdighet i den teknologiske æraen. Vi har fortsatt muligheten.