Hvordan udfordres UX’erens arbejde af kunstig intelligens og machine learning?

Forholdet mellem AI og UX er stadig meget uudforsket, og det foranledigede os i InfinIT til at holde et webinar med fokus på, hvordan brugere bør inddrages i den kunstige intelligens bag de løsninger, de interagerer med. Du kan læse et par hovedpointer fra webinaret nedenfor.

Med kunstig intelligens følger en ’black box’-problematik. Det er ikke helt gennemskueligt, hvad der foregår, når den kunstige intelligens vurderer et hav af parametre op imod hinanden. Af samme grund ser nogen gennemsigtighed inden for kunstig intelligens som nøglen til at opnå tillid fra brugerne til teknologien.

Men når vi taler med dem, der forsker i og arbejder med gennemsigtig kunstig intelligens, så viser der sig et lidt mere komplekst billede. For en simpel åbning af den sorte boks, som blot vil vise, hvilke parametre der er tillagt hvilken vægt med hvilke metoder i modellen, vil sjældent være den forklaring, som en bruger egentlig har brug for.

Model skal hjælpe optikere med at foretage øjenundersøgelser, men...

Webinaret blev indledt af Niklas Kasenburg og Marie Rørdam Fenger fra Alexandra Instituttet. De har hjulpet med at lave en model, som optikere kan bruge, når de undersøger folks øjne. For billederne fra en øjenundersøgelse kan bruges til at opdage begyndende øjensygdomme. Men erfaringen er, at for mange dårlige billeder sendes ind i modellen, der vurderer, om billedet skal videre til en læge. Det betyder både, at der bliver givet forkert besked om eventuel sygdom, at man spilder lægers tid, og at modellens evne svækkes. Så billederne skal være i en bestemt kvalitet, og det kan vurderes med et ’explainable AI’-værktøj, der viser, hvilke pixels billederne kasseres ud fra, så de kan tages om.

Det lyder simpelt, men både optikerne og kunderne i brillebutikken – dvs. brugerne – gav anledning til nye overvejelser. Hvad gør det eksempelvis ved ens oplevelse af at være inde at købe nye briller, at en maskine pludselig gør en opmærksom på, at man kan være syg? Hvad gør det ved optikerens rolle som sælger?

Derudover følte nogle optikere sig talt ned til. Især hvis de selv følte, at de havde helt styr på at vurdere billederne. Nogle gange tog det lidt tid at vurdere billederne ved hjælp af teknologien, og det, følte de, fik dem til at fremstå uprofessionelle i situationen. Desuden opstod der nogle uheldige misforståelser, når en rød og grøn farve blev brugt til at vurdere billederne, og en skala viste kvaliteten af billedet. Det blev nemlig intuitivt forstået som, hvor stor risiko der var for, at der var tegn på sygdom, mens skalaen og farverne udelukkende fortalte, med hvilken sikkerhed modellen vurderede kvaliteten af billedet.

Værktøj skal yde hjælp på det helt rigtige tidspunkt

Jonas Kelstrup fra UNSILO fortalte om deres arbejde med at bruge kunstig intelligens i forskellige produktsammenhænge, blandt andet i deres arbejde med PaperPal, der skal hjælpe skribenter, der skriver videnskabelige artikler. Med PaperPal kan man få hjælp til at finpudse sine formuleringer så de stilmæssigt passer til den udgivelse, man gerne vil publicere i, og man kan få eksempler på lignende artikler samt råd om en passende opsætning mm.

Jonas forklarede, hvordan de under udviklingen af PaperPal frygtede, at værktøjet bare ville blive en ny udgave af ”Clippie” – den hjælpende klip fra word, der altid var i vejen, når man ikke havde brug for den, og aldrig nogen steder at finde, når man havde. En stor del af arbejdet med den kunstige intelligens bag PaperPal er derfor at sikre, at hjælpen kun popper op, præcis når man har brug for den.

Brugere bruger ikke kunstig intelligens

I det hele taget tænker UNSILO over, at brugerne jo ikke er direkte brugere af den kunstige intelligens, de er brugere af et produkt, som skal være nemt for dem at gå til. Og de kan godt komme med feedback til produktet uden at kende til den kunstige intelligens bag.

Præcis den samme konklusion var den sidste taler, Emilie Møllenbach fra Mobilepay, kommet frem til. MobilePay arbejder kontinuerligt på at forbedre MobilePay-løsningen for deres brugere. Fx ved at appen ikke kun foreslår venner tæt på men også nærliggende butikker, når brugerne er i gang med en betaling.

MobilePay kunne forklare brugeren mange ting undervejs, men de har gjort det til en vane at spørge: Burde vi forklare dette til brugeren? For hvis de satte gennemsigtighed over relevans for brugeren, kunne man pludselig som bruger opleve at skulle gennem 10 forskellige klik, hvor det forklares, hvordan billedalgoritmen er optimeret, for at vise, hvordan man scanner noget ind i app’en eksempelvis. Og det kan ende med at blive en større forvirring end hjælp for brugeren, selvom intentionen var god.

Det er UX'erne, der skaber relevans for brugerne

Så et take away fra dagen var, at der ligger et ansvar hos designerne bag kunstigt intelligente løsninger om at vide, hvornår brugerne skal have en forklaring, således at de føler, de er i kontrol, og at løsningen er relevant for dem.


Vil du have en uddybning af pointerne, så registrer dig og få et link til webinaret her.

MarieRoerdamFenger_facilitator_infinit

Marie Fenger