Posts Tagged ‘brugertest’

Luk dine ører når folk blærer sig med forøgede konverteringsrater

tirsdag, august 2nd, 2011

Hvorfor?

Fordi du ikke kan bruge de tal til noget. De er totalt relative. Lad mig give et eksempel:

"Jeg har forøget konverteringsraten med 25%".

For det første ved vi ikke noget om, hvad de 25% dækker over. Hvis jeg havde 20 salg i går og 25 i dag, så er det forøget med 25%. Ikke nødvendigvis imponerende.
Og hvad er det der er forøget? Ofte tales der om konverteringer, men det behøver ikke være mersalg. Det kan også blot være mikro-konverteringer, som tilmeldinger til nyhedsbrev eller bare klik på en søgeknap.

Så forøgelsen i sig selv, om den er 10% eller 200% er ligegyldig. Og der er flere faktorer der spiller ind.

Du kan jo læse lidt på det her: Should I optimize for micro conversions?

Pointen, i denne artikel af Widerfunnel, er at du kan risikere at optimere "lokalt", men samtidigt skade dit salg eller anden makrokonvertering længere nede i salgstragten. Det er en rigtig bitch, fordi du (og jeg) typisk har langt færre konverteringer på makroniveau (altså fx salg) end på mikro (fx søgning på produkt). Nogle optimizere siger 100, andre 200 konverteringer, men er dine variationer i testen meget ensartede kan du risikere at skulle op på langt højere tal.

I eksemplet herunder (sammenklip fra Optimizely), kan du se at jeg har over 800 konverteringer på mig mål, men kun en statistisk sikkerhed på højest 87%. Optimizely selv arbejder som minimum med 95% sikkerhed, og det er jeg altså langt fra. For mange mindre websites er det at have 800 konverteringer rigtigt meget og tager lang tid at indhente. Men alligevel ser jeg ofte personer fra begejstret fortæller om deres forøgelse baseret på 50 konverteringer – det er altså ikke godt nok. Så tag ikke andres tal for gode varer. (Heller ikke mine ;) ).

Konverteringstal fra optimizely

På samme måde kan man heller ikke sammenligne konverteringsrater i almindelighed. Morten Vadskær fortæller for eksempel altid om hans 9% på kondomaten (der er hak i pladen Morten), men hos mig i rejsebranchen er 9% en umulighed. Lå vi på 9% var vi stenrige. Så de 9% er ligegyldige og siger ikke noget om Morten succes eller dygtighed – i hvert fald ikke i forhold til dit website (med mindre du sælger kondomer). Nu er kunderne måske heller ikke så bange for at brænde fingrene på en pakke kondomer til 25,95, men de er lidt mere forsigtige når det er årets opsparing på turen til Thailand til 40.000. Konkurrence er vist også lidt hårdere i rejsebranchen.

Så skal du lytte til folk der vil fortælle om deres resultater, så spørg hellere til deres metodik, til hvilke erfaringer de kan give videre som er relevante for dit website. Du skal gøre dig dine egne erfaringer. Få fundet dig en optimizer du kan lide at arbejde med, øve dig på at opsætte mål, tjekke om du mener værktøjet er troværdigt: Du kan fx prøve at lave en test med de samme 5 variationer og se hvor længe der skal gå, før alle variationerne scorer lige højt.

Jeg har været igennem et par forskellige værktøjer nu og har fundet min favorit, men selvom jeg kører test med omkring 20.000 besøg om måneden, så føler jeg mig stadig ikke sikker på værktøjet. Stoler jeg ikke på værktøjet, så kan det hele være ligemeget.

Gør det selv

Ligesom med brugertest har jeg det sådan, at du faktisk kan (læs: bør) gøre hele arbejdet selv – ikke købe dig til det udefra. Det er ikke svært at lære og det bliver bedst hvis det er en rolig, langsigtet proces, der følges med de øvrige aktiviteter du har omkring markedsføring og optimering. Det er i hvert fald mit råd. Men modsat brugertest (som jeg fx også har skrevet en bog om og som også er rimeligt let at lære), så er det ikke så let af finde dansksproget, introducerende, hjælpsom tekst om emnet.

Derfor må vi gøre vores egne erfaringer, lære det selv, forstå vores egne tal, relatere dem til vores forretning. Men jeg vil i hvert fald meget gerne dele erfaringer – kender du et godt forum til det?

/Ole

Skal I også i gang med at måle på usability?

lørdag, april 23rd, 2011

Der er en klar trend i tiden synes jeg, omkring at måle på usability. Måle i den forstand, at få fingre i nogle tal, der kan give indblik i hvordan vores brugere handler. Og her taler vi ikke bare om at se besøgstal i Google Analytics, men også om at få nogle kvantitative svar på forskellige brugs-relaterede spørgsmål i forskellige brugs-relaterede kontekster. Hele tiden med ønske om mere konkret at få indblik i 'kvalitet i brugen' af vores produkt. Lad mig give et eksempel:

Usability KPI i en kommune

En kommune i hovedstadsområdet ønsker helt overordnet at sætte sig en række mål for brugen af kommunens digitale services – alt fra antal henvendelser i borgerservice om barsel til antallet af downloads af bestemmelser omkring sygefraværsregler. Behovet udspringer primært fra tankegang (tror jeg) omkring at styre fremdrift igennem måling – altså en form for ledelsesstrategi. Det betyder at kommunens afdelinger skal definere en række KPI'er – målepunkter på deres ydelser – og på et mere systematisk niveau kunne afgøre om der sker fremdrift på baggrund af de aktiviteter og initiativer/projekter der sættes i søen. Det giver sikkert alt sammen udmærket mening.

Webafdelingen i pågældende kommune står nu overfor en udfordring, om ikke andet, så som kompetence på det digitale område og ansvarlig for at hjælpe resten af organisationen på vej: Hvilke målepunkter skal der opstilles (på vegne af hele kommunens online servicestruktur) og hvordan skal disse måles?

Jeg blev inviteret til at give lidt input, gennemgå et par måder at måle på usability og tage en diskussion med nogle af medarbejderne omkring hvordan de skulle bevæge sig fremad i den proces. Her er i korte træk hvad vi talte om:

Første trin er at beslutte hvad der skal måles på. De enkelte afdelinger har nogle svagt definerede ønsker og forskellige politiske prioriteter, men trænger til at kigge på to ting: Den ene er at få defineret hvad der skaber værdi for kommunen (eller afdelingerne) og den anden er at undersøge hvad der skaber værdi for brugerne. Værdi kan være at have færre borgere der ringer til kommunen og i stedet selvbetjener sig til svar/løsninger. For begge parter er dette en nemmere og hurtigere løsning = værdi. Målet er selvsagt at skabe mere af den værdi for kommunen, ved at forøge værdien for borgerne (det er jo en slags essens af det arbejde med usability).

Hvordan kan den værdi så måles? Det kan være gennem helt almindelig statistik, altså besøgstal eller lignende. Både på den online del, men også på presset på telefoner og email. Uanset hvordan vi skaber den viden, så vil den blive et udgangspunkt, det vi med fint kan kalde for et benchmark. Der vil også blive behov for nogle tilgange til at teste/måle, hvordan brugen udvikler sig, efterhånden som vi re-designer vores digitale services.

Fra den viden kan man også forsøge at skabe nogle usabilitymål. Et usabilitymål kan indeholde en beskrivelse af hvem der skal kunne hvad og i hvilken grad, samt naturligvis et niveau der skal opnås. Så kan kommunen fra test til test, vurdere om der er fremdrift.
En begrundelse for at tale om usabilitymål og for at se på andre tilgang en at kigge på brugs-relateret statistik, er at fx besøgstal og bouncerate%, ikke siger noget om hvor svært brugerne har ved fx at forstå regler eller love. Der skal andre metoder til.

Tre måder at måle på brugen

Den typiske tilgang er at lave brugertests. At stille repræsentative brugere repræsentative opgaver og tage bestik af hvordan det går. Det giver masser af input til at forbedre de digitale services, men der kan være en udfordring omkring at måle på disse tests. Uden måling kan vi ikke arbejde med målepunkter. Men til en start kan man sagtens få tal ud af brugertests, fx den procentvise gennemførelse af testopgaver, antal klik eller den tid det tager at løse opgaven (alt efter typen af test).

En anden tilgang kan være at gå mere digitalt til værks. Her kommer kommunen lidt til kort, fordi der ligger en række tekniske begrænsninger for hvilke værktøjer der må implementeres på kommunale hjemmesider (hvilket jeg personligt synes er bullocks). Men hvis vi lige ser bort fra det, så kunne en tilgang være hændelses-sporing.

I Google Analytics hedder det også Event Tracking. Det er et spændende og relativt nyt fænomen. Fordelen er at der kan opstilles hele specifikke handlinger online, som tælles og opsummeres i Googles Analytics interfacet. Det kan være klik på bestemte elementer, udfyldning af felter, downloads eller alt muligt andet. Det giver mulighed for at komme lidt mere i detaljen end blot sidevisninger og besøg. Det giver også mulighed for at måle på handlinger der foregår på den enkelte side eller opsamle sammensatte handlinger, som man fokuseret ønsker at tælle.

Denne metode giver ikke indblik i hvorfor brugerne handler som de gør, men prøver i stedet at fokusere på at tælle ønskede handlinger, som et symptom (eller målepunkt) på kvaliteten af brugen.

En tredie tilgang kan være at lave A/B eller multivariant test, hvor forskellige variationer af en hjemmeside, eller dens elementer testes live op mod hinanden. Det er også et område under stor udvikling, som har en vis iboende evidensbaseret styrke, fordi man direkte kan måle hvordan forskellige designs klarer sig.

Det kan gøre på mange måder, fra at teste en enkel sides evne til at skabe flere most-wanted-actions, til at vurdere om en hele sekvens af sider får flere brugere til at gennemføre et bestemt forløb. Om det bruges til e-handel eller til regler for sygedagpenge er som sådan underordnet.

Hvad skal vi måle på?

Så lang så godt. Tre forskellige tilgange som har hver deres styrker og svagheder, som til dels kan minimeres ved at afvikle dem sideløbende. Men også tre tilgange som alle har som forudsætning, at man ved hvad man vil måle på.

Så den største opgave, også for omtalte kommune, er at definere: Hvad vil vi måle på og hvilke mål skal vi sætte for brugen?

Kommunen valgte at starte med at indsamle viden. Lave brugertest og spørgeskemaer, for at få et indtryk af den nuværende brugs-situation(er).

Men kommunen er blot et eksempel. Samme behov opstår i denne tid naturligt i mange andre virksomheder, hvor ledelsen meget gerne vil have bedre styre på fremdrift og værdi af alle de digitale services. Men ikke bare værdi som besøgstal eller antal klik – også værdi som kvalitet i brugen – fordi den kvalitet i stigende grad er en afgørende faktor i virksomhedens strategi.

 

/Ole Gregersen

Brugertest nu?

torsdag, december 9th, 2010

Usertesting.com har fået en dansk pendant, som jeg synes skal have et par ord med på vejen.

Velkommen til brugertest.nu
 - der tilbyder at man kan stille testopgaver, som så formidles til "brugere", der løser de testopgaverne og kvitterer med en video med testerens stemme og optagelse af hvad der foregik på dennes skærm. I realiteten samme data som man ville få hvis man selv lavede en brugertest. Det primære i produktet er, at brugertest.nu formidler opgaverne og har fast tilknyttede testere de kan trække på.

Det gøres efter eget udsagn både billigere og nemmere end hvis man selv gøre det.

Brugertest.nu tilbyder også at gøre mere af det beskidte arbejde med at lave testopgaver og fortolke på resultaterne – hvilket er nok så interessant.

Prisen er fornuftig, man kan godt gøre det billigere selv, men skal de jo også betale husleje, udstyr og lave lidt profit, så passer det nok meget godt.

Det umiddelbare indtryk
Jeg synes afgjort det har sin berettigelse, hvis man er opmærksom på hvad man får og hvad man ikke får. Jeg synes det placerer sig et godt sted mellem den professionelle kommercielle brugertest (hvad enten den er intern eller pr- konsulent) og så den helt hjemmegjorte test, som fx Steve Krug eller jeg selv agiterer for i vores bøger. Til gengæld synes jeg ikke der er tale om et reelt alternativ til den brugertest, hvor en usabilitykompetence (fx mig selv), udfører en test in-house eller for andre. Det skal jeg prøve begrunde:

Lad os først kigge lidt på selve testen. Det er værd at huske på, at det afgjort største arbejde ved en brugertest er forarbejde og efterbehandling af testene. Selve testen, altså afviklingen, er den mindste del. Det kører som regel bare på skinner og kan gøres meget billigere (Jeg plejer at "betale" testere 400,- for 1.5 time, mens brugertest.nu skal have 500,- for 20 minutter).

Er det pengene værd?
Brugertest.nu tilbyder at lave for/efter-arbejde – uden at jeg ikke rigtigt kan gennemskue kvaliteten af denne og ikke har noget reelt at hænge den op på – for 10.000. Altså kan jeg få hele testen for 12.500. Det er da en fin pris. Men jeg har set nogle af de store kanoner, tilbyde noget lignende for 25.000. For den lille biks er de ekstra 12.500 sikkert mange penge, for større forretninger er det pebernødder, i relation til vigtigheden af at resultaterne – og særligt de re-designs de kan medføre – og for den betydning de kan have for omsætningen.

Med andre ord: Vil du føle dig mere sikker på at få en testleder med 200+ brugertests under huden til at fortælle dig hvor problemerne ligger end nogle relativt ubeskrevne blade der tester med nogle brugere du ikke rigtig kender?

Handling, ikke holdning
De test-eksempler brugertest.nu viser på deres hjemmeside emmer af  holdninger fra testerens side. Hvis man studerer lidt usability-teori, eller blot læser Jakob Nielsen, vil man se at holdning ikke har meget værdi. Det handler om handling. Hvis brugerne sidder og ævler om hvad de synes, så lærer du ikke noget. Tager du det for gode varer, så er du ikke blot inkompetent til at tolke resultaterne, men du skyder dig også i foden. Derudover har du ingen mulighed for at spørge ind til det der sker, hvormed du bliver mindre klog på det meget vigtige: Hvorfor?  – med mindre du er heldig at testpersonen selv begrunder.

Nuvel, man kan se at testeren rent faktisk er blevet bedt om at fortælle om sitet, men det tager lang tid og til 500,- pr. 20 minut, så er det nogle dyre minutter. Problemet er altså at de der laver opgaverne, skal vide hvad de gør: Der er stor fare for crap-in/crap/out.

Og hvad gør du hvis testeren ikke rigtigt får løst opgaven eller løser den på en måde du ikke kan bruge til noget. Betaler man så? Du kan ikke moderere undervejs, så du må bare håbe på det bedste.

Umodereret tænkt-højt
Så er det bare problemet omkring at tænke-højt i almindelighed. Forsøg viser tydeligt at brugerens opgaveløsning bliver mærkbart forandret af at der samtidigt skal tænkes højt. Det tager længere tid og testerne har en tendens til at rationalisere, altså logisk begrunde det de gør. Der er totalt say/do konflikt i spil. Netop derfor er fx eyetracking blevet populært, hvor testeren efterfølgende begrunder sine handlinger retrospektivt.

Som jeg kan se det, har vi som kunder ingen måde at vide hvem der tester vores website. Pudsigt nok lægger brugertest.nu op til at kunder efterfølgende graduerer (rater) testerne. Det er interessant nok. Hvad er en god tester? Den der fandt flest problemer? Den er kommer igennem flest ting? Den du bedst kan lide at høre på? Jeg har aldrig før hørt om at man på den måde eksplicit vurderede testernes kvalitet, men jeg lærer gerne hvorfor.

Konstruktivt kritisk
Heldigvis synes jeg (næsten) ikke de lover mere end de tilbyder. Vi ved alle at det er fornuftigt at teste, vi ved også at det kan være et stort arbejde at sætte op og vi ved hvad det er vi bliver tilbudt af denne service. Jeg har ikke rigtigt behovet selv, men som jeg sagde ovenfor, så har produktet som sådan sin berettigelse – jeg vil dog mene at man skal købe analysen med før at det giver mening.

Ps. skulle du i stedet være interesseret i at få en erfaren usability-specialist til at lave en times identifikation af dit websites problemer, med grundlag i rigtigt mange test og års erfaring som både underviser, tester, specialist og interaktionsdesigner, så skriver du bare en mail til mig ;-)

Disclaimer: Jeg er blevet gjort opmærksom på, at det ser lidt "underligt" ud at jeg kritiserer en service og så afslutter med reklamere for mig selv som produkt. Lad mig starte med at sige at det egentligt var ment som drillerier/provokation. Jeg er ikke en modydelse til brugertest.nu, jeg er ikke usabilitykonsulent, jeg lever ikke af at lave ekspertvurderinger og tage kunder fra brugertest.nu.

Jeg har nogle meninger om brugertest.nu som går meget på metoden, på hvad brugertest.nu "lover" sine kunder og på værdien af produktet. Hvad jeg selv går og roder med at projekter og hvad jeg ellers tjener penge på, er irrelevant i den sammenhæng og bør ikke (eller kan ikke med fordel) læses ind i den kontekst.

Jeg er også blevet beskyldt (indirekte) for at bruge grimme metoder, fordi jeg har kontaktet brugertest.nu's kunder og spurgt om jeg må se deres testvideoer. Det måtte jeg af ubegribelige årsager ikke. Det er så faldet brugertest.nu lidt for brystet. Jeg synes nu det er reelt nok, det er jo ikke statshemmeligheder, men blot almindelige brugere der fortæller om deres oplevelse på sitet – jeg kunne jo bare spørge min mor…

Kunderne sladrede så til brugertest.nu – og brugertest inviterede i stedet til at jeg prøvede produktet selv (sådan næsten gratis). Det vil jeg så blogge om i nærmeste fremtid. Men lad mig sige det således: Jeg blev ikke skuffet :-)

/Ole