Luk dine ører når folk blærer sig med forøgede konverteringsrater

august 2nd, 2011

Hvorfor?

Fordi du ikke kan bruge de tal til noget. De er totalt relative. Lad mig give et eksempel:

"Jeg har forøget konverteringsraten med 25%".

For det første ved vi ikke noget om, hvad de 25% dækker over. Hvis jeg havde 20 salg i går og 25 i dag, så er det forøget med 25%. Ikke nødvendigvis imponerende.
Og hvad er det der er forøget? Ofte tales der om konverteringer, men det behøver ikke være mersalg. Det kan også blot være mikro-konverteringer, som tilmeldinger til nyhedsbrev eller bare klik på en søgeknap.

Så forøgelsen i sig selv, om den er 10% eller 200% er ligegyldig. Og der er flere faktorer der spiller ind.

Du kan jo læse lidt på det her: Should I optimize for micro conversions?

Pointen, i denne artikel af Widerfunnel, er at du kan risikere at optimere "lokalt", men samtidigt skade dit salg eller anden makrokonvertering længere nede i salgstragten. Det er en rigtig bitch, fordi du (og jeg) typisk har langt færre konverteringer på makroniveau (altså fx salg) end på mikro (fx søgning på produkt). Nogle optimizere siger 100, andre 200 konverteringer, men er dine variationer i testen meget ensartede kan du risikere at skulle op på langt højere tal.

I eksemplet herunder (sammenklip fra Optimizely), kan du se at jeg har over 800 konverteringer på mig mål, men kun en statistisk sikkerhed på højest 87%. Optimizely selv arbejder som minimum med 95% sikkerhed, og det er jeg altså langt fra. For mange mindre websites er det at have 800 konverteringer rigtigt meget og tager lang tid at indhente. Men alligevel ser jeg ofte personer fra begejstret fortæller om deres forøgelse baseret på 50 konverteringer – det er altså ikke godt nok. Så tag ikke andres tal for gode varer. (Heller ikke mine ;) ).

Konverteringstal fra optimizely

På samme måde kan man heller ikke sammenligne konverteringsrater i almindelighed. Morten Vadskær fortæller for eksempel altid om hans 9% på kondomaten (der er hak i pladen Morten), men hos mig i rejsebranchen er 9% en umulighed. Lå vi på 9% var vi stenrige. Så de 9% er ligegyldige og siger ikke noget om Morten succes eller dygtighed – i hvert fald ikke i forhold til dit website (med mindre du sælger kondomer). Nu er kunderne måske heller ikke så bange for at brænde fingrene på en pakke kondomer til 25,95, men de er lidt mere forsigtige når det er årets opsparing på turen til Thailand til 40.000. Konkurrence er vist også lidt hårdere i rejsebranchen.

Så skal du lytte til folk der vil fortælle om deres resultater, så spørg hellere til deres metodik, til hvilke erfaringer de kan give videre som er relevante for dit website. Du skal gøre dig dine egne erfaringer. Få fundet dig en optimizer du kan lide at arbejde med, øve dig på at opsætte mål, tjekke om du mener værktøjet er troværdigt: Du kan fx prøve at lave en test med de samme 5 variationer og se hvor længe der skal gå, før alle variationerne scorer lige højt.

Jeg har været igennem et par forskellige værktøjer nu og har fundet min favorit, men selvom jeg kører test med omkring 20.000 besøg om måneden, så føler jeg mig stadig ikke sikker på værktøjet. Stoler jeg ikke på værktøjet, så kan det hele være ligemeget.

Gør det selv

Ligesom med brugertest har jeg det sådan, at du faktisk kan (læs: bør) gøre hele arbejdet selv – ikke købe dig til det udefra. Det er ikke svært at lære og det bliver bedst hvis det er en rolig, langsigtet proces, der følges med de øvrige aktiviteter du har omkring markedsføring og optimering. Det er i hvert fald mit råd. Men modsat brugertest (som jeg fx også har skrevet en bog om og som også er rimeligt let at lære), så er det ikke så let af finde dansksproget, introducerende, hjælpsom tekst om emnet.

Derfor må vi gøre vores egne erfaringer, lære det selv, forstå vores egne tal, relatere dem til vores forretning. Men jeg vil i hvert fald meget gerne dele erfaringer – kender du et godt forum til det?

/Ole

Mere optimizer

maj 23rd, 2011

Bare et par erfaringer mere. Det er lidt djævelsk med at tage beslutninger på baggrund af de tal der fremkommer i de her optimizere. Hvornår kan vi stole på tallene, i en sådan grad at vi vælger at handle på dem. I mit seneste indlæg beskrev jeg hvordan en "benchmark" af Visual Website Optimizer (VWO) kun gjorde mig mere bekymret. Denne gang vil jeg vise hvordan det opfører sig i Optimizely.

Lad mig starte med hvad de selv skriver:

I denne test har jeg over tusinde der har klikket. Er min konvertering på blot 10%, så har jeg de 100 konverteringer i hus og så har opnået "statistical significance", som det er vist på billedet. Men er det godt nok. Nej, det tror jeg ikke. Det er ikke helt forkert når de fra VWO support sagde at man skal op på 99% i significance, før resultaterne er til at stole på. Men det er ikke problemfrit. Hvis de variationer man afprøver ligner hinanden meget – og det gør de tit når det er små forskelle man tester på (uanset om det er rigtigt eller forkert) – så kan det tage meget lang tid at nå op på de 99%.

Herover ses fx en variation, der har fået 326 konverteringer. Den statistiske signifikans ligger på 73,7%. Som Optimizely også viser visuelt, så er det ikke værd at sætte alle sine penge på. Det tal kan med andre ord vise sig at være meget usikkert og ændrer sig sikkert med tiden. Der skal altså mere tid til, flere konverteringer. Samme tendens ser jeg på projekter med 5.000 besøg. Altså masser af trafik, men stor usikkerhed.

Min erfaring er – fordi jeg ikke er så matematisk velfunderet – at jo mindre ændring, jo mindre forskel mellem variationerne og det originale design, desto længere tid tager det opnå den signifikans.

Samme usikkerhed underbygger at jeg efterhånden er meget tålmodig, når det kommer til at vente på denne signifikans. For jeg kan se hvor meget resultaterne ændrer sig over tid, fra de første tal kommer ind og til at testen ligesom har fundet sig lege. Det er netop det man kan fornemme ud af den grafiske visning på Optimizely:

Kurven flader ligesom ud og forholdet mellem de forskellige version konsolideres.

Men det er stof til eftertanke. Nu er jeg heldig at arbejde et sted hvor jeg kan lave test der får 5.000 besøg på 3 dage. Men havde jeg 10 pr. dag, så er det en lang proces.

Det betyder også at man altid skal være meget forsigtigt med at være for skråsikker med sine resultater. Ligesom at jeg er blevet meget varsom med at læse artikler der siger "Vi skiftede lige en knap og fik 30% flere slag". Som regel er det fordi der er blevet rettet på noget lort eller noget der i forvejen ikke var gennemtænkt. Jeg har meget svært ved at skabe en 30% forbedring på siger der allerede har 80% i engagement (altså 80% besøg resulterede i et klik på siden). Samtidigt så er en stigning fra 5 til 10 salg, jo en forbedring på 100%. Så det lyder hurtigt flot, men det er jo altså MEGET relativt.

Så du kan i nogle tilfælde kopiere hvad andre har gjort, men oftest ikke. Det kan være at din ændring giver positiv forbedring i sig selv, men at du samtidigt fjerner et element som desværre æder selvsamme forbedring.

Så at lave gode tests og få gode resultater – det er i mine øjne stadig en stor udfordring.

/Ole

Erfaringer med ‘website optimizere’

maj 13th, 2011

Jeg får lyst til at dele lidt få erfaringer med at lave test med website optimizere.

Jeg har arbejdet med 3: Google Website Optimizer (GWO), Visual Website Optimizer (VWO) og Optimizely. Sidstnævnte er min nye favorit, grundlæggende fordi:

  1. Måden man oprettet tests er enkel, visuel, brugervenligt (ja!).
  2. Det er supernemt at lave mål (fx tælle konverteringer) – også flere af dem og sammensatte mål.
  3. Hele interfacet virker upåklageligt i firefox 4 (modsat fx VWO) – det er effektivt som værktøj.
  4. Den kode der skal indsættes på websitet er enkel (modsat fx GWO).

VWO og Optimizely har en fordel fremfor Google, nemlig at man kan opsætte testen "direkte på sitet". Jeg skal ikke gøre det i koden, men ser sitet foran mig og kan klikke mig frem til ændringer jeg vil lave. Desværre er VWO's editor ikke så velsmurt og da jeg arbejder ret iterativt (seeing-moving-seeing), så skal jeg åbne og lukke og redigere mange gange, hvilket er tungt tungt tungt i VWO. Det er endnu værre i GWO, fordi jeg kun kan bruge kode. Så jeg skal visuelt rette siden til i et andet værktøj og så kopiere koden over i GWO.

GWO koster gratis, hvilket er umuligt at slå, men er også mere "hakkebræt". Jeg skal indsætte mindst 3 scripts i Googles version – endda forskellige steder, mens jeg i de andre kun skal indsætte 1. Om Googles version er mere effektiv, rent performance-mæssigt, aner jeg ikke noget om.

I Optimizely bruges <div> tags som målepunkter. Det er genialt. Ud over at det virker rigtigt godt, så betyder det også at jeg fx kan markere en hel menu og gøre den til et mål. Det giver rigtig god mening, hvis jeg vil vurdere om brugeren klikker på menuen eller på indholdet. I de andre to værktøjer, oplever jeg det som at jeg skal vælge bestemte elementer eller links.

Optimizely har også lavet en anden genial feature. Nemlig at kan kan indsætte et javascript event et vilkårligt sted på websitet og så kalde det som mål fra sine tests. Jeg kan altså indsætte et event når min kunde putter noget i kurven og så kalde det event fra nye tests jeg opretter. Jeg skal ikke tilbage og rette i det events kode eller oprette event for hver test. En kodestump der kan kaldes alle steder fra. Det er virkeligt godt tænkt.

Det betyder at jeg fx kan køre mine tests rundt omkring på sitet, men altid forholde dem til vigtige overordnede konverteringer, typisk mine salg.

Optimizely viser ikke, som de andre to, resultaterne som grafer. Hvilket jeg egentligt er begyndt at sætte pris på. Graferne er ofte lidt misvisende. Kurverne krydser eller ligger meget tæt og sender nogle signaler der er svære at tyde – så jeg synes man læser sig blind på dem. Nogle gange tolker jeg på graferne, selvom der slet ikke er noget statistisk belæg for det. Optimizely har lavet et enkelt interface, der erfaringsmæssigt er bedre at arbejder med en VWO, selvom sidstnævnte virker mere funky i designet. Men da vi taler om et værktøj, så giver det mening for mig at søge en vis stringens og enkelhed, den kommer en til gode synes jeg.

Optimizely grænsefladen
Optimizelys grænseflade for resultater.

Optimizely er lidt dyrere. Det koster 79$ om måneden hvis man skal op på 20.000 besøg. Det er i den dyrere ende, men ok hvis man arbejder seriøst med et. Ellers har de en lille pakke til 19$ og der bør alle kunne være med. De har selvfølgelig også et 30-dages prøve tid. Er dit site lille og enkelt, så kig på GWO, men er du ikke til kode, så ville jeg kigge på Optimizely.

I VWO har jeg haft en del problemer med at tracke javascript baserede handlinger, fx en formular som blev aktivere af javascript. I Optimizely var det piece of cake. Det er meget sigende. Jeg kørte også en "benchmark" i VWO, hvor jeg testede tre identiske versioner og jeg fik nogle bekymrende store udsving på op til 10%, selvom jeg havde statistisk signifikans på 94% og havde flere hundrede konverteringer. VWO support siger at jeg skal vente på 99% sikkerhed, men jeg synes ikke helt det er det samme de kommunikerer i deres materiale. Så pointen lige her er: Hvis du skal stole på dine data, så skal du vente på et at er statistisk signifikante og er de ændringer små, så tager det lang tid før de viser sig. Det giver sig selv, brugerne reagerer mindre forskellige på små ændringer.

Jo, så har Optimizely også en anden blæret feature: Man kan se sine resultater live. Har man et site med rimelig god traffik, så er det fedt at sidde og følge udviklingen. Lidt nørdet, men sådan er gamet jo i vores branche. Og så kan man sende andre sine testlinks, også en god feature. Det virker gennemtænk.

Det var lidt hurtige noter fra arbejdsbordet. Jeg vil meget gerne i dialog med andre der arbejder med de her ting på et professionelt niveau. Det er svært at finde sparring og erfaringsudveksling lige her (og indenfor event tracking i GA).

Herunder er et reklamebanner til Optimizely. Det giver mig lidt rabat, hvis du tilmelder dig via det link. Til gengæld er jeg så mere lydhør overfor at hjælpe dig. Deal? ;-)

Optimizely badge