Een paar tests zijn beroemd geworden omdat een kleine wijziging veel geld opleverde, of juist kostte. Bij elk voorbeeld staat de bron waarin het bedrijf of een betrokkene het zelf beschreef.
+12%
Een kleine aanpassing aan de advertentiekoppen in Bing verhoogde de omzet in een A/B-test met 12%, op jaarbasis ruim $100 miljoen in alleen de VS, het beste omzetidee in de geschiedenis van Bing.
Bron: Harvard Business Review, 2017
10% tot 25%
Tientallen kleine, via experimenten geteste wijzigingen per maand verhoogden de omzet per zoekopdracht bij Bing met 10% tot 25% per jaar (VS).
Bron: Harvard Business Review, 2017
$10 mln+
Nauwelijks zichtbaar donkerdere linkkleuren in de zoekresultaten van Bing, getest bij 32 miljoen gebruikers, zouden de omzet met meer dan $10 miljoen per jaar verhogen (VS).
Bron: Harvard Business Review, 2017
1% = $10 mln
Bij Bing staat een omzetverbetering van 1% gelijk aan $10 miljoen per jaar in de VS, terwijl veel ideeën de kernmetrics met ongeveer 1% bewegen, aldus Kohavi e.a.
Bron: Kohavi e.a., KDD, 2013
-70%
Toen Amazon het spel Air Patriots per ongeluk ongeveer 10% moeilijker maakte, daalde de retentie na zeven dagen met 70% en de omzet met 30% (VS).
Bron: Harvard Business Review, 2020
+20%
Na een test met vier moeilijkheidsniveaus lanceerde Amazon de makkelijkste variant, waarna gebruikers 20% langer speelden en de omzet met 20% steeg (VS).
Bron: Harvard Business Review, 2020
+40,6%
In de verkiezingscampagne van Obama in 2008 verhoogde de winnende variant van de aanmeldpagina het aanmeldpercentage van 8,26% naar 11,6%, een stijging van 40,6% (VS).
Bron: Dan Siroker, Optimizely-blog, 2010
$60 mln
Volgens Dan Siroker leverden de 2.880.000 extra e-mailadressen uit die test de Obama-campagne naar schatting $60 miljoen extra donaties op (VS).
Bron: Dan Siroker, Optimizely-blog, 2010
+18,6%
In dezelfde Obama-test leverde de knoptekst 'Learn More' 18,6% meer aanmeldingen per bezoeker op dan de standaardtekst 'Sign Up' (VS).
Bron: Wired, 2012
-30,3%
Een video van Obama, waarvan het team vooraf dacht dat die zou winnen, presteerde 30,3% slechter dan zelfs de oorspronkelijke afbeelding (VS).
Bron: Wired, 2012
$75 mln
Volgens Wired kwamen naar schatting 4 miljoen van de 13 miljoen e-mailadressen en zo'n $75 miljoen aan opgehaald geld van de Obama-campagne voort uit A/B-tests (VS).
Bron: Wired, 2012
$200 mln
Het testen van een andere tint blauw voor advertentielinks in Gmail en Google Search leverde Google volgens een Google-directeur $200 miljoen extra omzet per jaar op (wereldwijd).
Bron: The Guardian, 2014
41 tinten
Oud-ontwerper Douglas Bowman schreef in 2009 bij zijn vertrek dat een Google-team 41 tinten blauw testte om te zien welke het best presteerde (VS).
Bron: Douglas Bowman, Stopdesign, 2009
Het Obama-voorbeeld laat zien waarom testen werkt: het team verwachtte dat de video zou winnen, maar die presteerde juist slechter. De bedragen bij Google en Obama zijn schattingen van betrokkenen, geen gecontroleerde jaarcijfers.