Jani Turunen, Solita

”Bristande kunskap och transparens kring AI kan stå e-handlare dyrt”

Den snabba tekniska utvecklingen sätter press på e-handlare att förnya sig. Många har insett behovet av att ”hoppa på AI-tåget”, men vissa har underskattat vad som krävs för att faktiskt köra det, skriver Jani Turunen på Solita.
Text: Jani Turunen
Annons:

Jani Turunen,

AI-chef, Solita

Precis som med nästan all ny teknik kräver artificiell intelligens, AI, att företagen har rätt kompetens på plats för att verktyget ska kunna användas effektivt.

Utan sådan expertis riskerar resultaten att utebli. I värsta fall kan det uppstå en rad problem som kan skada företagets varumärke och till och med leda till böter.

Ta som exempel ett uppmärksammat fall i Finland där en 30-årig man fick avslag på en låneansökan hos en långivare och överklagade.

Det visade sig att företagets AI i brist på tidigare betalningshistorik behandlat ansökan genom att ta hänsyn till faktorer som mannens bostadsort (landsbygd), kön (man), ålder (30-årsåldern) och modersmål (finska). I Finland är det, precis som i Sverige, olagligt att diskriminera någon på sådana grunder.

För att AI ska vara till hjälp – och inte sätta käppar i hjulet – behövs en strategi för att hantera den.

Mannen fick rätt. Långivaren förbjöds att fortsätta sin diskriminerande praxis (det vill säga att använda AI på det sätt den dittills gjort) och fick dessutom betala böter på 100 000 euro.

För att undvika liknande scenarion behöver e-handlare dels säkerställa att de har medarbetare på plats som förstår hur deras AI fungerar.

Dessutom behöver de inse vikten av transparens, både sett till själva AI-lösningen, men även i kommunikationen gentemot kunder. Här är tre viktiga åtgärder:

  1. Investera i AI som går att förklara
    Det finns olika typer av AI. En lösning kan vara transparent (beslut kan härledas och förklaras) eller ”opak” (besluten kan inte härledas eller förklaras). Varför skulle någon vilja använda en opak AI-lösning? Faktum är att AI-lösningar vars beslut inte kan förklaras tenderar att vara mer kraftfulla. Här bör e-handlare inte låta sig förföras, utan välja transparens för att undvika att din AI-lösning råkar ta olämpliga beslut. 
  2. Berätta alltid för dina kunder när du använder AI
    Transparens och öppenhet bör även appliceras på kommunikationen gentemot kunder. Berätta alltid för dina kunder när du använder AI. Som exempel visar en Sifo-undersökning att tre av fyra svenskar vill veta om ett företags chattfunktion sköts av en människa eller en robot. När vi interagerar med företag eller när vi påverkas av deras beslut vill vi helt enkelt veta om vi har att göra med en människa eller en maskin
  3. Var så transparent som möjligt kring varför du använder AI och vilken data som används
    För att förtjäna dina kunders förtroende behöver du förklara varför du använder AI och vilken kunddata den har tillgång till. Är ditt mål att spara tid och pengar samtidigt som du ger kunderna snabbare service? Säg det i så fall!

För att AI ska vara till hjälp – och inte sätta käppar i hjulet – behövs en strategi för att hantera den. Mänsklig kompetens och transparens måste stå högst upp på agendan.

Annons:
Annons:
Annons:

Analyser

Loading...