Varje dag får vi rekommendationer på innehåll genom algoritmer. Det är dock inte alltid klart för oss användare att det till exempel spelar roll att gilla eller hoppa över en låt. Maliheh Ghajargar, forskare vid Malmö universitet, tror att systemet kan bli mer förståeligt med bättre användardesign (UX).

– Nuförtiden är problemet att AI och maskininlärande algoritmer genomtränger och genomsyrar vårt vardagliga liv på ett sätt som gör att vi ofta glömmer att de är där. Det är så klart tanken i designen men det är också ett problem, säger Maliheh Ghajargar.

I konferensbidraget ”Unboxing the Algorithm: Designing an Understandable Algorithmic Experience in Music Recommender Systems”, fokuserade Maliheh Ghajargar, och mastersstudenten Anna Marie Schröder, på begripbarhet som en designprincip i rekommendationssystem för musik.

När vi använder appar, skrollar genom sociala medier eller strömmar videor eller musik finns där algoritmer som systematiskt beslutar vilket innehåll tjänsten vi använder kommer att föreslå.

Att förstå hur våra interaktioner med AI och algoritmer formar rekommendationerna vi får, skulle kunna leda till en mer positiv och transparent syn på teknologi. Det kan också leda till mer egenmakt hos användare, enligt Maliheh Ghajargar:

– Även om en viss oförutsägbarhet uppskattas, för att till exempel upptäcka ny och annorlunda musik, har transparens ett värde som också är relevant när AI exempelvis används för rekrytering.

Vad hon eftersträvar med sin forskning är att göra människor medvetna om hur data de förser algoritmer med påverkar vilka rekommendationer de får.

– Under forskningen fann vi att användare sällan vet att saker som att gilla eller hoppa över en låt faktiskt spelar roll. Sådana handlingar är viktiga när algoritmer formas och i vilka rekommendationer som föreslås, säger hon.

För att göra användare mer medvetna om vad algoritmerna gör arbetar Maliheh Ghajargar med tre centrala egenskaper:

  • ”Explainable AI”, hur fungerar AI.
  • ”Graspability”, det bör vara enkelt och intuitivt att förklara hur det fungerar.
  • Transparens, sätten som AI arbetar på bör göras tydligare.

Att förstå relationer mellan människor och AI har andra implikationer än att skapa goda upplevelser kring olika typer av innehåll. Särskilt som AI kan vara problematisk på sociala medier i relation till information och partiskhet.

– Eftersom våra beteenden formar AI och AI kan forma våra beteenden, är det nog en god idé att skapa ett reflekterande, medvetet och symbiotiskt förhållande. Det skulle kunna hjälpa oss att förstå hur AI och vi människor tänker, säger Maliheh Ghajargar.

Text: Max Pahmp

Läs mer om forskningen

Text: Kommunikationsavdelningen