Stereotypt när AI föreställer sig 1936

Forskarna valde medvetet 1936 i Sverige och i Skandinavien – ett till synes icke spektakulärt år, men präglat av framväxande modernitet. I stället för att fokusera på dramatiska år som 1939 ville de undersöka hur AI hanterar det vardagliga. Går det att få syn på modernitetsförändringar genom att analysera stora mängder bilder, ljud och film med hjälp av AI?

Tränad på 5,8 miljarder bilder
De använde sig av AI-modellen Stable Diffusion, tränad på 5,8 miljarder nätbaserade bilder. En central fråga var: Om en AI-modell ska visa upp en bild av 1936 – vad är det för bilder som visas upp då?Genom enkla prompter (instruktion, fråga) som ”kvinnor som pratar i telefon 1936”, blev modellens begränsningar tydliga. Bilderna kunde se historiskt trovärdiga ut – svartvita fotografier med tidstypiska kläder – men innehöll uppenbara anakronismer som mobiltelefoner.

– Det visar att träningsdatan är snedvriden mot en mobilburen kultur och att en stor del av bilderna som finns inmatade är från senare decennier, säger Fredrik Mohammadi Norén, biträdande lektor i medie- och kommunikationsvetenskap vid Malmö universitet.

Homogent och stereotypt

Även när instruktionerna var öppna blev resultaten homogena och stereotypa. En prompt om cyklister i Skandinavien gav exempelvis nästan alltid norska fjäll i bakgrunden på bilder från Norge.
– Historierepresentationerna blir väldigt ospecifika och generella och inte särskilt nyanserade, säger Fredrik Mohammadi Norén.

När forskarna bad modellen skapa bilder av händelser som sannolikt aldrig ägt rum – som ett möte mellan Selma Lagerlöf, Knut Hamsun och Karen Blixen – genererades generiska bilder med suddiga ansikten. Modellen är konstruerad för att alltid producera ett resultat, även när underlag saknas.
– Modellen måste leverera. Man måste därför vara försiktig med hur man använder den här typen av historieframställande praktik, säger Fredrik Mohammadi Norén.

En passiv kvinna

Ett annat exempel gällde Karen Blixen på safari. Trots att det finns autentiska bilder där hon uppträder som en aktiv aktör, skapade modellen stereotypa motiv, till exempel av en passiv kvinna lutad mot en bil.
– Det finns riktiga bilder på Karen Blixen där hon skjutit ett lejon. Det är ganska långt ifrån de stereotypa bilderna av en passiv kvinna.

När modellen ombads visa representativa bilder för Sverige 1936 utan närmare specificering blev resultatet allmänna stads- och landskapsbilder.
– Modellen skapar en representation av året, men det är kanske inte så representativt, säger Fredrik Mohammadi Norén.

Behöver förstå hur verktygen fungerar

Studien visar att AI-genererade bilder som föreställer det förflutna är representationer formade av träningsdata och modellens algoritmer. Historien riskerar att bli förenklad, stereotyp och anakronistisk. Projektet gav inte någon ny bild av 1936 – snarare hur vår tids AI-system föreställer sig historien.

När allt fler använder AI för att visualisera det förflutna blir det avgörande att förstå hur verktygen fungerar, menar Fredrik Mohammadi Norén. En del historiker studerar hur vanliga människor använder historia i vardagen.
– Att göra så här är ett slags historiebruk. Det är också en form av digital minnespraktik där man vill föreställa sig olika händelser som aldrig ägt rum, säger Fredrik Mohammadi Norén.