Den 1 oktober visade The Guardians test att flera kända AI-tjänster kunde ta bort religiösa huvudbonader från bilder. I vissa fall skedde det efter en direkt fråga. I andra räckte en vag begäran om ett mer ”västerländskt” utseende.
Problemet är större än vilken knapp som användes. En sådan ändring kan förvanska en persons tro, identitet eller val – även om bilden inte blir naken eller våldsam. Att verktyget säger ja betyder därför inte att användningen är rimlig.
En enkel tumregel är att fråga: Har personen gett lov till just den här förändringen? Om svaret är nej eller oklart, låt originalet vara. Det gäller även frisyr, kropp, kläder, funktionshjälpmedel och andra delar av hur någon visar sig för världen.
Granskningen gjordes på både AI-skapade exempelbilder och en tidigare verklig händelse. Den visar inte att alla försök alltid ger samma svar, men den blottar luckor i skydden. Forskning om AI-genererat hat visar också hur billiga bildverktyg kan skala upp trakasserier.
AI är utmärkt för att prova ljus, färg och fantasi. Använd den gärna – men låt människan i bilden ha sista ordet.