Dark patterns are deceptive designs that influence users' decision making, by manipulating them into making decisions, which they otherwise wouldn’t make. Existing studies have explored dark patterns, including investigations into users’ emotional and cognitive responses when facing them. Our study, however, focuses on how artificial intelligence (AI) enhanced dark patterns, in e-commerce context, affect the users’ trust and autonomy. That is, users’ ability to make independent decisions without being controlled. With the growing use of generative AI tools such as ChatGPT, with the capability to quickly generate designs, it becomes crucial to investigate the technical capabilities and the ethical consequences. Through the study and comparison of users’ reactions to either the human-created or AI-enhanced dark patterns, we aim to explore how design influences user autonomy and manipulation of user behavior. Through a mixed research approach, we combined an experimental A/B test with quantitative eye tracking data and qualitative user feedback through an open-ended questionnaire. The purpose is to get a better insight of how the participants perceived the websites and if there was a difference regarding behavior and experience between the two groups. Our results showed that ultimately, AI-enhanced dark patterns are more efficient and also more insidious, challenging the fundamental principles of user autonomy, trust, and ethical design.

Mörka mönster är vilseledande designer som påverkar användarnas beslutsfattande genom att manipulera dem till att fatta beslut som de annars inte skulle fatta. Befintliga studier har utforskat mörka mönster, inklusive undersökt användares emotionella och kognitiva reaktioner när de möter dem. Vår studie fokuserar däremot på hur artificiell intelligens (AI) förstärkta mörka mönster, i e-handelssammanhang, påverkar användarnas förtroende och autonomi. Det vill säga användarnas förmåga att fatta självständiga beslut utan att bli kontrollerade. Med den ökande användningen av generativa AI-verktyg som ChatGPT, med förmågan att snabbt generera designer, blir det väsentligt att undersöka de tekniska möjligheterna och de etiska konsekvenserna. Genom att studera och jämföra användarnas reaktioner på antingen de mänskligt skapade eller AI-förstärkta mörka mönstren, strävar vi efter att utforska hur design påverkar användarnas autonomi och manipulation av användarbeteende. Genom en blandad forskningsmetod kombinerade vi ett experimentellt A/B-test med kvantitativ ögonspårningsdata och kvalitativ användarfeedback genom ett öppet frågeformulär. Syftet är att få en bättre inblick i hur deltagarna uppfattade webbplatserna och om det fanns en skillnad i beteende och upplevelse mellan de två grupperna. Våra resultat visade att AI-förstärkta mörka mönster i slutändan är mer effektiva och även mer lömska, vilket utmanar de grundläggande principerna om användarens autonomi, förtroende och etisk design.