Att göra AI följeslagare ansvariga

Forskningsprojekt, 2022 – 2023

Det finns en framväxande trend att utveckla så kallade följeslagare i digitala, fysiska och blandade format för olika användargrupper inklusive, men inte begränsat till, ungdomar och äldre. Exempel inkluderar virtuella avatarer eller robotar som använder AI för att efterlikna mänskligt beteende för att uppskatta relationer och empati. Vissa av dessa produkter hävdar vissa fördelar för mental hälsa. Liksom vad som har upplevts med tidigare digitala trender som att använda mobilappar inom hälsa, har många av dessa produkter varken utvecklats baserat på ett mänskligt centrerat tillvägagångssätt eller ger effektbevis. Eftersom AI följeslagare fortfarande är i sin tidiga anpassningsfas är det dags att agera och ta itu med mänskligt centrerad design och evidensbaserad effektivitet i sin design, såväl som AI-specifika designprinciper kopplade till den senaste diskursen om ansvarsfull AI.

Omfattningen av det ettåriga projektet kommer att vara att förstå designkrav och utveckla ett koncept för en ansvarsfull och människocentrerad AI-kompis för att förbättra coping-förmågan. Huvudaktiviteterna under projektet omfattar multidisciplinära workshops, användarstudier, konceptutveckling och konceptutvärdering.