Artificiellt intelligenta agenter (AI-agenter) är datorprogram eller system som kan utföra självständiga handlingar som tolkas som intelligenta när de strävar mot ett visst mål. Ett kritiskt outforskat område för AI-agenter är deras oetiska och oönskade beteende. AI-agenter kan utnyttjas för att lura människor, de kan gruppera sig och släppas fria för att utföra brottslig verksamhet och detta kan vara svårt att hindra. Projektets centrala mål är att identifiera och förebygga risken för negativa effekter av AI-agenter. Projektet undersöker olika typer av illvillig AI, till exempel chattrobotar, tjänste- robotar och metaverse avatarer.

2024