Topics in the theory of xrisk and longtermism

Forskningsprojekt, 2022 – 2025

​Projektet handlar om existentiella risker (xrisk) för mänskligheten. Longtermism är idén att den viktigaste faktor som avgör värdet av våra beslut idag är vilka konsekvenser dessa får på mycket lång sikt. Ett av delprojekten handlar om hur man ska använda de resurser som finns till förfogande för longtermistiska ändamål: bör de läggas på konkreta åtgärder redan idag, eller är det bättre att spara (investera) dem för att använda vid någon framtida tidpunkt då de kan göra ännu mer nytta? Ett annat handlar om hur vi kan undvika en eventuell xrisk-katastrof till följd av ett otillräckligt genomtänkt AI-genombrott.