SafeHelper: Utveckling av LLM-drivna multimodala system för människocentrerat beslutsfattande i säkerhetskritiska sammanhang
Forskningsprojekt, 2024
– 2029
The objective of this project is to create SafeHelper, a framework for designing and building LLM-based systems tailored for human-centric, safety-critical applications. SafeHelper aims to offer a structured approach to both the design and evaluation of these systems. Specifically, the SafeHelper framework includes three integral LLM components: SafeHelper.Interpreter, SafeHelper.Analyst, and SafeHelper.Guard, each dedicated to a unique function within the system to ensure reliable analysis, interpretation, and risk assessment.
Deltagare
Yinan Yu (kontakt)
Chalmers, Data- och informationsteknik, Funktionell programmering
Robert Feldt
Chalmers, Data- och informationsteknik, Software Engineering
Samarbetspartners
Sahlgrenska universitetssjukhuset
Gothenburg, Sweden
Finansiering
Wallenberg AI, Autonomous Systems and Software Program
Finansierar Chalmers deltagande under 2024–2029
Relaterade styrkeområden och infrastruktur
Informations- och kommunikationsteknik
Styrkeområden
Hälsa och teknik
Styrkeområden