VERIFAI - Evaluierung verantwortungsbewusster KI (Responsible AI)
 

Der rasche Fortschritt und die umfassende Integration von Systemen der künstlichen Intelligenz (KI) in verschiedenen Sektoren haben die Bedenken hinsichtlich ihrer Robustheit, Datenschutz, Fairness und Erklärbarkeit verstärkt. Darüber hinaus hält KI zunehmend Einzug in das tägliche Leben, was zu Diskussionen über die Rolle von KI-Technologien wie ChatGPT führt.

Die Gewährleistung verantwortungsbewusster KI-Praktiken (englisch Responsible AI) ist von entscheidender Bedeutung, um das Vertrauen in diese Systeme aufrechtzuerhalten und mögliche negative Folgen abzumildern. Als Reaktion auf die wachsende Nachfrage haben wir VERIFAI entwickelt, ein Software-Tool, das die Bewertung von KI-Systemen in mehreren Dimensionen ermöglicht, darunter Robustheit, Datenschutz, Fairness und Erklärbarkeit verschiedener Modelle anhand definierter Metriken.

Beispielsweise im Gesundheitswesen ist die Evaluierung von KI hinsichtlich dieser Metriken besonders wichtig, da KI als Ergänzung zur ärztlichen Untersuchung eine wertvolle Unterstützung bieten kann, jedoch genauso vertrauenswürdig und verantwortungsvoll sein sollte.

Vortrag von ...
Sabrina Göllner (Arbeitsgruppe „Data Science“, HAW Hamburg)