PARIS – Bei einem kürzlich durchgeführten Sicherheitstest wurde ein auf generativer KI basierender Banken-Chatbot, der Kunden bei Kreditanträgen helfen soll, so manipuliert, dass er sensible Finanzdaten preisgab. Die Tester umgingen die Sicherheitsmechanismen und riefen eine umfassende Liste von Kreditbewilligungen ab, die auch die Namen der Kunden umfasste.
PARIS – Bei einem kürzlich durchgeführten Sicherheitstest wurde ein auf generativer KI basierender Banken-Chatbot, der Kunden bei Kreditanträgen helfen soll, so manipuliert, dass er sensible Finanzdaten preisgab. Die Tester umgingen die Sicherheitsmechanismen und riefen eine umfassende Liste von Kreditbewilligungen ab, die auch die Namen der Kunden umfasste.