Welche Auswirkungen hat das EU-Verbot emotionaler KI auf die Analyse der Kundenstimmung und die Empathieanalyse der Agenten?

Das EU-KI-Gesetz schränkt den Einsatz von KI-Systemen, die auf Emotionen schließen lassen, am Arbeitsplatz und in Bildungseinrichtungen ein, mit Ausnahmen nur für medizinische oder Sicherheitszwecke (Kapitel II, Art. 5(1)(f)). Diese Einschränkung ist auf Bedenken hinsichtlich der wissenschaftlichen Validität und Zuverlässigkeit sowie möglicher Machtungleichgewichte solcher KI-Systeme in diesen Kontexten zurückzuführen. Erwägungsgrund 44 des Gesetzes betont, dass KI-Systeme, die biometrische Daten verwenden, um auf Emotionen oder Absichten zu schließen, aufdringlich sein und zu diskriminierenden Ergebnissen führen können, was Risiken für die individuellen Rechte und Freiheiten mit sich bringt.

Die Sentimentanalyse von Genesys Cloud funktioniert anders und unterliegt nicht dieser Einschränkung. Es analysiert Kundeninteraktionen auf Grundlage der verwendeten Sprache und weist den Phrasen in den Interaktionstranskripten Stimmungswerte zu, ohne biometrische Daten zu verwenden. Weitere Informationen zu diesem Vorgang finden Sie unter Stimmungsanalyse verstehen .

In ähnlicher Weise wertet die Agent Empathy Analysis von Genesys Cloud die von Kundendienstmitarbeitern verwendete Sprache aus, um Empathie und emotionale Intelligenz während der Interaktionen einzuschätzen. Diese Analyse konzentriert sich auf den Dialog in den Transkripten und bietet Einblicke in die Qualität der Kundenbetreuung, ohne auf biometrische Daten zurückzugreifen. Weitere Informationen zur Agenten-Empathieanalyse finden Sie unter Die Empathieanalyse von Agenten verstehen .