Inhaltsverzeichnis

Executive Summary

Der EU AI Act klassifiziert KI-Systeme basierend auf ihrem potenziellen Risiko. emerse fällt in die Kategorie „Begrenztes Risiko“, was bedeutet, dass nur minimale regulatorische Anforderungen gelten, während gleichzeitig Transparenz und Datenschutz gewährleistet werden müssen.

1. Klassifizierungskriterien für Hochrisiko-KI-Systeme:

Im Produkt von emerse, gemäß Artikel 6(2) des AI Acts, beziehen sich die Anforderungen an Hochrisiko-KI-Systeme auf Anhang III des Gesetzes, in dem ein KI-System unter den folgenden Kategorien als Hochrisiko-KI-System gilt:

Biometrie, soweit deren Nutzung nach geltendem Unionsrecht oder nationalem Recht zulässig ist
Kritische Infrastrukturen: KI-Systeme, die als sicherheitsrelevante Komponenten im Management und Betrieb kritischer digitaler Infrastrukturen, des Straßenverkehrs oder der Versorgung mit Wasser, Gas, Heizung oder Strom eingesetzt werden sollen.
Allgemeine und berufliche Bildung
Beschäftigung, Personalmanagement und Zugang zur selbstständigen Erwerbstätigkeit
Zugang zu und Nutzung von wesentlichen privaten und öffentlichen Dienstleistungen und Leistungen
Strafverfolgung, soweit deren Nutzung nach geltendem Unionsrecht oder nationalem Recht zulässig ist
Migration, Asyl und Grenzschutzmanagement, soweit deren Nutzung nach geltendem Unionsrecht oder nationalem Recht zulässig ist
Rechtspflege und demokratische Prozesse </aside>

Im Rahmen des Produkts von emerse wird die Hochrisikoeinstufung in der folgenden Tabelle bewertet:

Hochrisiko-Kriterium	Anwendungsbereich der emerse-Produkte	Bewertung
Biometrie	Das Produkt kann keine biometrischen Daten verarbeiten. emerse analysiert Stimmmerkmale (Ton, Lautstärke), um Kommunikationsfähigkeiten zu bewerten, führt jedoch keine biometrische Identifikation oder Profilbildung durch.	Nicht zutreffend
Kritische Infrastrukturen	Das Produkt fällt nicht unter die gesetzlich definierte kritische Infrastruktur.	Nicht zutreffend
Allgemeine und berufliche Bildung	Könnte unter den Geltungsbereich des Hochrisiko-Kriteriums fallen, siehe detaillierte Bewertung unten.	Weitere Bewertung erforderlich, siehe unten
Beschäftigung, Personalmanagement und Zugang zur selbstständigen Erwerbstätigkeit	Könnte unter den Geltungsbereich des Hochrisiko-Kriteriums fallen, siehe detaillierte Bewertung unten.	Weitere Bewertung erforderlich, siehe unten
Zugang zu und Nutzung von wesentlichen privaten und öffentlichen Dienstleistungen und Leistungen	Das Produkt kann keinen Zugang zu Dienstleistungen bewerten.	Nicht zutreffend
Strafverfolgung	Das Produkt wird nicht in der Strafverfolgung eingesetzt.	Nicht zutreffend
Migration, Asyl und Grenzschutzmanagement	Das Produkt wird nicht im Bereich Migration, Asyl oder Grenzschutz eingesetzt.	Nicht zutreffend
Rechtspflege und demokratische Prozesse	Das Produkt wird nicht in der Rechtspflege oder in demokratischen Prozessen eingesetzt.	Nicht zutreffend

Im Rahmen des Produkts von emerse sollten die Kriterien „Allgemeine und berufliche Bildung“ sowie „Beschäftigung, Personalmanagement und Zugang zur selbstständigen Erwerbstätigkeit“ weiter geprüft werden.

1.1. Überlegungen zu allgemeiner und beruflicher Bildung

Die Kriterien werden gemäß Anhang III wie folgt weiter ausgeführt:

(a) KI-Systeme, die dazu bestimmt sind, den Zugang oder die Zulassung zu allgemeinen und beruflichen Bildungseinrichtungen aller Ebenen zu bestimmen oder Personen diesen Einrichtungen zuzuweisen;

(b) KI-Systeme, die dazu bestimmt sind, Lernergebnisse zu bewerten, insbesondere wenn diese Ergebnisse zur Steuerung des Lernprozesses von Personen in allgemeinen und beruflichen Bildungseinrichtungen aller Ebenen verwendet werden;

(c) KI-Systeme, die dazu bestimmt sind, das geeignete Bildungsniveau zu bewerten, das eine Person erhalten wird oder auf das sie Zugang haben wird, im Rahmen oder Kontext von allgemeinen und beruflichen Bildungseinrichtungen aller Ebenen;

(d) KI-Systeme, die dazu bestimmt sind, verbotenes Verhalten von Lernenden während Prüfungen zu überwachen oder zu erkennen, im Rahmen oder Kontext von allgemeinen und beruflichen Bildungseinrichtungen aller Ebenen.

</aside>

Im Kontext des emerse-Produkts werden keine Bewertungen, Überwachungen, Evaluationen oder Entscheidungen in irgendeiner KI-gestützten Form vorgenommen. Daher fällt das Produkt nicht unter die Einstufung als Hochrisiko-KI-System.

1.2. Überlegungen zu Beschäftigung, Personalmanagement und Zugang zur selbstständigen Erwerbstätigkeit

Die Kriterien werden gemäß Anhang III wie folgt weiter ausgeführt:

(a) KI-Systeme, die dazu bestimmt sind, für die Rekrutierung oder Auswahl von Personen verwendet zu werden, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu analysieren und zu filtern sowie Kandidaten zu bewerten;

(b) KI-Systeme, die dazu bestimmt sind, Entscheidungen zu treffen, die sich auf die Bedingungen von arbeitsbezogenen Beziehungen auswirken, etwa Beförderungen oder Kündigungen, zur Aufgabenzuweisung basierend auf individuellem Verhalten oder persönlichen Merkmalen, oder zur Überwachung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beziehungen.

</aside>

Das Produkt von emerse nimmt keine qualitative Bewertung individueller Nutzerleistungen vor – wie z. B. Skill-Analysen, stimmbezogene Auswertungen oder personalisierte Verbesserungsvorschläge – gegenüber Dritten. Nur derdie Nutzerin selbst erhält Einblick in diese Informationen. Administratoren einer Organisation erhalten ausschließlich aggregierte Nutzungsdaten, wie z. B. die Anzahl der absolvierten Trainings in einem bestimmten Zeitraum.