Absicherung von KI-basierten Systemen

Das safeAI-Team der IABG entwickelt Lösungen für die Evaluierung und Prüfung von KI-basierten Systemen, um eine zukünftige Konformitätsbewertung zu ermöglichen.

Wir kombinieren die neuesten Erkenntnisse aus KI-Forschung, -Standardisierung und -Regulierung mit der langjährigen Erfahrung der IABG auf den Gebieten Test-, Analyse- und Zertifizierungsprozesse. Durch unsere aktive Beteiligung in nationalen, europäischen und internationalen AI-Standardisierungsgremien unterstützen wir die Entwicklung neuer Standards und Richtlinien, um den Nutzen von KI-Systemen zu steigern. Mit der Initiierung der DIN SPEC 92005, "KI-Quantifizierung von Unsicherheiten im maschinellen Lernen", leisten wir dazu einen grundlegenden Beitrag.

Kontaktieren Sie uns, um mehr über unsere Aktivitäten und Möglichkeiten der Zusammenarbeit zu erfahren. Wir freuen uns darauf, gemeinsam mit Ihnen einsatzfähige und vertrauenswürdige KI-Technologien zu entwickeln.

Dimensionen der Bewertung von KI-Sicherheit

Dataset
Performance
Uncertainty
Robustness
Explainability

safeAI in Action

KI Evaluations-Workflow

Die Bewertung der Sicherheit und Zuverlässigkeit eines KI-Modells und seines zugrundeliegenden Datensatzes benötigt eine Evaluierung hinsichtlich verschiedener Aspekte in einer dafür geeigneten Infrastruktur.
Software/Hardware Integration
Die Integration von KI-basierten Softwarekomponenten in ein cyber-physisches System erfordert umfangreiche Tests in virtuellen und realen Umgebungen, um zu erproben, dass dieses sicher eingesetzt werden kann.
Generierung Synthetischer Daten

In fotorealistischen Simulationsumgebungen können Datensätze für das Training und die Evaluierung von KI erzeugt, gelabelt und augmentiert werden.