KI-Technologien entwickeln sich mit großer Geschwindigkeit und zunehmend werden sie auch in sicherheitsgerichtete Systeme integriert. Für solche Fälle verlangt die EU-Verordnung über künstliche Intelligenz (EU AI Act), die KI-Systeme so zu konzipieren, dass sie ein „angemessenes Genauigkeitsniveau“ erreichen.
Dieses Whitepaper skizziert einen Ansatz, wie sichergestellt werden kann, dass dieses angemessene (bzw. notwendige) Genauigkeitsniveau erreicht werden kann. Dabei wird zunächst beschrieben, wie mögliche Risiken bei der Integration von KI-Technologien in sicherheitsgerichtete Systeme identifiziert werden können. Daraufhin zeigen wir auf, wie die zur Minimierung dieser Risiken nötige Genauigkeit ermittelt und die tatsächlich erreichbare Genauigkeit bestimmt werden kann.
Mit der reinen Ermittlung der erreichbaren durchschnittlichen Genauigkeit ist es aber bei sicherheitsgerichteten Systemen nicht getan. Es muss darüber hinaus ermittelt werden, wie hoch die Konfidenz ist, dass diese Genauigkeit auch tatsächlich erreicht wird. Mit dem Whitepaper erhalten Sie eine Methode zur statistischen Ermittlung der Konfidenz – und somit zur Evaluierung der Eignung einer KI-Technologie für die Integration in ein sicherheitsgerichtetes System.
