Anwendungen auf Basis von Künstlicher Intelligenz (KI) erbringen zunehmend erstaunliche Leistungen. Getragen von der Verfügbarkeit von preisgünstiger aber leistungsfähiger Hardware (z.B. GPUs) und der Verfügbarkeit von Software-Werkzeugen (z.B. Tensorflow) hat sich das Gebiet der Neuronalen Netze stark entwickelt. Damit sind Applikationen entstanden, die in Teilbereichen die Leistungsfähigkeit des Menschen übertreffen.
Dabei ist KI - insbesondere in Form der Neuronalen Netze (NN) - als eine neue Art des Engineerings zu verstehen. Damit handelt es sich aber nicht um mystische Dinge, die in naher Zukunft streben, die Weltherrschaft zu übernehmen. Vielmehr entsteht mit KI eine Art von Implementierung oder Automation, aber eben auf einem anderen technischen Weg als in der klassischen Entwicklung. Diese neue Entwicklungsmethodik hat Vor- und Nachteile. Am Beispiel von Neuronalen Netzen:
+ NN können implizite Anforderungen implementieren
+ NN können die Zeit bis zum ersten, funktionieren Prototyp erheblich verkürzen
- NN sind wissenschaftlich (und technisch) noch nicht 100%ig verstanden
- NN widersetzen sich klassischen Verifikations-Ansätzen
Tatsächlich ist insbesondere der letzte Punkt ein Grund, weshalb es aktuell unmöglich scheint, KI im Allgemeinen und NNs im Speziellen für sicherheitsrelevante Aufgaben einzusetzen oder in einer Anwendung, in der überhaupt irgendwelche Garantien bzgl. der Funktionsweise zu geben sind (z.B. auch bzgl. Security, Usability, Ethik).
Um die Themen Künstliche Intelligenz und Verifikation (bis hin zur Zulassung) gibt es viele technische Projekte, die hier Grundlagen und Lösungen liefern sollen (z.B. KI-Absicherung). Allein, es fehlt an der Verbindlichkeit (bis hin zur Rechtssicherheit) und dem Vertrauen in der Öffentlichkeit. Genau diese Lücke kann durch die Standardisierung geschlossen werden. Hier setzte ein Arbeitskreis des DKE (Deutsche Kommission Elektrotechnik Elektronik Informationstechnik, www.dke.de) an, der DKE AR 801.0.8. Unter dem mit-Vorsitz des Forschungsinstituts fortiss (www.fortiss.org) und der cogitron entstand die wegweisende Anwendungsregel VDE-AR-E 2842-61 "Entwurf und Vertrauenswürdigkeit von autonom/kognitiven Systemen".
