Trotz des enormen Potenzials von Künstlicher Intelligenz für neue Geschäftsideen und wirtschaftliches Wachstum bis hin zu Lösungen zum Wohle der Zivilgesellschaft sind mit dem Einsatz der Anwendungen auch Unsicherheiten und Risiken verbunden. Die Europäische Kommission plant – ähnlich wie bei der Datenschutzgrundverordnung (DSGVO) – eine Verordnung einzuführen, um KI-Systeme künftig zu regulieren. Dabei sei eine Konformitätsbewertung durch Anbieter vorgesehen, die eine KI-Zertifizierung unumgänglich machen werde.
Ein Eckpfeiler des Vertrauens in KI sei die Einhaltung von Standards und Vorschriften. Sie würden durch Konformitätsbewertungen nachgewiesen werden, die akkreditierte Stellen durchführen, erläuterte Martin Schaffer, Global Head of Cybersecurity Services des international agierenden Genfer Prüfkonzerns SGS. Es sollen Tools und Techniken entwickelt werden, um Bewertungen zu ermöglichen, die Bereiche wie etwa Cybersicherheit oder auch Ethik umfassen.
Cyberkriminalität stellt eine grosse Herausforderung bei der Bewertung von KI-Systemen dar: So könnte etwa ein autonomes Fahrzeug fatale Entscheidungen treffen, wenn Daten, die das im Fahrzeug eingesetzte KI-System verarbeitet, manipuliert werden.
