Vertrauenswürdige KI

Die Digitalisierung durchdringt unsere Lebensbereiche. In der Arbeitswelt, im Strassenverkehr, vom Gesundheitssektor bis zur Kommunikation ist sie schon heute kaum mehr wegzudenken. Wie aber kann man sicherstellen, dass insbesondere der Einfluss und der Einsatz Künstlicher Intelligenz (KI) technisch, ethisch und rechtlich vertretbar sind?

Das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, das Bundesamt für Sicherheit in der Informationstechnik (BSI) und Wissenschaftler der Universitäten Bonn und Köln erarbeiten dazu einen Prüfkatalog zur Zertifizierung von KI-Anwendungen. Das interdisziplinäre Team entwickelte die Handlungsfelder aus philosophischer, ethischer, rechtlicher und technologischer Sicht.

Zweifellos verändert KI unsere Gesellschaft, die Wirtschaft und unseren Alltag grundlegend. Dabei eröffnen sich Chancen, aber auch Risiken für unser Zusammenleben. In Prognosen geht man davon aus, dass der Einsatz von KI-Anwendungen in den kommenden Jahren exponentiell wachsen wird. Beispielsweise sagen Experten von McKinsey bis 2030 global bis zu 13 Milliarden Dollar zusätzliche Wertsteigerung durch Künstliche Intelligenz voraus.

Solche Voraussagen machen deutlich, dass KI-Anwendungen sorgfältig gestaltet werden müssen, um sie auch im Einklang mit unseren gesellschaftlichen Werten und Vorstellungen nutzen zu können. Ein interdisziplinäres Expertenteam aus der Kompetenzplattform KI.NRW entwickelt nun eine Zertifizierung für KI-Anwendungen. Das Ziel dieses Zertifikats ist die Bescheinigung eines Qualitätsstandards für Technologieanbieter, um KI-Anwendungen überprüfbar, technisch zuverlässig und ethisch akzeptabel zu gestalten.

«Mit der Zertifizierung wollen wir dazu beitragen, Qualitätsstandards für eine 'KI Made in Europe' zu setzen, den verantwortungsvollen Umgang mit der Technologie zu sichern und einen fairen Wettbewerb verschiedener Anbieter zu fördern», sagt Prof. Dr. Stefan Wrobel, Institutsleiter des Fraunhofer IAIS und Professor für Informatik an der Universität Bonn.


Der Mensch ist zentral

Künstliche Intelligenz hat das Potenzial, unsere Fähigkeiten zu erweitern und damit zu neuen Erkenntnissen zu gelangen. Es stellt uns jedoch vor neue Herausforderungen, wenn wir Entscheidungen aufgrund voll- oder teilautomatisierten, selbstlernenden Systemen fällen. Nicht nur technische Voraussetzungen müssen gegeben sein, sondern vor allem grundsätzliche philosophisch-ethische Aspekte. Ebenso müssen rechtliche Belange geklärt werden. Damit gewährleistet werden kann, dass der Mensch stets im Mittelpunkt dieser Entwicklung steht, ist der enge Austausch zwischen Informatik, Philosophie und Rechtswissenschaften unerlässlich.

Experten erörtern ihre interdisziplinäre Herangehensweise an eine KI-Zertifizierung in einem Whitepaper. Es geht einerseits um ethischen Grundsätze wie gutes Verhalten und moralische Überzeugungen.

«Niemand darf in seinen Rechten, seiner Autonomie oder Freiheit beschnitten werden», betont Prof. Dr. Markus Gabriel, Professor für Philosophie an der Universität Bonn.

Auch juristische Fragestellungen werden thematisiert:

«Es muss zum Beispiel geklärt werden, welche Anforderungen an KI-Anwendungen sich aus den Grundwerten und Prinzipien eines freiheitlich geordneten Rechtsstaates ergeben», betont Prof. Dr. Dr. Frauke Rostalski, Professorin für Rechtswissenschaft an der Universität zu Köln.

Handlungsfelder für den vertrauensvollen Einsatz von KI

Dieser interdisziplinäre Ansatz ergibt mehrere Handlungsfelder, die im Whitepaper beleuchtet werden. Für die Zertifizierung sollen Fairness, Transparenz, Autonomie und Kontrolle, Datenschutz sowie Sicherheit und Verlässlichkeit gewährleistet sein. In diesem Zertifizierungsprojekt von KI.NRW werden auch Empfehlungen der EU berücksichtigt. Die Basis dazu bilden Fragen wie:

  • Werden in der KI-Anwendung gesellschaftliche Werte und Gesetze berücksichtigt?
  • Kann sie selbstbestimmt und effektiv genutzt werden?
  • Ist die Fairness für alle Betroffenen gewahrt?
  • Können Funktionsweise und Entscheidungen nachvollzogen werden?
  • Wie ist die Funktionsweise der KI? Ist die Sicherheit bezüglich Angriffen, Unfällen oder Fehlern gewährleistet?
  • Werden die Privatsphäre und sonstige sensible Informationen gewahrt?

Leitplanken schon fürs Design

Schon im frühen Stadium des Designs von KI-Technologien muss gemäss den Autoren klar sein, dass die Anwendung ethisch und rechtlich zulässig ist. Die Leitplanken für die Ausgestaltung sollen schon früh formuliert werden. Alle Beteiligten müssen dieselben Möglichkeiten einer moralischen Entscheidung haben, die sie auch ohne KI-Einsatz hätten. Rechte und Freiheit müssen gewährleistet bleiben.

Ausserdem spielt die Transparenz eine wichtige Rolle. Die Experten betonen, dass Informationen zum richtigen Umgang mit der KI-Anwendung verfügbar sein müssten. Nutzern müssen Interpretierbarkeit, Nachverfolgbarkeit und Reproduzierbarkeit von Ergebnissen der KI möglich sein. Ein ausgewogenes Verhältnis zwischen Interessen wie Transparenz und Geheimhaltung von Geschäftsgeheimnissen müsste angestrebt werden.

Bis zum Beginn 2020 wollen die Autoren eine erste Version des Prüfkatalogs veröffentlichen und erste KI-Anwendungen zertifizieren. Für dieses Projekt kooperieren die Projektverantwortlichen mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI). Künstliche Intelligenz wird sich ständig weiterentwickeln, weshalb der Prüfkatalog auch ein «lebendes Dokument» sein wird, das ständig aktualisiert werden wird.

 

Vertrauenswürdiger Einsatz von künstlicher Intelligenz, Fraunhofer IAIS (Whitepaper, PDF)

Zertifizierung zur Sicherstellung einer vertrauenswürdigen KI (Projektinformationen Fraunhofer IAIS, Web)

Maschinen mit Gehirn, Predictive Maintenance mit neuronalen Netzwerken (Artikel, bulletin.ch)

Künstliche Intelligenz im Dienste der Energie, Modulares System zur Digitalisierung der Energie-Wertschöpfungskette (Artikel, bulletin.ch)

Digitalisierung in der Gebäudetechnik (Blog)

Die Macht der Intelligenz (Blog)

IT-Trends 2019: Internationale Studie über intelligente Technologien (Blog)

 

Veranstaltungshinweise

Quelle: Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
Foto: Pixabay

 

Kommentare zum Beitrag

Noch keine Kommentare zu diesem Beitrag vorhanden.

Einen Kommentar schreiben


Weitere Beiträge