www.technologieland-hessen.de

News

In unserer Nachrichtenrubrik informieren wir über aktuelle Projekte, Trends, Veröffentlichungen, Fördermöglichkeiten und weitere interessante Neuigkeiten aus unseren Kompetenzfeldern und dem Technologieland Hessen. Sie können die Nachrichten nach Kompetenzfeldern filtern und kostenfrei monatlich über unseren E-Newsletter beziehen.

02.10.2020

Whitepaper „Ethik und künstliche Intelligenz: Was können Normen und Standards leisten?“ veröffentlicht

Thomas Jarzombek, Digitalbeauftragter des BMWi „Mit Normen und Standards können wir KI-Systeme nachvollziehbar und sicher machen.“

Wie können technische Standards ethisch wertvolles Verhalten einer autonomen Maschine sicherstellen, beispielsweise eines autonomen Fahrzeugs, das von einer KI gesteuert wird? Dieser Kernfrage ging das vom Bundesministerium für Wirtschaft und Energie (BMWi) geförderte Projekt „Ethikaspekte in der Normung und Standardisierung für Künstliche Intelligenz in autonomen Maschinen und Fahrzeugen“ nach. Die Ergebnisse sind nun in einem Weißbuch veröffenticht.

Thomas Jarzombek, Beauftragter des BMWi für Digitale Wirtschaft und Start-ups: „Normen und Standards können bei der Entwicklung und dem Einsatz von Künstlicher Intelligenz eine zentrale Rolle spielen. KI-Systeme müssen über ihren gesamten Lebenszyklus intern und extern überprüfbar sein, insbesondere in sicherheitskritischen Bereichen. Normen und Standards können einen nachvollziehbaren und sicheren Einsatz solcher Systeme für Verbraucher, Anwender und Hersteller gewährleisten. Deshalb fördern wir die entsprechenden Initiativen.“

Die Ergebnisse des Projekts wurden vom Deutschen Institut für Normung e.V. (DIN) und der vom Verband der Elektrotechnik Elektronik und Informationstechnik e.V. (VDE) getragenen Deutschen Kommission für Elektrotechnik Elektronik und Informationstechnik (DKE) im Whitepaper „Ethik und künstliche Intelligenz: Was können Normen und Standards leisten?“ veröffentlicht.

Ziel des Projektes war es, den aktuellen Stand der Normung und Standardisierung im interdisziplinären Themenfeld KI und Ethik darzustellen sowie mögliche zukünftige Handlungsfelder der Normung und Standardisierung aufzuzeigen. Gemeinsam mit insgesamt 77 Expertinnen und Experten aus Wirtschaft, Wissenschaft und Forschung, öffentlicher Hand und Zivilgesellschaft wurden in Workshops die Inhalte des Dokuments erarbeitet.


Im Whitepaper werden acht Handlungsempfehlungen an Normungsgremien und interessierte Fachkreise vorgestellt. Unter anderem wird empfohlen, dass sich die entsprechenden Normungsgremien in ihren Themenbereichen mit dem Aufstellen von konkreten Prüfkriterien befassen sollen, mit denen eine KI auf die Achtung der Autonomie des Menschen überprüft werden kann. Weitere Prüfkriterien fordert das Projektteam zum Beispiel in Bezug auf die Erklärbarkeit, Rückverfolgbarkeit, Überprüfbarkeit, Sicherheit und den Datenschutz. KI-Systeme sollten vor externem Zugriff gesichert sein und nicht zur Gefahr für ihre Umwelt werden. Bei KI-Systemen mit hohem oder eheblichem Gefährdungspotential wird eine Risikoanalyse empfohlen, die beide Aspekte prüft, um Schäden vom Einzelnen und/oder der Gesellschaft abzuwenden. Für den Bereich des Datenschutzes wird aufgezeigt, dass Normen und Standards gesetzliche Vorgaben unterstützen und präzisieren können.

Die Ergebnisse des Whitepapers werden in die Normungsroadmap KI einfließen, die als Teil der nationalen KI-Strategie der Bundesregierung auf dem Digitalgipfel der Bundesregierung am 30. November 2020 vorgestellt wird.

Erhältlich ist das Whitepaper unter www.din.de und www.dke.de. Mehr Informationen zum Nutzen von Normen und Standards im Bereich KI finden sich unter www.din.de/go/ki und www.dke.de/de/arbeitsfelder/core-safety/kuenstliche-intelligenz.

Weitersagen

Hessen Trade & Invest GmbH
Technologieland Hessen

Konradinerallee 9
65189 Wiesbaden
Tel +49 611 95017-8672
info@technologieland-hessen.de
Logo Hessen Trade & Invest