EU-Rahmen für KI

22. April 2021 11:07 Uhr  |  Dr. Ulrich Kampffmeyer  |  Permalink


Die Europäische Kommission hat ein Rahmenwerk für den Einsatz von Künstlicher Intelligenz vorgelegt: https://bit.ly/2RJXMJB. Die EU setzt dabei auf ein Regulierungsverfahren um eine vertrauenswürdige Künstliche Intelligenz zu ermöglichen und solche zu fördern. Dabei werden viele Entwicklungen der Artificial Intelligence, die international schon im Einsatz sind wie z.B. Gesichtserkennung im öffentlichen Raum, Social Profiling und andere, untersagt.

Das neue Regelwerk passt sehr gut in all die anderen Rahmenvorgaben, die aktuell von der EU veröffentlicht werden – Umweltschutz, Menschenrechte, Klimawandel, Ethik beim Maschinenlernen, Definition der Nachhaltigkeit in der Finanzindustrie, Förderung innovativer Technologien im Rahmen des Corona-Hilfspaketes und viele weitere Initiativen. Wie bei vielen anderen Vorhaben muss man aber sehen, in welcher Form letztlich Einstimmigkeit erreicht wird und was so von den Vorhaben übrig bleibt.

In Bezug auf die Künstliche Intelligenz werden mehrere Kategorien des Vertrauens auf Basis einer Risiko-Klassifikation gebildet (Auszüge der EU-Webseite zum Thema https://bit.ly/3naXvLr):

<Zitat>Das europäische Konzept für vertrauenswürdige KI

Die neuen Vorschriften werden auf einer zukunftssicheren Definition der KI beruhen und in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden. Sie folgen einem risikobasierten Ansatz:

Unannehmbares Risiko 

KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert), sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen.

Hohes Risiko

KI-Systeme, bei denen ein hohes Risiko besteht, wenn KI-Technik in folgenden Bereichen eingesetzt wird:

  • kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten;
  • Schul- oder Berufsausbildung , wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen);
  • Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie);
  • Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren);
  • wichtige private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern die Möglichkeit verwehrt wird, ein Darlehen zu erhalten);
  • Strafverfolgung , die in die Grundrechte der Menschen eingreifen könnte (z. B. Bewertung der Verlässlichkeit von Beweismitteln);
  • Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten);
  • Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte).

Für KI-Systeme mit hohem Risiko werden strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden dürfen:

  • Angemessene Risikobewertungs- und Risikominderungssysteme;
  • hohe Qualität der Datensätze , die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse so gering wie möglich zu halten;
  • Protokollierung der Vorgänge, um die Rückverfolgbarkeit von Ergebnissen zu ermöglichen ;
  • ausführliche Dokumentation mit allen erforderlichen Informationen über das System und seinen Zweck, damit die Behörden seine Konformität beurteilen können;
  • klare und angemessene Informationen für die Nutzer;
  • angemessene menschliche Aufsicht zur Minimierung der Risiken;
  • hohes Maß an RobustheitSicherheit und Genauigkeit.

Insbesondere alle Arten biometrischer Fernidentifizierungssysteme bergen ein hohes Risiko und unterliegen strengen Anforderungen. Ihre Echtzeit-Nutzung im öffentlichen Raum zu Strafverfolgungszwecken wird grundsätzlich verboten. Eng abgesteckte Ausnahmen werden strikt definiert und geregelt (z. B. wenn sie unbedingt erforderlich sind, um ein vermisstes Kind zu suchen, um eine konkrete und unmittelbare terroristische Bedrohung abzuwenden oder um Täter bzw. Verdächtige schwerer Straftaten zu erkennen, aufzuspüren, zu identifizieren oder zu verfolgen). Eine solche Nutzung bedarf der Genehmigung einer Justizbehörde oder einer anderen unabhängigen Stelle und unterliegt angemessenen Beschränkungen in Bezug auf die zeitliche und geografische Geltung und die abgefragten Datenbanken.

Geringes Risiko

d. h. KI-Systeme, für die besondere Transparenzverpflichtungen gelten: Beim Umgang mit KI-Systemen wie Chatbots sollte den Nutzern bewusst sein, dass sie es mit einer Maschine zu tun haben, damit sie in voller Kenntnis der Sachlage entscheiden können, ob sie die Anwendung weiter nutzen wollen oder nicht.

Minimales Risiko

 Der Legislativvorschlag soll die freie Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern ermöglichen. Die große Mehrheit der KI-Systeme fällt in diese Kategorie. Der Verordnungsentwurf soll hier nicht eingreifen, denn diese KI-Systeme stellen nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit dar.

Das europäische Konzept für Exzellenz in der KI

Bezüglich der KI-Governance schlägt die Kommission vor, dass die Anwendung der neuen Vorschriften von den zuständigen nationalen Marktüberwachungsbehörden beaufsichtigt werden soll. Ferner wird ein Europäischer Ausschuss für künstliche Intelligenz eingerichtet werden, der die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben soll. Darüber hinaus werden freiwillige Verhaltenskodizes für KI-Anwendungen, die kein hohes Risiko darstellen, und regulatorische „Sandkästen“ vorgeschlagen, um verantwortungsvolle Innovationen zu erleichtern.

Durch die Koordinierung wird Europas Führungsposition bei einer auf den Menschen ausgerichteten, nachhaltigen, sicheren, inklusiven und vertrauenswürdigen KI gestärkt. Damit Europa weltweit wettbewerbsfähig bleibt, setzt sich die Kommission dafür ein, dass Innovationen bei der Entwicklung und Nutzung von KI-Technik in allen Wirtschaftszweigen und in allen Mitgliedstaaten gefördert werden.

Der Koordinierte Plan für KI, wurde erstmals im Jahr 2018 veröffentlicht, um Maßnahmen und Finanzierungsinstrumente für die Entwicklung und Einführung von KI festzulegen, und ermöglichte ein dynamisches Umfeld aus nationalen Strategien und EU-Fördermitteln für öffentlich-private Partnerschaften und für Forschungs- und Innovationsnetze. Mit der umfassenden Überarbeitung des koordinierten Plans werden konkrete gemeinsame Maßnahmen für die Zusammenarbeit vorgeschlagen, damit alle Anstrengungen im Einklang mit der europäischen KI-Strategie und dem europäischen Grünen Deal stehen und zugleich die neuen Herausforderungen, die sich aus der Coronavirus-Pandemie ergeben, berücksichtigt werden. Sein ausdrückliches Ziel ist es, Investitionen in KI zu beschleunigen, die der Erholung zugutekommen können. Außerdem soll er die Umsetzung nationaler KI-Strategien vorantreiben, jegliche Fragmentierung beseitigen und bei der Bewältigung globaler Herausforderungen helfen.

Im aktualisierten koordinierten Plan werden Mittel verwendet, die im Rahmen der Programme Digitales Europa undHorizont Europa zugewiesen wurden, sowie Mittel der Aufbau- und Resilienzfazilität, die ein Ausgabenziel von 20 Prozent für digitale Zwecke vorsieht, und der Programme der Kohäsionspolitik, und zwar für

  • die Schaffung günstiger Voraussetzungen für die KI-Entwicklung und -Einführung durch den Austausch politischer Erkenntnisse, den Datenaustausch und Investitionen in kritische Rechenkapazitäten;
  • die Förderung von KI-Exzellenz „vom Labor bis zum Markt“ durch Einrichtung einer öffentlich-privaten Partnerschaft, durch Aufbau und Mobilisierung von Forschungs-, Entwicklungs- und Innovationskapazitäten sowie durch Bereitstellung von Erprobungs- und Versuchseinrichtungen und von Zentren für digitale Innovation zugunsten der KMU und der öffentlichen Verwaltungen;
  • die Gewährleistung, dass KI den Menschen nützt und eine Kraft zum Wohle der Gesellschaft darstellt, indem dafür gesorgt wird, dass Europa bei der Entwicklung und dem Einsatz vertrauenswürdiger KI eine Vorreiterrolle einnimmt, dass auf digitalen Gebieten Talente und Kompetenzen mithilfe von Praktika, Doktorandennetzwerken und Stipendien für promovierte Wissenschaftler gefördert werden, dass Vertrauensbildung zum festen Bestandteil der KI-Politik wird und die europäische Zielvorstellung von einer nachhaltigen und vertrauenswürdigen KI auch weltweit zur Geltung gebracht wird;
  • den Aufbau einer strategischen Führungsrolle in hochwirksamen Sektoren und Technologien, auch im Umweltbereich, wobei der Schwerpunkt auf dem Beitrag der KI zu einer nachhaltigen Produktion und zu Bereichen wie Gesundheit (durch Ausweitung des grenzüberschreitenden Informationsaustauschs), öffentlicher Sektor, Mobilität, Inneres, Landwirtschaft und Robotik liegt. </Zitat>

Die Grundlagen für die neue Direktive wurden bereits 2018 mit dem gemeinsamen Aktionsplan, 2019 mit einer Experten-Leitlinie und 2020 mit dem KI-Weißbuch gelegt. Das jetzt veröffentlichte Regulierungs- und Vorgehensmodell kommt daher keineswegs unerwartet. Hinzu kommt noch eine weitere Richtlinie, die sich mit Maschinenprodukten beschäftigt und den Bogen von der KI zur Robotik schlägt.

Ob sich ein solcher Rechtsrahmen, ein solches Regelwerk durchsetzen kann, ist fraglich. Allerdings hat es beim Thema GDPR (DSGVO) auch ganz gut geklappt, da sich die US-amerikanischen Software- und Internet-Riesen daran orientieren. 450 Millionen Europäer sind ein nicht zu vernachlässigender Markt (auch wenn die Briten dies offenbar nicht so sehen wollen). Es wird wieder genug Organisationen und Unternehmen geben, die aus der Prüfung der Konformität und der Verteilung von Siegeln und Zertifikaten für “Vertrauenswürdigkeit” ein lukratives Geschäftsmodell machen werden.

Die EU scheint gut im Regulieren aber weniger gut bei der Förderung von Innovation. Die EU-Pläne zur Förderung der KI in Forschung und Entwicklung sind eher mager im Vergleich zu den Investments großer Internet-Firmen (z.B. Google, Amazon, Microsoft, Baidu etc.) und anderer Staaten (z.B. China). Jetzt heißt es erstmal zuzusehen, wie EU-Staaten die Regulierung zerlegen und sich gleichzeitig Geld aus Fördertöpfen sichern. Ob das Rahmenwerk beim Wettlauf um die Führerschaft bei KI, ML, Robotic, Cybertools und Analytics hilft ist eher fraglich.

Dr. Ulrich Kampffmeyer

Dr. Ulrich Kampffmeyer

Curriculum auf Wikipedia https://de.wikipedia.org/wiki/Ulrich_Kampffmeyer

Ein Kommentar zu “EU-Rahmen für KI

  • Beschränkungen von Vestager
    22. April 2021 um 17:44
    Permalink

    Wie üblich will Frau Vestager die Möglichkeiten der Digitalisierung beschränken, was sie früher über Kartellrecht versuchte. Sie wird den Abstand der EU von den USA und China weiter vergrößern und Europa weiter behindern.
    Ein Beispiel: die Pseudo-Ethiker fordern, dass beim Einsatz einer KI immer der Mensch das letzte Word haben muss. Das ist menschenverachtender Unsinn. Seit dem Massenmord durch einen seelisch gestörten Piloten an 150 Menschen, die er vorsätzlich gegen einen Berg flog, um sie zu töten, steht die Forderung im Raum, dass Autopiloten in einem Flugzeug durch eine KI unterstützt werden müssten, dass ein Pilot das Flugzeug nicht als Mordwaffe missbrauchen kann.
    Aber statt die 149 Mordopfer zu schützen, kommen Bürokraten und weltfremde “Ethiker” und fordern Unterstützung für Massenmörder. Das ist eine kranke, gegen Technik hasserfüllte Regulierung auf Kosten von Menschenleben.
    Wir sollten uns gegen solche Menschenverachter schützen und den Artikel 2 GG mit dem Grundrecht auf körperliche Unversehrtheit mehr Menschen zur Kenntnis bringen.
    https://de.wikipedia.org/wiki/Germanwings-Flug_9525

    Antwort

Neuen Kommentar verfassen

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Ich stimme zu, dass die von mir eingegebenen Daten einschließlich der personenbezogenen Daten an PROJECT CONSULT übermittelt und dort zur Prüfung der Freischaltung meines Kommentars verwendet werden. Bei Veröffentlichung meines Kommentars wird mein Name, jedoch nicht meine E-Mail und meine Webseite, angezeigt. Die Anzeige des Namens ist notwendig, um eine individuelle persönliche Kommunikation zu meinem Beitrag zu ermöglichen. Anonyme oder mit falschen Angaben eingereichte Kommentare werden nicht veröffentlicht. Zu Nutzung, Speicherung und Löschung meiner Daten habe die Datenschutzerklärung zur Kenntnis genommen.

Ich versichere, alle gültigen Vorgaben des Urheberrechts beachtet zu haben. Ich habe keine Bilder, Grafiken, Texte oder Links in meinem Beitrag verwendet, die durch CopyRight, Leistungsschutzrecht oder Urheberrecht geschützt sind. Für den Inhalt meines Kommentars bin ich trotz Prüfung und Freischaltung durch PROJECT CONSULT ausschließlich selbst verantwortlich. Meine Rechte am Beitrag werden bei PROJECT CONSULT nur durch die CC Creative Commons by-nc-nd Vorgaben gewahrt.