KI-Gesetz: Erste Regulierung der Künstlichen Intelligenz
Als Teil ihrer digitalen Strategie will die EU künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile mit sich bringen, zum Beispiel eine bessere Gesundheitsfürsorge, einen sichereren und saubereren Verkehr, eine effizientere Fertigung sowie eine billigere und nachhaltigere Energieversorgung.
Die neuen Regeln zielen darauf ab, Grundrechte, Demokratie und Rechtsstaatlichkeit sowie ökologische Nachhaltigkeit vor Hochrisiko-KI-Systemen zu schützen. Gleichzeitig sollen sie Innovationen ankurbeln und dafür sorgen, dass die EU in diesem Bereich eine Führungsrolle einnimmt. Die Verordnung legt bestimmte Verpflichtungen für KI-Systeme fest, abhängig von den jeweiligen möglichen Risiken und Auswirkungen.
EU verabschiedet wegweisende Regeln:
- Garantien für künstliche Intelligenz mit allgemeinem Verwendungszweck
- Beschränkung der Nutzung von biometrischen Fernidentifizierungssystemen durch Strafverfolgungsbehörden
- Verbot des Einsatzes von KI, um soziales Verhalten zu bewerten, Menschen zu beeinflussen oder ihre Schwächen auszunutzen
- Verbraucherrecht auf Einreichen von Beschwerden und auf aussagekräftige Erklärungen
Verbotene Anwendungen
Die neuen Vorschriften verbieten bestimmte KI-Anwendungen, die die Rechte der Bürgerinnen und Bürger bedrohen. Dazu zählen unter anderem die biometrische Kategorisierung auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken.
Ebenfalls verboten sind künftig Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI. Auch vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht, und der Einsatz von künstlicher Intelligenz, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen, ist nach den neuen Regeln nicht erlaubt.
Ausnahmen für Strafverfolgungsbehörden
Grundsätzlich ist die Nutzung von biometrischen Fernidentifizierungssystemen durch Strafverfolgungsbehörden verboten. Es gibt jedoch bestimmte ausführlich beschriebene und eng abgegrenzte Ausnahmefälle.
Fernidentifizierung in Echtzeit ist nur dann erlaubt, wenn strenge Sicherheitsbestimmungen eingehalten werden – unter anderem gibt es zeitliche und räumliche Beschränkungen, und es muss vorab eine spezielle behördliche oder gerichtliche Genehmigung eingeholt werden. Entsprechende Systeme dürfen beispielsweise genutzt werden, um gezielt nach einer vermissten Person zu suchen oder einen Terroranschlag zu verhindern.
Der Einsatz von KI-Systemen zur nachträglichen Fernidentifizierung gilt als hochriskant. Hierfür ist eine gerichtliche Genehmigung nötig, die mit einer Straftat in Verbindung stehen muss.
Verpflichtungen für Hochrisiko-KI-Systeme
Auch für andere Hochrisiko-KI-Systeme sind bestimmte Verpflichtungen vorgesehen, denn sie können eine erhebliche Gefahr für Gesundheit, Sicherheit, Grundrechte, die Umwelt, Demokratie und den Rechtsstaat darstellen.
- Als hochriskant werden unter anderem KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden. Auch KI-Systeme, die für grundlegende private und öffentliche Dienstleistungen – etwa im Gesundheits- oder Bankwesen –, in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration und Grenzmanagement, Justiz und demokratischen Prozessen (zum Beispiel zur Beeinflussung von Wahlen) genutzt werden, gelten als hochriskant.
- Solche Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden. Die Bevölkerung hat künftig das Recht, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf der Grundlage hochriskanter KI-Systeme getroffen wurden und ihre Rechte beeinträchtigen.
Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2 des KI Acts
Als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2 gelten KI-Systeme in den folgenden Bereichen:
-
Biometrische Identifizierung und Kategorisierung natürlicher Personen:
- Echtzeit- und nachträgliche biometrische Fernidentifizierung
-
Verwaltung und Betrieb kritischer Infrastrukturen:
- Sicherheitskomponenten im Straßenverkehr und in der Wasser-, Gas-, Wärme- und Stromversorgung.
-
Allgemeine und berufliche Bildung:
- Entscheidungen über Zugang oder Zuweisung zu Bildungseinrichtungen.
- Bewertung von Schülern und Teilnehmern an Zulassungstests.
-
Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit:
- Einstellung, Auswahl, Beförderung, Kündigung und Leistungsbewertung von Mitarbeitern.
-
Zugänglichkeit und Inanspruchnahme grundlegender privater und öffentlicher Dienste und Leistungen:
- Beurteilung des Anspruchs auf öffentliche Unterstützungsleistungen.
- Kreditwürdigkeitsprüfung und Kreditpunktebewertung.
- Einsatzpriorisierung von Not- und Rettungsdiensten.
-
Strafverfolgung:
- Risikobewertungen, Lügendetektoren, Ermittlung des emotionalen Zustands.
- Aufdeckung von Deepfakes und Bewertung der Verlässlichkeit von Beweismitteln.
- Vorhersage von Straftaten und Erstellung von Profilen.
- Kriminalanalyse durch die Suche in großen Datensätzen.
-
Migration, Asyl und Grenzkontrolle:
- Lügendetektoren und Ermittlung des emotionalen Zustands.
- Bewertung von Sicherheits-, Einwanderungs- und Gesundheitsrisiken.
- Überprüfung der Echtheit von Reisedokumenten.
- Unterstützung bei der Prüfung von Asyl- und Visumanträgen.
-
Rechtspflege und demokratische Prozesse:
- Unterstützung bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften.
Transparenzanforderungen
Generative Foundation-Modelle wie ChatGPT werden nicht als risikoreich eingestuft, müssen aber Transparenzanforderungen und das EU-Urheberrecht erfüllen:
- Offenlegung, dass der Inhalt durch KI generiert wurde.
- Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt.
- Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.
KI-Systeme mit allgemeinem Verwendungszweck und die Modelle, auf denen sie beruhen, müssen bestimmte Transparenzanforderungen erfüllen, darunter die Einhaltung des EU-Urheberrechts und die Veröffentlichung detaillierter Zusammenfassungen der für das Training verwendeten Inhalte. Für die leistungsfähigeren Modelle, die systemische Risiken bergen könnten, gelten künftig zusätzliche Anforderungen – etwa müssen Modellbewertungen durchgeführt, systemische Risiken bewertet und gemindert und Vorfälle gemeldet werden.
Inhalte, die mit Hilfe von KI erzeugt oder verändert wurden – Bilder, Audio- oder Videodateien (z.B. Deepfakes) – müssen eindeutig als KI-generiert gekennzeichnet werden, damit die Nutzer wissen, wenn sie auf solche Inhalte stoßen.
EU-KONFORMITÄTSERKLÄRUNG
Die EU-Konformitätserklärung gemäß Artikel 48 enthält alle folgenden Angaben:
- Name und Art des KI-Systems und etwaige zusätzliche eindeutige Angaben, die die Identifizierung und Rückverfolgbarkeit des KI-Systems ermöglichen;
- Name und Anschrift des Anbieters und gegebenenfalls seines Bevollmächtigten:
- Erklärung darüber, dass der Anbieter die alleinige Verantwortung für die Ausstellung der EU-Konformitätserklärung trägt;
- Versicherung, dass das betreffende KI-System der vorliegenden Verordnung sowie gegebenenfalls weiteren einschlägigen Rechtsvorschriften der Union, in denen die Ausstellung einer EU-Konformitätserklärung vorgesehen ist, entspricht;
- Verweise auf die verwendeten einschlägigen harmonisierten Normen oder sonstigen gemeinsamen Spezifikationen, für die die Konformität erklärt wird;
- gegebenenfalls Name und Kennnummer der notifizierten Stelle, Beschreibung des durchgeführten Konformitätsbewertungsverfahrens und Kennnummer der ausgestellten Bescheinigung;
- Ort und Datum der Ausstellung der Erklärung, Name und Funktion des Unterzeichners sowie Angabe, für wen und in wessen Namen diese Person unterzeichnet hat, Unterschrift.
Maßnahmen zur Förderung von Innovationen und KMU
In den Mitgliedstaaten müssen Reallabore eingerichtet und Tests unter realen Bedingungen durchgeführt werden. Diese müssen für kleine und mittlere Unternehmen sowie für Start-ups zugänglich sein, damit sie innovative KI-Systeme entwickeln und trainieren können, bevor sie auf den Markt kommen.
Nächste Schritte
Im März 2024 verabschiedete das Parlament das Gesetz über künstliche Intelligenz. Es wird 24 Monate nach seinem Inkrafttreten in vollem Umfang anwendbar sein. Einige Teile werden jedoch schon früher anwendbar sein:
- Das Verbot von KI-Systemen, die unannehmbare Risiken darstellen, wird sechs Monate nach Inkrafttreten gelten.
- Die Verhaltenskodizes werden neun Monate nach Inkrafttreten gelten.
- Vorschriften für KI-Systeme mit allgemeinem Verwendungszweck, die den Transparenzanforderungen genügen müssen, gelten zwölf Monate nach Inkrafttreten.
- Systeme mit hohem Risiko werden mehr Zeit haben, um die Anforderungen zu erfüllen; die sie betreffenden Verpflichtungen werden 36 Monate nach dem Inkrafttreten gelten.
Erfahre mehr
Digitaler Datenschutz: Strategien für sicheren Umgang mit Daten
Zielgruppe:
- Geschäftsführer, Vorstände und Führungskräfte
- Datenschutzbeauftragte/r und Neu bestellt als Datenschutzbeauftragte/r
-
Programm:
-
AI, ChatGPT und Datenschutz: Navigieren in der digitalen Landschaft – Lerne, wie künstliche Intelligenz und Tools wie ChatGPT datenschutzkonform eingesetzt werden können und erfahre mehr über die Implementierung von Sicherheitsmaßnahmen und rechtlichen Vorgaben.
-
IT-Governance: Risikoanalyse zur Feststellung des IT-Schutzbedarfs – Führe strukturierte Risikoanalysen durch, um den IT-Schutzbedarf zu ermitteln und Sicherheitsmaßnahmen zu planen und implementiere kontinuierliche Überwachungsmechanismen, um auf Veränderungen zu reagieren.
-
Neueste Entwicklungen im Datenschutz: Ein regulatorisches Update – Erhalte einen Überblick über die aktuellsten Änderungen und Anpassungen in den Datenschutzgesetzen. Lerne, wie du diese neuen Vorgaben in deine Unternehmenspraktiken integrierst.
-
mehr erfahren
805 €
Die S+P Tool Box:
-
Vorträge als PDF: Schnelles Nachschlagen und Auffrischen des Seminarinhalts.
Steigere deine digitale Kompetenz und Datenschutzexpertise mit den S+P ToolKits, Working Papers und Checklisten:
- Navigieren in der digitalen Landschaft: AI, ChatGPT und Datenschutz
- Risikoanalyse für IT-Schutzbedarf: Praktische Anwendung
- Datenschutz-Leitfaden für kundenorientierten Vertrieb und HR-Exzellenz
Praxisnahes Lernen für deinen Arbeitsalltag: Erfolgreiche Beispiele, sofortige Anwendung
- Case Study „Erfolgreiche Integration von AI und ChatGPT bei maximaler Datenschutzsicherheit“: Erfahre, wie ein Unternehmen AI und ChatGPT erfolgreich eingeführt hat, um Prozesse zu optimieren und gleichzeitig strengen Datenschutzrichtlinien zu entsprechen.
- Case Study „Praktische Umsetzung der IT-Governance-Risikoanalyse für erhöhten IT-Schutz“: Entdecke, wie eine Organisation die IT-Governance-Risikoanalyse praktisch angewendet hat, um den Schutzbedarf ihrer IT-Systeme zu ermitteln und Sicherheitsrisiken zu minimieren.
Programm
Wie navigiere ich sicher durch die digitale Landschaft des Datenschutzes? In einer immer stärker vernetzten Welt wird der Schutz von personenbezogenen Daten immer wichtiger und auch komplexer. Unser S+P Seminar „Datenschutz: Sicher Navigieren in der digitalen Landschaft“ bietet dir das Rüstzeug, um diese Herausforderung souverän zu meistern.
Erlange fundiertes Wissen in den Bereichen Datenschutz, IT-Resilience und künstlicher Intelligenz. Entdecke die Möglichkeiten einer sicheren Cloud-Strategie und lerne, wie du AI-gestützte Assistenten datenschutzkonform in deine Arbeit integrieren kannst. Bist du bereit, deine digitale Zukunft aktiv zu gestalten und deinen Datenschutz zu stärken?
AI, ChatGPT und Datenschutz: Navigieren in der digitalen Landschaft
- Erlange Kenntnisse über AI-Assistenten und steigere damit Effizienz und Präzision deiner Arbeit, unter Beachtung der Datenschutzrichtlinien.
IT-Governance: Risikoanalyse zur Feststellung des IT-Schutzbedarfs
- Lerne, wie du eine gründliche IT-Risikoanalyse durchführst und implementiere Schutzmaßnahmen zur Risikominderung.
- Stärke durch DORA (Digitale operative Resilienz) die Fähigkeit deines Unternehmens, digitale Störungen zu bewältigen und so Wettbewerbsvorteile zu sichern.
- Azure und Microsoft Defender: Tipps zur Sicherstellung der Informationssicherheit – Nutze praxisorientierte Tipps für Azure und Microsoft Defender, um deine Cyber-Resilienz zu stärken und Bedrohungen abzuwehren.
Neueste Entwicklungen im Datenschutz: Ein regulatorisches Update
- Verstehe die Anforderungen des EU Daten Governance Act (DGA) und lerne, wie du damit die Datenqualität und Effizienz in deiner Organisation verbesserst.
- Neue ESMA-Anforderungen an den Einsatz von Clouds – Erlange fundiertes Wissen über die neuen ESMA-Anforderungen an Clouds und passe deine Strategie entsprechend an, um Compliance sicherzustellen.
Datenschutzbeauftragter: Deine Pflichten, Rechte und Verantwortungen
- Verstehe und erfülle deine grundlegenden Datenschutzpflichten, um Datenschutzverstöße zu minimieren.
Wie erfülle ich meine Pflichten im Datenschutz?
Der Datenschutz ist ein sehr wichtiges Thema, das immer mehr in den Fokus rückt. Dabei geht es nicht nur um die Sicherheit der eigenen Daten, sondern auch um die Pflichten, die man als Unternehmen oder Privatperson hat.
1. Die Pflichten des Unternehmens im Datenschutz
Der Datenschutz ist ein wichtiges Thema, das Unternehmen unbedingt beachten müssen. Das Bundesdatenschutzgesetz (BDSG) legt fest, welche Pflichten Unternehmen im Umgang mit personenbezogenen Daten haben. Dazu gehört zum Beispiel, dass Unternehmen ihren Kunden transparent über die Verarbeitung ihrer Daten informieren müssen und auch nur so viele Daten wie nötig verarbeiten dürfen.
Außerdem müssen Unternehmen die Rechte der Betroffenen – wie beispielsweise das Recht auf Auskunft oder Löschung – respektieren und gewährleisten. Die Einhaltung der datenschutzrechtlichen Pflichten ist daher für jedes Unternehmenseine eine wichtige Aufgabe.
2. Die Pflichten für den Datenschutz von Mitarbeiterdaten
In Sachen Datenschutz sind Unternehmen gesetzlich verpflichtet, die persönlichen Daten ihrer Kunden und Mitarbeiter zu schützen. Diese Pflicht umfasst unter anderem das Recht der betroffenen Personen auf Auskunft, Berichtigung und Löschung ihrer Daten. Unternehmen müssen außerdem sicherstellen, dass ihre Mitarbeiter die datenschutzrechtlichen Bestimmungen einhalten. Dazu gehört unter anderem, dass personenbezogene Daten nur mit Zustimmung der betroffenen Person weitergegeben werden dürfen. Wenn ein Unternehmen gegen die Pflichten im Datenschutz verstößt, drohen Bußgelder bis zu 50 Millionen Euro.
3. Die Pflichten für den Datenschutz von Kundendaten
In Sachen Datenschutz hat das Unternehmen ebenfalls einige Pflichten zu erfüllen. Zunächst ist es verpflichtet, alle personenbezogenen Daten, die ihm von seinen Kunden zur Verfügung gestellt werden, sorgfältig und vertraulich zu behandeln. Dies bedeutet, dass das Unternehmen die Daten nur für die Zwecke verwenden darf, für die sie erhoben wurden, und dass sie nicht an unbefugte Dritte weitergegeben werden dürfen. Zudem muss das Unternehmen sicherstellen, dass alle personenbezogenen Daten, die es speichert, aktuell und korrekt sind.
Sollten sich die Daten ändern, muss das Unternehmen diese Änderungen umgehend in seinen Datensätzen vornehmen. Darüber hinaus hat das Unternehmen die Pflicht, alle angemessenen technischen und organisatorischen Maßnahmen zum Schutz der personenbezogenen Daten seiner Kunden zu ergreifen. Dies beinhaltet unter anderem die Sicherung der Daten gegen Verlust, Zerstörung oder Manipulation sowie gegen unberechtigten Zugriff oder unberechtigte Weitergabe
Zeig, was in dir steckt
Erhalte dein digitales S+P Badge & Zertifikat
Das Digitale Karriere-Zertifikat, auch bekannt als Digital Badge, ist eine moderne Form der Zertifizierung, die dir digital verliehen wird.
Mit diesem Badge kannst du einfach und effektiv in digitalen Netzwerken, auf deinem LinkedIn-Profil oder in deinem Lebenslauf zeigen, dass du proaktiv an deiner beruflichen Entwicklung arbeitest.
FAQ – Was muss ich wissen?
Unsere S+P Seminare Datenschutz zielen darauf ab, den Teilnehmern ein umfassendes Verständnis der Datenschutzgesetze und deren praktische Umsetzung zu vermitteln, einschließlich der Risikobewertung, der Entwicklung von Datenschutz-Management-Systemen und der Vorbereitung auf Audits und Datenschutzvorfälle. Es soll zudem das Datenschutzbewusstsein stärken, praktische Fähigkeiten zur Einhaltung der Vorschriften vermitteln und den Austausch von Best Practices fördern.
Die S+P Seminare zum Thema Datenschutz sind stets auf dem neuesten Stand der gesetzlichen Anforderungen und Best Practices ausgerichtet. Dadurch wird sichergestellt, dass die Teilnehmer die aktuellsten Entwicklungen und Änderungen im Datenschutzrecht kennen und direkt in ihrem beruflichen Umfeld anwenden können.
Die S+P Seminare zum Datenschutz sind ideal für IT-Experten, Compliance-Officer, HR-Manager, Führungskräfte und alle, die mit sensiblen Daten arbeiten, da sie praxisnahe Anleitungen und aktuelle Informationen zur Einhaltung von Datenschutzvorgaben bieten. Diese Seminare helfen Fachkräften und Verantwortlichen, die gesetzlichen Anforderungen zu verstehen und in ihrem beruflichen Umfeld umzusetzen.
Die Anmeldung für unsere S+P Seminare erfolgt schnell und unkompliziert über unsere Website. Dort findest du alle notwendigen Informationen und kannst direkt deinen Platz reservieren.
Die S+P Tool Box ist ein umfassendes Set an praktischen Werkzeugen und Vorlagen, die speziell für die Teilnehmer unserer Seminare entwickelt wurden. Sie bietet hilfreiche Ressourcen zur Umsetzung der gelernten Techniken und unterstützt dich dabei, die Seminarkenntnisse direkt in deinem Unternehmen anzuwenden.
Aktuelles zum digitalen Datenschutz
Regelungen der DSGVO
Die Datenschutz-Grundverordnung (DSGVO) der EU regelt den Schutz personenbezogener Daten und die Privatsphäre in der EU und dem EWR. Sie legt Grundsätze für die Datenverarbeitung fest, wie Rechtmäßigkeit, Zweckbindung und Datenminimierung, und gewährt Betroffenen Rechte wie das Auskunftsrecht und das Recht auf Löschung.
Verantwortliche und Auftragsverarbeiter müssen Maßnahmen wie Datenschutz-Folgenabschätzungen und die Meldung von Datenschutzverletzungen ergreifen. Die DSGVO stellt sicher, dass bei der Übermittlung personenbezogener Daten in Drittländer ein angemessenes Schutzniveau besteht und Verstöße mit hohen Geldbußen geahndet werden können. Ziel ist es, ein hohes Maß an Datenschutz und Datensicherheit in der gesamten EU zu gewährleisten.
Aufgabenbereich des Datenschutzbeauftragten
Ein Datenschutzbeauftragter (DSB) spielt eine zentrale Rolle im Schutz personenbezogener Daten in Unternehmen, insbesondere im digitalen Bereich. Er überwacht die Einhaltung der DSGVO, entwickelt Datenschutzrichtlinien, führt Risikoanalysen und Datenschutz-Folgenabschätzungen durch, und berät die Geschäftsleitung. Der DSB organisiert Mitarbeiterschulungen, überwacht Datenverarbeitungsprozesse, und koordiniert die Meldung von Datenschutzverletzungen an Aufsichtsbehörden. Zudem stellt er sicher, dass bei neuen Technologien Datenschutzprinzipien wie Privacy by Design eingehalten werden und berichtet regelmäßig über den Status der Datenschutzmaßnahmen, um das Unternehmen vor rechtlichen und finanziellen Risiken zu schützen.
IT-Governance zur Risikominderung
IT-Governance stellt sicher, dass IT-Ressourcen und -Strategien die Geschäftsziele unterstützen und effizient genutzt werden. Sie gewährleistet die Einhaltung gesetzlicher und regulatorischer Anforderungen, was besonders in stark regulierten Branchen wie dem Finanzwesen und Gesundheitswesen entscheidend ist.
IT-Governance verbessert das Risikomanagement, indem sie klare Prozesse für die Identifikation, Bewertung und Steuerung von IT-Risiken etabliert. Dazu gehören regelmäßige Risikoanalysen, die Stärkung von Sicherheitsmaßnahmen, die Sicherstellung der Compliance und die Förderung der Kontinuitätsplanung. Dies führt zu einer erhöhten Widerstandsfähigkeit gegen Cyberbedrohungen und einer effizienten Nutzung von IT-Ressourcen.
Das könnte dich interessieren…
Mehr Details zu diesen Seminar
Mehr Details zu diesen Seminar
Mehr Details zu diesen Seminar
Mehr Details zu diesen Seminar
Mehr Details zu diesen Seminar