Design – Softwarerecht

Software Bill of Materials (SBOM)

Eine SBOM ist ein maschinenlesbares Dokument und entspricht einer elektronischen Stückliste: Es inventarisiert eine Codebasis und enthält somit Informationen über alle verwendeten Komponenten einer Software. Inzwischen gewinnt die SBOM durch den CRA erhebliche juristische Relevanz und gehört zwingend zur Compliance bei Einsatz oder Entwicklung von Software, speziell mit Blick auf die Supply-Chain.

Die SBOM-Informationen können in unterschiedlicher Breite und Tiefe dargestellt werden und von einer groben Struktur bis zu einer detaillierten Aufschlüsselung von Produkten und Softwarekomponenten reichen. Entsprechende Vorgaben sind in der Technischen Richtlinie TR-03183 des BSI enthalten.

Designprinzipien für LLM-basierte Systeme des BSI

Ein aktuelles BSI-Whitepaper zu Designprinzipien für LLM-basierte Systeme mit „Zero Trust“-Ansatz enthält zentrale Empfehlungen zur sicheren Implementierung von KI-Systemen in Unternehmen und Behörden. Die Vorgaben reichen von der Authentifizierung und dem Input-/Output-Schutz bis hin zum Monitoring und Hintergrundwissen für die Awareness.

Doch Vorsicht, diese Empfehlungen sind mehr als reine IT-Empfehlungen: Sie berühren unmittelbar haftungsrechtliche Fragen und betreffen die konkrete Umsetzung datenschutzrechtlicher Vorgaben gemäß Art. 25 DSGVO („Privacy by Design“ und „Privacy by Default“).

Datenschutz und Künstliche Intelligenz

Künstliche Intelligenz (KI) ist überall – vor allem in Unternehmen. Angefangen von der Rechtschreibprüfung bis hin zu selbstlernenden Systemen, die gerade in großen Unternehmen die Kundenkorrespondenz vereinfachen sollen. Doch genau hier geht es los: Das Datenschutzrecht ist sofort bei KI in Unternehmen betroffen. Zwei zentrale Dokumente beleuchten diese Thematik umfassend, wenn auch natürlich nicht verbindlich: die jüngst von der Europäischen Datenschutzbehörde (EDPB) veröffentlichte Stellungnahme 28/2024 und die Orientierungshilfe „KI und Datenschutz“ der Datenschutzkonferenz (DSK). Gemeinsam liefern sie wertvolle Einblicke für Softwareentwickler und das Management von Unternehmen.

Beide Dokumente ergänzen sich in ihrer Zielsetzung. Während die EDPB tiefgehende rechtliche Analysen und abstrakte Prinzipien bietet, liefert die DSK praxisnahe Leitlinien zur konkreten Umsetzung. Gemeinsam verdeutlichen sie die Notwendigkeit eines ganzheitlichen Ansatzes, der technische, organisatorische und rechtliche Aspekte gleichermaßen berücksichtigt Softwareentwickler sollten vor allem die technischen Empfehlungen beider Dokumente beachten, etwa zur Minimierung von Identifikationsrisiken und zur Gestaltung transparenter Systeme.

Lokale KI-Lösungen als starke Nischenprodukte?

Im aktuellen Spiegel-Artikel „Microsoft: Wie der Tech-Konzern so mächtig wurde – und noch mächtiger wird“ wird die immense Macht und Dominanz von Microsoft in der modernen digitalen Welt und die weitreichende Abhängigkeit beleuchtet, die sowohl Unternehmen als auch Staaten von den Technologien des Tech-Giganten haben. Der Artikel zeigt auf, dass Microsoft, einst durch Windows und Office bekannt, heute mit seiner Cloud-Plattform und KI-Lösungen tief in vielen Lebensbereichen verankert ist – von Schulen über Behörden bis hin zur Landwirtschaft.

Gamescom 2024

Ich war natürlich auf der Gamescom 2024, dabei gehe ich tatsächlich für das Event als solches, Merchandise Produkte und das Kennenlernen neuer Spiele dorthin. Dieses Jahr empfand ich es zum ersten Mal als recht langweilig.

Datenschutz bei KI – Rechtliche Herausforderungen und Lösungen für Unternehmen

Der Datenschutz im Kontext von Künstlicher Intelligenz (KI) ist ein komplexes und dynamisches Thema, das Unternehmen vor vielfältige Herausforderungen stellt.

Die Entwicklung und der Einsatz von KI-Technologien erfordern nicht nur technische Innovationen, sondern auch die Einhaltung strenger rechtlicher Rahmenbedingungen, insbesondere in der EU und Deutschland. In diesem Blog-Beitrag werden die wichtigsten rechtlichen Probleme und Anforderungen des Datenschutzes bei der Entwicklung und dem Einsatz von KI in Unternehmen erläutert.

Regulierung von künstlicher Intelligenz durch den AI-Act (KI-Verordnung)

Die KI-Verordnung (der “AI Act”) reguliert Entwicklung, Vertrieb und Einsatz von KI. Nun bringen es EU-Regeln mit sich, äußerst umfangreich und komplex zu sein – zwar bieten sich hier viele Hilfen beim Verständnis des Textes, aber gerade Laien sind schnell überfordert, die wesentlichen ersten Infos systematisch zu erfassen.

Im Folgenden möchte ich eine kleine Hilfestellung geben, zum Orientieren für diejenigen, die sich mit der Entwicklung von KI beschäftigen.

CE-Kennzeichen für KI-Systeme?

Der AI-Act der Europäischen Union (EU) legt fest, dass Künstliche Intelligenz (KI)-Systeme, die in der EU verwendet werden, bestimmte Anforderungen erfüllen müssen, um sicherzustellen, dass sie sicher und vertrauenswürdig sind. Eine zentrale Komponente dieser Anforderungen ist die CE-Konformitätsprüfung.

Was ist ein KI-System?

Was ist ein KI-System im Sinne der KI-VO: Die KI-Verordnung (der “AI Act”) reguliert europaweit KI-Systeme. Dabei ist die erste und wichtigste Frage: Was ist überhaupt ein KI-System?

Datenschutzrecht und Künstliche Intelligenz: Herausforderungen und Lösungsansätze

Die Integration von Künstlicher Intelligenz (KI) in zahlreiche Lebensbereiche bringt immense Vorteile mit sich, stellt aber auch erhebliche Herausforderungen im Bereich des Datenschutzrechts dar. Insbesondere die Datenschutz-Grundverordnung (DSGVO) spielt eine entscheidende Rolle bei der rechtlichen Regulierung von KI-Anwendungen.

Mein Beitrag versucht verständlich und nicht zu juristisch – übrigens im Rahmen unserer Reihe zu den rechtlichen Grundlagen bei Entwicklung und Einsatz von KI – die wesentlichen Anforderungen und praktischen Lösungen, um KI datenschutzkonform zu implementieren und zu betreiben.