Auftragsverarbeitung – Softwarerecht

Gewährleistungsrecht bei KI-Systemen: Worauf Unternehmen achten sollten

Unternehmen, die ihre Prozesse optimieren, Entscheidungen fundierter treffen oder innovative Geschäftsmodelle entwickeln wollen, setzen bekanntlich zunehmend auf KI-Systeme. Doch mit den technologischen Chancen gehen auch erhebliche rechtliche Herausforderungen einher, insbesondere im Hinblick auf das Gewährleistungsrecht. Wer ein KI-System für sein Unternehmen erwerben oder auf Plattformen wie Azure oder AWS ein eigenes neuronales Netz trainieren möchte, sollte die rechtlichen Rahmenbedingungen sorgfältig prüfen.

Datenschutz und Künstliche Intelligenz

Künstliche Intelligenz (KI) ist überall – vor allem in Unternehmen. Angefangen von der Rechtschreibprüfung bis hin zu selbstlernenden Systemen, die gerade in großen Unternehmen die Kundenkorrespondenz vereinfachen sollen. Doch genau hier geht es los: Das Datenschutzrecht ist sofort bei KI in Unternehmen betroffen. Zwei zentrale Dokumente beleuchten diese Thematik umfassend, wenn auch natürlich nicht verbindlich: die jüngst von der Europäischen Datenschutzbehörde (EDPB) veröffentlichte Stellungnahme 28/2024 und die Orientierungshilfe „KI und Datenschutz“ der Datenschutzkonferenz (DSK). Gemeinsam liefern sie wertvolle Einblicke für Softwareentwickler und das Management von Unternehmen.

Beide Dokumente ergänzen sich in ihrer Zielsetzung. Während die EDPB tiefgehende rechtliche Analysen und abstrakte Prinzipien bietet, liefert die DSK praxisnahe Leitlinien zur konkreten Umsetzung. Gemeinsam verdeutlichen sie die Notwendigkeit eines ganzheitlichen Ansatzes, der technische, organisatorische und rechtliche Aspekte gleichermaßen berücksichtigt Softwareentwickler sollten vor allem die technischen Empfehlungen beider Dokumente beachten, etwa zur Minimierung von Identifikationsrisiken und zur Gestaltung transparenter Systeme.

Künstliche Intelligenz in Deutschland – Status, Herausforderungen und internationale Perspektiven

Deutschland steht bei der Entwicklung und Nutzung Künstlicher Intelligenz (KI) vor großen Chancen, aber auch erheblichen Herausforderungen. Laut der aktuellen Analyse der KfW Research zeigt sich ein gemischtes Bild: Während Deutschland in der KI-Forschung stark ist, hinkt es bei der Kommerzialisierung und dem internationalen Handel mit KI-Produkten hinterher. Diese Schwächen müssen angegangen werden, um die Chancen von KI für Produktivitätssteigerungen, Wirtschaftswachstum und die Bewältigung gesellschaftlicher Herausforderungen vollständig zu nutzen.

Bußgelder im AI-Act: Ein Überblick über das Sanktionsregime der KI-VO

Der AI-Act oder auch die KI-VO, die neue Verordnung der Europäischen Union zur Regulierung von Künstlicher Intelligenz, sieht strenge Regelungen vor, die den sicheren und ethischen Einsatz von KI-Systemen gewährleisten sollen. Ein zentrales Element dieser Verordnung sind die hohen Bußgelder, die bei Verstößen gegen die Vorschriften drohen. Doch wie genau sieht das Sanktionsregime in der Praxis aus, und welche zusätzlichen Maßnahmen können Mitgliedstaaten ergreifen?

Warum KI-Projekte scheitern und wie sie erfolgreich umgesetzt werden können

Die sprunghafte Entwicklung und Implementierung von Künstlicher Intelligenz (KI) hat in vielen Bereichen große Hoffnungen geweckt. Unternehmen und staatliche Organisationen weltweit investieren massiv in KI-Technologien, um ihre Effizienz zu steigern, innovative Produkte zu entwickeln und komplexe Probleme zu lösen.

Doch trotz dieser Begeisterung zeigt eine kürzlich veröffentlichte Studie der RAND Corporation, dass ein Großteil der KI-Projekte scheitert.

Vertragliche Auswirkungen behördlicher Warnung vor Virenschutzsoftware

Das BSI warnte vor dem Einsatz von Kaspersky-Virenschutz-Software – doch welche vertraglichen Auswirkungen hat diese Warnung auf laufende Verträge? Eine Antwort liegt nun bei

Das Landgericht München I hat am 13. Dezember 2023 im Urteil (Az. 29 O 1152/23) zentrale Fragen zur mietvertraglichen Überlassung von Software, zur Definition von Mängeln bei Software, zur Auswirkung von öffentlich-rechtlichen Sanktionen auf die Nutzung von Software und zum Wegfall der Geschäftsgrundlage behandelt. Das Urteil bietet eine erstmalige umfassende rechtliche Analyse und Argumentation zu diesen komplexen Themen.

Angriffsszenarien auf LLM durch Formulierung in Vergangenheitsform

In einer kürzlich durchgeführten Studie haben Forscher der EPFL (Eidgenössische Technische Hochschule Lausanne) eine interessante Schwachstelle in den aktuellen Ablehnungsmechanismen von großen Sprachmodellen (Large Language Models, LLMs) aufgedeckt.

Diese Schwachstelle ermöglicht es, die Sicherheitsvorkehrungen vieler LLMs zu umgehen, indem man gefährliche Anfragen einfach in die Vergangenheitsform umformuliert. Dieser Blog-Beitrag beleuchtet die Ergebnisse der Studie und deren Implikationen für die Zukunft der LLM-Sicherheit.

Generative KI – Risiken und Missbrauch

Generative, multimodale Künstliche Intelligenz (GenAI) hat das Potenzial, viele Branchen zu revolutionieren. Doch genauso groß wie die Möglichkeiten sind auch die Risiken, die durch den Missbrauch dieser Technologie entstehen. Eine kürzlich veröffentlichte Studie beleuchtet die verschiedenen Taktiken des Missbrauchs von GenAI und gibt wertvolle Einblicke und Empfehlungen. Hier sind die wichtigsten Erkenntnisse und Empfehlungen aus dieser Studie.

Regulierung von künstlicher Intelligenz durch den AI-Act (KI-Verordnung)

Die KI-Verordnung (der „AI Act“) reguliert Entwicklung, Vertrieb und Einsatz von KI. Nun bringen es EU-Regeln mit sich, äußerst umfangreich und komplex zu sein – zwar bieten sich hier viele Hilfen beim Verständnis des Textes, aber gerade Laien sind schnell überfordert, die wesentlichen ersten Infos systematisch zu erfassen.

Im Folgenden möchte ich eine kleine Hilfestellung geben, zum Orientieren für diejenigen, die sich mit der Entwicklung von KI beschäftigen.