Generative KI – Risiken und Missbrauch

Generative, multimodale Künstliche Intelligenz (GenAI) hat das Potenzial, viele Branchen zu revolutionieren. Doch genauso groß wie die Möglichkeiten sind auch die Risiken, die durch den Missbrauch dieser Technologie entstehen. Eine kürzlich veröffentlichte Studie beleuchtet die verschiedenen Taktiken des Missbrauchs von GenAI und gibt wertvolle Einblicke und Empfehlungen. Hier sind die wichtigsten Erkenntnisse und Empfehlungen aus dieser Studie.

Generative KI – Risiken und Missbrauch weiterlesen

KI-Washing

Der Begriff „KI-Washing“ (auch als „AI-Washing“ bekannt) bezeichnet eine Praxis, bei der Unternehmen und Organisationen ihre Produkte, Dienstleistungen oder Projekte als künstliche Intelligenz (KI) bezeichnen oder vermarkten, obwohl diese Bezeichnung entweder irreführend oder stark übertrieben ist. Dabei zeigt sich, dass eine handfeste Strafbarkeit bei übertriebener Bewerbung von KI-Produkten im Zuge des KI-Washing im Raum stehen kann.

KI-Washing weiterlesen

Herausforderungen durch KI-Täuschung

Es lässt sich nicht ignorieren, dass wir in einer Welt leben, in der künstliche Intelligenz (KI) in immer krasserem Maße in unseren Alltag integriert wird – doch damit steigt auch das Potenzial für KI-basierte Täuschungen sowie damit verbundene Gefahren. Diese Täuschungen können von harmlosen Fehlinformationen bis hin zu gezielten Betrugsversuchen reichen. Eine aktuelle Studie beleuchtet dieses Thema ausführlich und bietet Einblicke in Beispiele, Risiken und mögliche Lösungen für das Problem der KI-Täuschung.

Herausforderungen durch KI-Täuschung weiterlesen

Sittenwidrige Investitionen in Kryptowährungen?

In einer beachtlichen Entscheidung vom 21. Dezember 2023, Aktenzeichen 24 U 95/23, hat das Oberlandesgericht Köln sich mit den juristischen Komplikationen rund um Investitionen in Kryptowährungen auseinandergesetzt. Der Fall betraf nicht nur die straf- und zivilrechtliche Beurteilung einer fehlerhaften Anlageberatung, sondern berührte auch tiefgreifende Fragen des Finanzmarktrechts.

Sittenwidrige Investitionen in Kryptowährungen? weiterlesen

Der Missbrauch von Generativer KI und großen Sprachmodellen (LLM)

Generative KI verlangt unserer Gesellschaft viel ab: Schon jetzt ist immer weniger das, wonach es aussieht. Man darf (und sollte) weder seinen Ohren noch seinen Augen trauen – und es wird immer einfacher, selbst ohne erhebliche eigene Ressourcen oder technische Fertigkeiten, Angriffsszenarien mithilfe von KI aufzubauen.

Die Analyse „GenAI against humanity: nefarious applications of generative artificial intelligence and large language models“ bietet eine tiefgreifende Analyse der missbräuchlichen Anwendungen von Generativer Künstlicher Intelligenz (GenAI) und Großen Sprachmodellen (LLMs). Diese Studie, verfasst von Emilio Ferrara, betrachtet die dunkle Seite dieser Technologien, indem sie verschiedene schädliche Szenarien und deren potenzielle Auswirkungen auf Gesellschaft und Individuen aufzeigt.

Der Missbrauch von Generativer KI und großen Sprachmodellen (LLM) weiterlesen

Cyberkriminalität in Nordkorea und die Bedrohung der Kryptowährungsindustrie

Nordkorea ist einer der Hauptverantwortlichen für die zunehmende Bedrohung der Cybersicherheit. Spätestens seit dem Angriff auf Sony Pictures im Jahr 2014 wird das Land als wichtiger Cyber-Akteur auf der internationalen Bühne wahrgenommen. Seitdem hat Pjöngjang seine Hackerfähigkeiten genutzt, um internationale Sanktionen zu umgehen und Gelder zu stehlen.

Mit den erbeuteten Geldern konnte Pjöngjang die Entwicklung seines Atom- und Raketenprogramms finanzieren. Nordkorea nutzt Cyberoperationen auch zur (digitalen) Spionage. Die Ziele sind breit gefächert: Sie richten sich unter anderem gegen Universitäten, Menschenrechtsorganisationen und Medienunternehmen, erzeugen Unzufriedenheit oder Misstrauen durch Wahlbetrug und greifen kritische nationale Infrastrukturen an. Die zunehmende Bedeutung Nordkoreas im Bereich Cybercrime und Cybersecurity ist auch der Grund, warum wir hier einen eigenen Blog-Post zu dem Thema pflegen.

Als Beispiel sei hier eine Studie der Insikt Group von Recorded Future aufgegriffen, die ein alarmierendes Bild der nordkoreanischen Cyberkriminalität zeichnet. Diese Aktivitäten, die seit 2017 zugenommen haben, zielen auf die Kryptowährungsindustrie ab und haben es Nordkorea ermöglicht, geschätzte 3 Milliarden Dollar an Kryptowährungen zu stehlen.

Cyberkriminalität in Nordkorea und die Bedrohung der Kryptowährungsindustrie weiterlesen

Chiptuning gefährdet den Versicherungsschutz

Ein gegenüber der Versicherung verschwiegenes Chiptuning gefährdet den Versicherungsschutz, wie das Landgericht Bielefeld (8 O 40/14) unterstrichen hat. Bei dieser Frage denkt man gemeinhin an Verkehrsunfälle, tatsächlich kann es aber noch viel weiter gehen: Es ging um einen Diebstahl von Felgen samt Bremssätteln eines Nissan GT-R, der beim Kauf eine Motorleistung von 357 kW (485 PS) im Fahrzeugschein vermerkt hatte. Beim Kauf betrug die Motorleistung aber tatsächlich 530 kW (720 PS), was der Versicherung aber nicht mitgeteilt wurde. Zu einem Unfall kam es nicht, wohl aber zu einem Diebstahl, der über die Versicherung abgewickelt wurde. Nachdem der PKW über das Internet verkauft wurde und hier die wiederum gesteigerte Motorleistung angegeben wurde, erfuhr dies die Versicherung und man erklärte den Rücktritt vom Versicherungsvertrag wegen vorvertraglicher Obliegenheitsverletzung. Zu Recht wie das Landgericht festgestellt hat.
Chiptuning gefährdet den Versicherungsschutz weiterlesen