Sie sind hier: Home » Markt » Hinweise & Tipps

Generative KI-Tools mit großen Sicherheitsrisiken

Diese ChatGPT-Aktionen sollte man sich am Arbeitsplatz besser verkneifen
Unternehmen und Mitarbeiter sollten sich zweimal überlegen, welche Aufgaben sie ChatGPT und Co. übertragen

ChatGPT und Co. sind tolle Helferlein am Arbeitsplatz – und ein potenzielles Sicherheitsrisiko. Unternehmen und Mitarbeiter sollten sich deshalb zweimal überlegen, welche Aufgaben sie ChatGPT und Co. übertragen. Forcepoint erläutert, wofür sie generative KI-Tools bei der Arbeit besser nicht nutzen sollten.

Fragen beantworten, Texte schreiben und sogar Quellcode erstellen: Generative KI-Tools wie ChatGPT, Bard und Copilot haben erstaunliche Fähigkeiten und erfreuen sich auch am Arbeitsplatz großer Beliebtheit. Kein Wunder, denn sie erleichtern die Arbeit und können für einen pünktlichen Feierabend sorgen.

Was vielen nicht bewusst ist: Diese Tools stellen ein potenzielles Sicherheitsrisiko dar. Ihre Anbieter verwenden nämlich nicht nur Informationen, die im Internet frei verfügbar sind, um ihre KI-Modelle zu trainieren und den Output der Tools zu erzeugen, sondern auch die Eingaben der Nutzer. Daten, die man selbst eingibt, könnten so den Weg in die Antworten anderer Nutzer finden.

Antworten auf Kundenanfragen oder Support-Tickets schreiben: Solche Texte enthalten fast immer persönliche Informationen über Kunden und geistiges Eigentum des eigenen Unternehmens. Es droht die Gefahr, der Konkurrenz einen Vorteil zu verschaffen und Ärger mit den Datenschutzbehörden zu bekommen.

Inhalte für eine Produkteinführung oder andere wichtige Unternehmensankündigungen erstellen: Die neueste Akquisition ist noch supergeheim und muss unter Verschluss gehalten werden bis alle Unterschriften da sind? Durch den Prompt eines Dritten könnte sie in dessen Antwort auftauchen und so den Weg in die Öffentlichkeit finden.

Preise, die finanzielle Performance oder Budgets des eigenen Unternehmens analysieren: Wenn ein Mitbewerber nach Informationen über die finanzielle Situation des Unternehmens sucht, könnte er so fündig werden. Deshalb besser ein lokal gespeichertes Tool oder einen Taschenrechner benutzen.

>> Code debuggen oder neuen Code schreiben: Erstellt generative KI einen Code, kann er Schadsoftware oder eine Hintertür enthalten. Verwendet man sie zum Debugging, wandert der eigene Code unter Umständen in die Hände anderer Programmierer.

>> Personenbezogene Inhalte wie Lebensläufe oder unternehmensinterne Präsentationen und Dokumente zusammenfassen. Solche Inhalte haben bei ChatGPT und Co. nichts verloren. Zumal die Betreiber dieser Tools selbst das Opfer einer Datenpanne werden könnten und sensible Daten dann unter Umständen auch auf diesem Weg abfließen.

"Generative KI-Tools bergen große Sicherheitsrisiken. Deshalb einfach im Büro den Zugriff zu sperren, schießt aber über das Ziel hinaus und ist oft zwecklos. Solche Tools machen die Mitarbeiter zweifellos produktiver und diese greifen ohnehin häufig von außerhalb des Unternehmensnetzwerks darauf zu", erläutert Fabian Glöser, Team Lead Sales Engineering bei Forcepoint in Deutschland. "Besser ist es, die Mitarbeiter für die Risiken zu sensibilisieren und sie mit Data-Security-Lösungen vor folgenschweren Unachtsamkeiten im hektischen Arbeitsalltag zu schützen." (Forcepoint: ra)

eingetragen: 28.10.23
Newsletterlauf: 02.02.24

ForeScout: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Markt / Hinweise & Tipps

Cyber-Resilienz stärken
Verlust sensibler Daten, enormer finanzieller Schaden oder die Störung der öffentlichen Ordnung - Cyberangriffe auf Kritische Infrastrukturen und Finanzinstitute können erhebliche gesellschaftliche Auswirkungen haben. Die Europäische Union hat deshalb die NIS2-Richtlinie und den Digital Operational Resilience Act (DORA) eingeführt, um diese zu minimieren.
KI im Arbeitsalltag: Werkzeug, kein Wundermittel
Knapp 60 Prozent der deutschen Unternehmen mit mehr als 500 Mitarbeitenden nutzen laut einer Studie des Branchenverbands Bitkom inzwischen KI-basierte Chatbots. Wie gut die Ergebnisse ausfallen, die diese Bots und andere KI-Tools liefern, hängt allerdings wesentlich von der verwendeten Datengrundlage und einem wirklich sinnvollen Einsatzszenario ab.
Generationenkonflikt der IT-Security
Unternehmen sind auf die Dynamik und frischen Ideen der jungen Generation angewiesen, um dem Fachkräftemangel zu begegnen und sich weiterzuentwickeln. Es darf jedoch nicht auf Kosten der IT-Sicherheit gehen. Um diesen Spagat zu meistern, braucht es einen Security-Ansatz, der Platz für Fortschritt schafft, anstatt ihn zu behindern.
Ist NIS-2 zu anspruchsvoll?
Die politische Einigung über das Gesetz zur Umsetzung der EU-Richtlinie NIS-2 und der Stärkung der Cybersicherheit noch vor der Bundestagswahl ist gescheitert. SPD, Grüne und FDP konnten sich nicht auf zentrale Punkte einigen. Damit bleibt über zwei Jahre nach der Verabschiedung der EU-Richtlinie die dringend notwendige gesetzliche Verschärfung aus. Die Umsetzungsfrist wird weiter überschritten
Seit 1. Januar 2025 gilt die E-Rechnungspflicht
Stellen Sie sich vor, Ihr Unternehmen kann plötzlich Rechnungen nicht mehr rechtssicher verschicken. Verzögerte Zahlungen, rechtliche Konsequenzen und möglicherweise ein belastetes Geschäftsverhältnis könnten die Folge sein - und das alles, weil Sie die E-Rechnungspflicht ohne die richtige Software kaum einhalten können.

Stolperstein Verpackungsgesetz Wie Sie sich vor Anlagebetrug schützen