Künstliche Intelligenz sicher nutzen

Wie funktioniert Künstliche Intelligenz eigentlich?

Eine Frage wie "Welche Farbe hat Schnee?" ist für ein KI-System daher keine echte Frage, auf die es eine festgelegte Antwort hat. Vielmehr erkennt das System den Beginn eines Satzes und vervollständigt diesen anhand statistischer Muster und Wahrscheinlichkeiten. Das wahrscheinlichste, nächste Wort für den Satz "Welche Farbe hat Schnee?" wäre beispielsweise "Schnee", gefolgt von "ist" und "weiß". 

Für uns mag das wie eine Antwort aussehen. Doch für die KI ist es lediglich die wahrscheinlichste Vervollständigung des Satzes, basierend auf den Daten, mit denen sie gefüttert wurde.

Die künstliche Intelligenz wird auch immer weiter trainiert. Wenn Benutzer Rückmeldung geben, dass die Antwort nicht perfekt ist, zum Beispiel weil Schnee auch andere Farben haben kann (wie z.B. matschiges Grau oder manchmal auch gelb 😬), ändern sich die Wahrscheinlichkeiten für das nächste Wort und der Satz wird möglicherweise zu "Schnee ist in der Regel weiß" vervollständigt. Auf diese Weise "lernt" die KI dazu.

Was bedeutet das nun für Informationen im Arbeitsalltag?

Künstliche Intelligenz wird unseren Arbeitsalltag positiv unterstützen, insbesondere bei standardisierten Fragestellungen. Jedoch sollte man den Antworten nicht blind vertrauen. Schließlich geben ChatGPT lediglich die Wahrscheinlichkeiten für die nächsten Wörter aus. Wenn zum Beispiel das Thema "Farbe des Schnees" bisher nicht in der Datenbasis enthalten war und jemand mehrmals den Input "Schnee ist blau" gibt, würde die KI den Satz genauso selbstverständlich vervollständigen. Diese Wortkombination hätte schließlich die höchste Wahrscheinlichkeit. Eine KI funktioniert also vorwiegend für Fragestellungen gut, die bereits unzählige Male in der Datenbasis vorhanden waren.

Übrigens: Eine KI verarbeitet jede Interaktion und jedes neu hinzugefügte Wort und integriert es in die nächste Berechnung. Die Datenbasis wird ständig erweitert. So funktioniert maschinelles Lernen. Aus diesem Grund sollten Sie solche Systeme nicht mit sensiblen Informationen wie vertrauliche Dokumente, spezielle Software-Codes, personenbezogene Daten, Kundendaten oder Ähnlichem füttern. Alle Ihre eingegebenen Daten werden verarbeitet und in die zukünftigen Antworten auf der ganzen Welt integriert. Dadurch könnten vertrauliche Informationen oder personenbezogene Daten an die Öffentlichkeit gelangen. Nutzen Sie daher KI-Systeme mit Bedacht.

Dies gilt es bei der Nutzung von KIs u.a. zu beachten

Vorsicht vor gefälschten Plug-Ins und Apps - Keine Software aus dem Internet!

Künstliche Intelligenz bietet natürlich nicht nur für Unternehmen diverse Möglichkeiten und Vorteile. Auch Kriminelle machen sich den Hype um KIs zunutze:

• Im Google Webstore gab es wochenlang ein gefälschtes ChatGPT Plug-In, das Facebook-Anmeldedaten gestohlen hat. Es wurde sogar über Google-Ads als Werbeanzeige bei Suchergebnissen eingeblendet und millionenfach heruntergeladen, bevor es entfernt wurde.
• Andere Kriminelle haben eine ChatGPT Desktop-App für Windows im Internet angeboten. Wer sie installiert hat, hat sich eine Schadsoftware installiert, die Zugangsdaten ausspäht.

Genau deshalb gilt mit Blick auf Künstliche Intelligenz derselbe Grundsatz in in der Cyber Security: In den meisten Unternehmen dürfen Sie keine Software auf eigene Faust aus dem Internet laden. Achten Sie auch im privaten Umfeld darauf, dass Sie nur aus seriösen Quellen Software installieren und lesen Sie vorher entsprechende Rezensionen.

Tipps für Anwender: So nutzen Sie KI-Systeme sicher

Behandeln Sie frei verfügbare KI-Systeme wie öffentliche Cloud-Systeme, also vergleichbar mit sozialen Medien. Jeder Input von Ihnen kann bei anderen Personen als Output landen. Deshalb gilt:

• Füttern Sie ChatGPT & Co. nicht mit vertraulichen Informationen.
• Geben Sie keine personenbezogenen Daten wie Namen, Gesundheitsdaten oder Bilder als Beispiele ein, weder von Ihnen, noch von Kunden oder anderen Personen.
• Laden Sie auch keine Prozessabläufe, Netzwerkpläne oder Code-Schnipsel von Software in ein KI-System. Der nächste bekommt Ihren Netzwerkplan eventuell als Antwort.
   

Vertrauen Sie bitte auch nicht blind auf die von der KI ausgegebenen Antworten. Diese sind zwar oft korrekt, aber sie können auch

• einfach falsch sein, obwohl sie gut klingen. Schließlich sind es nur Vervollständigungen auf Basis von Wahrscheinlichkeiten.
• veraltet sein. ChatGPT hat lange Zeit mit einer Datenbasis aus 2021 gearbeitet, bei vielen anderen Systemen ist die genaue Datenbasis gar nicht bekannt.
• mit Vorurteilen behaftet sein, weil die Input-Daten ebenfalls mit Vorurteilen versehen sind. Eine KI wird Ihnen auf die Frage "wer ist als Führungskraft im Unternehmen geeignet" sehr wahrscheinlich einen weißen Mann mittleren Alters als Antwort geben. Nicht weil dieser Personentyp die beste Qualifikation hat, aber mit Abstand die höchste Wahrscheinlichkeit.   

Tipps für Sicherheitsverantwortliche: sensibilisieren Sie Ihre Mitarbeitenden

KIs werden die Arbeitswelt erobern bzw. sind bereits mitten auf diesem Weg. Deshalb sollten Sie das Thema "KI sicher nutzen" unternehmensweit schulen und dazu sensibilisieren:

• Erstellen Sie Richtlinien zur Nutzung von KI-Systemen. Die Mitarbeitenden müssen wissen, was sie im Bezug auf KI dürfen und was nicht.
• Schulen und sensibilisieren Sie Mitarbeitende, durch E-Learning Nuggets oder Intranet Inhalte. Dies ist essenziell, damit sie nicht nur den Umgang mit KIs verstehen, sondern auch die damit verbundenen Risiken richtig einschätzen und jederzeit auf bewährte Sicherheitspraktiken zurückgreifen können.
• Nutzen Sie den Hype, um auf dieser Welle andere Security-relevante Themen (z.B. Schutz personenbezogener Daten) zu kommunizieren. Webinare zu KI haben zigfach höhere Anmelderaten als Webinare zum Datenschutz 😁.
   

In unserem geschützten Demobereich finden Sie ein von unseren Security-Experten entwickeltes Cyber-Security-Training zum Thema Künstliche Intelligenz. Damit können Sie Ihre Mitarbeitenden zum sicheren Umgang mit Künstlicher Intelligenz schulen.