KI-Chatbots compliant einsetzen

Viele Organisationen gehen derzeit die ersten Schritte in Richtung Künstlicher Intelligenz (KI). Häufiger Startpunkt ist dabei die Einführung von KI-Chatbots. Hierzu zählen beispielsweise Microsoft Copilot Chat oder ChatGPT. Bei der Einführung solcher KI-Systeme ist es jedoch wichtig, von vornherein die richtigen Rahmenbedingungen zu setzen, dann steht auch dem KI-Chatbot nichts mehr im Weg.

Eine KI-Richtlinie ist Pflicht

Was sich kompliziert anhört ist eigentlich ganz einfach: Jede Organisation, die KI einsetzen möchte, braucht eine KI-Richtlinie. Diese enthält die wichtigsten Rahmenbedingungen, damit einerseits die Vorgaben des Datenschutzes (DSGVO), der Informationssicherheit und der KI-Verordnung (KI-VO bzw. AI-Act) eingehalten werden. Warum eine KI-Richtlinie wichtig ist, erklären wir hier im Detail.

Wussten Sie schon: Eine praxisbewährte KI-Richtlinie, die bereits in vielen Unternehmen und Behörden zum Einsatz kommt, ist in dem Demozugang des KI-Moduls unseres Managementsystems DSN port bereits enthalten. Rufen Sie uns gerne an oder schreiben Sie uns über das Kontaktformular und setzen Sie den ersten Schritt in Richtung eines rechtssicheren KI-Einsatzes.

Klassifizierung von KI-Systemen

Um KI-Systeme rechtskonform einsetzen zu können, müssen diese von der Organisation klassifiziert werden. Hier wird es rechtlich manchmal etwas detailliert, denn man muss zum Beispiel sicherstellen, dass keine verbotenen KI-Praktiken zum Einsatz kommen. Man muss zudem hochriskante KI-Praktiken erkennen, um weitere Pflichten einzuhalten. Von besonderer Praxisrelevanz sind schließlich die Transparenzpflichten, die bei der Nutzung von KI-Systemen bzw. KI-Inhalten entstehen können; etwa in Bezug auf Deepfakes und bestimmte Texte.

Wussten Sie schon: Zugriff auf eine beispielhafte Klassifizierung von ChatGPT erhalten Sie über den Demozugang zum Modul KI in DSN port. Wie dies aussieht und welche Gedanken wir uns bei der Klassifizierung gemacht haben, können Sie hier nachlesen.

Personenbezogene Daten? Rahmenbedingungen für den Datenschutz nicht vergessen!

Sofern personenbezogene Daten in KI-Chatbots wie Microsoft Copilot Chat oder ChatGPT verarbeitet werden sollen, greifen die Vorgaben der DSGVO. Auch hier müssen dann aber die Rahmenbedingungen stimmen und die Organisation muss zum Beispiel Verträge zur Auftragsverarbeitung nach Art. 28 DSGVO prüfen sowie die Angemessenheit des Datenschutzniveaus und die technischen und organisatorischen Maßnahmen des KI-Systems bzw. des Anbieters des KI-Systems. Sofern die Organisation eine gewisse Größe überschreitet, muss das KI-System auch in das sogenannte Verzeichnis der Verarbeitungstätigkeiten eingetragen werden (Art. 30 DSGVO). Insgesamt macht eine Dokumentation aber auch bei kleineren Organisationen aus Gründen der Rechenschaftspflicht Sinn.

Wussten Sie schon: Das Modul Datenschutz unseres Managementsystems DSN port ist genau für eine solche Dokumentation konzipiert. Arbeiten Sie mit mehreren Personen am Verzeichnis der Verarbeitungstätigkeiten zusammen, laden Verträge zur Auftragsverarbeitung hoch, prüfen diese Verträge KI-basiert (optionales Zusatzmodul aus dem DSN lab), geben Fachverantworlichen Gastzugänge auf bestimmte Eintragungen, verwalten Aufgaben und behalten den Überblick.

Datenschutzrechtliche Rechtsgrundlage

Selbst wenn die Rahmenbedingungen stimmen, ist in Bezug auf den Datenschutz noch nicht alles getan. Denn zur Verarbeitung personenbezogener Daten braucht es eine Rechtsgrundlage. Diese wird aber oftmals schon gegeben sein, sofern sich die Zwecke der Datenverarbeitung nicht ändern. Wer zum Beispiel mit Hilfe von ChatGPT einen Text übersetzen will, um eine Kundenanfrage zu beantworten, wird dies meist ohne neue Rechtsgrundlage und ohne neue Datenschutzinformation auch dürfen. Denn das KI-System ist an dieser Stelle nur ein Werkzeug, vergleichbar mit Microsoft Word. Aufpassen muss man dann aber noch im Hinblick auf die Löschpflichten. Da ist bei Microsoft Copilot Chat und ChatGPT zum Beispiel an die gespeicherten Chatverläufe zu denken, die einerseits personenbezogene Daten der Nutzer selbst enthalten können und andererseits auch personenbezogene Kundendaten (sofern dies über den Prompt eingegeben oder über den Dokumentenupload hochgeladen wurden).

Wussten sie schon: Das Modul Datenschutz unseres Managementsystems DSN port hält auch hier alles für eine rechtssichere Dokumentation bereit. 

Schulungen nicht vergessen

Sowohl im Datenschutz als auch nach der KI-VO sind Schulungen Pflicht. Die KI-VO regelt eine solche Pflicht sogar ausdrücklich in Art. 4 KI-VO. Wie, mit welchen Inhalten, von wem und wie oft diese Schulungen durchgeführt werden müssen, ist jedoch nicht geregelt. Die Organisation benötigt hier aber ein Schulungskonzept.

 Wussten Sie schon: Über DSN train bieten wir Ihnen die nötigen Inhalte, damit Sie Ihren Schulungspflichten schnell und unkompliziert nachkommen zu können. Mehr Informationen zu unserem eLearning-Content finden Sie hier.Und weil Content ohne smarte und dokumentierte Schulungsverteilung nicht auskommt, bieten wir auch hier über unser Learning Management System (LMS) DSN traincenter eine ganzheitliche Lösung. Übrigens: Wenn Sie DSN traincenter als LMS nutzen, können Sie den Stand der Schulungen auch direkt in DSN port im entsprechenden Fachmodul anzeigen lassen und dokumentieren.

Mitbestimmung

Sofern Organisationen eine Mitarbeitervertretung haben und sofern die Organisation Zugriffsmöglichkeiten auf Aktivitätsverläufe der KI-Chatbots hat, darf die Mitbestimmung nicht vergessen werden. Hier wird es dann aber im Kern darum gehen, ob, wer, wann wie und zu welchen Zwecken auf Aktivitätsverläufe zugreifen darf.

Wussten Sie schon: Auch die Datenverarbeitung der Mitarbeitervertretung muss in einem Verzeichnis der Verarbeitungstätigkeiten dokumentiert werden. Das Modul Datenschutz für Betriebsräte unseres Managementsystems DSN port legt hier den Grundstein für einen Bereich, der meist vergessen wird.   

Demozugang zum DSN port? Nur ein Schritt entfernt

Nehmen Sie gerne Kontakt zu uns auf und erhalten über einen unverbindlichen Demozugang zum Modul KI in DSN port:

• Zugriff auf das Muster unserer KI-Richtlinie.
• Zugriff auf die Musterklassifizierung für ChatGPT.
• Zugriff auf eLearnings (inklusive KI-Grundkompetenzschulung nach Art. 4 KI-VO).
• Die Möglichkeit unser modulares Managementsystem DSN port ausführlich zu testen.

Wir freuen uns auf Sie!