Künstliche Intelligenz ist inzwischen fester Bestandteil des Unternehmensalltags. Sie betrifft nicht nur große Technologieprojekte oder komplexe, intern entwickelte Systeme: Häufig ist sie bereits in die Werkzeuge integriert, die Beschäftigte, externe Mitarbeitende und Unternehmensbereiche täglich nutzen.
Ausgangspunkt sollte nicht die Frage sein, ob KI verboten werden muss, sondern wie sie eingeführt, gesteuert und verantwortungsvoll eingesetzt werden kann.
Welche KI-Werkzeuge werden tatsächlich genutzt?
Wenn man in einem Unternehmen danach fragt, welche KI-Werkzeuge eingesetzt werden, fällt die erste Antwort häufig unsicher aus: Schweigen, Zweifel oder mitunter die Aussage: „Wir nutzen keine Künstlichen Intelligenz.“
Bei näherer Betrachtung zeigt sich jedoch oft ein anderes Bild: Übersetzungsprogramme, Chatbots, generative Assistenten, in Unternehmenssoftware integrierte Anwendungen, kostenlose Dienste oder Geschäftskonten. Dabei handelt es sich um das Phänomen der sogenannten „Schatten-KI“: Werkzeuge, die vom Unternehmen nicht offiziell eingeführt wurden, aber von Beschäftigten eigenständig genutzt werden.
Im beruflichen Umfeld kann KI eingesetzt werden, um Bewerber auszuwählen, Anwesenheitszeiten zu erfassen, die Produktivität zu überwachen, logistische Prozesse zu unterstützen oder Leistungen zu bewerten.
Was muss ein Unternehmen vor der Einführung von KI-Systemen tun?
Ein angemessener Ansatz beginnt mit einigen wesentlichen Maßnahmen: die eingesetzten Werkzeuge erfassen, die Anbieter überprüfen, zwischen öffentlichen oder kostenlosen Tools und Geschäftskonten unterscheiden, datenschutzrechtliche Rollen und vertragliche Verantwortlichkeiten festlegen sowie klar definieren, welche Daten eingegeben werden dürfen und welche nicht.
Das Unternehmen muss außerdem die Diensteinstellungen, die Nutzungsbedingungen, die Verarbeitungszwecke, die Sicherheitsmaßnahmen, den Speicherort der Daten und eine mögliche Weiterverwendung der hochgeladenen Inhalte überprüfen.
Verfahren, interne Richtlinien und Leitlinien sind nur dann wirksam, wenn sie verstanden, kommuniziert und umgesetzt werden. Erhalten Beschäftigte klare Anweisungen zur Nutzung von KI-Werkzeugen, reduziert das Unternehmen das Risiko unbefugter Handlungen und stärkt seine Governance. In besonders sensiblen Fällen müssen auch die Auswirkungen auf die Grundrechte bewertet werden. Kann die Verarbeitung personenbezogener Daten ein hohes Risiko mit sich bringen, sind diese Analysen mit der Datenschutz-Folgenabschätzung zu koordinieren.
Artikel 27 des AI Act sieht für bestimmte Betreiber von Hochrisiko-KI-Systemen eine Grundrechte-Folgenabschätzung vor, die – soweit einschlägig – die Datenschutz-Folgenabschätzung ergänzt.
Roberta De Giusti, Country Managerin von Privacy Desk Suisse, vertiefte diese Themen im Rahmen des Ticino Digital Day am 5. Mai 2026.
