KI und Recht - Erlaubt oder nicht?
Rosanna Preller und Roman Cäsar Preller
Beschreibung
Podmon Kategorien
Upgrade dein Konto, um kontextuelle Kategorien zu sehen!
Veröffentlichungshistorie
Episodenübersicht
KI-Tools, DSGVO & Jobangst: Die häufigsten KI-Fragen aus der Praxis
KI-Tools und Arbeitsabläufe
In der Diskussion geht es um individuelle, prozessbasierte KI-Workflows. Top-Tools umfassen eine DSGVO-fokussierte Plattform, Codex-Modelle für Programmierung, Cloth für natürliche Sprache, KI-Agenten, sowie Tools wie Lovable und Base44 zum schnellen Erstellen eigener WebApps. Es wird betont, dass sich Tools je nach Prozess sinnvoll kombinieren lassen, etwa für News-Zusammenfassungen, Transkripte oder Automatisierungsschritte innerhalb eines End-to-End-Prozesses.
DSGVO, Regulierung und Chancen
Die Gäste sehen Regulierung teils als Hemmnis, teils als Sicherheitsanker. Gesetze schützen Daten und Grundrechte, erleichtern verantwortungsvolle Nutzung, aber erschweren den Einstieg ohne Compliance. Wesentlich ist, Regulatorien proaktiv zu beachten, statt erst nach Problemen zu handeln. Transparenzpflichten, Kennzeichnungspflichten und Risikoklassen werden diskutiert, um Unsicherheiten zu reduzieren und Chancen zu nutzen.
Vorgehen in Unternehmen: Kompetenz und Planung
Es wird empfohlen, vor Implementierung rechtzeitig regulatorische Fragen zu prüfen und Experten einzubeziehen. Die Kompetenznachweis-Pflicht (EU AI Act) wird als zentral angesehen, doch konkrete Anforderungen bleiben schwammig. Wesentlich ist, Probleme zu analysieren, nicht nur Tools auszuwählen. Praxisnähe, Schulung, sowie lernorientiertes Vorgehen unterstützen Unternehmen, KI sinnvoll einzusetzen, ohne rechtliche Fallstricke zu riskieren.
Arbeitsmarkt, Kritik und Lernen mit KI
Die Diskussion betont, dass Menschen weiterhin wichtig bleiben. KI ersetzt weniger die Arbeitsbereiche, eher wichtig ist, Kompetenzen zu teilen und kritisch zu bleiben. Lernangebote sollten praxisnah sein, nicht nur Tool-Training bieten. Häufige Fragen betreffen Robustheit, Halluzinationen und Prompting. Kritisches Denken wird betont, um Ergebnisse zu prüfen und sinnvoll zu nutzen, statt blind zu vertrauen.
Digitaler Zwilling: Darf die KI mich im Job vertreten?
Was ist ein digitaler Zwilling in der Arbeitswelt?
Der digitale Zwilling bildet eine reale Person digital ab und kann so handeln, schreiben und nachvollziehbar Entscheidungen treffen. Im Gegensatz zu einfachen KI-Assistenten dient er als Stellvertreterfigur, der Zugriff auf E-Mails, Kalender, Dokumente und Verläufe erhält. Er verspricht Produktivitätssteigerung, doch gleichzeitig drohen Verhaltensmuster, Präferenzen und Entscheidungen der Person abzubilden und zu beeinflussen.
Technische Grundlagen und Autonomie
Technisch basiert der Zwilling oft auf bestehenden Sprachmodellen, ergänzt durch unternehmensinterne Daten. Retrieval Augmented Generation (RAG) ermöglicht das Abrufen relevanter Informationen aus Akten statt vollständigem Auswendiglernen. Es gibt Stufen von Vorschlägen bis hin zu eigenständigen Handlungen, wobei mit zunehmender Autonomie auch mehr Governance nötig wird.
Rechtliche Rahmen und governance
Wichtige Grundsätze sind Zweckbindung, Erforderlichkeit, Datenminimierung und Transparenz. Eine freiwillige Einwilligung reicht im Arbeitsverhältnis nicht automatisch; Mitbestimmung des Betriebsrats ist relevant, und EU-KI-Verordnung verschärft das Thema bei überwachender oder bewertender Nutzung. Verantwortung liegt beim Unternehmen, das klare Freigaben, Protokolle und Grenzen festlegen muss.
Praktische Umsetzung: Assistenzmodell und Grenzen
Empfohlen wird ein Assistenzmodell, bei dem der Zwilling vorbereiten, strukturieren und vorschlagen darf, aber nicht autonom entscheidet oder nach außen kommuniziert. Eine klare Zweckbindung, begrenzte Datenquellen, transparente Information der Beschäftigten und ein Lösch-/Access-Konzept sind zentral. Wissen aus dem Job darf nicht automatisch Persönlichkeitsrechte ersetzen oder umfassend zur Nachbildung verwendet werden.
Alle nutzen KI – aber kaum jemand rechtssicher: 5 Fehler, die Unternehmer teuer bezahlen können
Risiken und Schatten-KI im Unternehmen
In vielen Teams wird KI im Alltag genutzt, oft ungeprüft oder nicht dokumentiert. Das birgt rechtliche Risiken, vor allem wenn personenbezogene Daten verarbeitet, Inhalte generiert oder Entscheidungen beeinflusst werden. Schatten-KI, also Nutzung außerhalb formeller Genehmigungen, erhöht die Unsicherheit, da Geschäftsführung und Datenschutzverantwortliche oft nicht vollständig informiert sind. Eine klare Regulierung, Verantwortlichkeiten und Prüfung sind zentrale Bausteine, um Risiken beherrschbar zu halten.
Fünf typische Fehler beim Einsatz von KI
Erster Fehler: unkontrollierte Eingabe personenbezogener oder vertraulicher Daten in KI-Tools. Zweiter Fehler: kommerzielle Nutzung von KI-Content ohne Prüfung von Nutzungsrechten und eventuellen Urheberrechts- oder Markenverletzungen. Dritter Fehler: KI trifft oder unterstützt Entscheidungen über Menschen, insbesondere im Recruiting oder der Leistungsbewertung. Vierter Fehler: EU-AI-Act gilt auch für Anwender, nicht nur für Hersteller. Fünfter Fehler: fehlende Verantwortlichkeit und Governance, insbesondere bei autonomen KI-Agenten.
Regeln, Pflichten und Governance
Der EU-AI-Act fordert Kompetenzen, Transparenz und klare Verantwortlichkeiten – auch beim Anwender, nicht nur bei Anbietern. Unternehmen sollten Schulungen, Richtlinien und Freigabeprozesse etablieren, um Shadow AI zu verhindern. Es braucht eine Priorisierung von Anwendungsfällen, eine Übersicht der erlaubten Tools sowie Dokumentation über Datennutzung, Zweckbindung und Schutzmaßnahmen. Die Governance muss praktisch umsetzbar sein, nicht nur als Schlagwort.
Konkrete Schritte für eine sichere KI-Nutzung
1) Inventar der genutzten KI-Tools erstellen. 2) Anwendungen nach Risiko ordnen. 3) Eine verständliche KI-Richtlinie festlegen. 4) Mitarbeitende durch Schulungen befähigen. 5) Kritische Fälle dokumentieren und Freigabeprozesse definieren. Eine schlanke, praxisnahe Governance reicht oft aus, um Risiken zu senken und verantwortungsvoll zu handeln.