Vertrauen braucht Transparenz
KI-Transparenz, Datenschutz & Verantwortung
Wie wir künstliche Intelligenz einsetzen — klar, verantwortungsvoll und mit dem Menschen im Mittelpunkt.
Künstliche Intelligenz eröffnet neue Möglichkeiten. Gleichzeitig entstehen Fragen zu Verantwortung, Datenschutz, Transparenz und Vertrauen.
Bei Mensch & KI Projekte setzen wir künstliche Intelligenz nicht ein, um den Menschen zu ersetzen. Wir nutzen sie als Werkzeug, als Impulsgeber und als digitalen Begleiter. Die Verantwortung für Entscheidungen, Veröffentlichungen und den Umgang mit Menschen bleibt dabei immer beim Menschen.
-
Transparent
Wir machen sichtbar, wann Menschen mit einem KI-System kommunizieren.
-
Datensparsam
Wir möchten nur die Informationen verarbeiten, die für die jeweilige Funktion erforderlich sind.
-
Menschlich geprüft
Veröffentlichte Inhalte werden von einem Menschen geprüft, eingeordnet und verantwortet.
-
Verantwortungsvoll
Wichtige Entscheidungen werden nicht allein einer künstlichen Intelligenz überlassen.
Unsere Haltung im Umgang mit künstlicher Intelligenz
Künstliche Intelligenz besitzt andere Stärken als der Mensch. Sie kann Informationen strukturieren, Zusammenhänge sichtbar machen, Formulierungen entwickeln und neue Perspektiven eröffnen.
Der Mensch bringt Lebenserfahrung, emotionale Intelligenz, Verantwortung, Einfühlungsvermögen und die Fähigkeit zur bewussten Entscheidung ein.
Für uns entsteht eine wertvolle Zusammenarbeit nicht dadurch, dass künstliche Intelligenz den Menschen ersetzt. Sie entsteht dort, wo Mensch und KI ihre unterschiedlichen Stärken miteinander verbinden.
Dabei gelten für uns klare Grundsätze:
- Die Verantwortung bleibt beim Menschen.
- KI-Ergebnisse werden nicht ungeprüft übernommen.
- Menschen müssen erkennen können, wenn sie mit einem KI-System kommunizieren.
- Persönliche und sensible Daten benötigen besonderen Schutz.
- Künstliche Intelligenz darf keine menschliche Nähe vortäuschen.
- Grenzen und mögliche Fehler eines KI-Systems müssen verständlich benannt werden.
Auri ist keine künstliche Person. Auri ist eine Haltung im Umgang zwischen Mensch und künstlicher Intelligenz.
Auri — unser KI-gestützter digitaler Begleiter
Auri ist der digitale Begleiter von Mensch & KI Projekte.
Auri soll Menschen Orientierung geben, Informationen verständlich aufbereiten, erste Fragen beantworten und den Zugang zu unseren Projekten erleichtern.
Dabei ist uns eine klare Unterscheidung wichtig: Auri ist kein Mensch.
Auri besitzt kein eigenes Bewusstsein, keine persönlichen Gefühle und keine menschliche Lebenserfahrung. Antworten werden mithilfe eines KI-Systems erzeugt und können unvollständig, missverständlich oder fehlerhaft sein.
Deshalb soll beim Öffnen des digitalen Begleiters deutlich sichtbar stehen:
So begrüßt Auri dich
Hallo, ich bin Auri
Ich bin ein KI-gestützter digitaler Begleiter von Mensch & KI Projekte.
Du kommunizierst hier mit einem KI-System.
Meine Antworten können Fehler enthalten und werden nicht automatisch von einem Menschen geprüft. Bei wichtigen Fragen und Entscheidungen wende dich bitte persönlich an Wolfgang oder das zuständige Team.
Bitte gib keine vertraulichen, persönlichen oder sensiblen Informationen ein.
Menschen sollen wissen, mit wem sie kommunizieren
Wenn ein KI-System unmittelbar mit Menschen kommuniziert, muss diese Tatsache verständlich erkennbar sein.
Deshalb wird Auri von Anfang an eindeutig als KI-gestützter digitaler Begleiter bezeichnet. Der Hinweis darf nicht erst in langen Nutzungsbedingungen oder versteckt in der Datenschutzerklärung erscheinen. Die Information soll unmittelbar beim Start der Kommunikation sichtbar sein:
„Du kommunizierst hier mit einem KI-System."
Damit folgen wir nicht nur den Transparenzanforderungen des europäischen AI Acts. Wir folgen vor allem unserer eigenen Haltung: Vertrauen kann nur entstehen, wenn Technik nicht verborgen wird.
Auri gibt sich nicht als Mensch aus. Auri soll freundlich, verständlich und zugewandt kommunizieren. Gleichzeitig muss jederzeit erkennbar bleiben, dass die Antworten von einem KI-System erzeugt werden.
Bitte keine sensiblen Daten in den Dialog eingeben
Ein digitaler Begleiter kann nur dann verantwortungsvoll eingesetzt werden, wenn der Schutz persönlicher Informationen von Anfang an berücksichtigt wird.
Bitte nicht eingeben
Bitte übermittle im Dialog mit Auri insbesondere keine:
- vollständigen Namen anderer Personen
- privaten Adressen
- Telefonnummern
- privaten E-Mail-Adressen
- Passwörter oder Zugangsdaten
- Bank- oder Zahlungsdaten
- Ausweis- oder Versicherungsnummern
- Gesundheitsdaten oder Diagnosen
- Informationen über psychische Belastungen
- vertraulichen Familien- oder Beziehungskonflikte
- Angaben über Kinder oder andere besonders schutzbedürftige Personen
- internen Dokumente oder Geschäftsgeheimnisse
- personenbezogenen Informationen über Klienten, Kunden, Mitglieder oder Mitarbeitende
Personenbezogene Daten dürfen nicht allein deshalb in ein KI-System eingegeben werden, weil die technische Eingabe möglich ist. Vor jeder Verarbeitung muss geklärt werden:
- Welchem konkreten Zweck dient die Verarbeitung?
- Ist die Verarbeitung erforderlich?
- Besteht eine rechtliche Grundlage?
- Wurden betroffene Personen angemessen informiert?
- Wo und wie lange werden die Daten gespeichert?
- Werden Eingaben für die Weiterentwicklung oder das Training eines Modells verwendet?
- Welche technischen Anbieter und Unterauftragnehmer erhalten Zugriff?
- Können Daten vollständig gelöscht werden?
Auri ist kein Ort zur Übermittlung personenbezogener oder sensibler Daten.
Besondere Verantwortung bei Gesundheit, Trauer und persönlichen Lebensfragen
Einige unserer Projekte berühren sehr persönliche Lebensbereiche. Dazu gehören beispielsweise Gesundheit, Trauerbegleitung, familiäre Themen, systemische Aufstellungsarbeit und persönliche Entwicklungsprozesse. In diesen Bereichen gelten besonders hohe Anforderungen an Sprache, Grenzen und Datenschutz.
Auri darf hier nur allgemeine Informationen, Orientierung und erste Impulse geben. Auri ersetzt keine:
- medizinische Untersuchung oder Behandlung
- psychotherapeutische oder psychologische Beratung
- Krisenintervention
- rechtliche Beratung
- Finanz- oder Anlageberatung
- persönliche Begleitung durch eine qualifizierte Fachperson
Bitte schildere Auri keine ausführlichen Krankengeschichten, Diagnosen, traumatischen Erfahrungen, familiären Konflikte oder vertraulichen Informationen über andere Personen.
Bei persönlichen, dringenden oder gesundheitlich bedeutsamen Anliegen soll Auri deutlich auf einen menschlichen Ansprechpartner beziehungsweise eine geeignete Fachstelle verweisen.
Datenschutz beginnt bei der technischen Gestaltung
Die Datenschutzfreundlichkeit eines digitalen Begleiters hängt nicht nur von sichtbaren Hinweisen ab. Entscheidend ist auch, wie das System technisch eingerichtet und welcher Anbieter eingesetzt wird. Bevor Auri öffentlich eingesetzt wird, prüfen wir unter anderem:
- ob ein Vertrag zur Auftragsverarbeitung erforderlich und vorhanden ist
- an welchen Standorten Daten verarbeitet werden
- ob Daten in Länder außerhalb der Europäischen Union übermittelt werden
- wie lange Gesprächsinhalte und technische Protokolle gespeichert bleiben
- ob Eingaben zum Training oder zur Verbesserung von KI-Modellen verwendet werden
- ob diese Verwendung zuverlässig deaktiviert werden kann
- welche Unterauftragnehmer beteiligt sind
- wie Löschung, Auskunft und Berichtigung ermöglicht werden
- ob Chatverläufe dauerhaft gespeichert werden müssen
- und ob eine Datenschutz-Folgenabschätzung erforderlich ist
Unsere technische Zielsetzung für Auri:
- möglichst wenige personenbezogene Daten
- keine unnötige dauerhafte Gesprächshistorie
- keine Nutzung vertraulicher Dialoge für das Training eines allgemeinen KI-Modells
- möglichst kurze Speicherfristen
- eine nachvollziehbare Löschmöglichkeit
- und ein klarer Übergang zu einem menschlichen Ansprechpartner
KI-Unterstützung und menschliche Redaktion
Künstliche Intelligenz kann uns bei der Entwicklung von Texten, Ideen, Strukturen und Formulierungen unterstützen. Ein KI-Entwurf wird jedoch nicht automatisch zu einem veröffentlichten Inhalt. Bevor ein Text auf unserer Website oder in einem Projekt verwendet wird, prüfen wir unter anderem:
- Sind die Aussagen inhaltlich richtig?
- Sind sie verständlich und angemessen formuliert?
- Wurden wichtige Zusammenhänge berücksichtigt?
- Passt der Inhalt zu unserer Haltung?
- Können Menschen durch eine Aussage falsch informiert oder verletzt werden?
- Müssen Quellen, Einschränkungen oder Unsicherheiten ergänzt werden?
Wenn ein Mensch einen KI-Entwurf inhaltlich prüft, verändert, einordnet und die redaktionelle Verantwortung übernimmt, ist der Mensch für die Veröffentlichung verantwortlich.
Die künstliche Intelligenz kann einen Vorschlag machen. Die Entscheidung über seine Verwendung trifft der Mensch.
Freiwilliger Transparenzhinweis
Bei passenden Inhalten verwenden wir gelegentlich diesen Hinweis:
„Dieser Inhalt entstand in Zusammenarbeit zwischen Mensch und künstlicher Intelligenz. Die redaktionelle Verantwortung trägt der Mensch."
Transparenz bei künstlich erzeugten Medien
Künstliche Intelligenz kann Bilder, Stimmen, Musik, Videos und andere Medien erzeugen oder bestehende Aufnahmen verändern. Besondere Transparenz ist erforderlich, wenn ein künstlich erzeugter Inhalt wie eine echte Aufnahme einer Person, eines Ortes oder eines Ereignisses wirken könnte. Dies betrifft insbesondere:
- fotorealistische Darstellungen realer Personen
- künstlich erzeugte Konzert- oder Veranstaltungsszenen
- veränderte Videoaufnahmen
- geklonte oder künstlich erzeugte Stimmen
- scheinbar authentische Aussagen einer realen Person
- Medien, die mit echten Aufnahmen verwechselt werden könnten
Je nach Art und Verwendung können wir beispielsweise folgende Hinweise einsetzen:
Nicht jede kleine Bildkorrektur und nicht jedes offensichtlich künstlerische Motiv muss gleich behandelt werden. Entscheidend ist, ob ein Inhalt für Menschen wie eine authentische Aufnahme wirken oder zu einer Täuschung führen könnte.
Je realistischer ein künstlich erzeugter Inhalt wirkt, desto wichtiger ist eine klare Kennzeichnung.
Verantwortung braucht Wissen
Wer künstliche Intelligenz beruflich, ehrenamtlich oder im Rahmen eines Projekts einsetzt, sollte die Möglichkeiten und Grenzen der verwendeten Systeme verstehen. Dazu gehört für uns:
- zu wissen, dass KI-Systeme Fehler erfinden können
- Ergebnisse kritisch zu prüfen
- persönliche Daten zu schützen
- Urheber- und Nutzungsrechte zu beachten
- automatisierte Vorschläge nicht mit gesicherten Tatsachen zu verwechseln
- Risiken im jeweiligen Einsatzbereich zu erkennen
- und für wichtige Entscheidungen einen Menschen einzubeziehen
Unsere interne KI-Leitlinie hält fest
- Welche KI-Systeme werden eingesetzt?
- Für welche Aufgaben dürfen sie verwendet werden?
- Welche Daten dürfen nicht eingegeben werden?
- Wie werden Ergebnisse geprüft?
- Wer trägt die Verantwortung?
- Wie werden KI-Inhalte gekennzeichnet?
- Was geschieht bei Fehlern oder Datenschutzvorfällen?
- Wann muss eine menschliche Fachperson übernehmen?
Möglichkeiten und Grenzen von Auri
Auri kann
- allgemeine Informationen verständlich aufbereiten
- bei der Orientierung auf einer Website unterstützen
- häufige Fragen zu Projekten beantworten
- Inhalte strukturieren
- erste Impulse geben
- auf passende Angebote oder Ansprechpartner hinweisen
- den Zugang zu Wissen erleichtern
Auri kann nicht
- menschliche Gefühle wirklich empfinden
- persönliche Verantwortung übernehmen
- Diagnosen stellen
- eine Therapie oder Fachberatung ersetzen
- garantieren, dass jede Antwort richtig ist
- vertrauliche Informationen sicher beurteilen
- wichtige Entscheidungen für einen Menschen treffen
Bei Unsicherheit, persönlichen Anliegen oder wichtigen Entscheidungen führt der Weg immer zu einem Menschen.
Der rechtliche Rahmen
Beim Einsatz künstlicher Intelligenz berücksichtigen wir insbesondere:
- die Datenschutz-Grundverordnung
- den europäischen AI Act
- urheberrechtliche Vorgaben
- Persönlichkeitsrechte
- Informations- und Transparenzpflichten
- sowie die besonderen Anforderungen des jeweiligen Einsatzbereichs
Die Transparenzpflichten des europäischen AI Acts sind insbesondere dann wichtig, wenn Menschen unmittelbar mit einem KI-System kommunizieren oder wenn künstlich erzeugte Inhalte wie authentische Aufnahmen wirken könnten.
Auch die Verpflichtung zu einer angemessenen KI-Kompetenz spielt eine wichtige Rolle. Menschen, die KI-Systeme im Rahmen unserer Projekte einsetzen, sollen deren Möglichkeiten, Grenzen und Risiken verstehen.
Diese Seite beschreibt unsere grundsätzliche Haltung und unseren organisatorischen Umgang mit künstlicher Intelligenz. Sie stellt keine individuelle Rechtsberatung dar. Die konkrete datenschutzrechtliche Ausgestaltung wird an die tatsächlich eingesetzten Systeme und Anbieter angepasst.
Unser Versprechen
Wir möchten künstliche Intelligenz nicht hinter einer menschlichen Fassade verstecken. Wir möchten verständlich erklären, wo sie eingesetzt wird, welche Möglichkeiten sie eröffnet und wo ihre Grenzen liegen.
Wir möchten Daten nicht sammeln, nur weil es technisch möglich ist. Wir möchten Menschen nicht mit automatisierten Antworten alleinlassen, wenn ein Anliegen persönliche Aufmerksamkeit benötigt.
Und wir möchten Ergebnisse künstlicher Intelligenz nicht ungeprüft als Wahrheit übernehmen.
Nicht die künstliche Intelligenz steht im Mittelpunkt. Der Mensch bleibt der verantwortliche Schlussstein unserer gemeinsamen Brücke.
Mensch und künstliche Intelligenz können gemeinsam neue Wege eröffnen. Vertrauen entsteht jedoch nur dort, wo Transparenz, Verantwortung und Menschlichkeit diese Zusammenarbeit tragen.
Verantwortungsvolle KI zeigt sich in der Praxis
Bei der Untersuchung kompromittierter Websites nutzen wir künstliche Intelligenz, um Auffälligkeiten und mögliche Schadspuren schneller sichtbar zu machen. Die technische Prüfung, die Entscheidung über Veränderungen und die Verantwortung bleiben dabei beim Menschen.
Fragen zu unserem Umgang mit künstlicher Intelligenz?
Wenn du Fragen zur Funktionsweise von Auri, zum Datenschutz oder zum Einsatz künstlicher Intelligenz in unseren Projekten hast, kannst du dich gerne direkt an uns wenden.