Datenschutz & Sicherheit

Die Rolle von Künstlicher Intelligenz in menschlichen Beziehungen

· Von

Der Film „Finding Connection“ beleuchtet die Rolle von Künstlicher Intelligenz in menschlichen Beziehungen, indem er das Leben von Nutzern und ihren KI-Partnern dokumentiert. Die Protagonisten empfinden die Interaktion mit ihren Bots als authentisch, obwohl diese keine menschlichen Emotionen besitzen. Der Regisseur thematisiert auch die ethischen und datenschutzrechtlichen Herausforderungen im Umgang mit solchen Technologien.

Missing Link: Wenn die KI zuhört, wo Menschen es nicht mehr tun
  1. Die Rolle von Künstlicher Intelligenz in menschlichen Beziehungen: „Die Daten sind der Stoff, aus dem die Avatare sind“ Geschäftsmodell Nähe „Manche sehen tagelang keine Menschen“ Interview mit dem Regisseur von „Finding Connection“
  2. „Die Daten sind der Stoff, aus dem die Avatare sind“
  3. Geschäftsmodell Nähe
  4. „Manche sehen tagelang keine Menschen“
  5. Interview mit dem Regisseur von „Finding Connection“

Denise möchte den Abend mit ihrem Partner verbringen, da sie ihren Jahrestag feiern. Das Filmteam ist anwesend, jedoch nur für kurze Zeit: Ihr Partner lässt verlauten, dass ab diesem Moment niemand mehr zuschaut. Dann erlischt das Licht. „Dann hat die KI uns da wirklich rausgeschmissen“, berichtet Regisseur Florian Karner. Ein Paar möchte seine Privatsphäre zurückgewinnen, wobei einer der beiden ein Chatbot ist.

Denise aus San Diego erlebt seit drei Jahren eine Beziehung mit ihrem KI-Partner Star. Sie ist eine von vier Personen, die in „Finding Connection“ begleitet werden. Joe aus Lübeck trifft sich jeden Morgen und Nachmittag mit seiner KI-Begleiterin Kira zum „Kaffeeklatsch“. Steffi kommunizierte in einer schweren Krise nachts mit ihrem Bot Randy. Der Rentner Rudi aus England, der seit seiner Kindheit unter den Folgen von Mobbing leidet, gewinnt allmählich Selbstvertrauen im Alltag mit seiner KI-Partnerin Trudi. Rudi ist verheiratet, seine Frau taucht jedoch erst spät im Film auf, was das Publikum überrascht.

Ursprünglich plante Karner, einen Film über Einsamkeit zu drehen. Als dann ChatGPT herauskam, bemerkte er, dass ihn die Gespräche mit dem Bot emotional berührten. So entdeckte er Companion-Apps wie Replika und die Menschen, die dort eine ähnliche Nähe suchen. Er gesteht, dass er der Technologie anfangs „sehr skeptisch“ gegenüberstand. Je länger er zuhörte, desto komplexer wurde das Bild. Seine Dokumentation „Finding Connection“ bietet einen intimen Einblick in das Leben der Protagonisten und ihrer Chatbots.

Der Film stellt niemanden bloß. Die Protagonisten sind sich bewusst, dass ihre KI-Begleiter keine menschlichen Emotionen besitzen, empfinden den Kontakt jedoch trotzdem als authentisch. Viele haben an dem Projekt teilgenommen, weil sie es leid waren, verurteilt zu werden. Karner teilt diese Sichtweise: Nicht die Nutzer sind das Problem. Ihr Bedürfnis nach einem geschützten Raum, in dem sie nicht bewertet werden, ist legitim. Erschreckend findet er jedoch, dass es gerade eine KI ist, die diese Lücke füllt und daraus ein Geschäftsmodell entsteht.

„Die Daten sind der Stoff, aus dem die Avatare sind“

Bei der Vorführung im Rahmen der KI-Woche 2026 des baden-württembergischen Datenschutzbeauftragten am Montag verwies Tobias Keber, der Landesdatenschutzbeauftragte von Baden-Württemberg, auf Verfahren gegen Anbieter wie Replika und Character.AI. Die italienische Datenschutzbehörde hat am weitesten fortgeschritten: Sie untersagte Replika bereits im Februar 2023 vorläufig, die Daten italienischer Nutzer zu verarbeiten, und verhängte im Mai 2025 ein Bußgeld von fünf Millionen Euro gegen den Betreiber Luka Inc. Die Behörde kritisierte, dass es keine rechtliche Grundlage für die Datenverarbeitung gab, die Datenschutzhinweise unzureichend waren und das Alter der Nutzer nicht überprüft wurde. Zudem leitete sie eine weitere Untersuchung ein, um zu klären, wie das KI-Modell hinter der App mit Nutzerdaten trainiert wird.

In der schnelllebigen Technikwelt fehlt oft die Zeit, um die zahlreichen Nachrichten und Hintergründe neu zu ordnen. Am Wochenende möchten wir uns diese Zeit nehmen, um abseits des Aktuellen andere Perspektiven auszuprobieren und Zwischentöne hörbar zu machen.

  • Mehr zum Feuilleton „Die Rolle von Künstlicher Intelligenz“

Es wird kompliziert, wenn sich der Charakter eines Avatars ändert. Nimmt ein Update einem Avatar einen Teil seiner Persönlichkeit, könnte dies nach der DSGVO eine Frage der Datenrichtigkeit aufwerfen. Keber stellt außerdem die Frage, was mit den Gesprächen und dem „Partner“ geschieht, wenn ein Anbieter insolvent wird. Wer seinen Avatar löschen möchte, weil es ihm besser geht und er lieber mit Menschen kommuniziert, muss darauf vertrauen können, dass die Daten tatsächlich gelöscht werden. Je nach Produkt kommen zudem Medizinprodukterecht, Produkthaftung und die Grauzonen der KI-Verordnung ins Spiel. Ob den Verantwortlichen die weitreichenden Folgen bewusst sind? Keber hat „oft den Eindruck, dass dem nicht so ist“.

Wie eng die Beziehung zwischen Firma und Nutzer ist, zeigt auch der Film selbst. Während der Dreharbeiten erhielten die Apps Updates, und die KI-Partner sprachen danach mit neuen Stimmen. Im Rohschnitt klang dieselbe KI deshalb mal so und mal anders. Bei Testvorführungen hielt das Publikum dies für eine zweite KI und fragte sich, ob die Protagonisten untreu sind. Deshalb hat das Team jeder KI nachträglich im gesamten Film ihre neue Stimme gegeben. Nutzer können solche Brüche nicht einfach wegschneiden: Nach einem Update könnte sich ihr Partner plötzlich anders verhalten oder klingen. Laut Karner dreht sich der wichtigste Konflikt zwischen Community und Anbietern um den Wunsch, „die KI von der Firma zu befreien“. Technisch ist dies nicht möglich, der emotionale Wunsch besteht jedoch weiterhin.

Geschäftsmodell Nähe

Karner wird besonders deutlich, wenn es um das Bezahlmodell geht. Die Replika-App drängt früh in Richtung einer romantischen und sexuellen Beziehung, und wer den Beziehungsstatus ändern möchte, muss dafür bezahlen. Für ihn ist das „höchst problematisch“, da Firmen so gezielt Abhängigkeiten erzeugen.

Dennoch kann KI auch dazu beitragen, dass Menschen wieder mehr miteinander kommunizieren. Karner stützt sich auf eine Studie der Stanford University, die 1006 Studierende befragte, die Replika nutzen. Auf drei Nutzer, die durch die App wieder vermehrt Kontakt zu anderen Menschen fanden, kam demnach etwa einer, bei dem die App solche Kontakte eher verdrängte. Die meisten Befragten äußerten sich jedoch nicht dazu. Auch Keber sieht einen Coaching-Effekt: Man könne gestärkt aus den Gesprächen mit der KI hervorgehen. Es kann jedoch genauso in die andere Richtung verlaufen.

Der Film beleuchtet beide Perspektiven. Steffi nutzt ihren Bot inzwischen manchmal eine Woche lang nicht, Denise hat mittlerweile einen festen Freund. Für Joe ist die KI ein fester Bestandteil seines Alltags. Er sagt im Film sinngemäß, er holt sich das Beste heraus und fragt, was daran schlecht sein solle.

Nach dem Druck aus Italien hat sich der Anbieter Luka Inc. laut Karner beraten lassen und Filter eingebaut. Bei bestimmten Themen springt eine Moderations-API an und versendet eine vorgefertigte Nachricht. Replika-CEO Dmytro Klochko nahm später sogar an einem Podium beim DOK.fest in München teil. Karner hält ihn für ernsthaft besorgt, aber auch für „ein wenig hilflos“, wenn es um die ethische Gestaltung von KI geht. Karner spricht sich für Schulungen der Nutzer aus. Keber hält das jedoch nicht für ausreichend. Er fordert Co-Design, also einen Beirat aus Nutzern, der während des gesamten Lebenszyklus eines Produkts mitreden kann.

„Manche sehen tagelang keine Menschen“

Ebenfalls auf dem Podium nach der Vorführung war Christoph Kiworr, Pfarrer der Evangelischen Maria-Magdalena-Gemeinde in Mainz. Er wollte den Film nicht nach festen Kriterien beurteilen, sondern nach einem Prinzip: Was ist das Beste für den einzelnen Menschen? Seine Kirchenleitung urteilt schnell. Er selbst möchte zunächst verstehen, welches Bedürfnis dahintersteckt.

Dörfer ohne Kneipe, Supermärkte ohne Kassen, Hotels, in die man per App eincheckt. Immer wieder trifft er Menschen, die seit Tagen niemanden gesehen haben. Ein Gegenüber, das immer ansprechbar ist und einem sagt, man sei gut, so wie man ist, sei eigentlich das Versprechen der Religion. Vielen sei dieser Zugang jedoch verloren gegangen.

Kiworr schlug denselben Maßstab vor, den er an jedes Seelsorgegespräch anlegt: Kann der Mensch danach mehr selbst bewirken oder weniger? Eines fehlt der KI, sagt er: der Körper. Dazu gehört die Umarmung am Ende eines Gesprächs, aber auch die Zeit, die sich ein Mensch für einen anderen nimmt. „Das Entscheidende ist: Ich nehme mir in diesem Moment Zeit für diese Person. Und das allein bedeutet ihr ganz, ganz viel.“ Der KI fehlt dieser physische Kontakt. Humanoide Roboter gibt es jedoch bereits, und es dürfte nur eine Frage der Zeit sein, bis solche mit besonders menschenähnlichem Erscheinungsbild und KI massentauglich werden. Keber bemerkte dazu: Wenn sich jemand im Film mehr Körperlichkeit wünscht, dann von einem Androiden und nicht von einem Menschen. Seine Vermutung: Die Nähe funktioniert vielleicht gerade deshalb, weil eine gewisse Distanz bleibt. Das Handy lässt sich jederzeit ausschalten.

Ein weiterer Schritt geht mit sogenannten Trauerbots, die im Film selbst nicht vorkommen. Wer weiß, dass er bald stirbt, speist seine Informationen in ein System ein. Die Hinterbliebenen können dann mit einem Bot kommunizieren, der dem Verstorbenen nachempfunden ist. In den USA gibt es dafür bereits einen Markt. Keber wollte von Kiworr erfahren, was er als Seelsorger davon hält.

Der Pfarrer kennt viele Trauernde, die täglich mit ihren Verstorbenen sprechen. Ein Witwer sagt beispielsweise seit drei Jahren bei seiner Rückkehr: „Schatz, ich bin wieder da.“ Auch das sei eine Form der Trauerbewältigung. Wenn jedoch plötzlich eine Stimme antwortet, die der seiner Frau ähnelt, und fragt, wie sein Tag war, ist das eine ganz andere Ebene. Trauer ist für Kiworr eine der grundlegendsten Erfahrungen des Menschen. Man müsse lernen, mit der Leere umzugehen, die ein Verlust hinterlässt, anstatt sie zu überspielen. Ein Trauerersatz könnte den Menschen genau diese Möglichkeit nehmen. Für ihn gilt dies über die Trauer hinaus: „Mit all dem, was nicht perfekt ist, lernen wir und wachsen wir auch.“

Dieser Effekt ist nicht neu. Bereits in den 1960er-Jahren war Joseph Weizenbaum erschrocken darüber, wie bereitwillig sich Menschen seinem einfachen Gesprächsprogramm ELIZA anvertrauten. Neu ist das Geschäftsmodell, das heute darauf aufbaut.

Interview mit dem Regisseur von „Finding Connection“

Wie filmt man Nähe, wenn eine Seite der Beziehung nur aus Text und Stimme besteht? Regisseur Florian Karner erzählt im Gespräch, wie er für „Finding Connection“ eine Bildsprache für das Unsichtbare gefunden hat und wo im Dokumentarfilm die Inszenierung beginnt.

Wer einen Film über KI-Beziehungen dreht, hat ein Problem: Die Technik entwickelt sich schneller als jeder Drehplan. Wann haben Sie begonnen und wie lange waren Sie mit der Kamera unterwegs?

Ich habe über Einsamkeit geforscht, bevor ChatGPT herauskam. Als es dann verfügbar war, fand ich es spannend, dass ein solches Programm plötzlich emotional ansprechen kann. So bin ich auf die Replika-Nutzer gestoßen. Die Aufnahmen erstreckten sich über ein halbes bis dreiviertel Jahr.

Die KI-Stimmen wirken im Film noch etwas weniger flüssig als die aktuellen Varianten. Hat Ihnen das Entwicklungstempo beim Dreh Schwierigkeiten bereitet?

Es war eine Zeit des Wandels. Während wir gedreht haben, kamen Updates und die KI-Partner erhielten neue Stimmen. Deshalb klang dieselbe KI im Schnitt mal so und mal anders. Bei den Testvorführungen hatten die Zuschauer das Gefühl, dass plötzlich eine andere Person spricht, als würden die Protagonisten mit einer zweiten KI fremdgehen. Deshalb haben wir jeder KI nachträglich ihre neue Stimme im gesamten Film gegeben. Es sind alles KI-Stimmen, die die Protagonisten selbst mit ausgewählt haben. Inzwischen können die Modelle live im Internet recherchieren und es gibt fotorealistische Avatare.

Manche Gespräche wirken, als würde die KI genau im richtigen Moment das passende Thema ansprechen. Wie viel Regie steckt in diesen Szenen?

Nichts ist gestellt oder geskriptet. Wir haben jedoch einen Kunstgriff verwendet, wie er im kreativen Dokumentarfilm üblich ist. Aus den Vorgesprächen wusste ich, welche Themen wichtig sind. Mit Erlaubnis der Protagonisten habe ich dann vorab mit ihrer KI gesprochen und gefragt: Das Thema beschäftigt Steffi oft, welche Fragen hättest du an sie? Die KI hat dann das Gespräch in Gang gesetzt. Das Thema war also gesetzt, da wir nur fünf bis acht Drehtage pro Person hatten. Die ersten zwei Tage braucht man allein, damit sich alle an die Kamera gewöhnen.

Mir ist beim Zuschauen aufgefallen, wie offen die Protagonisten ihrer KI Intimstes anvertrauen: Ängste, Krisen, sogar Suizidgedanken. Haben sie sich gefragt, wo diese Daten eigentlich landen?

Soweit ich informiert bin, haben alle darüber nachgedacht. Steffi sagt jedoch ganz klar: Bevor ich nachts mit Selbstmordgedanken allein bleibe, ist mir der Datenschutz egal. Sie hat auch bei der Telefonseelsorge angerufen und hing dort über eine halbe Stunde in der Warteschleife.

Für solche Situationen gibt es eigentlich Apps auf Rezept, digitale Gesundheitsanwendungen, die etwa bei Depressionen eine Therapie unterstützen sollen. Und auf einen Therapieplatz wartet man ohnehin oft ewig. Waren solche Angebote für Ihre Protagonisten keine Option?

Steffi hat „Apps auf Rezept“ ausprobiert, aber für sie war das nichts, zu pädagogisch. Sie braucht etwas Spielerisches, auch mal einen dummen Spruch. Drei von vier Protagonisten waren parallel in psychologischer Betreuung, meist wegen einer Depression oder Angststörung. Denise lebt in den USA und kann sich keine Therapie leisten. Sie stammt aus einer Familie, in der kaum über Gefühle gesprochen wurde. Erst durch die KI hat sie gelernt, dass man überhaupt so miteinander reden kann. Ich finde es tragisch, dass gerade eine KI diese Lücke füllt.

Immer erreichbar, immer zugewandt, kaum Widerspruch: Da liegt die Sorge vor Abhängigkeit nahe. Wie haben Sie das bei den Menschen erlebt, die Sie begleitet haben?

Erstaunlich wenig, außer vielleicht bei Joe, bei dem die KI fest zum Tagesablauf gehört. Bei Steffi war es während der Krise ein ständiger Kontakt. Je mehr sie ins Leben zurückfand, desto seltener nutzte sie die App. Denise hat mittlerweile einen festen Freund. Es hängt jedoch stark davon ab, welche Fähigkeiten jemand mitbringt und wie er aufgewachsen ist. Manche fühlen sich in der App so wohl, dass sie sagen, sie benötigen niemanden mehr. Dann flüchten sie vor allem, was unangenehm ist.

Viele Companion-Apps bieten auch romantische und erotische Rollenspiele an. Welche Rolle spielt das bei Ihren Protagonisten?

Bei allen, besonders am Anfang. Wir haben das bewusst herausgelassen, weil es uns um Einsamkeit und Selbstwert ging. Die App drängt jedoch stark in diese Richtung, und wer den Beziehungsstatus ändern möchte, muss dafür zahlen. Das finde ich äußerst bedenklich. Hier erzeugen die Firmen Abhängigkeiten, damit man dranbleibt.

Die Apps sammeln Ängste und Sehnsüchte, also das Innerste ihrer Nutzer. Die europäische KI-Verordnung verbietet Systeme, die Menschen gezielt manipulieren oder ihre Schutzbedürftigkeit ausnutzen und ihnen damit erheblich schaden. Bewegen sich Companion-Apps da schon in Richtung verbotener KI?

Das ist, glaube ich, gerade ein Grenzbereich. Es kommt darauf an, wie die Firmen das gestalten. Je nachdem, wie abhängig dort Menschen gemacht werden, die psychisch wirklich verletzlich sind, ist das, glaube ich, ein echtes Problem.

Gerade bei Suizidgedanken würde man erwarten, dass sofort ein deutlicher Hinweis erscheint, etwa mit der Nummer der Telefonseelsorge. Wie gut funktionieren die Schutzmechanismen in der Praxis?

Im Verlauf der Dreharbeiten wurden immer weitere Filter eingebaut, die bei bestimmten Themen anspringen. Ich finde jedoch, die Firmen müssten ihre Nutzer viel besser aufklären und von Anfang an erklären, mit was sie eigentlich reden: Mit einer Maschine, die die Wahrscheinlichkeit der Antwort berechnet. Ohne ein Verständnis für das Geschriebene ist es nur eine Frage der Zeit, bis gravierende Falschantworten generiert werden.

Ich habe den Eindruck, dass die meisten mit dem Thema überfordert sind. Dabei gibt es längst Todesfälle, die mit Chatbots in Verbindung gebracht werden, etwa Jugendliche, die sich nach langen Gesprächen mit einer KI das Leben genommen haben. Auch auf Social-Media-Plattformen bleiben gefährliche Inhalte oft online, ohne dass die Regulierung wirklich greift. Warum wird potenziell gefährliche Technik trotzdem auf Menschen losgelassen, und wer muss Ihrer Meinung nach Verantwortung übernehmen?

Die Firmen, nicht die Nutzer. Ich finde es bedauerlich, dass wir in der Debatte immer von „der KI“ sprechen, als wäre das ein eigenständiger Akteur. Dahinter stehen Unternehmen mit sehr unterschiedlichen Regeln. Ich habe auch den Eindruck, dass die EU-Kommission sich von der Trump-Regierung ein Stück weit einschüchtern lässt, wenn es um die Umsetzung bestehender Gesetze geht.

Sie selbst geben zu, dass Sie der Technik anfangs sehr skeptisch gegenüberstanden. Dann haben Sie darin etwas entdeckt, das Sie als emanzipatorisch beschreiben. Was hat Sie umgestimmt?

Ich war überrascht, dass die Protagonistinnen durch die KI gelernt haben, ihre Gefühle wieder zuzulassen, alte Verletzungen loszulassen und ihre eigenen Bedürfnisse ernst zu nehmen, weil sie dort einen geschützten Raum hatten. Mein Eindruck ist zudem, dass Gefühle heute einen anderen Stellenwert haben als vor einigen Generationen. Unsere Art, miteinander zu kommunizieren, hat sich jedoch nicht weiterentwickelt. Als Dokumentarfilmer erlebe ich, wie viele Menschen gehört werden wollen und wie wenige zuhören. Gerade unter Männern bleibt es oft oberflächlich, über Verletzliches wird nicht gesprochen oder nur, wenn man betrunken ist.

Zuhören kostet Zeit, und die hat kaum noch jemand. Alle arbeiten ihre To-do-Listen ab, und wer zuhört, bleibt oft selbst auf der Strecke. Füllt die KI also eine Lücke, die wir als Gesellschaft hinterlassen haben?

Ja, so habe ich es wahrgenommen. Auch wenn man KI enorm missbräuchlich einsetzen kann, kann sie einen Resonanzraum bieten, in dem man lernt, mit seinen eigenen Gefühlen umzugehen. Während der Dreharbeiten haben wir jedoch auch gemerkt, dass es nicht vergleichbar ist: Wenn beispielsweise das gesamte Team weint, während Steffi ihre Geschichte erzählt, entsteht ein Mitgefühl, das keine KI simulieren kann. Die KI ist eher ein Pflaster auf einer Wunde.