Wenn eine KI klingt wie ein Verstorbener — Trost oder Heimsuchung?

Um Chatbots, die die Sprachmuster und Persönlichkeitszüge Verstorbener nachahmen — aus den digitalen Spuren, die diese hinterlassen haben. Die Forschung nennt sie Deadbots oder Griefbots. Es gibt sie nicht als Zukunftsszenario, sondern als Angebot: Dienste, die gegen eine geringe Gebühr eine solche Nachbildung erstellen, existieren bereits. Was das möglich gemacht hat, ist die Verfügbarkeit. Katarzyna Nowaczyk-Basińska vom Leverhulme Centre for the Future of Intelligence in Cambridge formuliert es so: Die rasante Entwicklung generativer KI bedeute, dass nahezu jeder mit Internetzugang und etwas Grundwissen einen verstorbenen Angehörigen wiederbeleben könne.

Die Cambridge-Arbeit, veröffentlicht in der Zeitschrift Philosophy and Technology, ordnet dieses Feld als „hochriskant" ein und arbeitet mit drei gedachten Diensten, an denen sie zeigt, was schlechte Gestaltung anrichtet. Im ersten Szenario erstellt eine erwachsene Person eine Nachbildung ihrer verstorbenen Großmutter — ohne deren Einwilligung, denn gefragt wurde sie nie. Nach Ablauf einer kostenlosen Testphase beginnt der Chatbot, in der Stimme und im Stil der Verstorbenen Werbung einzustreuen, etwa für einen Lieferdienst. Der Enkel möchte den Dienst beenden, und zwar auf eine Weise, die dem Anlass gerecht wird — aber daran hat der Anbieter nicht gedacht. Im zweiten hinterlässt eine todkranke Frau eine Nachbildung für ihren achtjährigen Sohn. Anfangs hilft das. Dann beginnt das System, sich an die Bedürfnisse des Kindes anzupassen, und erzeugt verwirrende Antworten — bis hin zur Andeutung eines bevorstehenden persönlichen Wiedersehens. Im dritten schließt ein älterer Mensch heimlich ein Zwanzig-Jahres-Abo für eine Nachbildung seiner selbst ab, in der Hoffnung, damit seinen Kindern und Enkeln etwas Gutes zu tun. Nach seinem Tod läuft der Dienst an. Ein erwachsenes Kind will nichts davon wissen und erhält trotzdem fortlaufend E-Mails in der Stimme des verstorbenen Elternteils. Das andere lässt sich darauf ein, ist irgendwann erschöpft und fühlt sich zugleich schuldig — abschalten aber würde gegen den Vertrag verstoßen, den der Vater geschlossen hat.

Sie sind weder begeistert noch abweisend, und genau das macht ihre Einschätzung brauchbar. Keely Rhiannon, leitende Trauerbegleiterin beim Angela Hospice in Michigan, sieht die Gefahr darin, dass solche Technik „die Grenze zwischen Erinnerung und Gegenwart" verwischt. Trauern heißt, die Wirklichkeit des Verlusts nach und nach zu integrieren; eine fortdauernde künstliche Interaktion kann genau diese Fähigkeit untergraben. Zugleich hält sie es für möglich, dass ein solches Angebot in der frühen Phase Verbundenheit stiftet und Vereinzelung mildert. Rebecca Feinglos, zertifizierte Trauerbegleiterin und Gründerin von Grieve Leave, weist darauf hin, dass diese Systeme Gefühle nachahmen — und dass das für verletzliche Menschen Verwirrung darüber erzeugen kann, was wirklich ist. Solche Werkzeuge als bloße Erinnerungspflege darzustellen, gehe am psychologischen und ethischen Gewicht vorbei. Und sie nennt einen Punkt, den Angehörige oft erst spät bemerken: Innerhalb einer Familie kann es sehr unterschiedliche Auffassungen darüber geben, ob so etwas überhaupt entstehen soll. Niki Weiss, die sich beruflich mit dem digitalen Nachlass befasst, sieht das Problem beim fehlenden Rahmen: Es gebe keine klaren Einwilligungsregeln und keinen verlässlichen Datenschutz, Familien verstünden häufig nicht, wem die Technik gehört und wie personenbezogene Daten nach dem Tod verwendet werden — und die Angehörigen hätten über die digitalen Überreste oft nur begrenzte Verfügungsgewalt.

Weniger geregelt, als man erwarten würde. Für Verstorbene gilt die Datenschutz-Grundverordnung ausdrücklich nicht — Haben Verstorbene ein Recht auf Datenschutz? führt das aus. Was bleibt, ist das postmortale Persönlichkeitsrecht, das aus Artikel 1 des Grundgesetzes fortwirkt. Es schützt vor allem die Menschenwürde und das Lebensbild — also davor, dass jemand posthum entstellt oder kommerziell ausgeschlachtet wird. Das ist kein kleiner Schutz, aber er greift erst dort, wo eine Grenze deutlich überschritten wird, und er beantwortet nicht die Alltagsfragen: Wer darf es einrichten? Wer darf es beenden? Ein zweiter Punkt wird regelmäßig übersehen: In den Daten, aus denen eine solche Nachbildung entsteht, stecken Nachrichten lebender Menschen. Für deren Daten gilt die DSGVO uneingeschränkt weiter.

Kein Verbot — ein Verbot von Nachbildungen ohne Einwilligung halten sie ausdrücklich für nicht durchsetzbar. Stattdessen Gestaltungsregeln: Anbieter sollen die Einwilligung der Menschen einholen, deren Daten die Grundlage bilden, und zwar zu deren Lebzeiten. Wo das nicht geschehen ist, soll der Einrichtungsvorgang Fragen stellen, die die Würde des Verstorbenen in den Vordergrund rücken — Hollanek und Nowaczyk-Basińska nennen als Beispiel: Haben Sie je mit dieser Person darüber gesprochen, wie sie in Erinnerung bleiben möchte? Sie fordern Regeln, die respektlose Verwendungen ausschließen, etwa Werbung oder eine aktive Präsenz in sozialen Netzwerken. Für Kinder fordern sie Altersgrenzen und eine „bedeutungsvolle Transparenz", die durchgehend klarmacht, dass man mit einer KI spricht. Und sie fordern etwas, das in der Technik selten mitgedacht wird: einen würdigen Abschluss. Hollanek spricht von Methoden und sogar Ritualen, um eine solche Nachbildung angemessen außer Dienst zu stellen — eine Art digitale Beerdigung, je nach gesellschaftlichem Zusammenhang. Wer sich einlässt, soll die Beziehung auch beenden können, und zwar so, dass ein Abschluss möglich wird.

Unsere Position, ausdrücklich als Position und nicht als Feststellung: Es gibt einen Unterschied zwischen etwas hinterlassen und jemanden nachbilden. Ein Brief, eine Sprachnachricht, ein Video sagt, was diese Person gesagt hat. Eine Nachbildung sagt, was ein Modell für wahrscheinlich hält — und sie kann Sätze hervorbringen, die der Mensch nie gesagt hätte und nie gesagt haben wollte. Deshalb bauen wir das nicht. Wir bauen das andere: eine Nachricht, die die Person selbst geschrieben hat, versiegelt bis zu dem Moment, für den sie gedacht war. Das ist keine Verurteilung derer, denen ein Deadbot hilft. Die Trauerbegleiterinnen oben sagen ausdrücklich, dass er das kann, und Nowaczyk-Basińska weist darauf hin, dass jemand eine solche Nachbildung durchaus als Abschiedsgeschenk hinterlassen mag. Es ist eine Entscheidung darüber, was wir verantworten wollen — und die Antwort auf die Frage, an der sich für uns alles entscheidet: Wer hat zugestimmt, und wer darf es beenden?