In einer folge der englischen Serie The Vicar of Dibley aus dem Jahr 1999 trifft sich der Vorstand einer anglikanischen Kirchengemeinde, um zu besprechen, wie Vikarin Geraldine nach ihrer Trennung von dem Frauenheld Simon wieder aufgemuntert werden kann. Alice, die einfältige, aber kreative Küsterin, hat eine Lösung. „Kennt ihr die Serie Walking with Dinosaurs? Da haben sie die Dinosaurier digital nachgebaut, nur mit dem Computer. Ich dachte, vielleicht können wir das auch mit Simon machen und dann schicken wir den digitalen Simon ins Pfarrhaus.“ Ein kurzer Moment vergeht und Mr. Horton, der Vorsteher, fasst zusammen: „Wir bekommen also einen holografischen, zweidimensionalen Menschen, der die Pfarrerin heiratet?“ Alice nickt. Mr. Horton sieht sich ob des technisch unmöglichen und moralisch absurden Vorschlags hilfesuchend um und fragt: „Sieht niemand den Fehler in diesem Plan?“ Niemand meldet sich zu Wort und die Versammlung stimmt Alices Antrag zu.

Ich arbeite in der Forschung zu künstlicher Intelligenz und seit dem Start von ChatGPT fühle ich mich oft wie Mr. Horton. Wir Forscher sind ständig mit Vorschlägen konfrontiert, von denen einige weder wünschenswerte Ziele noch realistische Ansätze haben. Ein Dekan des Rochester Institute of Technology schlug zum Beispiel vor, den Unterricht in der Mittel- und Oberstufe an einen Chatbot auszulagern. Seine Ungenauigkeiten „könnten leicht verbessert werden“, man müsse ChatGPT nur trainieren. Jedes Mal, wenn eine Persönlichkeit des öffentlichen Lebens unrealistische Anwendungen der Technologie für Aufgaben fordert, die viel zu menschlich sind, um ein Automatisierung moralisch rechtfertigen zu können, höre ich die Stimme des besorgten Kirchenvorstehers: „Ihn digital nachbilden? Sieht niemand den Fehler in diesem Plan?“

Grafik von William / AdobeStock. Verwendet mit Genehmigung.

In vielen Fällen hat die Gemeindeversammlung jedoch die fragwürdigen Anträge angenommen. Moderne Sprachmodelle (engl.: LMs - Language Modells) haben tausend optimistische Startups und tausend unbehagliche Denkanstöße hervorgebracht. Viele bezweifeln, dass es klug ist, diese Technologie voreilig auf Bereiche anzuwenden, die im Zentrum der menschlichen Kreativität stehen – Schreiben, Lehren, Interpretieren –, zumal die breite Öffentlichkeit mehr und mehr entdeckt, was die Forscher des maschinellen Lernens bereits wissen: Sprachmodelle sind nicht allwissend. Wenn maschinelles Lernen von Natur aus schlechte Qualität erzeugt, werden wir dann durch dessen Einsatz in die Mittelmäßigkeit zurückgestuft? Wird unsere menschliche Kreativität verkümmern? Und welches tatsächliche Bedürfnis wird damit erfüllt?

Wo sollte die Kirche sagen: „Bis hierher und nicht weiter“? Nur wenige sind wirklich in der Lage, die festgefahrene Situation zu beurteilen, aber als Forscherin auf dem Gebiet der künstlichen Intelligenz und als Mitglied der Kirche werde ich es versuchen.

Die öffentliche reaktion auf die Einführung von ChatGPT im November 2022 übertraf die Erwartungen der Branche. OpenAI, das Unternehmen, das ChatGPT entwickelt hat, bezeichnete die Markteinführung als „kleine Zukunftsschau in diese Forschung“. Sprachmodelle sind eine Klasse von statistischen Modellen, die eine Aufgabe haben: das wahr-scheinlichste nächste Element einer Sequenz zu ermitteln. Ein Modell wird bei „die Katze saß auf der“ den Begriff „Matte“ vorhersagen, weil wir ihm, vereinfacht erklärt, die Häufigkeit angeben, mit der der Begriff „Matte“ in diesem Kontext in anderen Texten vorkommt. Sprachmodelle werden schon seit Jahrzehnten für gängige KI-Anwendungen eingesetzt, z. B. für den Textvorschlag im nächsten Tweet oder einer E-Mail, warum also jetzt das große öffentliche Interesse?

Bei Produkten wie ChatGPT handelt es sich um Sprachmodelle mit zusätzlicher statistischer Steuerung, um ein Frage-und-Antwort-Format zu ermöglichen, und mit einer ausgeklügelten Webschnittstelle, die es jeder Person auf der Welt ermöglicht, eine Frage einzugeben und eine schnelle Antwort zu erhalten. Dieses Chatbot-Framing ist technisch gesehen nebensächlich. Aber es ist rhetorisch und psychologisch mächtig. Eine schnelle Feedback-Schleife, die so einfach zu bedienen ist, dass sie der Öffentlichkeit implizit beigebracht hat, dass der Zweck eines Sprachmodells darin besteht, Inhalte auf Anfrage zu generieren. Und Antworten zu generieren.

Unsere Tendenz, schnelle Antworten mit korrekten Antworten zu verwechseln, wenn wir mit Menschen sprechen, überträgt sich auch auf den Chatbot, den wir unweigerlich personifizieren. Ein schneller und selbstbewusst klingender Chatbot kann die zuverlässige Stimme eines Nachschlagewerks imitieren und er kann von unserer Faulheit bei der Suche nach der Wahrheit und unserer Ungeduld bei der Aus-einandersetzung miteinander profitieren und diese verstärken.

„Father Justin,“ ein Chatbot, der Fragen zum katholischen Glauben beantworten sollte, begann, falsche Ratschläge zu erteilen and bot einem Nutzer sogar die Absolution als „echter“ Priester an. Das warf Fragen zu den Grenzen der KI im kirchlichen Umfeld auf. Bild: Screenshot/Catholic Answers.

Forscher wissen – aber kommunizieren dies selten effektiv – dass unverzichtbare Sprachmodell-Anwendungen eine Ebene tiefer liegen als das Chatbot-Paradigma „Frage stellen, Antwort erhalten“. Das liegt daran, dass sie nur zufällig Inhaltsmaschinen sind; sie sind im Wesentlichen eine genaue statistische Darstellung von Beziehungen zwischen Wörtern. Diese Verhältnisse für eine nachgelagerte Aufgabe herauszufinden, kann sehr wertvoll sein. In Anlehnung an John Firths Maxime der Distributionssemantik „Man erkennt ein Wort an der Gesellschaft, in der es sich befindet“, komprimieren und speichern Sprachmodelle Informationen über die gesamte Verteilung der Wörter in allen Texten, die sie sehen. Ihr Innenleben und ihr Output sind eine mathematische Studie der Sprache, wie sie tatsächlich verwendet wird, und Forscher können diese Informationen nutzen, nicht um uns mit Spam zu überhäufen, sondern um unser Wohl zu fördern.

Man kann eine Druckerpresse benutzen, um Verleumdungen zu drucken. Aber dafür ist sie nicht da. Wofür sollten Sprachmodelle da sein? Sie sind bereits Teil unzähliger Systeme, die vermenschlichen, nicht entfremden – Spracherkennungsprogramme, deren Transkripte wichtige Hilfsmittel für Gehörlose sind; Übersetzungsprogramme, die es Einwanderern in schwierigen Situationen ermöglichen, sich zu verständigen; Aufzeichnungssysteme, die die Dokumentationslast des medizinischen Personals verringern und es ihm ermöglichen, mehr Zeit am Krankenbett zu verbringen. Sprachmodell helfen, tote Sprachen zu entziffern, verlorene alte Inschriften wiederherzustellen und Proteinstrukturen vorherzusagen. Sie sind Werkzeuge, die in den Händen unerschrockener Forscher und Unternehmer, gut geeignet sind, die Erforschung der Welt und unsere Annäherung aneinander zu erleichtern. Aber keine der genannten Anwendungen nutzt die Modelle als billige Inhaltsmaschinen; sie sind schwieriger zu verstehen (und bekommen weniger Presse) als das sofortige Feedback, das ein beeindruckender oder abschreckender Chatbot liefert. Unsere Aufmerksamkeitsspannen sind kurz, unser Bedarf an Inhalten ist hoch. Der hitzige Diskurs um Sprachmodelle ist in gewisser Weise das, was wir verdienen.

Und was ist mit der Kirche? Einige Geistliche haben Bedenken gegen KI geäußert, von seelsorgerischen Fragen – wie soll ein Priester einem Gemeindemitglied helfen, das wegen KI seinen Job verloren hat? – bis hin zu theologischen Fragen – kann ChatGPT von einem Dämon besessen sein? Andere sind optimistisch, was die mögliche Abschaffung mühsamer Arbeiten angeht. Diese Spaltung spiegelt die öffentliche Diskussion über die neuen Technologien wider. Wenn jedoch die Vorschläge der Kirche für die Verwendung von Sprachmodellen so oberflächlich und entmenschlichend ausfallen, wie jene der säkularen Gesellschaft, dann werden wir das bereuen.

Ein interessanter Vorschlag für den kirchlichen Einsatz von Sprachmodellen betrifft sprachbasierte Materialien: Untertitelung, Transkription, Übersetzung von Gottesdiensten, Suche nach früheren Predigten .… Soweit dies den Zugang zum kirchlichen Leben verbessert, kann diese Idee mit gutem Gewissen weiterverfolgt werden. Ich sehe dabei zwei Gefahren.

Eine Versuchung besteht darin, Sprachmodelle nicht nur zur Organisation, sondern auch zur Interpretation von Texten einzusetzen – einschließlich der Bibel. Diese sollte aber nur von einer menschlichen Gemeinschaft, die durch die Kraft des Heiligen Geistes zusammengehalten wird, durchgerungen und interpretiert werden. Sprachmodelle können zwar effektiv Texte zusammenstellen, aber sie können sie weder „lesen, markieren, lernen“ noch „innerlich verdauen“. Das Meditieren über göttliche Worte ist etwas, das der Mensch in seinem Inneren tut. Dies kann technisch nicht automatisiert werden und, von einem moralischen Standpunkt aus betrachtet, sollte es das auch nicht. Maria hätte ihr Nachdenken über die Worte des Engels nicht an ein Sprachmodell auslagern können, nicht nur, weil sein Ziel, das nächste Element vorherzusagen, nicht das Nachdenken ist, sondern auch, weil das den Worten die Fähigkeit genommen hätte, sie zu formen. Ein Pastor mag seiner Gemeinde ein Bibelstudium zur Verfügung stellen, das von einem anderen Pastor oder einem Kirchenvater geschrieben wurde – der Autor ist dabei immer noch eine Person, die in Beziehung zur universalen Kirche steht. Dies zugunsten eines künstlich erzeugten Textes zu verwerfen, ist ein Affront gegen die Wirklichkeit der Gemeinschaft der Heiligen.

Bestatter in Japan verwenden Roboter, um Sutras über den Verstorbenen zu singen und die Trauerfeier per Livestream an entfernte Familienmitglieder zu übertragen. Foto von Aflo Co. Ltd. / Alamy. Verwendet mit Genehmigung.

Einige haben sich dafür ausgesprochen, Chatbots an der Bibel zu trainieren; andere haben Entwickler von maschinellem Lernen ermahnt, Vorkehrungen zu treffen, um sicherzustellen, dass diese Texte liefern, die sowohl mit der Bibel als auch mit den theologischen Ansichten ihrer Nutzer übereinstimmen. Als einer dieser Entwickler möchte ich klar sagen: Es gibt keine Möglichkeit, dies zu garantieren. Da Sprachmodelle nicht aus abrufbaren Daten und handcodierten, interpretierbaren Regeln bestehen, sondern vielmehr aus abstrahierten statistischen Reflexionen ihrer Trainingsdaten, ist die perfekte Festlegung solcher Richtlinien ein ungelöstes Problem, auf das es möglicherweise keine endgültige Antwort gibt. Sprachmodelle schlagen keine Informationen nach. So funktionieren sie nicht. Das macht sie zu einem grundsätzlich ungeeigneten Werkzeug für den Umgang mit der Bibel, bei dem die Genauigkeit der Informationsbeschaffung und die Treue der Interpretation nicht verhandelbar sind. Ingenieure wissen, dass der Bau einer Brücke mit dem falschen Material zum Einsturz führt, und gute Ingenieure weigern sich, schlechte Brücken zu bauen; das ist wichtig zu verstehen.

Die andere Versuchung besteht darin, Sprachmodelle nicht nur zur Organisation kirchlicher Inhalte, sondern zur Vermarktung zu nutzen. In unserem postpandemischen Zeitalter, in dem alles online übertragen wird, ist es schwer, der Tendenz zu widerstehen, Akte des Lobpreises in Akte des Marketings zu verwandeln. Die Predigt ist besonders anfällig dafür. Auf die Auslagerung folgt die Kommerzialisierung, die zu einer völligen Verleugnung der Pflicht zur Predigt führen könnte.

Karl Barths Auffassung der Predigt als Darlegung des Wort Gottes ist ein hilfreiches Gegengewicht zu Ideen über künstlich-generierte Predigten. Wenn eine Predigt von einem Pfarrer ausgearbeitet und durch den Mund der Kirche dem Volk verkündet wird, hilft der Heilige Geist bei der Verkündigung und macht sie für die Zuhörer zum Wort Gottes. Nicht alle Konfes- sionen werden dieser halbsakramentalen Sichtweise der Predigt zustimmen, aber alle sollten darin übereinstimmen, dass ein Vorhersageprogramm für das statistisch wahrscheinliche nächste Wort ein unangemessener und unethischer Ersatz ist. Ein Pfarrer ist für die geistliche Bildung der Gemeinde verantwortlich, für welche die Predigt von zentraler Bedeutung ist. Wer könnte dies an eine Maschine delegieren? Versehentlich erzeugte Ketzerei ist ein technisches Versagen; ein Pfarrer, der sich weigert, aus dem Herzen zu sprechen und es vorzieht, die wahrscheinlichsten Wortfolgen für eine Predigt an die ihm anvertraute Gemeinde zu erzeugen, begeht ein moralisches Versagen.

Die letzte Station auf diesem zweifelhaften Weg ist die Erstellung der liturgischen Gestaltung durch Sprachmodelle. In einer Kirche in Bayern, wo dies versucht wurde, empfanden die Teilnehmer den Gottesdienst als trivial und beunruhigend, einige weigerten sich sogar, das Vaterunser mitzusprechen. Ihr Unbehagen war begründet: Diese Art der Nutzung greift in die einzigartige Berufung der Menschen ein Gott anzubeten und intuitiv spüren wir, dass dies eine liturgische Absurdität schafft.

Die gesamte Schöpfung bringt ein gewaltiges Loblied auf ihren Schöpfer zum Ausdruck. „Ein Tag erzählt dem anderen“ von der Herrlichkeit Gottes, sagt der Psalmist, „ohne Rede und ohne Worte; doch ihre Botschaft geht in die ganze Welt“ (Ps. 19,2-5). Bei Jesaja heißt es: „Berge und Hügel brechen vor euch in Jubel aus, und alle Bäume auf dem Felde klatschen in die Hände“ (Jes 55,12). Doch Gott hat ein Geschöpf dazu bestimmt, all die lauten Stimmen der Schöpfung zu sammeln und zu einem geordneten Ausdruck zusammenzufassen: den Menschen, den Gott mit den reichsten Sprachfähigkeiten ausgestattet hat.

Foto von Valaurian Waller. Verwendet mit Genehmigung.

Von der gesamten Schöpfung ist der Mensch der Priester, der zwischen ihr und Gott vermittelt, zum Teil durch die ordnende Kraft der Sprache. Dieses Priestertum gilt für alle Gläubigen, denn die Sprachfähigkeit ist uns allen in potentia angeboren (weit über das hinaus, was wir uns vorstellen können: taube Babys brabbeln auf strukturierte Weise mit ihren Händen, und Gebärdensprachen besitzen vollständige phonologische und syntaktische Systeme).

Wenn wir uns unserer Pflicht entziehen, unsere sprachlichen Fähigkeiten zur Verehrung Gottes einzusetzen, begehen wir einen mehrfachen Verstoß: Wir versäumen es nicht nur, unser eigenes Opfer des Lobes darzubringen, sondern berauben auch alle geschaffenen Dinge der Möglichkeit, Gott mit ihren natürlichen Ausdrucksformen zu loben. „Wer dich nicht lobt und preist, / Unterlässt es nicht nur für sich selbst“, warnt George Herbert, „sondern beraubt tausend, die dich gern loben würden, / Und begeht eine Welt von Sünden in einer“. Der Dichter hat die Pflicht zu singen; der Dichter muss auch um seiner selbst willen singen, denn sein Gesang, der sich an Gott wendet, verändert ihn. Vor diesem Hintergrund ist die Vorstellung, dass Liturgen ihre Arbeit an Sprachmodelle abgeben, so lächerlich wie ein Mann, dessen Tochter operiert werden muss und der an ihrer statt einen Taschenrechner zur OP schickt. Wir stellen eine stumme Maschine an unseren Platz, während wir uns vor dem Gott verstecken, der uns hört, wenn wir ihn anrufen, und uns verwandelt, wenn wir ihn darum bitten, und schaden so den anderen Geschöpfen in unserer Obhut.

Christen müssen stattdessen auf Jesus schauen. Das Wort Gottes, das aus dem Mund des Allerhöchsten kam, wurde Fleisch. Er nahm Materie an und trug diese bei seiner Himmelfahrt zur Rechten des Vaters. Er ist der große Hohepriester, der zwischen Gott und der Schöpfung vermittelt und durch den die ganze Schöpfung am Jüngsten Tag erlöst werden wird. Er teilt unser Menschsein, sammelt die lauten und oft unglaublich schrägen Lobpreisungen unseres menschlichen Lebens in sich und ordnet sie entsprechend der Göttlichkeit des Logos – und er ruft uns Christen auf, ihm darin zu folgen. Wir können daher nicht darauf verzichten, durch unsere eigene Sprache einen Gottesdienst zu orchestrieren, an dem die ganze Schöpfung teilhat. Dies an einen Textgenerator auszulagern, ist absurd, fast ein Verzicht auf den Thron, den Gott für die Menschen errichtet hat.

Die fixierune auf Sprachmodelle als Generatoren von Inhalten, Werkzeuge, die die Notwendigkeit des gemeinsamen Denkens umgehen, ist symptomatisch für eine tiefere Krankheit, die sich aus unserem Versagen entwickelt, unsere beispiellose technologische Vernetzung mit der physischen Wirklichkeit zu verbinden, die wahre christliche – wahre menschliche – Interdependenz erfordert. Eine Kirche, die sich unkritisch auf die neuesten Technologien für ihre liturgische, pädagogische oder pastorale Arbeit stürzt, wird den Schaden vergrößern, den die lange, einsame Pandemie bereits angerichtet hat.

Die Verlagerung von Predigt und Seelsorge auf einen Textgenerator führt unweigerlich zu einer Verschlechterung. Die zunehmende Automatisierung der Liturgie wird unweigerlich mit Versuchen einhergehen, die Sakramente abzuschaffen. Unser Herr hat sich hartnäckig an Materie gebunden. Das zwingt uns Christen, mit einem Bein in der Realität zu bleiben. Aber diese Bindung ist bedroht, wenn wir den Gedanken zulassen, dass eine Maschine ein Gebet zum allmächtigen Gott verfassen oder aufsagen kann – nicht zu seinem Schaden, sondern zu unserem. Zwischenzeitlich formieren sich vielleicht jene Menschen, die eine Öffnung der Kirche hin zu künstlicher Intelligenz ablehnen. Dies könnte dazu führen, dass der Kirche die Möglichkeit entgeht, neue Technologien gut zu nutzen. Der Einsatz von maschinellem Lernen im Dienste einer besseren Forschung und eines verbesserten Zugangs zu verschiedenen Aspekten des öffentlichen und persönlichen Lebens für Menschen, denen die Sprache verwehrt ist, ist vielversprechend – und in der Tat haben Sprachmodelle all diese Dinge seit vielen Jahren ohne öffentliches Aufsehen oder Einwände vorangebracht. Opposition wird in Bereichen geschaffen, in denen es keine geben muss.

Ein erneuerter Glaube an die Gemeinschaft der Heiligen ist von Nöten. Der heilige Paulus sagt, dass jedes Glied dieses Leibes gebraucht wird. Alle tragen etwas bei, das durch nichts ersetzt werden kann, weder durch Kohlenstoff noch durch Silizium. Die Eingliederung der Christen als Menschen in den einen Leib, den des göttlichen Wortes selbst, ist ein tiefes Geheimnis, das in der Tat nicht durch einen Textgenerator beeinträchtigt oder usurpiert werden kann, auch wenn wir es durch aktive Werbung oder Untergangsgespräche versuchen.

Wir sollten uns das zu Herzen nehmen und dann anfangen und lesen – und schreiben, kommunizieren und nachdenken und diese Gaben Gottes genießen und bewahren, ohne Angst zu haben, dass sie verdrängt werden. Dann, nachdem wir umsonst empfangen haben, sollten wir umsonst geben.

Der Einsatz von Sprachtechnologie für die richtigen Zwecke wird die Ausübung dieser Gaben durch diejenigen erleichtern, die normalerweise aufgrund ihres körperlichen Zustands oder ihrer zeitlichen Situation daran gehindert wären, sie zu nutzen. Wir brauchen eine wahre Liebe zu Gott und zum Nächsten. Das kann eben keine Maschine erzeugen.