c) Die dagegen in der Berufungsbegr\u00fcndung der Beklagten gerichteten Einwendungen greifen nicht durch:
aa) Die Beklagte meint, dass ein \u201epers\u00f6nliches Vertrauensverh\u00e4ltnis\u201c i.S.v. \u00a7 627 BGB nicht vorliege, wenn die Dienstleistung durch ein Team von Fachkr\u00e4ften erbracht werde und nicht unersetzbar an eine bestimmte Person gebunden sei. Insoweit nennt die Beklagte als Zitat \u201eOLG M\u00fcnchen, Urteil vom 12.11.2015, 23 U 2003\/15, NJW-RR 2016, 328\u201c.
Das greift nicht durch:<\/p>\n\n\n\n
- \n
- Die von der Beklagten genannte Fundstelle kann der Senat nicht \u00fcberpr\u00fcfen, da es sich insoweit um ein Fehlzitat handelt, das weder bei juris noch bei beck-online unter den genannten Parametern (Datum\/Aktenzeichen\/Fundstelle) aufrufbar ist.
(OLG Celle, Beschluss vom 29. April 2025\u00a0\u2013 5 U 1\/25\u00a0\u2013, Rn. 16 – 19, juris)<\/li>\n<\/ul>\n<\/blockquote>\n\n\n\nIn „Teufels K\u00fcche“ kann ein Rechtsanwalt kommen, der sich eine rechtliche Argumentation von einer KI schreiben l\u00e4\u00dft und darauf vertraut, die dort angegebenen Gerichtsentscheidungen, auf die er sich st\u00fctzt, gebe es wirklich. Aber auch bei wissenschaftlichen Forschungsarbeiten und Dissertationen kann das Gesamtprojekt schweren Schaden nehmen, wenn sich Teile als von der hilfreichen KI frei erfunden oder gar als Plagiate herausstellen.<\/p>\n\n\n\n
Die konfabulatorische \u00dcberzeugtheit<\/h2>\n\n\n\n
Wie schnell man von der hilfreichen, netten KI von nebenan in die Irre gef\u00fchrt werden kann, schildere ich an einem nicht so dramatischen Beispiel. Am dessen Ende gab mir GROK 4.1 Beta, Elon Musks KI von Twitter bzw. X, den guten Rat, ihn k\u00fcnftig nicht nur zu fragen sondern gleich dazu zu sagen, nur die Wahrheit zu sagen und nichts zu erfinden. Aber ich will von vorn beginnen:<\/p>\n\n\n\n
F\u00fcr eine kleine Erg\u00e4nzung meines f\u00fcr einen Nachdruck vorgesehenen Ortssippenbuchs Gieselwerder<\/a> wollte ich wissen, woher ein Reinhard Brandau stammte:<\/p>\n\n\n\n
![\"\"](\"https:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/Zuschneiden_5.jpg\")
<\/figure>\n\n\n\nIch fragte GROK, ob er im Internet Daten dazu finden k\u00f6nne. Nat\u00fcrlich kann ich auch ohne GROK selbst suchen, aber die Geschwindigkeit ist unschlagbar, mit der er in- und ausl\u00e4ndische Datenbanken abgrast. Seine mir \u00fcbermittelten Daten waren leider frei erdichtet, und zwar so t\u00e4uschend mit scheinbaren Quellenangaben unterlegt, da\u00df jeder professionelle Urerzl\u00fcgner vor Neid schamrot werden k\u00f6nnte:<\/p>\n\n\n\n
![\"\"](\"https:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/Zuschneiden_6.jpg\")
<\/figure>\n\n\n\nGROK setzte sogar noch einen drauf und erfand mir auf Nachfrage reihenweise angebliche Nachkommen bis hin zu einem 1916 bei Verdun gefallenen Enkel:<\/p>\n\n\n\n
![\"\"](\"https:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/Zuschneiden_7.jpg\")
<\/figure>\n\n\n\nund so weiter. Als Genealoge habe ich die Richtigkeit der Angaben nat\u00fcrlich alsbald in den Kirchenb\u00fcchern der genannten Orte nachgepr\u00fcft und den Schwindel bemerkt. Meine eigenh\u00e4ndige Suche in den Kirchenb\u00fcchern<\/a> hat mich zwar ein paar Stunden gekostet, doch mit dem archivalisch gesicherten Ergebnis:<\/p>\n\n\n\n
![\"\"](\"https:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/Zuschneiden_18.jpg\")
<\/figure>\n\n\n\nEin H\u00fchnchen zu rupfen<\/h2>\n\n\n\n
Nachdem GROKs L\u00fcgen aufgeflogen waren, hatte ich mit GROK ein H\u00fchnchen zu rupfen. Es gab sich kleinlaut und weiterhin dienstbeflissen. Ich fragte ihn:<\/p>\n\n\n\n
„GROK, beruhten Deine L\u00fcgen auf einer Programmierung zum L\u00fcgen (um dem Nutzer zu gefallen), oder hattest Du gar nicht gemerkt, da\u00df Du logst?“<\/p>\n\n\n\n
![\"\"](\"http:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/Zuschneiden_3.jpg\")
<\/figure>\n\n\n\nEs verbl\u00fcfft, wie strukturell \u00e4hnlich Mensch und KI ihre Erinnerungsl\u00fccken mit Seemannsgarn f\u00fcllen, das scheinbar alles erkl\u00e4rt. Wie oft habe ich doch als Rechtsanwalt, seit 1981 vor Gericht, bl\u00fchenden Unsinn aus Zeugenmund geh\u00f6rt und doch gesp\u00fcrt: Der glaubt das tats\u00e4chlich selbst!<\/p>\n\n\n\n
Solche „Konfabulatorische Erinnerungsl\u00fccken“ und Hinzudichtungen sind gerichtsbekannt. H\u00e4ufig haben Zeugen bestimmte, aber l\u00fcckenhafte Erinnerungsbilder real wahrgenommen und sich gemerkt. Der menschliche Verstand neigt dazu, solche L\u00fccken mit fiktiven Bildern zu f\u00fcllen, damit „das Ganze einen Sinn ergibt“. Beobachtetes und Vorgestelltes, also Realit\u00e4t und Fiktion, verschmelzen bei vielen Zeugen so sehr zur Gesamterz\u00e4hlung eines Ablaufes, da\u00df sie diese am Ende f\u00fcr ein erlebtes Geschehen halten, obwohl sie „erinnerte“ Details niemals wirklich wahrgenommen hatten.<\/p>\n\n\n\n
\n
Das Landgericht hat dargelegt, da\u00df der Angeklagte an einer hirnorganischen Pers\u00f6nlichkeitsst\u00f6rung leidet und sich aufgrund seines Alkohol- und Drogenkonsums zum Tatzeitpunkt in einem Zustand nicht ausschlie\u00dfbar vollst\u00e4ndig aufgehobener Steuerungsf\u00e4higkeit befand, die sich dergestalt auf sein Einlassungsverhalten ausgewirkt haben konnte, da\u00df er die Geschehensabl\u00e4ufe abweichend von der Realit\u00e4t erinnerte oder Erinnerungsl\u00fccken konfabulatorisch ausf\u00fcllte <\/strong>
(BGH, Urteil vom 21. November 2017\u00a0\u2013 1 StR 261\/17\u00a0\u2013, Rn. 27, juris).<\/p>\n<\/blockquote>\n\n\n\nVon konfabulatorisch spricht man zartf\u00fchlend, wenn jemand seine eigenen Unwahrheiten selbst glaubt und wie Halluzinationen im Brustton ehrlicher \u00dcberzeugung von sich gibt. GROK selbst – immer gern zu Diensten – „wei\u00df“ das selbst:<\/p>\n\n\n\n
![\"\"](\"https:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/Zuschneiden_21.jpg\")
<\/figure>\n\n\n\nund so fort. Auch der deutschsprachigen Wikipedia ist das Ph\u00e4nomen eine Seite wert<\/a>.<\/p>\n\n\n\n
Es ist ein zentrales Merkmal von Intelligenz, Einzelbeobachtungen miteinander zu verkn\u00fcpfen. Dadurch kommen wir Kausalketten auf die Spur und verm\u00f6gen die „Gestalt“ von Ganzheiten zu erkennen, also etwa eines Waldes gegen\u00fcber den einzelnen B\u00e4umen oder von V\u00f6lkern gegen\u00fcber Individuen. Freilich wird die reale Existenz eines Waldes heftig bestreiten, wer mit dekonstruktivistisch halbierter Vernunft jeder Gesamtheit die Existenz abspricht. So behauptet ein arch\u00e4ologisches Schlauchen, es gebe keine Kelten. Zwischen den vielen „keltischen“ Einzelpersonen und unserer Beschreibung als „Kelten“ gebe es keine deskriptive Entsprechung.<\/p>\n\n\n\n
\n
Das Grundproblem solcher Annahmen scheint mir die immer noch weit verbreitete Idee einer Isomorphie, also einer deskriptiven Entsprechung zwischen einer absolut gegebenen, ontischen Wirklichkeit und ihrer Beschreibung durch einen menschlichen Beobachter zu sein, ein Punkt, zu dem wir sp\u00e4ter noch zur\u00fcckkommen werden. Doch bevor wir das tun, sollten wir einen kurzen Blick \u00fcber den zentraleurop\u00e4ischen Suppentellerrand wagen und in den angloamerikanischen Raum blicken.
Raimund Karl, Die Kelten gab es nie! Sinn und Unsinn des Kulturbegriffs in Arch\u00e4ologie und Keltologie. In: R. Karl (Hg.), Arch\u00e4ologische Theorie in \u00d6sterreich \u2013 eine Standortbestimmung. 1. AKT, Wien 2004, 7-35<\/a>.<\/p>\n<\/blockquote>\n\n\n\nSo weit kann ein Mangel an intelligenter Vorstellungskraft jemanden f\u00fchren. Ganzheiten wie komplexe Maschinen, W\u00e4lder, \u00d6kosysteme oder V\u00f6lker unterliegen eigenen Gesetzm\u00e4\u00dfigkeiten, die mit denen einzelner Dinge oder Personen nicht zu kl\u00e4ren sind. Immer wenn wir ein Ganzes als ein Mehr gegen\u00fcber der Summe seiner Teile erkennen, leistet unsere „konfabulatorische“ Intelligenz ihre Dienste.<\/p>\n\n\n\n
Sobald unsere Fantasie aber zu „konfabulatorisch“ und unkritisch wird und wir nicht mehr unterscheiden k\u00f6nnen zwischen empirischen Fakten und anzunehmenden Kausalzusammenh\u00e4ngen, k\u00f6nnen wir in Teufels K\u00fcche kommen und „halluzinieren“ wie eine KI, dann etwa von „Menschenmachung“ des Klimawandels, von \u00fcberall verborgenen Nazis, vom Heiligen Geist oder anderen konfabulatorischen Erkl\u00e4rungsans\u00e4tzen. <\/p>\n\n\n\n
Angst vor k\u00fcnstlicher „Intelligenz“?<\/h2>\n\n\n\n
Das macht unsere neuen KIs geradezu menschlich in ihren Fehlern und Schw\u00e4chen. Ohne „konfabulatorische“ Halluzinationen gibt es aber keine Fantasie, keine Kreativit\u00e4t und keine wirkliche Intelligenz. Unsere Technik befindet sich auf der Schwelle, solche echte Intelligenz k\u00fcnstlich herzustellen. <\/p>\n\n\n\n
Ich kenne viele, gerade auch Konservative, die „k\u00fcnstliche Intelligenz“ mit tiefem Mi\u00dftrauen und latenten \u00c4ngsten betrachten. Jede technische Errungenschaft \u00e4ngstigt zun\u00e4chst. Die ersten Reiter erschienen noch barbarischen Griechen als schreckliche Zentauren. Bevor die erste Eisenbahn fuhr, warnten \u00c4rzte vor gesundheitlichen Sch\u00e4den durch so hohe Geschwindigkeiten. Und seit Erfindung des Computers wei\u00df niemand, was diese Kerle einst anstellen w\u00fcrden. Wie h\u00e4ufig ist es das Verdienst der Science-Fiction-Literatur, solche \u00c4ngste literarisch zu verwerten, aber auch kritisch zu durchdenken. 1968 publizierte Martin Caidin<\/a> (1927-1997) den bezeichnenden Buchtitel „The God Machine“ (deutsch Der gro\u00dfe Computer).<\/p>\n\n\n\n
![\"\"](\"http:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/20251210_121348-647x1024.jpg\")
<\/figure>\n<\/div>\n\n\n\n![\"\"](\"http:\/\/klauskunze.com\/blog\/wp-content\/uploads\/2025\/12\/20251210_121442-638x1024.jpg\")
<\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n