#Medfakes: Wie Deepfakes in der Medizin Vertrauen ruinieren

00:00:03: SPRECHER: gesundheit-hören.

00:00:04: DR. ALEXANDER BÄUERLE: Der Täter oder die Täterin stehlen eigentlich nicht nur ein Gesicht oder eine Stimme. Sie stehlen das Vertrauen und die Glaubwürdigkeit in eine Person. Und das Schlimme ist ja, dass diese Personen genau das, also das Vertrauen in sich, über Jahre aufgebaut haben.

00:00:22: DR. LAURA WEISENBURGER: Wenn ’ne Dosis Wissen-Folge so beginnt, dann wisst ihr auch gleich, ihr seid in einem Spezial gelandet. Daher guten Morgen und herzlich willkommen zu ’ne Dosis Wissen Spezial. Ihr hört den täglichen Podcast für das Gesundheitswesen. Auch diese Folge ab sechs Uhr in der Früh, wie an jedem anderen Werktag, aber eben nicht in kompakten zehn Minuten heute, denn wir sprechen über ein wichtiges Thema, was definitiv mehr Zeit braucht, und zwar das Thema Deepfakes, genauer gesagt Medfakes in der Medizin.

00:01:05: DR. LAURA WEISENBURGER: Seit Jahren gibt es diese Geschichte schon, dass Kriminelle letztendlich mit gefälschten Videos von bekannten Personen, Medizinerinnen, Medizinern werben. Hirschhausen, Riedl, Doc Caro, das sind nur ein paar Namen, die vermeintlich für Nahrungsergänzungsmittel oder andere Pseudomedikamente Werbung machen. Und wie ihr eben gerade im O-Ton auch schon gehört habt, das ist nicht nur ein Identitätsdiebstahl, der da vonstattengeht, sondern sie stehlen eben auch Vertrauen bei denjenigen, die davon betroffen sind, die darauf hereinfallen und natürlich auch Vertrauen in das Gesundheitssystem. Vielleicht ist euch das ja selbst auch schon begegnet, vielleicht saß euch schon jemand gegenüber, dem das passiert ist. Das ist ein wichtiges Thema und deshalb ist es heute Thema bei uns und natürlich auch in der aktuellen Ausgabe der Apotheken Umschau, die ihr in eurer Apotheke vor Ort bekommt.

00:02:09: SPRECHER: Ein Podcast von gesundheit-hören und Apotheken Umschau Pro.

00:02:16: DR. LAURA WEISENBURGER: Mein Name ist Laura Weisenburger. Ich bin Ärztin und Redakteurin bei der Apotheken Umschau und heute ist Dienstag, der 1. September, und natürlich haben wir für diese Spezialfolge uns eine Gästin eingeladen, die da ganz genau berichten kann über ihre Recherche zum Thema Medfakes. Holt euch euren ersten Kaffee des Tages und dann schauen wir mal, wen ich hier gleich begrüßen darf. Und zwar ist das meine Kollegin Susanne Kailitz-Kunz, Medizinredakteurin bei der Apotheken Umschau. Und Susanne, Du hast zu Deepfakes in der Medizin für das aktuelle Heft recherchiert. Schön, dass Du da bist.

00:03:01: DR. SUSANNE KAILITZ-KUNZ: Ganz genau. Vielen Dank, dass ich da sein darf.

00:03:04: DR. LAURA WEISENBURGER: Dann steigen wir gleich mal mit dem ersten wichtigen Thema ein. Welche ja Beispiele sind dir da überhaupt untergekommen? Was ist dir da so begegnet?

00:03:16: DR. SUSANNE KAILITZ-KUNZ: Also tatsächlich hab ich überhaupt wahnsinnig darüber gestaunt, wie verbreitet dieses Thema der Deepfakes ist. Das war mir vorher so gar nicht klar. Und mit diesen Deepfakes wird für alles Mögliche beworben, für Medikamente, für Nahrungsergänzungsmittel, für Geldanlagen. Also alles, was man Leuten im Grunde betrügerisch andrehen will und wo es helfen könnte, wenn man ein prominentes Gesicht, eine prominente Stimme irgendwie hat, damit die Leute sagen, ah ja, okay, der die wirbt dafür, dann muss das eigentlich eine gute Sache sein, ich bestell das. Wir haben uns natürlich ganz stark auf den Bereich der Medikamente und der Nahrungsergänzungsmittel konzentriert, weil das einfach diese Medfakes ausmacht. Das ist ja unser Thema als Apotheken Umschau. Da gibt's x verschiedene Produkte, die tauchen auf unter einem Namen, verschwinden auch ganz schnell wieder, tauchen dann aber nahezu wortgleich wieder auf und es sind in aller Regel Produkte, die helfen sollen gegen die Beschwerden, die die meisten Leute haben: Bluthochdruck, Cholesterin, Blutzucker, es sind Abnehmpräparate, es sind Potenzmittel und ihnen allen ist gemeinsam, dass in dieser Werbung suggeriert wird, die sind so gut, die müsst ihr haben. Und tatsächlich sind sie aber und das muss man feststellen, die sind zu gut, um wahr zu sein. Wenn mir ein Mittel verspricht, Du kannst innerhalb von zwei Wochen ohne irgendwelche Probleme und irgendwelche Einschränkungen 20 Kilo verlieren, also die Wahrscheinlichkeit, dass es nicht seriös ist und dass es nicht so wirkt, wie's beschrieben wird, ist verhältnismäßig groß. Und so ist es natürlich genauso bei Mitteln, die den Blutdruck senken sollen, die das Cholesterin senken sollen, die gegen Diabetes wirken sollen.

00:04:57: DR. LAURA WEISENBURGER: Und das sind ja, wir haben's jetzt grade schon angedeutet, Werbeversprechen, die gibt's schon sehr lange, aber diese Masche ist ja, sie werben eben mit echten in Anführungsstrichen. Ich mach hier grade in unserem Video kleine Anführungsstriche in der Luft mit meinen Fingern und ihr hört sie vielleicht sogar. Also diese echten Menschen, das sind, Du hast es grade auch schon gesagt, das sind Menschen, denen wir vertrauen.

00:05:22: DR. SUSANNE KAILITZ-KUNZ: Genau. Also wir haben eine Frau in Berlin besucht, Frau Müller-Eiben, 80 Jahre alt und sie sagt, also sie hat natürlich irgendwie alles. Sie hat Bluthochdruck, sie hat hohes Cholesterin, sie hat Diabetes zwei und sie hat auf der Suche nach Mitteln, die ihr helfen könnten, im Internet gescrollt und ist dann auf ein Werbevideo gestoßen mit Eckart von Hirschhausen. Also sie sagt, sie weiß natürlich, dass es keine Wundermittel gibt, aber sie hat Eckart von Hirschhausen gesehen. Den kennt sie, den kennt sie schon lange, dessen Dokus hat sie gesehen, dem vertraut sie.

00:05:54: DR. LAURA WEISENBURGER: Da weiß man natürlich auch an der Stelle, das ist ein Arzt. Also das ist ein ganz bekanntes Gesicht. Das kennen jetzt, glaube ich, sehr, sehr viele, gerade eben in dieser Altersspanne, die dann auch vulnerabel ist, sprich also ab nem bestimmten Alter hat man ja nun mal seine wahrscheinlich Grunderkrankung, so was wie Bluthochdruck extrem weit verbreitet und dann eben auch noch jemanden nehmen, wo ich davon ausgehe, ah ja, meine Zielgruppe kennt diese Person ja sehr wahrscheinlich auch.

00:06:22: DR. SUSANNE KAILITZ-KUNZ: Genau. Also wir haben mit mehreren Menschen gesprochen, die auf diese Deepfakes reingefallen sind, die auf diese Medfakes reingefallen sind. Und ganz häufig ist es tatsächlich Eckart von Hirschhausen gewesen, auf den sie da reingefallen sind. Und Du hast das vorhin zurecht gesagt, diese unseriösen Werbeversprechen, diese Quacksalbereien, die gibt's schon sehr, sehr lange. Aber das ist halt was anderes, wenn dir einfach eine Anzeige entgegenploppt, nimm das und Du bist in drei Tagen geheilt. Aber wenn jemand, den Du kennst und dem Du vertraust... Also ich kenne Eckart von Hirschhausen über Videos, über Dokumentationen über Corona. Das ist einfach für mich ein vertrauenswürdiger Mensch. Ich weiß, der recherchiert gut, der ist seriös, der ist ausgebildeter Arzt. Wenn der sagt, nehmen Sie das, dann hat das eine ganz, ganz andere Wirkung, als wenn da irgendwie eine Person dasteht, mit der ich nichts verbinde. Und das haben uns ganz viele Leute, mit denen wir gesprochen haben, gesagt. Es ist auch interessant, die hatten alle sehr schnell ein komisches Bauchgefühl. Also auch so nach dem Bestellen und hatten dann so, hm, wer weiß …. Aber sie haben das im Grunde weggeschoben, weil sie gesagt haben, das macht Eckhart von Hirschhausen nicht. Also Frau Müller-Eiben sagt, sie hat dann irgendwann festgestellt, dass dieses Medikament oder dieses Nahrungsergänzungsmittel, was sie da bestellt hat, ist auf einer Liste der Verbraucherzentrale für Betrug. Das hat sie ganz schnell gefunden und sie sagt, sie war so schockiert und sie war so sauer, dass sie gesagt hat, wie kommt das denn, dass son renommierter Mensch wie Dr. Eckart von Hirschhausen dafür wirbt, weil ihr gar nicht klar war, dass es ein Betrug ist und dass er das nie beworben hat.

00:07:55: DR. LAURA WEISENBURGER: Das muss man nämlich ja auch dazu sagen mal an der Stelle, ne. Wir sprechen von Bewegtbildern. Wir sprechen von Ton plus Bildaufnahme, von Videos, die eben ausgespielt werden. Und da muss man ja auch ganz klar sagen, das ist eine neue Geschichte. Das gibt's natürlich nicht schon seit Jahrzehnten und seit Jahrhunderten, sondern dass ich meinen Augen nicht trauen kann, was ich da im Fernsehen auch wieder Anführungsstrichen oder eben auf meinem Smartphone-Bildschirmchen sehe, son kleines Video, was mir ausgespielt wird, dass das nicht echt sein kann, dass oder dass es eben gefälscht sein könnte. Das ist ja eine Möglichkeit, die wir erst seit relativ kurzer neuer Zeit haben, ja. Wir sprechen natürlich von künstlicher Intelligenz, die Worte die Person sagen lässt mit der korrekten Stimme. Also man erkennt dann auch die Stimme wieder. Ja, da spricht Eckart von Hirschhausen, da spricht Doc Caro, also Carola Holzner, die man auch immer wieder in den sozialen Medien ja viel sieht. Und sie sagen das wirklich. Also sie bewegen sich vor der Kamera, ne? Das wirkt sozusagen täuschend echt. Ich weiß noch, als diese Deepfakes, diese Fakes von Bildern oder auch von Tonaufnahmen so richtig aufkamen, da hat, glaube ich, die ganze Welt einmal sich selber son bisschen erinnern müssen, Moment mal, wir haben jetzt hier plötzlich mit einem anderen Medium zu tun, als diese Papstbilder um die Welt gingen, mit dieser wahnsinnig weißen Puffjacke und sämtliche Medienhäuser haben das gespielt und so wie der Papst trägt was von Balanciaga oder so was. Und das war Quatsch und das müssen wir ja alle lernen. Und aber natürlich ist es schwieriger, je besser das wird und es wird immer besser. Und wir haben auch oder Du hast auch mit einer Person gesprochen, der das passiert ist, einem Arzt, Matthias Riedl. Er berichtet darüber, was das mit ihm auch macht.

00:09:52: DR. MATTHIAS RIEDL: Ich bin ja Arzt und ich bin auch als Arzt tätig. Das heißt, mein Bestreben ist es, Schaden von Menschen abzuhalten und grade das trifft mich extrem, dass Menschen auf mich dann reinfallen quasi und das ist das Gegenteil von dem, was ich hier erreichen will. Ich krieg per WhatsApp und per Mail lauter Beispiele immer geschickt und immer die Frage, machst Du das wirklich? Empfiehlst Du das? Oder aber noch schlimmer, wir kriegen von Patienten die Mail oder Nachricht, die sagen, ja, ich nehme jetzt eher Ihr Produkt oder so will ich es wirklich nehmen?

00:10:27: DR. LAURA WEISENBURGER: Vielleicht kannst Du da noch mal ein bisschen mehr erklären. Also woher kennen wir ihn eigentlich? Warum fallen da auch so viele auf ihn grade rein?

00:10:36: DR. SUSANNE KAILITZ-KUNZ: Also Matthias Riedl ist ein sehr prominenter Arzt. Das kommt ein bisschen daher, dass er sehr aktiv ist in den sozialen Medien. Er gehört zu den Ernährungs-Docs. Er klärt mit Kolleginnen und Kollegen Menschen darüber auf, wie man sich gut und gesundheitsfördernd ernähren kann. Er macht das eben unter anderem auf Instagram. Er hat eine große Reichweite. Damit vertrauen ihm sehr, sehr viele Menschen. Was ich extrem spannend fand, war, dass er mir im Gespräch auch gesagt hat, wenn er so was sieht, manchmal braucht er selber ein paar Sekunden, damit ihm klar ist, das bin ich gar nicht selber, das hab ich gar nicht aufgenommen, das hab ich nicht gesagt. Er meint, bei seiner Frau dauert's noch ein bisschen länger und das... Also das finde ich so krass, dass selbst Menschen, die das eigentlich wissen … DR. LAURA WEISENBURGER: Sich selbst infrage stellen müssen. War ich das? DR. SUSANNE KAILITZ-KUNZ: Genau, also das ist halt sone wahnsinnige Schere im Kopf. Du hast es grade gesehen und Du hast es grade gehört und Du musst deinem Gehirn klarmachen, das stimmt aber nicht.

00:11:29: DR. LAURA WEISENBURGER: Sehr perfide und deswegen haben wir beziehungsweise Du auch mit einem Psychologen drüber gesprochen, was da eigentlich abgeht. Was ist so, was macht es so schwierig? Was passiert da mit dem Vertrauen? Und das ist derjenige, der auch diese Folge heute eröffnet hat, und zwar Alexander Bäuerle. Er arbeitet an der LVR-Universitätsklinik in Essen, grade zu dieser Entwicklung der Digitalisierung im Kontext der psychischen Gesundheit. Das heißt also, er beschäftigt sich vor allen Dingen mit Chancen, aber natürlich auch mit Risiken dieser neuen digitalen Techniken, KI-Anwendungen und so weiter. Wir hören ihn noch mal ganz kurz.

00:12:11: DR. ALEXANDER BÄUERLE: Der Täter oder die Täterin stehlen eigentlich nicht nur ein Gesicht oder eine Stimme. Sie stehlen das Vertrauen und die Glaubwürdigkeit in eine Person. Und das Schlimme ist ja, dass diese Personen genau das, also das Vertrauen in sich über Jahre aufgebaut haben.

00:12:28: DR. LAURA WEISENBURGER: Und daraus erwächst ein riesiges Geschäft. Du hast da auch ein paar Zahlen zu mitgebracht sozusagen?

00:12:35: DR. SUSANNE KAILITZ-KUNZ: Also es ist tatsächlich überhaupt keine Kleinigkeit. Also es findet auf allen Plattformen statt. Man kann das sagen, es wird auf allen Social-Media-Plattformen ausgespielt und es gibt Untersuchungen, wonach das millionenfach in Europa allein ausgespielt wird. Das heißt also, wenn Du zu ner Zielgruppe gehörst, 45 plus, möglicherweise vorerkrankt, ist die Wahrscheinlichkeit, dass dir das ausgespielt wird, extrem hoch.

00:13:00: DR. LAURA WEISENBURGER: Wir haben noch mal nachgeguckt, bisschen recherchiert. Eine Zahl, die wir gefunden haben, sind 900 Millionen Ausspielungen. Das heißt also, in Europa hat ein solcher Inhalt, der jetzt irgendwelche ausgedachten Medikamente als Werbung hat, in den letzten sechs Jahren neunhundertmal Menschen erreicht, die entweder Google benutzt haben, Facebook benutzt haben und sich in Europa befanden. Reuters hat da ebenfalls recherchiert und nach dieser Reuters-Recherche, diese ganzen Quellen findet ihr natürlich wie immer in unseren Shownotes, verdiente Meta, also der Konzern hinter Facebook, Instagram, Whatsapp und so weiter, allein 2024 mit diesen falschen betrügerischen Werbungen 16 Milliarden Dollar. Das heißt also, die Sache lohnt sich und deshalb ist das eben auch überall zu finden letztendlich. Du hast zu dem Thema, nämlich wie man damit Geld verdient, was da für ein Geschäftsmodell genau dahintersteht, auch mit einer Forscherin zugesprochen, nämlich mit Valentine Auer vom österreichischen Institut für angewandte Telekommunikation. Die hat sich das genau angeguckt, wie funktioniert das, wenn eben so bekannte Gesichter, wie wir sie schon genannt haben, auf diesen diversen Meta-Plattformen mit Deepfakes werben.

00:14:27: DR. SUSANNE KAILITZ-KUNZ: Genau. Und das ist schon, das hast Du vorhin angesprochen, das ist ein riesiger Betrug, weil sich damit riesig viel Geld machen lässt. Also das heißt, hinter diesen Betrügereien stecken Anbieter, stecken Menschen, die diese Nahrungsergänzungsmittel, diese Medikamente produzieren und nach Europa schicken, wenn das bestellt wird. Das heißt, das kommt zum Teil aus Asien. Das kommt auch möglicherweise aus Osteuropa. Das weiß man eben nicht ganz genau. Das heißt also, diese Fälle sind auch im Grunde fast immer international. Deshalb ist es auch so wahnsinnig schwer zu verfolgen, weil es einfach so wahnsinnig breit gestreut ist. Also es gibt im Grunde die Betrüger, die diese Deepfakes, die diese Medfakes erstellen und damit Geld machen, weil Du das bestellen sollst. Weiß ich nicht, ein Mittel, was Frau Müller-Eiben bestellt hat, kostet dann pro Packung 109 Euro. Und das ist ja auch nicht nur... Es ist nicht so, dass Du nur einmal auf diese Seite gehst, das anklickst und bestellst. In aller Regel geben die Menschen, die da reinfallen, ihre E-Mail-Adresse, ihre Handynummer an und dann werden die tatsächlich richtig verfolgt von diesen Callcentern, die das im großen Stil vertreiben wollen. Da finden dann Gespräche statt. Das ist auch noch mal was, das find ich so wahnsinnig perfide, weil die Leute in diesen Gesprächen richtig bearbeitet werden. Die kriegen dann so Informationen, ja, das will Ihr Arzt Ihnen vorenthalten. Die Pharmaindustrie will nicht, dass Sie das wissen. Aber wir sagen Ihnen das, bestellen Sie dieses Mittel. Wenn Sie dieses Mittel bestellen und da wird's einfach, also es ist schon kriminell, aber es wird eigentlich noch mal krimineller, wenn Sie dieses Mittel nehmen, können Sie die Medikamente, die Sie bisher genommen haben, absetzen.

00:16:03: DR. LAURA WEISENBURGER: Fürchterliche Informationen natürlich, ne? Da wird's jetzt richtig lebensgefährlich im schlimmsten Falle.

00:16:10: DR. SUSANNE KAILITZ-KUNZ: Und das kann man, also das kann man vielleicht mal, keine Ahnung, eine Zeit lang machen mit nem Blutdruckmittel. Es gibt aber Menschen mit Diabetes 2, denen gesagt wird, sie sollen ihr Insulin absetzen und das wird ganz, ganz schnell lebensgefährlich.

00:16:21: DR. LAURA WEISENBURGER: Was da zugrunde liegt, was da eigentlich für eine Psychologie natürlich dadrunter liegt und warum das funktioniert, darüber haben wir mit Betroffenen gesprochen. Du hast gerade schon gesagt, Du hattest dir einen direkten Kontakt, aber es gibt auch eine Dokumentation, die Eckart von Hirschhausen selbst angestoßen hat. Die ist im Juni dieses Jahres erschienen. Das ist Hirschhausen und die Deep Fake Mafia vom WDR. Und da hören wir mal so ein paar Stimmen, was das eigentlich mit den Menschen, die eben darauf hereingefallen sind, gemacht hat beziehungsweise was sie bewogen hat, da überhaupt das zu tun?

00:17:03: VERSCHIEDENE BETROFFENE: Ich glaube, ich hätte das nicht bestellt, wenn das irgendjemand gewesen wär. Sie werden mit also Diabetes 2 geheilt werden. Ihr Blutdruck wird sich stabilisieren und Ihre Cholesterinwerte werden ganz normal. Vergessen Sie alle Medikamente, was Sie bis jetzt genommen haben. Und ich dachte, gut, das muss gut sein, wenn's von Dr. Eckhart von Hirschhausen kommt. Also man ist gutgläubig. Ich sag Ihnen was, ich schäm mich fast bisschen dafür, dass mir das passiert ist.

00:17:37: DR. LAURA WEISENBURGER: Im Grunde genommen alles schon Aspekte, die wir schon gesagt hatten. Also ich hab gedacht, das muss doch passen. Mir wurde auch versprochen, ich brauch das alles nicht mehr. Da wird mit Ängsten, mit Hoffnungen ja auch gespielt, mit Menschen, die krank sind. Das dürfen wir ja nicht vergessen, auch wenn wir über in Anführungsstrichen wieder leichte Erkrankungen, gut behandelbares wie einen Bluthochdruck sprechen. Aber die Menschen haben vielleicht auch längere Leidenswege hinter sich, sind frustriert. Ich will aber meine Medikamente nicht mehr nehmen und das wird ja in dem Sinne schamlos ausgenutzt.

00:18:11: DR. SUSANNE KAILITZ-KUNZ: Also was mir aufgefallen ist bei der Recherche, wir haben mit vielen Betroffenen gesprochen, aber fast niemand wollte uns das erzählen, diese Geschichte mit seinem Namen, mit Wohnort, mit Foto. Es ist unfassbar schambehaftet. Das ist mir dann so klar geworden. Und das finde ich so wahnsinnig perfide, weil wer auf diese Medfakes reinfällt, wer das nicht erkennt mit bloßem Auge, hat kein Wahrnehmungsproblem. Das ist kein Mensch, der dumm ist, der gutgläubig ist. Also das rührt einfach an die Art, wie wir die Welt wahrnehmen, wie wir Vertrauen haben in die Dinge, die wir mit eigenen Augen sehen und mit eigenen Ohren hören. Und da sagen uns natürlich Psychologen, Menschen, die erkrankt sind, Menschen, die auf der Suche sind nach Hilfe für medizinische Probleme, sind oft auch verzweifelt. Ich hab mit einer Betroffenen gesprochen, die gesagt hat, sie hat dann, sie ist vom Arzt gekommen und ihr ist gesagt worden, sie muss jetzt künftig gleich drei Medikamente auf einmal nehmen. Die Frau mag keine Medikamente, die will das nicht, die fühlt sich da ganz schlecht. Und dann hat sie was gesucht, was eine Alternative sein könnte und ist auf so einen Medfake gestoßen und ist darauf reingefallen, weil sie auf der Suche nach Hilfe war und weil sie gedacht hat, ja Mensch, klasse, das ist ein bekanntes Gesicht, das ist ein bekannter vertrauenswürdiger Arzt, ich bestelle das. Und da muss man sich, glaub ich, klarmachen, das hat mit Dummheit überhaupt nichts zu tun. Das hat auch mit Naivität nichts zu tun. Also mir hat ein Oberstaatsanwalt einer Cybercrime-Einheit gesagt, sie erkennen diese Fakes nicht mit bloßem Auge. Das fällt selbst geschulten Expertinnen und Experten schwer. Früher hat man das gesehen, da weiß ich nicht, da hatte die Hand mal sechs Finger. War die Sprache irgendwie verzerrt. Da waren, da passten die Proportionen nicht. Heute ist das wahnsinnig echt. Also heute kann man das mit bloßem Auge nicht unterscheiden. Es gibt ein paar Red Flags, es gibt ein paar Hinweise, die können helfen, wenn ich auf diese Seite gucke, wenn ich sehe, es hat kein Impressum, wenn ich überhaupt sehe, es wirbt ein Arzt. In Deutschland dürfen Ärztinnen und Ärzte nicht werben. Also das muss im Grunde... Das wäre, glaube ich, was, was Menschen sich klarmachen müssen. Das ist die allergrößte Red Flag, die ich haben kann, in dem Fall.

00:20:25: DR. LAURA WEISENBURGER: Die Werbung per se, ne, dass überhaupt geworben wird mit einem Gesicht, mit einem Namen für ein Präparat.

00:20:32: DR. SUSANNE KAILITZ-KUNZ: Genau, aber mach dir das mal so schnell klar, wenn Du das siehst. Und wenn Du natürlich auf einen ganz anderen Aspekt konzentriert bist, Du suchst nach Hilfe, dir wird was angeboten, Du denkst, ja, Arzt passt. Da muss man das erst mal abrufen können. Moment, Ärzte und Ärztinnen dürfen in Deutschland nicht werben. Das muss man dann erst mal wissen. Und wie gesagt, die Fälschungen sind so wahnsinnig echt, das erkennen auch Expertinnen und Experten nicht mit bloßem Auge.

00:20:56: DR. LAURA WEISENBURGER: Da ist ein sehr, ja, eindrückliches Beispiel, finde ich, aus dieser Dokumentation, die ich eben grade schon erwähnt hatte von Hirschhausen. Da spricht nämlich eine Medizinerin, ich glaub, sie nennt ihren Namen dort auch nicht, wird nicht gesagt, natürlich aus Gründen. Aber eine Medizinerin selbst, also eine Fachfrau berichtet, dass ihr das passiert ist.

00:21:16: BETROFFENE: Hab dann später noch mal darüber nachgedacht, warum ich eigentlich darauf reingefallen bin. Ich glaube, dass das sone eigene Betroffenheit war. Ich glaube nicht, dass das mit Intelligenz oder Dummheit oder so was zu tun hat. Ich halte mich nicht für besonders dumm.

00:21:35: DR. LAURA WEISENBURGER: Und genau das, was Du schon gesagt hast und auch was die Betroffene jetzt selber berichtet hat, auch das betont noch mal Alexander Bäuerle auch eher entlastet diese Menschen, die darauf reingefallen sind, die Leute sind nicht einfach zu doof, in Anführungsstrichen.

00:21:53: DR. ALEXANDER BÄUERLE: Das ist mit Sicherheit keine Frage der Intelligenz. Das ist ein einfacher psychologischer Mechanismus.

00:21:59: DR. SUSANNE KAILITZ-KUNZ: Also uns haben Psychologinnen und Psychologen gesagt, dass Menschen, die erkrankt sind, die unter chronischen Erkrankungen leiden, die auf der Suche nach Hilfe sind, sind oft erschöpft davon. Das nennen dann Experten Treatment Fatigue. Also das heißt, es ist auch eine gewisse Müdigkeit darin, sich damit immer wieder auseinanderzusetzen und dann glauben, also dazu neigen wir ja irgendwie alle, wenn mir jemand was sagt, was ich sehr, sehr gern hören möchte, weil das meine Hoffnung beflügelt, dann glaube ich das eher, als wenn er mir irgendwie sagt, oh, Sie müssen dann Ihren ganzen Lebensstil umstellen und ganz viel abnehmen und ganz viel Sport machen und gar nichts mehr essen. Das will ich nicht hören, das möchte ich auch nicht gern glauben. Aber ein Mittel, was mir helfen kann, was mir helfen kann, ganz schnell meinen Blutdruck oder meine Blutfette in den Griff zu bekommen Und wenn ich dann auch lange schon vielleicht einen Leidensweg hinter mir habe. Die Leute sind erkrankt, die sind damit lange schon beschäftigt. Manchmal hat der Arzt, die Ärztin auch keine Zeit. Manchmal ist nicht eine gute Möglichkeit, das zu besprechen. Und dann gibt's auch keine einfachen Wege und ich kann das, also ich kann das absolut nachvollziehen. Ich bin selber pflegende Angehörige. Ich weiß, wie schnell man Hoffnung schöpft, wenn jemand sagt, das könnte helfen und dann bist Du ganz schnell dabei zu sagen, das probier ich aus und dann spielt das Geld doch erst mal gar keine Rolle.

00:23:08: DR. ALEXANDER BÄUERLE: Na, wenn ich seit Jahren Schmerzen habe und plötzlich höre, dass da eine einfache Lösung ist. Es geht ja auch um die einfache Lösung. Da geht man auch mal eine mentale Abkürzung, ohne jetzt ganz tief die Inhalte zu prüfen, ohne länger drüber nachzudenken.

00:23:26: DR. LAURA WEISENBURGER: Da gibt es diese jetzt sehr englischen Begriffe, aber die sind dir, glaub ich, bei der Recherche auch untergekommen, meaning transfer und source credibility. Also kann ich der Quelle glauben und was macht das mit dem Inhalt, der des switcht da son bisschen? Kannst Du da noch mal was zu sagen?

00:23:47: DR. SUSANNE KAILITZ-KUNZ: Na ja, das müssen wir uns ja im Grunde nur selber fragen. Wem vertrauen wir? Wem sprechen wir Kompetenz zu? Wenn ich höre, ein Arzt, eine Ärztin hat studiert, hat vielleicht sogar promoviert, hat einen Eid geleistet, da geh ich doch davon aus, das ist ein Mensch, der will mir nichts Schlechtes. Das ist, da geh ich nicht davon aus, da da steht ein Betrug dahinter, der mir nur das Geld aus der Tasche ziehen will. Also ich glaube, es gibt ja auch sone, weiß ich nicht, vielleicht ist das heute auch eine ganz naive Grundannahme, dass ich nem Menschen begegne und nicht per se davon ausgehe, der will mich betrügen. Der belügt mich, der will nur mein Geld. Also und dann kommt eben dazu, wenn ich Menschen als besonders glaubwürdig wahrnehme, und das sind natürlich dann einfach Ärztinnen und Ärzte, das sind Menschen, die dieses Gesundheitssystem repräsentieren. Denen will ich glauben und denen glaub ich auch sehr viel schneller.

00:24:40: DR. LAURA WEISENBURGER: Und dann kommt noch son Autoritätseffekt hinzu, wenn's bekannte Menschen sind, dann ist es besonders toll.

00:24:47: DR. ALEXANDER BÄUERLE: Wenn mir eine unbekannte Person im Internet ein Wundermittel empfiehlt, bin ich wahrscheinlich sehr skeptisch. Wenn scheinbar Eckart von Hirschhausen genau dasselbe sagt, wird die Aussage sofort glaubwürdiger.

00:25:02: DR. LAURA WEISENBURGER: Das war noch mal unsere Experteneinschätzung von Alexander Bäuerle, dem Psychologen. Ja, jetzt ist natürlich, jetzt haben wir schon gesagt, wir haben eine Patienten-, Patientinnen-Sicherheit, die gefährdet ist. Da können richtig schreckliche Sachen passieren. Menschen setzen Medikamente ab, nehmen Therapien, die wichtig wären, vielleicht nicht wahr, werden als Nahrungsergänzungsmittel werden als Alternativen gesehen. Da sind wir letztendlich wieder in der gleichen Mechanik drin, wie wir sie schon seit zehn, 20, Hunderten von Jahren kennen. Quacksalber, die mir versprechen, nimm das, Du bist unsterblich, Du bist unverwundbar. Also das war quasi das, was früher das war. Ihr werdet nie an der Pest sterben. Das ist dann hier, nimm das und dein Diabetes ist geheilt. Aber das hat nicht nur Auswirkungen auf die einzelne Person, das haben wir uns jetzt angeguckt, sondern es hat natürlich auch gesamtgesellschaftliche Folgen.

00:25:58: DR. SUSANNE KAILITZ-KUNZ: Ja, also ich finde, es ist eine ganz große zersetzende Gefahr, die tatsächlich von diesen Medfakes ausgeht. Also es setzt im Gesundheitswesen an, es setzt im Bereich der Medizin an, lasse ich mir tatsächlich Misstrauen gegen Ärztinnen und Ärzte einreden? Lasse ich mir Misstrauen einreden gegen evidenzbasierte Medikamente, gegen evidenzbasierte Behandlungen, weil es wird mir ja verkauft, es gibt noch eine andere Möglichkeit. Ich kann ein anderes Mittel nehmen, ich kann eine Abkürzung nehmen und werde dadurch schneller gesund. Das geht oft einher mit eben: Ihr Arzt, Ihre Ärztin will nicht, dass Sie das wissen. Das schürt Misstrauen und also wohin uns dieses Misstrauen führt, das haben wir ja schon an ganz, ganz vielen Stellen gesehen in den letzten Jahren. Also es gibt eine große Skepsis gegenüber Impfungen. Es gab eine wahnsinnige Skepsis gegenüber im Grunde allen staatlichen Maßnahmen, die die Gesundheit betrafen in der Coronapandemie. Und diese Medfakes zahlen darauf ein. Die führen dazu, dass es noch mehr Menschen gibt, die misstrauisch werden. Und wenn Du dann auch noch diese Erfahrung gemacht hast, das ist ein großer Betrug gewesen, dann klamüsert man im Kopf ja nicht mehr auseinander, was ist jetzt der Betrug gewesen? Also es geht dann alles in sonem generellen Misstrauen, ich kann den Sachen, die mir andere Menschen sagen, ich kann den Sachen, die mir im Gesundheitswesen vermittelt werden, nicht mehr trauen. Ich würde sogar tatsächlich so weit gehen und ich glaube, da bin ich mir auch mit vielen Expertinnen und Experten einig, am Ende schürt das ein riesiges Misstrauen gegenüber unserem gesamten demokratischen System.

00:27:40: DR. LAURA WEISENBURGER: Alexander Bäuerle fasst das quasi auch noch mal so zusammen, was Du jetzt gerade gesagt hast.

00:27:46: DR. ALEXANDER BÄUERLE: Also das Problem ist dann nicht nur, dass der Mensch Falschinformationen glaubt. Es kann auch passieren, dass man echten Informationen weniger glaubt.

00:27:55: DR. LAURA WEISENBURGER: Und wir sind ja hier jetzt bei ’ne Dosis Wissen. Und da stellen wir uns natürlich auch die Frage, okay, wie können wir euch denn weiterhelfen, wenn ihr jetzt wirklich in der Praxis, in der Klinik sitzt und ihr habt da eine Person vor euch, was ist denn das beste Vorgehen, damit im allerbesten Fall dieses Vertrauen auch wieder zurückgewonnen wird? Und ich hab da für mich selbst als Ärztin überlegt, was wäre mir wichtig, was möchte ich vermitteln, aber auch noch mal ein bisschen recherchiert, was sind wichtige Punkte, auf die man dann achten muss. Und da steht an vorderster Stelle ganz oben eigentlich, nicht verurteilen. Wir haben's ja jetzt auch schon gesagt, das hat alles nichts mit Intelligenz oder Dummheit in Anführungsstrichen zu tun. Einfach nur wahrnehmen, aufnehmen. Mein Gegenüber sagt mir gerade, hören Sie mal, ich hab da was ganz, mir so ganz blödes passiert. Okay, was wars denn? Erst mal auch vielleicht pragmatisch vorgehen und sagen, gut, zeigen Sie doch mal her. Was haben Sie denn gekauft? Was haben Sie denn da eingenommen? Ganz wichtig natürlich, haben Sie stattdessen was weggelassen? Wir gucken uns jetzt mal die Wechselwirkung an. Das gibt ja auch Sicherheit, dieses in Anführungsstrichen ganz normale Vorgehen, wie ich's dann eben in der Klinik, in der Praxis, in der Ambulanz machen kann. Wir gucken uns jetzt an, wie das mit ihren Medikamenten zusammen geht, was wir da vielleicht für Vorkehrungen treffen müssen und so weiter und so fort. Auch auf jeden Fall darauf achten, dass man auch nicht son Seitenkommentar, ach ja, die sozialen Medien, das wird alles wahrgenommen. Das sind feine Zwischentöne. Neutral, ein sicherer Hafen sein. Ihr seid diejenigen, die dieses Vertrauen wieder zurückgeben müssen und das habt ihr in der Hand über eure Sprache, über eure Reaktion darauf, wenn jemand eben mit so etwas ankommt. Und ihr habt ja den größten Vorteil überhaupt, ihr seid die echten Menschen, die der anderen Person gegenübersitzen. Da ist kein Filter rüberzulegen. Das geht nicht, noch nicht. Wir sprechen uns dann in 50 Jahren vielleicht noch mal. Aber aktuell ist das höchste Maß an Authentizität und eben Quellenvertraubarkeit, was wir geben können. Und das ist unser Vorteil und das müssen wir an der Stelle dann auch einfach nutzen. Und im allerbesten Falle kann ich Vertrauen wieder zurückgeben. Das heißt also, ich kann so viel Sicherheit ausstrahlen und mitgeben, dass dann die Person vielleicht beim nächsten Fall so einer Medfake-Geschichte zu mir kommt und sagt, schauen Sie mal bitte hier kurz drauf. Was ist das? Das kam mir komisch vor. Was halten Sie davon?

00:30:49: DR. SUSANNE KAILITZ-KUNZ: Genau. Das wäre, glaube ich, der beste Fall, dass Leute, bevor sie dann bestellen, zu ihrem Arzt, zu ihrer Ärztin oder vielleicht auch in die Apotheke gehen und sagen, ich hab das jetzt gefunden, ich würde das bestellen. Was halten Sie denn davon? Und dann würde ich mir wünschen, dass auch so Fachpersonal sich vielleicht auch... Also man ist ja im ersten Moment so, um Gottes willen, wie können Sie das denn glauben? Das kann ja alles gar nicht sein. Das ist ja viel zu gut, um wahr zu sein. Aber wir haben doch alle sone weiche Stelle. Wir haben doch alle son Punkt, wo wir ein Bedürfnis haben, was nicht erfüllt wird, wo wir uns nach ner bestimmten einfachen Lösung sehnen. Und ich glaub, das ist schon auch wichtig, sich das klarzumachen, wir sind alle nicht davor gefeit, auf so was reinzufallen. Und ich glaube, das würde ich mir auch wünschen, also das hab ich mir so mitgenommen aus der Recherche, nicht so zu urteilen, wenn ich irgendwie glaube, ah, das ist doch offensichtlich, sondern mir auch mal klarzumachen, an welchem Punkt würde ich drauf reinfallen und ich bin sicher, da gibt's viele.

00:31:49: DR. LAURA WEISENBURGER: Ist, glaub ich, eine sehr spannende Frage. An welchem Punkt würden Sie mich erwischen? Wie Du schon sagtest, wir haben mit Sicherheit alle irgendwo einen Punkt, wo wir da besonders vulnerabel sind. Susanne, mich hat es total gefreut für gleich so eine ganz große Folge mit dir hier zu sprechen. Es war super spannend. Auch vielen Dank, dass Du uns mitgenommen hast in die Recherche, wie da die Prozesse quasi abgelaufen sind, auch was dir so dabei durch den Kopf gegangen Das ist ja total spannend. Deine Geschichte, deine Titelgeschichte, kann man jetzt ab dem ersten September in den Apotheken sich holen. Die ist nämlich Titelgeschichte der neuen Apotheken Umschau zu eben den Medfakes, über die wir heute lange gesprochen hat und zum Abschluss der Folge würde uns natürlich interessieren, habt ihr schon Erfahrung, Berührungspunkte damit gehabt? Sind euch diese KI-Fakes, Deepfakes, ob das jetzt Videos oder Anzeigen waren, schon begegnet? In der Praxis, in der Apotheke kam schon vorbei und hat das nachprüfen lassen wollen. Wie habt ihr das erlebt? War das leicht, mit denen umzugehen? Wenn die Möglichkeit besteht, kommentiert das doch gerne in die Folge rein. Da gibt es manchmal Kommentarmöglichkeiten und ansonsten geht das auch via E-Mail an redaktion@gesundheit-hören.de. Wir danken euch, wir beide und ich ganz herzlich fürs Zuhören bei der Folge. Ja und Susanne, vielleicht auf bald.

00:33:16: DR. SUSANNE KAILITZ-KUNZ: Sehr, sehr gern. Vielen Dank.

00:33:22: SRECHER: Ein Podcast von gesundheit-hören und Apotheken Umschau pro. gesundheit-hören, das ist das Audioangebot der Apotheken Umschau.