Eckart von Hirschhausen: „Musk und Zuckerberg sind für mich Teil der Deepfake-Mafia“
„Ich empfinde das als Rufmord, als Psychoterror und einen eklatanten Vertrauensmissbrauch“ – mit diesen deutlichen Worten blickt Eckart von Hirschhausen auf die täuschend echt wirkenden KI-generierten Werbevideos, die – unter anderem mit seinem Gesicht und seiner Stimme – zum Kauf vermeintlicher Gesundheitsprodukte verleiten. Bei solchen Deepfakes im Gesundheitswesen gehe es „nicht um harmlose Fakes, sondern um viel Geld und echte Gesundheitsgefahren“, wie er im Interview ausführt.
Die neue Dokumentation „Hirschhausen und die Deepfake-Mafia“ (ab 1.5. in der ARD-Mediathek und am 4.5. um 20:15 Uhr im Ersten) legt ein kriminelles System offen, das gezielt mit der Gesundheit und dem Vertrauen von Menschen spielt. Dabei zeigt von Hirschhausen, der selbst seit Jahren Opfer von Deepfakes ist, die perfide Masche, die hinter dieser global agierenden Betrugsindustrie steckt.
Im Interview erzählt der 58-Jährige, was der Missbrauch seiner Stimme und seines Gesichts für KI-generierte Fake-Videos auf persönlicher Ebene mit ihm macht. Dabei ordnet er die Gefahren von Deepfakes im Gesundheitswesen ein und macht deutlich: „Es sterben heutzutage Menschen an falschen Informationen!“
Herr von Hirschhausen, Ihre Bühnenkarriere begann vor über 30 Jahren als Magier im Varietétheater. Heute befassen Sie sich weiterhin mit der Kunst der Täuschung – jedoch auf Ebene der Deepfakes …
Eckart von Hirschhausen: Ja, in meiner Jugend habe ich schon viel darüber gelernt, wie Menschen die Täuschung mehr mögen als die Ent-Täuschung! Dieses Wissen hilft mir heute, leichter die psychologischen Fallen der Deepfakes zu erkennen und darüber aufzuklären. Denn da geht es nicht um harmlose Fakes, sondern um viel Geld und echte Gesundheitsgefahren. Viele glauben, zwischen Betrug und Wirklichkeit unterscheiden zu können. Aber je besser die KI-Deepfakes werden, gilt: Deepfakes täuschen uns alle.
Das sind von Hirschhausens Forderungen an die Politik
Das Vertrauen, das Sie sich als Arzt und Wissenschaftsjournalist über Jahrzehnte aufgebaut haben, wird mit Ihrem Gesicht und Ihrer Stimme tausendfach von Kriminellen missbraucht. Sie bewerben scheinbar online dubiose Medikamente, von Abnehmpulvern bis zu Potenzmitteln. Was machen diese Fälschungen Ihres Gesichts und Ihrer Stimme auf persönlicher Ebene mit Ihnen?
Interessanterweise trifft mich der Identitätsdiebstahl an meiner Stimme mehr als die Tatsache, dass mein Gesicht für diese kriminellen Zwecke genutzt wird. Ich stehe seit 30 Jahren in der Öffentlichkeit, insofern ist mein Gesicht nicht nur im Fernsehen, sondern beispielsweise auch auf Buchcovern oder im Rahmen von Veranstaltungen auf Plakaten zu sehen. Die Stimme aber ist das Persönlichste, das wir besitzen. Auch wenn ich mich in den vergangenen Jahren optisch verändert habe, ist meine Stimme immer geblieben. Ich empfinde das als Rufmord, als Psychoterror und einen eklatanten Vertrauensmissbrauch.
Die Menschen wissen seit 30 Jahren, dass ich nicht für Produktwerbung, sondern für fundierte Recherche, Gesundheitsaufklärung und Wissenschaft stehe. Dieses lang erarbeitete Vertrauen wird durch die Deepfakes innerhalb kürzester Zeit zerstört und missbraucht, für Profitgier. Ich bin wütend und fassungslos und frage mich, wie weit wir eigentlich gekommen sind, KI als neue Technologie zu feiern, ohne darüber zu reden, wie wir uns vor den Abgründen schützen. Geld darf ich doch auch nicht einfach fälschen.
Unser Miteinander, unser Wirtschaften, unsere Gesellschaft und Demokratie beruhen auf Vertrauen. Was an Grundrechten im Analogen geschützt wird, muss auch digital unantastbar bleiben. Hier halte ich die dänische Gesetzgebung für richtungsweisend. Da hat jeder Mensch automatisch das Recht an seiner eigenen Stimme, seinem Gesicht und seinem Körper. Warum gibt es das nicht in Deutschland?
Wie lauten demnach Ihre Forderungen an die deutsche Politik, wenn es um Deepfakes geht?
Im aktuellen Gesetzesentwurf der Justizministerin Hubig geht es neben der sexualisierten Gewalt auch im Paragraf 201b in der Begründung um den Fall eines bekannten Arztes. Auch wenn das nie auf der Liste meiner Lebensziele stand, finde ich einen „Hirschhausen“-Paragrafen wichtig, damit wir auch die kommerzielle und politisch motivierte Verletzung von Menschen- und Persönlichkeitsrechten im Digitalen stoppen. Denn das Digitale ist mehr als ein paar Bilder im Internet. Vielmehr wird digitaler Hass zu echtem Hass, auch unechte Medikamente können echten Schaden anrichten. In einem Video werde ich sogar erschossen – es ist alles schon lange nicht mehr lustig.
So komplex ist das kriminelle System hinter Deepfakes im Gesundheitswesen
Von welchen Dimensionen sprechen wir bei Deepfakes im Gesundheitswesen?
Von riesigen. Menschen schreiben mir Mails und berichten, dass ihnen vermeintliche Videos von und mit mir selbst auf bekannten Sprachlern-Apps begegnen. Das Schlimmste ist aber, dass eben viele Menschen auf diese Videos reinfallen und mich sogar fragen, wie sie an die in den Videos beworbenen Wundermittel zum Abnehmen herankommen. In diesen Situationen bin ich immer wieder fassungslos, denn offenbar scheinen die Menschen nicht selten zu glauben, dass der Mann, den sie in diesen Werbevideos sehen, wirklich ich bin. Dabei sind es genau diese Situationen, in denen ich merke, wie sehr Deepfakes und manipulierte Videos im Internet um sich greifen.
Eben dieses kriminelle System legt die Doku „Hirschhausen und die Deepfake-Mafia“ offen. Hatten Sie im Vorfeld eine Ahnung, wie komplex eben dieses kriminelle System ist, das da agiert?
Nein. Während der Dreharbeiten habe ich vor dem Hauptbahnhof in Düsseldorf spontan Passantinnen und Passanten angesprochen. Die Gespräche haben aufgezeigt, dass von diesen zufällig ausgewählten Personen viele die Deepfakes von mir kannten. Ein Mann fragte mich sogar, ob es sich bei der Person in einem der Werbevideos wirklich nicht um mich handele. Erst dann verstand er, offenbar auf den Betrug hereingefallen zu sein. In einem anderen Gespräch erzählte mir eine Frau, zwar erkannt zu haben, dass es sich bei dem Video um einen Deepfake handele. Nichtsdestotrotz resultiert daraus ein wachsendes Misstrauen der Menschen gegenüber allem, was sie sehen und hören. Dieses Misstrauen führt zu einem Verlust der gesellschaftlichen Kohärenz und des Zusammenhaltes.
Wenn wir Menschen uns nicht mehr über eine gemeinsame Realität verständigen können, dann wissen wir irgendwann nicht mehr, auf welcher Tatsache überhaupt Entscheidungen beruhen. Es sterben heutzutage Menschen an falschen Informationen! Das besorgt nicht nur mich zutiefst, ich bin dazu auch mit der Weltgesundheitsorganisation und der Ärztekammer im Austausch.
Wovor warnen Sie mit Blick auf die Gefahren von Deepfakes im Gesundheitswesen?
Meine oberste Warnung: Wenn etwas zu schön klingt, um wahr zu sein, ist es meistens nicht wahr. Niemand kann Diabetes in 17 Stunden heilen. Oder in zwei Wochen 20 Kilo abnehmen. Das Spiel mit der Hoffnung und falschen Heilsversprechen ist kriminell. Wenn Diabetes-Betroffene in Deepfake-Videos dazu aufgefordert werden, auf ihre Medikamente zu verzichten, weil es nun das angebliche Hirschhausen-Wundermittel gibt, kommen diese Menschen zu Schaden und können sterben. Wenn Bodybuilder im Netz Hormonspritzen bestellen, ohne dass diese auf Inhaltsstoffe kontrolliert werden, können sie daran sterben. Wenn Frauen aus einem, vor allem durch Social Media betriebenen, kranken Körperbild heraus denken, abnehmen zu müssen, bestellen sie Präparate wie Sibutramin, das aus guten Gründen in der EU, den USA und vielen anderen Ländern verboten ist. Durch die Einnahme dieser Appetitzügler sind bereits Menschen zu Tode gekommen.
Es ist mir wichtig, als öffentlich-rechtliche Rundfunkanstalten einen Kanal zu öffnen und eben diese Geschichten zu erzählen. Viele Menschen, die auf Deepfakes im Gesundheitswesen hereinfallen, ordnen diesen Betrug nicht gleich richtig ein, sprechen nicht darüber oder schämen sich. Welcher Mann spricht schon gerne darüber, Potenzmittel zu benötigen und in diesem Zusammenhang auch noch auf einen Internet-Betrug hereingefallen zu sein? Dabei ist die Illegalität ein Teil des Problems, weswegen wir nicht darüber sprechen.
Welche Rolle spielen digitale Suchanfragen in diesem Zusammenhang?
Eine große. Viele Menschen schämen sich, wegen verschiedener Beschwerden ärztlichen Rat einzuholen. Dabei vergessen sie, dass ihre Suchanfragen im Internet gespeichert und gewissermaßen gegen sie verwendet werden, indem ihnen – basierend auf der Suchanfrage rund um die inneren Nöte, Konflikte und medizinischen Probleme – entsprechende Werbeanzeigen ausgespielt werden. Wie viel mehr wir im Netz über uns verraten, als uns bewusst und lieb ist, war auch mir vor den Dreharbeiten zu dieser Doku nicht bewusst. Die Datenbanken der Kriminellen zeigen sehr präzise das Online-Suchverhalten der Menschen. Aufgrund ihrer Suchanfragen können Menschen auch erpresst werden und genau das dürfen wir nicht weiter zulassen.
Menschen haben eine Privatsphäre und ein Recht auf Sehnsüchte, auf Intimität, auch auf gewisse Abgründe, sofern dadurch niemand zu Schaden kommt. Kein Mensch möchte, dass alles über ihn öffentlich bekannt wird und im Netz meistbietend verschachert wird. Eine unserer Quellen in der Doku hatte dafür ein starkes Bild: Die privatesten Geheimnisse der Menschen werden wie Konfetti vom Kirchturm verstreut und sind nie wieder einzufangen. Dabei verlieren die Betroffenen jegliche Kontrolle über sich und ihr Privates. Diese Abgründe im Anzeigenmarkt waren mir vorher nicht klar und brauchen dringend verbindliche Regeln. Meta machte nach internen Dokumenten 2024 16 Milliarden Dollar mit gefälschten Anzeigen, die Bigtechs verdienen an jedem Klick mit. Musk und Zuckerberg sind für mich Teil der Deepfake-Mafia.
Wer irgendwo mein Gesicht sieht, das für irgendwelche Medizinprodukte wirbt, kann sich sicher sein, dass hier etwas nicht stimmt.
Der Fall Collien Fernandes zeigt das Ausmaß von Identitätsdiebstahl und pornografischen Videos, Ihr Fall das von Deepfakes im Gesundheitswesen. Sind Sie zuversichtlich, dass wir in Sachen Gesetze rund um Deepfakes bald besser geschützt sind?
Es muss sich etwas ändern und grundsätzlich bin ich ein optimistischer Mensch. Umso mehr hoffe ich, dass sich durch die intensive Berichterstattung rund um den Fall Collien Fernandes sowie durch die Dokumentationen und die Solidarität der Menschen ein entsprechendes Momentum ergibt. Wir brauchen moderne Gesetze, die auch durchgesetzt werden können. Die Plattformen müssen haftbar sein für ihre Inhalte, und Deepfakes gehören ab der Herstellung unter Strafe. Das ist doch bei Geldscheinen selbstverständlich, dass man die nicht fälschen darf. Das muss auch für Menschen gelten.
Sie gehen seit geraumer Zeit juristisch gegen die Deepfakes von sich vor, ohne dass sich etwas ändert. Wie erleben Sie diesen sprichwörtlichen „Kampf gegen Windmühlen“?
Es sind keine Windmühlen, es sind Drachen. Windmühlen stehen an einer Stelle, Drachen sind beweglich. Und immer, wenn man einen Kopf abhaut, wachsen zehn neue nach. Außerdem sprechen wir hier von extrem stark finanzierten und koordinierten Drachen. Die dunkle Seite ist leider sehr viel strategischer unterwegs als die helle.
Ziel ist es, den Betrügern den Boden unter den Füßen wegzuziehen. Das gelingt aber nur, wenn wir uns an Fakten halten und nicht auf Fakes reinfallen.
Wie lassen sich betrügerische Angebote und Deepfakes im Gesundheitswesen erkennen?
Zunächst kann ich sagen: Wer irgendwo mein Gesicht sieht, das für irgendwelche Medizinprodukte wirbt, kann sich sicher sein, dass hier etwas nicht stimmt. Ich habe noch nie kommerzielle Werbung gemacht, für nichts. Aus Prinzip, weil mir Glaubwürdigkeit wichtig ist. Ärztinnen und Ärzte in Deutschland dürfen laut „Heilmittelwerbegesetz“ grundsätzlich keine Medikamente anpreisen.
Mein zweiter Appell lautet: Prüfen Sie das Impressum der werbenden Websites und lesen Sie nach, wer als Absender der Seiten fungiert. Fantasienamen oder wahllos aneinandergereihte Buchstabenfolgen sind in der Regel ein wichtiger Indikator, um einen möglichen Betrug zu erkennen. Die Verbraucherzentralen bieten diesbezüglich sogenannte Fake-Shop-Finder an.
Drittens: Fragen Sie ihren Arzt oder Apotheker. Ganz echt. Oder auch vertrauenswürdige Menschen aus der Familie oder der Nachbarschaft. Menschen mit chronischen Erkrankungen sowie Menschen, die Angst um sich und andere haben, sind in ihrer Urteilsfähigkeit eingeschränkt. Das ist eine typische Stressreaktion, die auch von Telefonverkäufern entsprechend ausgenutzt wird. Indem die Deepfakes mit meinem Gesicht und meiner Stimme zunächst einen seriösen Eindruck erwecken, werden den Menschen falsche Hoffnungen gemacht. Dazu kommen Verkaufsmaschen wie angeblich einzigartige Rabatte oder Heilsversprechen, mit denen die Menschen eingelullt werden.
Wie können wir aus dieser Betrugsspirale ausbrechen?
Vor allem, indem wir darüber reden. Indem wir beispielsweise öffentlich über den Enkel-Trick geredet haben, konnten viele Betrugsfälle verhindert oder aufgedeckt werden. Darüber hinaus sollten wir auf unsere Daten achten. Ehe wir unsere Mailadresse oder Telefonnummer irgendwo eingeben, sollten wir im Bekannten- oder Verwandtenkreis um eine Einschätzung einer Person, die sich möglicherweise auskennt, bitten. Idealerweise sind es Menschen, die im Gesundheitswesen, im Journalismus oder im Digitalen tätig sind und entsprechend unterstützen können.
Ziel ist es, den Betrügern den Boden unter den Füßen wegzuziehen. Das gelingt aber nur, wenn wir uns an Fakten halten und nicht auf Fakes reinfallen. Auf juristischer Ebene wird die Lage rund um Deepfakes hoffentlich langsam voran gehen. Aber wir können heute schon Menschen schützen, indem wir sagen: Lasst euch nicht verarschen. Schämt euch nicht, wenn ihr auf Fakes reingefallen seid, ihr seid nicht allein. Und fragt nicht KI, sondern geht auf Seiten, wo die Infos recherchiert und solide sind, zum Beispiel gesundheitsinformation.de, quarks.de, tagesschau.de und die Verbraucherzentralen. Und natürlich die ARD-Mediathek, wo es auch eine zweite Doku mit Collien Fernandes gibt.
Über den Gesprächspartner
- Eckart Axel von Hirschhausen ist ein deutscher Arzt, Fernsehmoderator, Kabarettist, Komiker, Webvideoproduzent, Fernsehproduzent, Wissenschaftsjournalist und Autor, der sich wissenschaftlichen und gesundheitspolitischen Themen widmet. Von 2010 bis 2023 moderierte er die ARD-Show „Frag doch mal die Maus“ sowie weitere Wissensformate. Darüber hinaus hatte er zahlreiche Gastauftritte in bekannten Talkshows, Quizsendungen, Kabarett- und Comedy-Formaten bei ARD, ZDF, NDR und WDR. 2020 gründete von Hirschhausen die Stiftung Gesunde Erde Gesunde Menschen gGmbH.
