KI vs. Mensch: Wie gut sind AI Newsletter wirklich? Wir haben den Test gemacht.

10 Min.
Aktualisiert:

Mit KI Marketing-E-Mails kreieren, Zeit, Geld und Aufwand sparen – ein Traum für jede*n E-Mail-Marketer*In. KI-E-Mail-Assistenten sprießen gerade in der Marketingwelt wie Tulpen im Frühling aus dem Boden. Und ja, auch wir bei GetResponse schwören auf unseren KI E-Mail Generator. Doch sind AI Newsletter wirklich besser als die, die wir selbst schreiben und in die unser Blut, Schweiß und Tränen fließen?

Kann eine KI uns ersetzen? Nimmt sie uns E-Mail Marketer*Innen den Job weg? Das haben wir uns doch sicher alle schon seit des Launches von ChatGPT gefragt.

Nun, wir haben es herausgefunden und einen Newsletter mit unserer hauseigenen KI und einen von uns erstellten an unsere Empfänger*Innen gesendet. Welcher von beiden besser abgeschnitten hat und welche Methode uns mehr Kopfschmerzen bereitet hat, findet Ihr hier heraus.

AI Newsletter vs. menschliche E-Mail: Willkommen beim Battle zwischen Mensch und Maschine!

Das Experiment: Worum ging es?

Zusammen mit unserem Partner Anwalt Martin Erlewein haben wir ein Whitepaper zum Thema: KI und ihr rechtskonformer Einsatz im E-Mail Marketing kreiert. Dieses wollten wir mit einem Newsletter an unsere Zielgruppe promoten.

Anhand eines E-Mail A/B-Tests wollten wir heraus finden, ob ein von uns geschriebener Newsletter vielleicht sogar besser performt als ein AI Newsletter, der von unserem KI-Tool generiert wird.

Die These

Unsere Vermutung? Der AI-Newsletter, der von unserer künstlichen Intelligenz erstellt wurde, schneidet in punkto Öffnungsrate besser ab. Doch unser handgeschriebener Content kann vielleicht mehr Menschen davon überzeugen, sich auf unser Whitepaper durchzuklicken.

Methode: Der A/B Test

Wir haben 2 Newsletter erstellt: einen mit unserem KI-E-Mail-Generator und einen “per Hand” geschrieben, von unserer Mitarbeiterin Nadine.

Mit den zwei Versionen haben wir einen A/B Test in unserem E-Mail Marketing Tool aufgesetzt.

Unser A/B-Testing-Tool versendete jede Variante des Newsletters zunächst an je 24% unserer Empfänger*Innen. Als Erfolgsfaktor gaben wir die Klickrate an. Je nachdem, welcher Newsletter schließlich die höhere Klickrate aufweisen würde, würde die Gewinnervariante dann an die restlichen 50% unserer Abonnent*Innen geschickt werden.

Kriterien für Erfolg/KPIs

Obwohl die Gewinner-E-Mail anhand der Klickrate gewählt wird, zählten für uns noch weitere Faktoren für den Erfolg unseres Newsletters. Diese unterteilen wir in Hard & Soft KPIs.

Soft KPIs:

  • Dauer der Newsletter-Erstellung
  • Anzahl unserer manuellen Anpassungen
  • Nutzerfreundlichkeit des Editors/KI-Generators
  • Kopfzerbrechen-Level
  • Zufriedenheit mit dem Output

Hard KPIs:

  • Öffnungsrate
  • Klickrate
  • Conversion Rate
  • Unsubscribes

Phase 1: Die Planung

Wie sind wir vorgegangen?

Die Idee für den Newsletter kam ganz natürlich. Denn selbstverständlich promoten wir jeden unserer Leitfäden an unsere Zielgruppe. Uns war jedoch klar, dass wir für die menschlich erstellte E-Mail mehr Zeit benötigen würden. Schließlich müssen wir texten, Links, Bilder usw. einfügen und unser Newsletter-Design anpassen.

Mit dem KI-E-Mail-Generator geben wir bestenfalls einfach nur ein paar Keywords ein und fertig ist die E-Mail, so unser Vorhaben.

Phase 2: AI Newsletter Kreation mit dem KI E-Mail Generator

Dauer: 45 Minuten

Wie sind wir vorgegangen?

Zunächst sind wir einfach den Schritten gefolgt, die uns unser KI-E-Mail Generator vorgeschlagen hat. Wir haben dem KI-E-Mail-Assistenten erklärt, worum es uns geht, was das Ziel unserer Kampagne ist und haben entschieden, wie wir möchten, dass die E-Mail aussieht.

So schnell, so gut.

Damit war es jedoch nicht getan. Schließlich mussten wir die E-Mail auch noch an unser Branding anpassen.

So haben wir Header und Footer angepasst, unsere E-Mail Schriftart und die Farbe der Schrift an unsere normalen Newsletter angepasst.

Den von der KI generierten Text mussten wir ebenfalls noch einmal umschreiben, da wir nicht 100% mit ihm zufrieden waren.

Die Betreffzeile haben wir übrigens mit KI-Betreffzeilen Generator erstellt und waren vollkommen zufrieden damit.

Etwas, das uns ebenfalls Zeit gekostet hat: Erst beim zweiten Versuch waren wir mit dem KI-generierten Entwurf zufrieden. Die KI ist eben nur so schlau wie unsere Prompt und anscheinend war unsere erste Prompt ein Fail.

Hier siehst du, was wir eingegeben haben:

Und welches vorläufiges Ergebnis uns die KI geliefert hat:

Unser zweiter Prompt-Versuch war dann jedoch erfolgreich:

Und mit dem Ergebnis waren wir schließlich ebenfalls zufrieden.

Tipps für den Umgang mit unserem KI-E-Mail Generator findest du übrigens weiter unten im Beitrag 😉

Vorteile des KI-E-Mail-Generators:

  • Der KI Schreibassistent (AI Email Writer) hilft Texte neu umzuschreiben, zu vereinfachen und zu verkürzen.
  • Es gibt Textblöcke, die man direkt übernehmen kann
  • Er kann dich bei Schreiblockaden inspirieren
  • Die Betreffzeile wird direkt generiert

Nachteile vom KI-E-Mail-Generator:

  • Unsere künstliche Intelligenz erstellt keinen Preview Text. Diesen musst du selbst erstellen.
  • Es kann Zeitaufwendig werden, den Newsletter dem eigenen Branding & Vorlieben anzupassen.
  • Der Text wurde in Sie-Form verfasst, obwohl wir Duzen. Je nach Thema generiert die KI den Text in Sie- oder Du-Form.
  • Je nach Thema ist es schwer, die richtigen Keywords im Formular einzutippen

CTA: Anmelden & den KI-E-Mail Generator von GetResponse testen

Phase 3: Einen eigenen Newsletter erstellen im GetResponse E-Mail Creator

Dauer: 1,5h

Wie sind wir vorgegangen?

Zunächst haben wir die Betreffzeile unseres Newsletters ebenfalls mit dem KI-Betreffzeilen Generator erstellt und den Preview-Text für unsere E-Mail geschrieben.
Dann haben wir eine unserer eigenen Vorlagen, die wir für Newsletter nutzen aus unserer Bibliothek gewählt.

Das Design war also bereits fertig. Wir mussten nur den richtigen Link zum Leitfaden und ein Bild einfügen. Letztendlich mussten wir “nur noch” den Text für unsere E-Mail verfassen. Das dauerte dafür umso länger.

Da wir die komplette E-Mail jedoch selbst erstellt haben, waren wir mit dem Ergebnis vollends zufrieden.

Vorteile davon, einen manuellen Newsletter zu erstellen

  • durch die Verwendung einer eigenen Newsletter-Vorlage nicht viel Zeit mit dem Design verbracht
  • selbst, wenn man noch keine eigene Vorlage hat, bietet das Tool viele professionelle Newsletter-Vorlagen zur sofortigen Verwendung
  • mehr informativer Inhalt
  • eigene Bilder

Nachteile vom manuellen Newsletter

  • Du verbringst mehr Zeit damit, deinen Text zu schreiben, Bilder zu suchen etc.
  • Das Erstellen von Vorlagen nimmt wiederum viel Zeit in Anspruch, wenn sie zum ersten Mal gebaut wird

CTA: Anmelden & Newsletter in GetResponse erstellen

Phase 4: Der perfekte Versandzeitpunkt

Beide Newsletter haben wir jeweils um 8 Uhr verschickt, da wir herausgefunden haben, dass unsere Zielgruppe um diese Zeit am aktivsten ist. Schließlich möchten wir die höchstmögliche Engagement Rate mit unserem Newsletter erzielen. Und das schaffen wir nun einmal, wenn wir den besten Versandzeitpunkt für unseren Newsletter abpassen.

Doch auch hierfür hätte sich KI nutzen lassen, nämlich mit unserem Perfect Timing Feature. Die künstliche Intelligenz hinter dieser Funktion wertet historisches Verhalten und Aktivitätspräferenzen von Newsletter-Abonnent*Innen aus und verschickt den Newsletter dann zu dem Zeitpunkt, an welchem es am wahrscheinlichsten ist, dass sie die E-Mail im Posteingang sehen, öffnen und lesen.

Phase 5: Die Auswertung

Dann ging es daran, die Ergebnisse unseres A/B-Tests auszuwerten. Dies konnten wir ganz einfach in unseren E-Mail-Statistiken tun. Abgesehen von den Hard KPIs haben wir uns außerdem die Heatmaps der E-Mails angeschaut, um festzustellen, auf welche Elemente unsere Abonnenten in den verschiedenen Newsletter-Varianten am häufigsten klicken.

Wir haben die Ergebnisse in verschiedene Kundensegmente unterteilt, um herauszufinden, welche Version bei welcher Kundengruppe am besten ankommt. Die 4 Gruppen teilen sich auf in Leads, Paid-Kontakte, Freemium-User*Innen, Free-User*Innen.

Dies sind die Ergebnisse unseres Experiments zusammengefasst:

  • Nur bei den Paid Kontakten hat der AI Newsletter im A/B Test gewonnen, dort war die Klick- und Clock-to-Open-Rate höher als bei unserem manuellen Newsletter.
  • Zu betonen ist hierbei, dass alle Kontakte sind an das Newsletter-Layout von Newsletter A, also der von uns erstellten Version gewöhnt sind.
  • Bei allen Gruppen und beiden Newsletter-Varianten lagen die Öffnungsraten bei nahezu 100% und die Abmelderate bei maximal 1%.
  • Auswertung der Heatmaps: Die meisten Klicks beim mensch-erstellten Newsletter gingen zum Button “Zum Download” des Whitepapers. Beim AI Newsletter gingen die meisten Klicks auf das Coverbild, das unsere KI mit einem CTA versehen hat.

Heatmap des KI-Newsletters
Heatmap unseres menschengeschriebenen Newsletters
Gruppe 1: LeadsGruppe 2: PaidGruppe 3: FreemiumGruppe 4: Free
ÖffnungsrateUnsere E-Mail: 99,88%
AI Newsletter: 98,56 %
Unsere E-Mail: 97,60 %
AI Newsletter: 96,19%
Unsere E-Mail: 99,01 %
AI Newsletter: 99,17 %
Unsere E-Mail: 96,77 %
AI Newsletter: 100%
KlickrateUnsere E-Mail: 20,98%
AI Newsletter: 20,66 %
Unsere E-Mail: 34,39 %
AI Newsletter: 37,56%
Unsere E-Mail: 36,12 %
AI Newsletter: 32,61 %
Unsere E-Mail: 33,59 %
AI Newsletter: 34,51%
Conversion RateUnsere E-Mail: 2,09%
AI Newsletter: 2,26%
Unsere E-Mail: 1,05%
AI Newsletter: 2,42%
Unsere E-Mail: 1,65 %
AI Newsletter: 1,51 %
Unsere E-Mail: 1,03 %
AI Newsletter: 0,88%
Click-to-Open-RateUnsere E-Mail: 9,95%
AI Newsletter: 10,91%
Unsere E-Mail: 3,06%
AI Newsletter: 6,45%
Unsere E-Mail: 4,56%
AI Newsletter: 4,46%
Unsere E-Mail: 3,05%
AI Newsletter: 2,56%
AbmelderateUnsere E-Mail: 0,28%
AI Newsletter: 0,3%
Unsere E-Mail: 0%
AI Newsletter: 0%
Unsere E-Mail: 0,41%
AI Newsletter: 1,01%
Unsere E-Mail: 1,28%
AI Newsletter: 0%

Also, KI vs. menschlicher Newsletter: Wer gewinnt?

Schaut man sich die Zahlen unserer E-Mail-Statistiken für den A/B-Test an, muss man sagen, dass die Art des Newsletters kaum einen Unterschied macht. Beide Versionen kamen in etwa gleich gut bei unserer Audience an.

Gehen wir jedoch nach den Soft KPIs, die wir zuvor definiert haben, müssen wir feststellen, dass uns persönlich die Erstellung des Newsletters mit unserer eigenen Vorlage weniger Kopfschmerzen bereitet hat, selbst, wenn wir länger an der Erstellung gesessen haben.

Dies liegt jedoch auch daran, dass wir mit der ersten KI-Newsletter-Version unzufrieden waren und den Prozess noch einmal starten mussten.

Außerdem konnten wir den Vorteil genießen, dass unsere Newsletter-Vorlage bereits fertig war und wir nur noch Text, Bilder und Links einfügen mussten. Hätten wir die Vorlage von 0 beginnen müssen, hätten wir uns sicher ebenfalls für die Erstellung mit unserem KI-E-Mail-Generator entschieden.

Uns auf die Schulter klopfen möchten wir außerdem für den KI-Schreibassistenten, der uns das Verfassen von Texten wirklich erheblich erleichtert hat.

Hier aber noch einmal unsere Pro & Kontra Tabelle für beide Arten, E-Mails zu erstellen:

Vorteile menschliche E-Mail:

  • Mehr Macht über das Layout, Design, Elemente deines Newsletters
  • Vorlagen können gespeichert und wiederverwendet werden
  • Drag & Drop Newsletter Editor ist sehr benutzerfreundlich
  • mehr Individualisierung möglich
  • Zugriff auf Bilder, Gifs, usw.

Nachteile menschliche E-Mail:

  • Mehr Aufwand
  • benötigt eventuell etwas Übung

Vorteile AI Newsletter:

  • Zeitersparnis
  • Ressourcenersparnis
  • KI Schreibassistent zum Verfassen von Newsletter-Texten
  • Tolle Betreffzeile vom KI-Generator erstellt
  • Solide Textes
  • Gutes Design, das bereits für Mobilgeräte optimiert ist.

Nachteile vom AI Newsletter:

  • unter Umständen viele Anpassungen nötig
  • Prompten braucht etwas Übung
  • Preview-Texte müssen manuell erstellt werden
  • Verfasst Texte oft in Sie-Form

Dieser Test wurde für eine einzige Kampagne durchgeführt. Möchte man sich jedoch ein umfassenderes Bild der Effektivität von KI-Newslettern machen, ist eine Studie basierend auf größerem Datenumfang notwendig: Lies hier mehr zu unseren KI-E-Mail-Statistiken!

Tipps zur Nutzung unseres KI-E-Mail Generators für Top-Newsletter

Immer wieder bekommen wir Fragen zur Verwendung unseres KI-E-Mail-Generators gestellt und ja, es braucht etwas Übung, die perfekten Keywords für das erwünschte Ergebnis in den Generator einzugeben. Aber doch ist es, wenn richtig eingesetzt, ein sehr hilfreiches Tool, das dir viel Zeit und Mühe ersparen kann. Deshalb haben wir euch ein paar Tipps zusammengestellt, die Euch vielleicht bei der Nutzung helfen.

  1. Habe Textblöcke wie die Beschreibung, Footer oder Socials als “Gespeichertes Element” vorbereitet, um Anpassung schneller vorzunehmen. Diese findest du dann im Newsletter-Editor im Bereich “Meine Elemente”.
  2. Gehe deinen ki-generierten Newsletter-Text in jedem Fall noch einmal durch, bevor du ihn absendest.
  3. Die KI wählt die Visuals im erstellten Newsletter danach aus, welche Kategorie du im ersten Schritt der Erstellung angegeben hast.
  4. Klicke im ersten Schritt außerdem auf “weitere Einstellungen”, um der KI so viele Infos wie möglich an die Hand zu geben. So wird auch dein Ergebnis zufriedenstellender sein.
  5. Sei allerdings auch nicht zu genau. Denn sonst wird die KI dir unter Umständen ganz verquere Formulierungen im Newsletter-Text ausspucken.
  6. Lade dein Logo bei der Generierung der E-Mail hoch.

Infos dazu, wie du den KI-E-Mail Generator optimal nutzt, verrät dir Nadine in diesem Tutorial.

Generell lässt sich aber sagen, dass KI nur in Zusammenarbeit mit menschlichem Verstand und Kreativität funktioniert. Soll heißen: Wir empfehlen dir definitiv, KI im E-Mail Marketing einzusetzen, zum Beispiel, wenn die Zeit knapp ist oder du Autoresponder (E-Mail Antworten mit KI) erstellen willst, aber ihr nie blind zu vertrauen.


Lisa Kubatzki
Lisa Kubatzki
Lisa ist Senior SEO Content Managerin für die D-A-CH Region bei GetResponse und leitet unter anderem den deutschen Blog. Ihre berufliche Laufbahn führte sie bereits durch die Felder des Influencer Marketing, Affiliate Marketing, und Social Media, doch für SEO schlägt ihr Herz wirklich. Mit ihrer berufliche Expertise in Bereichen wie Marketingstrategie, E-Mail Marketing und SEO veröffentlicht sie regelmäßig Artikel im Bereich Marketing in verschiedensten Media Outlets wie OMR, OMT oder WLW. Als blühende Kraft in der SEO-Welt engagiert sie sich in Gruppen wie Women in Tech SEO und war ebenfalls bereits im Voices of Search Podcast zu hören.Besonders liebt sie es, neue Trends zu erforschen und Marketing im Kontext mit gesellschaftlichen Themen zu betrachten. Lisa erreichst du ganz einfach über ihr LinkedIn Profil.
Share