Genauigkeit der genehmigten Paneldaten von Vögeln

Vogel

21.08.2021

E-Mail

1 min read

Genauigkeit der genehmigten Paneldaten von Vögeln

Wichtige Erkenntnisse

    • Das Permissioned Email Panel von Bird war historisch schwer zu validieren, da es an „Ground Truth“ Inbox-Platzierungsdaten von Postfachanbietern mangelte.

    • Ein großer Postfachanbieter lizenziert jetzt Inbox-Platzierungsdaten, was einen direkten Vergleich über mehr als 20.000 sendende Domains ermöglicht.

    • Die Analyse zeigt eine extrem hohe Genauigkeit zwischen den panelbasierten Inbox-Ratenschätzungen von Bird und der tatsächlichen Inbox-Rate.

    • Die Genauigkeit verbessert sich, je mehr verschiedene Panelisten den E-Mail-Stream erhalten—stark selbst bei geringem Signal, ausgezeichnet bei höheren Volumen.

    • RMSE (Root Mean Square Error) wird verwendet, um die Abweichung zwischen Panelvorhersagen und Ground-Truth-Inbox-Raten zu messen.

    • Absender, die führende ESPs nutzen, zeigen eine deutlich bessere Korrelation—wahrscheinlich aufgrund strengerer Compliance-Praktiken und konsistenterer Inbox-Platzierung.

    • Bereits bei nur 10 täglichen Panelisten bleiben die Fehlerraten unter 10%.

    • Mit über 50 Panelisten sinkt der Fehler erheblich und wird sehr gering.

    • Die Fehlerrate nähert sich schnell ~2% an, während die Panelgröße wächst—was auf ~98% Genauigkeit bei der Vorhersage der Inbox-Platzierung hinweist.

    • Dieses Maß an Genauigkeit ist ausgezeichnet für die Diagnose von Zustellbarkeitsproblemen im gesamten E-Mail-Stream eines Absenders.

    • Paneldaten bleiben entscheidend, da große Anbieter wie Google und Microsoft keine Inbox-Platzierungsmetriken bereitstellen.

    • Mit bewiesener Korrelation können Absender sich zuversichtlich auf die Paneldaten von Bird verlassen, um das Inboxing zu verstehen, wo keine Ground Truth existiert.

Q&A Highlights

  • Welches Problem war historisch gesehen schwierig zu lösen in Bezug auf Inbox-Platzierung?

    Es gab keine zuverlässige „Ground Truth“, um zu validieren, wie genau ein berechtigtes Panel die Platzierung im Inbox in großem Maßstab vorhersagte.

  • Was hat sich geändert, das eine ordnungsgemäße Messung ermöglicht hat?

    Ein großer Anbieter von Postfächern begann, echte Inbox-Platzierungsdaten zu lizenzieren, was Bird ermöglichte, seine Panelvorhersagen mit den tatsächlichen Ergebnissen zu vergleichen.

  • Wie groß war der Analyse-Datensatz?

    Mehr als 20.000 Sendedomänen—von kleinen Sendern bis hin zu sehr großen Unternehmenssendern.

  • Welcher Messwert wurde zur Bewertung der Genauigkeit verwendet?

    RMSE (root mean square error), eine standardmäßige Methode zur Messung der Abweichung zwischen vorhergesagten und tatsächlichen Werten.

  • Wie genau ist das Panel mit einer sehr kleinen Anzahl täglicher Panelisten?

    Selbst mit nur 10 verschiedenen Diskussionsteilnehmern bleiben die Fehlerquoten unter 10%, was bereits stark für Zustellbarkeit-Diagnosen ist.

  • Was passiert, wenn mehr Panelisten den E-Mail-Stream sehen?

    Die Genauigkeit nimmt schnell zu—bei über 50 Panelisten wird die Korrelation extrem stark und der Fehler nimmt stark ab.

  • Was ist die bestmögliche Genauigkeit, die beobachtet wurde?

    Fehler nähern sich ~2%, was bedeutet, dass die Bird-Daten bis zu 98% genau im Vergleich zur tatsächlichen Inbox-Platzierung sein können.

  • Warum zeigen die Top ESPs eine bessere Korrelation?

    Wahrscheinlich aufgrund strengerer Compliance-Standards, die zu stabileren Inboxing-Mustern und weniger Schwankungen im Zustellungsverhalten führen.

  • Ist die Genauigkeit ausreichend für die Diagnose von Zustellbarkeitsproblemen?

    Absolut—Fehlerraten unter 5–10 % bieten mehr als genug Präzision, um Zustellbarkeitsanomalien und -trends zu erkennen.

  • Warum sind Paneldaten immer noch notwendig, wenn ein Mailbox-Anbieter Ground Truth bietet?

    Da große Postfachanbieter (Google, Microsoft usw.) nicht über Zustellberichte für Postfächer verfügen, füllt Paneldaten diese Sichtbarkeitslücke.

  • Was beweist die Analyse insgesamt über Birds Panelmodell?

    Dass es statistisch zuverlässig über eine große Bandbreite von Bereichen und Sendeverhalten ist, selbst bei kleinen Stichprobengrößen.

  • Was ist das praktische Ergebnis für Sender?

    Sie können den Paneldaten von Bird vertrauen, um Entscheidungen zur Zustellbarkeit zu treffen, insbesondere in Ökosystemen, in denen keine andere Inbox-Platzierungsdaten existieren.

Eine der Fragen, die wir regelmäßig zu unserem Permissioned Email Panel erhalten, ist, wie genau es in Bezug auf die Vorhersage von Inbox-Raten ist. Historisch gesehen war dies eine schwierige Frage zu beantworten, da es keine Quelle der Wahrheit gab, an der man sich messen konnte, und daher beherrschten Meinungen (und allgemeiner Glaube an Stichprobenstatistiken) die Diskussion.

Jetzt jedoch, mit einem großen Postfach-Anbieter, der Inbox-Platzierungsdaten für seine Plattform lizenziert, ist es möglich, eine echte Analyse durchzuführen, was wir über etwa 20.000 unterschiedliche sendende Domains von großen und kleinen Absendern sowohl auf unserer Sendeplattform als auch bei anderen Anbietern getan haben. 

Die Ergebnisse sind aufregend. Das Permissioned Panel ist sehr genau, selbst mit relativ schwachem Signal, und wird extrem genau, je mehr unterschiedliche Panelisten in einer Sendung gesehen werden. Unter Verwendung gängiger statistischer Methoden betrachten wir den Root Mean Square Error (RMSE – ein Analogon zur Standardabweichung) zwischen der Inbox-Rate, wie sie beim großen Anbieter gesehen wird, und dem, was unser Panel sieht.

In unserer Analyse haben wir festgestellt, dass Absender, die ihre E-Mails über führende E-Mail-Dienstleister senden, eine wesentlich bessere Korrelation zwischen der Panel-Inbox-Rate und der tatsächlichen Inbox-Rate sehen. Der Mechanismus dafür ist nicht bekannt, aber wir vermuten, dass die Compliance-Standards, die große Dienstleister ihren Kunden auferlegen, generell zu konsistenteren Inbox-Raten über ihr Publikum führen und daher weniger anfällig für Verzerrungen sind. Dies können wir sehen, wenn wir unser Diagramm nur auf Absender bei führenden ESPs einschränken, was den RMSE ebenfalls um etwa 30 % reduziert.

Sogar wenn nur eine kleine Anzahl (10) täglicher Panelisten den E-Mail-Strom sehen, sehen wir eine sehr starke Korrelation zwischen der vom Panel gesehenen Inbox-Rate und der Wahrheit.

Wenn wir nur Streams betrachten, bei denen täglich 50 oder mehr Panelisten gesehen werden, wird die Korrelation noch enger.

Wenn wir betrachten, wie sich diese Fehlerrate im Laufe der Zeit ändert, sehen wir einige Dinge: 

  • Sogar bei einer extrem kleinen Anzahl einzigartiger Panelisten, die die E-Mails empfangen, liegt die Fehlerrate unter 10 %.

  • Sie sinkt schnell auf 4 %, wenn die Zahl der Panelisten steigt.

  • Sie nähert sich schließlich 2 % an – was zeigt, dass Paneldaten 98 % genau sind. 

Für die Zwecke der Erkennung von Zustellbarkeitsproblemen im E-Mail-Strom ist diese Genauigkeit fantastisch.

Sie könnten also fragen: Wenn ein großer Anbieter wahre Zahlen anbietet, welchen Nutzen haben dann auch Paneldaten, selbst wenn sie stark korreliert sind? Die Mehrheit der Postfachanbieter – einschließlich Titanen wie Google und Microsoft – bietet keine Daten zur Inbox-Platzierung an, und daher benötigen Sie für dort zugestellte Nachrichten immer noch eine Quelle wie Paneldaten, um die Inbox-Raten zu verstehen. 

Und jetzt können wir alle in ihrer Genauigkeit für diese Fälle zuversichtlich sein.

Eine der Fragen, die wir regelmäßig zu unserem Permissioned Email Panel erhalten, ist, wie genau es in Bezug auf die Vorhersage von Inbox-Raten ist. Historisch gesehen war dies eine schwierige Frage zu beantworten, da es keine Quelle der Wahrheit gab, an der man sich messen konnte, und daher beherrschten Meinungen (und allgemeiner Glaube an Stichprobenstatistiken) die Diskussion.

Jetzt jedoch, mit einem großen Postfach-Anbieter, der Inbox-Platzierungsdaten für seine Plattform lizenziert, ist es möglich, eine echte Analyse durchzuführen, was wir über etwa 20.000 unterschiedliche sendende Domains von großen und kleinen Absendern sowohl auf unserer Sendeplattform als auch bei anderen Anbietern getan haben. 

Die Ergebnisse sind aufregend. Das Permissioned Panel ist sehr genau, selbst mit relativ schwachem Signal, und wird extrem genau, je mehr unterschiedliche Panelisten in einer Sendung gesehen werden. Unter Verwendung gängiger statistischer Methoden betrachten wir den Root Mean Square Error (RMSE – ein Analogon zur Standardabweichung) zwischen der Inbox-Rate, wie sie beim großen Anbieter gesehen wird, und dem, was unser Panel sieht.

In unserer Analyse haben wir festgestellt, dass Absender, die ihre E-Mails über führende E-Mail-Dienstleister senden, eine wesentlich bessere Korrelation zwischen der Panel-Inbox-Rate und der tatsächlichen Inbox-Rate sehen. Der Mechanismus dafür ist nicht bekannt, aber wir vermuten, dass die Compliance-Standards, die große Dienstleister ihren Kunden auferlegen, generell zu konsistenteren Inbox-Raten über ihr Publikum führen und daher weniger anfällig für Verzerrungen sind. Dies können wir sehen, wenn wir unser Diagramm nur auf Absender bei führenden ESPs einschränken, was den RMSE ebenfalls um etwa 30 % reduziert.

Sogar wenn nur eine kleine Anzahl (10) täglicher Panelisten den E-Mail-Strom sehen, sehen wir eine sehr starke Korrelation zwischen der vom Panel gesehenen Inbox-Rate und der Wahrheit.

Wenn wir nur Streams betrachten, bei denen täglich 50 oder mehr Panelisten gesehen werden, wird die Korrelation noch enger.

Wenn wir betrachten, wie sich diese Fehlerrate im Laufe der Zeit ändert, sehen wir einige Dinge: 

  • Sogar bei einer extrem kleinen Anzahl einzigartiger Panelisten, die die E-Mails empfangen, liegt die Fehlerrate unter 10 %.

  • Sie sinkt schnell auf 4 %, wenn die Zahl der Panelisten steigt.

  • Sie nähert sich schließlich 2 % an – was zeigt, dass Paneldaten 98 % genau sind. 

Für die Zwecke der Erkennung von Zustellbarkeitsproblemen im E-Mail-Strom ist diese Genauigkeit fantastisch.

Sie könnten also fragen: Wenn ein großer Anbieter wahre Zahlen anbietet, welchen Nutzen haben dann auch Paneldaten, selbst wenn sie stark korreliert sind? Die Mehrheit der Postfachanbieter – einschließlich Titanen wie Google und Microsoft – bietet keine Daten zur Inbox-Platzierung an, und daher benötigen Sie für dort zugestellte Nachrichten immer noch eine Quelle wie Paneldaten, um die Inbox-Raten zu verstehen. 

Und jetzt können wir alle in ihrer Genauigkeit für diese Fälle zuversichtlich sein.

Eine der Fragen, die wir regelmäßig zu unserem Permissioned Email Panel erhalten, ist, wie genau es in Bezug auf die Vorhersage von Inbox-Raten ist. Historisch gesehen war dies eine schwierige Frage zu beantworten, da es keine Quelle der Wahrheit gab, an der man sich messen konnte, und daher beherrschten Meinungen (und allgemeiner Glaube an Stichprobenstatistiken) die Diskussion.

Jetzt jedoch, mit einem großen Postfach-Anbieter, der Inbox-Platzierungsdaten für seine Plattform lizenziert, ist es möglich, eine echte Analyse durchzuführen, was wir über etwa 20.000 unterschiedliche sendende Domains von großen und kleinen Absendern sowohl auf unserer Sendeplattform als auch bei anderen Anbietern getan haben. 

Die Ergebnisse sind aufregend. Das Permissioned Panel ist sehr genau, selbst mit relativ schwachem Signal, und wird extrem genau, je mehr unterschiedliche Panelisten in einer Sendung gesehen werden. Unter Verwendung gängiger statistischer Methoden betrachten wir den Root Mean Square Error (RMSE – ein Analogon zur Standardabweichung) zwischen der Inbox-Rate, wie sie beim großen Anbieter gesehen wird, und dem, was unser Panel sieht.

In unserer Analyse haben wir festgestellt, dass Absender, die ihre E-Mails über führende E-Mail-Dienstleister senden, eine wesentlich bessere Korrelation zwischen der Panel-Inbox-Rate und der tatsächlichen Inbox-Rate sehen. Der Mechanismus dafür ist nicht bekannt, aber wir vermuten, dass die Compliance-Standards, die große Dienstleister ihren Kunden auferlegen, generell zu konsistenteren Inbox-Raten über ihr Publikum führen und daher weniger anfällig für Verzerrungen sind. Dies können wir sehen, wenn wir unser Diagramm nur auf Absender bei führenden ESPs einschränken, was den RMSE ebenfalls um etwa 30 % reduziert.

Sogar wenn nur eine kleine Anzahl (10) täglicher Panelisten den E-Mail-Strom sehen, sehen wir eine sehr starke Korrelation zwischen der vom Panel gesehenen Inbox-Rate und der Wahrheit.

Wenn wir nur Streams betrachten, bei denen täglich 50 oder mehr Panelisten gesehen werden, wird die Korrelation noch enger.

Wenn wir betrachten, wie sich diese Fehlerrate im Laufe der Zeit ändert, sehen wir einige Dinge: 

  • Sogar bei einer extrem kleinen Anzahl einzigartiger Panelisten, die die E-Mails empfangen, liegt die Fehlerrate unter 10 %.

  • Sie sinkt schnell auf 4 %, wenn die Zahl der Panelisten steigt.

  • Sie nähert sich schließlich 2 % an – was zeigt, dass Paneldaten 98 % genau sind. 

Für die Zwecke der Erkennung von Zustellbarkeitsproblemen im E-Mail-Strom ist diese Genauigkeit fantastisch.

Sie könnten also fragen: Wenn ein großer Anbieter wahre Zahlen anbietet, welchen Nutzen haben dann auch Paneldaten, selbst wenn sie stark korreliert sind? Die Mehrheit der Postfachanbieter – einschließlich Titanen wie Google und Microsoft – bietet keine Daten zur Inbox-Platzierung an, und daher benötigen Sie für dort zugestellte Nachrichten immer noch eine Quelle wie Paneldaten, um die Inbox-Raten zu verstehen. 

Und jetzt können wir alle in ihrer Genauigkeit für diese Fälle zuversichtlich sein.

Andere Neuigkeiten

Mehr lesen aus dieser Kategorie

A person is standing at a desk while typing on a laptop.

Die komplette AI-native Plattform, die mit Ihrem Business skalierbar ist.

A person is standing at a desk while typing on a laptop.

Die komplette AI-native Plattform, die mit Ihrem Business skalierbar ist.