3/5 - (6 votes)

Information Gain ist einer der spannendsten Rankingfaktoren für moderne Suchmaschinen und damit SEO. Vielen Erklärungen zum Information Gain mangelt es an technologischer Tiefe und es fehlen Ansätze zur Optimierung des Information Gain.

Dieser Artikel soll einen tiefen Überblick über das Konzept, die Berechnung und SEO-Ansätze zur Optimierung auf Information Gain geben. Auch die Verbindung zum Phrase Based Indexing wird erläutert.

Diese Insights zum Information Gain basieren auf grundlegenden Kenntnissen der interessantesten Google-Patente zum Thema Information Gain.

Was versteht man unter Information Gain im Zusammenhang mit Information Retrieval und Suchmaschinen?

Der Information Gain bzw. Informationsgewinn bezieht sich auf einen Score, der angibt, wie viele zusätzliche Informationen ein Dokument über die üblichen Informationen hinaus enthält, die in den von einem Nutzer zuvor angesehenen Dokumenten enthalten sind.

Dieser Wert hilft bei der Bestimmung, wie viele neue Informationen ein Dokument dem Benutzer im Vergleich zu dem, was der Benutzer bereits gesehen hat, bietet.

Bei diesen Methoden werden die Daten aus den Dokumenten auf ein maschinelles Lernmodell angewendet, um eine Bewertung des Informationsgewinns zu generieren, die dazu beiträgt, dem Benutzer Dokumente so zu präsentieren, dass diejenigen mit einer höheren Bewertung der neuen Informationen bevorzugt werden.

Beim Information Retrieval und bei Suchmaschinen wird der Informationsgewinn verwendet, um die Relevanz und Effektivität von Dokumenten oder Begriffen zu bewerten, um die Ungewissheit über den Informationsbedarf der Nutzer zu verringern. Er hilft bei der Einstufung von Dokumenten und bei der Verbesserung des Sucherlebnisses insgesamt.

Ein größerer Informationsgewinn deutet auf eine Gruppe oder Gruppen von Stichproben mit geringerer Entropie und damit auf eine geringere (negative) Überraschung hin.

Welche Rolle spielt die Entropie beim Information Gain?

Die Entropie spielt eine entscheidende Rolle beim Informationsgewinn im Rahmen des Entscheidungsbaumlernens. Genauer gesagt ist die Entropie ein Maß für die Unreinheit oder Unsicherheit in einem Datensatz. Bei der Erstellung von Entscheidungsbäumen wird der Informationsgewinn verwendet, um zu bestimmen, welches Attribut die Daten am besten in verschiedene Klassen unterteilt. Der Informationsgewinn wird als die Verringerung der Entropie berechnet, die sich aus der Partitionierung der Daten auf der Grundlage eines bestimmten Attributs ergibt.

  • Entropie: Misst die Unreinheit oder Zufälligkeit in Daten.

    • Hohe Entropie: Die Daten sind sehr gemischt und die Klassen sind ungleichmäßig verteilt.
    • Geringe Entropie: Die Daten sind einheitlicher und die Klassen sind gleichmäßig verteilt.
    • Die Werte der maximalen Entropie ändern sich mit der Anzahl der Klassen (z. B. 2 Klassen: maximale Entropie ist 1, 4 Klassen: maximale Entropie ist 2).

Der Prozess der Ermittlung eines Information Gain Scores

Die Ermittlung einer Informationsbewertung kann in folgenden Schritten erfolgen:

  1. Identifizieren Sie bereits präsentierte Dokumente: Das System identifiziert eine Reihe von Dokumenten, die ein gemeinsames Thema haben und dem Benutzer bereits präsentiert wurden.
  2. Identifizierung neuer Dokumente: Anschließend werden neue Dokumente identifiziert, die dasselbe Thema haben, dem Benutzer aber noch nicht vorgelegt wurden.
  3. Bestimmen des Informationsgewinns: Für jedes neue Dokument wird ein Informationsgewinn-Score berechnet. Dieser Wert spiegelt die Menge an neuen Informationen in dem Dokument wider, die in den zuvor präsentierten Dokumenten nicht enthalten sind.
  4. Auswahl und Präsentation der Dokumente: Die Dokumente werden auf der Grundlage ihrer Informationsgewinnbewertung ausgewählt und dem Benutzer präsentiert. Die Auswahl und Präsentation kann in einer Rangfolge erfolgen, wobei die Dokumente mit höherem Informationsgewinn Vorrang haben.
  5. Verwendung in automatischen Assistenten: Der automatisierte Assistent kann diese Bewertungen nutzen, um dem Benutzer während einer interaktiven Sitzung effizientere, relevantere und nicht redundante Informationen zu liefern und so das allgemeine Benutzererlebnis zu verbessern.
  6. Anwendung des maschinellen Lernens: Der Informationsgewinn kann mithilfe eines maschinellen Lernmodells ermittelt werden, das semantische Darstellungen der Dokumente verarbeitet, um neue Informationen zu identifizieren.

Eine Suchschnittstelle zeigt Verweise auf Dokumente an, die nach ihrem Informationsgewinn geordnet sind. Über diese Schnittstelle kann der Benutzer Dokumente auswählen und aufrufen, von denen angenommen wird, dass sie die meisten zusätzlichen Informationen liefern, die der Benutzer noch nicht erhalten hat.

Abb. 4 zeigt eine Reihe von Dokumenten, die danach kategorisiert sind, ob der Benutzer sie angesehen hat oder nicht. Zu Beginn befinden sich alle Dokumente in einem ungesehenen Zustand. Wenn der Benutzer ein Dokument ansieht, wechselt es von der Gruppe der ungesehenen in die Gruppe der angesehenen Dokumente. Diese Klassifizierung ist dynamisch und wird aktualisiert, wenn der Benutzer mit weiteren Dokumenten interagiert.

 

Wie wird das maschinelle Lernmodell zur Ermittlung des Informationsgewinns trainiert?

Das maschinelle Lernmodell wird so trainiert, dass es einen Informationsgewinn erkennt, indem es zunächst eine Reihe von Dokumenten sammelt, die der Nutzer bereits angesehen hat. Diese Dokumente, die als erste Gruppe bezeichnet werden, haben ein gemeinsames Thema. Eine zweite Gruppe von Dokumenten, die noch nicht vom Benutzer angesehen wurden, aber dasselbe Thema haben, wird identifiziert. Um den Informationsgewinn für diese ungesehenen Dokumente zu ermitteln, werden Daten, die für die Dokumente kennzeichnend sind (z. B. ihr Inhalt, hervorstechende extrahierte Informationen oder semantische Darstellungen), sowohl aus der ersten als auch aus der zweiten Menge als Input für ein trainiertes maschinelles Lernmodell bereitgestellt.

Wie unterscheidet das maschinelle Lernmodell zwischen neuen und alten Informationen?

Das maschinelle Lernmodell unterscheidet zwischen neuen und alten Informationen durch einen Prozess, der die Erstellung eines Informationsgewinn-Scores für jedes Dokument beinhaltet. Der Informationsgewinn-Score misst die Menge an neuen Informationen, die ein Dokument im Vergleich zu den Dokumenten bietet, die der Nutzer bereits angesehen hat. Im Folgenden wird die Funktionsweise im Detail erläutert:

  • Identifizierung der Dokumente: Das Modell identifiziert zunächst eine Menge von Dokumenten, die der Benutzer bereits angesehen hat (erste Menge), und eine weitere Menge von Dokumenten, die noch nicht angesehen wurden, aber zum selben Thema gehören (zweite Menge).
  • Merkmalsextraktion: Für beide Dokumentensätze extrahiert das Modell Datenmerkmale wie den gesamten Inhalt, hervorstechende Informationen, semantische Repräsentationen (wie Einbettungen oder Merkmalsvektoren) usw.
    1. Gesamter Inhalt: Dies beinhaltet eine vollständige Inhaltsanalyse des Dokuments.
    2. Hervorstechende extrahierte Informationen: Die wichtigsten Informationen, die aus dem Dokument extrahiert wurden.
    3. Semantische Repräsentationen: Einschließlich Einbettungen, Merkmalsvektoren, Bag-of-Words-Darstellungen und Histogramme, die aus Wörtern/Phrasen im Dokument generiert werden.

Für welche Bereiche könnte Information Gain in Suchmaschinen genutzt werden?

Informationsgewinn spielt in mehreren Bereichen von Suchmaschinen eine entscheidende Rolle, um das Auffinden und die Einstufung relevanter Dokumente zu verbessern. Hier sind die wichtigsten Bereiche, in denen Informationsgewinn genutzt wird:

Informationsgewinn kann in Suchmaschinen für verschiedene Schlüsselbereiche genutzt werden:

  1. Ranking von Suchergebnissen: Der Informationsgewinn kann dazu beitragen, die Suchergebnisse in eine Rangfolge zu bringen, indem bewertet wird, wie viele neue oder zusätzliche Informationen ein Dokument im Vergleich zu bereits angesehenen Dokumenten bietet. Dadurch werden die Suchergebnisse für den Benutzer relevanter und informativer.
  2. Redundante Informationen herausfiltern: Durch die Identifizierung und Förderung von Dokumenten mit hohem Informationsgewinn können Suchmaschinen überflüssige Dokumente herausfiltern. Dies trägt dazu bei, dem Nutzer vielfältigere und umfassendere Informationen zu präsentieren.
  3. Personalisierung von Empfehlungen: Der Informationsgewinn kann zur Personalisierung von Suchergebnissen auf der Grundlage früherer Interaktionen des Nutzers genutzt werden, um sicherzustellen, dass neu präsentierte Dokumente einen Mehrwert bieten und Wissen vermitteln, anstatt zu wiederholen, was der Nutzer bereits gesehen hat.

Beispiele für die Verwendung des Information Gain 

Das Konzept des Informationsgewinns kann in verschiedenen Arten von Suchmaschinen und Empfehlungsmaschinen verwendet werden.

Die Bewertung des Informationsgewinns hilft bei der Identifizierung und Präsentation von Dokumenten, die das Wissen des Benutzers zu einem bestimmten Thema wahrscheinlich erweitern.

Wenn ein Benutzer beispielsweise ein Computerproblem behebt, könnten Dokumente, die der Benutzer zuvor angesehen hat, gängige Softwarelösungen abdecken. Neue Dokumente würden danach bewertet werden, wie viele zusätzliche, einzigartige Informationen sie enthalten. Ein Dokument, in dem die Behebung von Hardwareproblemen beschrieben wird, könnte eine höhere Punktzahl erhalten, wenn dieser Inhalt zuvor noch nicht behandelt wurde. Ziel ist es, die Dokumente auf der Grundlage ihres Potenzials, neue, wertvolle Informationen zu liefern, zu bewerten und zu präsentieren und so Redundanzen zu vermeiden und die Benutzerfreundlichkeit zu verbessern.

Eine automatische Assistentenschnittstelle zeigt eine Dialogsitzung zwischen einem Benutzer und dem Assistenten an. Die Schnittstelle zeigt Gesprächsabschnitte an, in denen der Assistent Informationen aus Dokumenten entsprechend ihrer Informationsgewinne präsentiert und so die Benutzerinteraktion verbessert.

 

Wie hängen der Information Gain mit Phrase based Indexing zusammen?

Der Informationsgewinn ist eng mit der phrasenbasierten Indexierung in Suchmaschinen verbunden, da beide Konzepte darauf abzielen, die Relevanz und Genauigkeit der Suchergebnisse zu verbessern.

Phrasenbasierte Indexierung (Phrase based indexing)

Die phrasenbasierte Indexierung ist eine Technik, die von Suchmaschinen verwendet wird, um das Auffinden relevanter Dokumente zu verbessern, indem Phrasen statt einzelner Wörter indexiert werden. Diese Methode hilft dabei, den Kontext und die Semantik von Benutzeranfragen genauer zu verstehen. Die wichtigsten Aspekte sind:

  1. Erkennung von Phrasen:

    • Identifizierung und Indizierung allgemeiner Phrasen und Mehrwortausdrücke in Dokumenten.
    • Phrasen sind informativer als einzelne Wörter, da sie den Kontext und die Bedeutung besser erfassen.
  2. Gewichtung von Phrasen:

    • Gewichtung von Phrasen auf der Grundlage ihrer Bedeutung und Häufigkeit.
    • Häufig verwendete und hoch relevante Phrasen werden bei der Indexierung höher gewichtet.
  3. Kontextbezogenes Verstehen:

    • Durch die Konzentration auf Phrasen können Suchmaschinen den Kontext einer Suchanfrage besser verstehen, was zu relevanteren Suchergebnissen führt.
    • Phrasen helfen bei der Unterscheidung zwischen verschiedenen Bedeutungen desselben Wortes in verschiedenen Kontexten.

Verbindung zwischen Information Gain und phrasenbasierter Indexierung

Informationsgewinn und phrasenbasierte Indizierung sind bei der Verbesserung der Relevanz und Effektivität von Suchmaschinen eng miteinander verknüpft. Im Folgenden wird anhand der Dokumente erläutert, wie sie zusammenhängen:

1. Identifizierung guter Phrasen mit Hilfe des Informationsgewinns

Der Informationsgewinn wird als prädiktives Maß verwendet, um gute Phrasen aus einem großen Korpus zu identifizieren. Eine Phrase gilt als gut, wenn sie häufiger mit anderen signifikanten Phrasen vorkommt, als dies zufällig zu erwarten wäre. Dies hilft bei der Erstellung einer verfeinerten Liste von Phrasen, die wirklich relevant und nützlich sind.

  • Kookkurrenzen und Vorhersage: Für jeden Satz berechnet das System die erwartete Häufigkeit des gemeinsamen Auftretens mit anderen Sätzen und vergleicht sie mit der tatsächlichen Häufigkeit des gemeinsamen Auftretens. Wenn die tatsächliche Rate einen Schwellenwert übersteigt, wird davon ausgegangen, dass die Phrase einen signifikanten Informationsgewinn aufweist, und sie wird in der Liste der guten Phrasen beibehalten.
  • Schwellenwerte: In der Regel wird ein Schwellenwert für den Informationsgewinn zwischen 1,1 und 1,7 verwendet, um unverbundene Phrasen herauszufiltern und sicherzustellen, dass nur sinnvolle Verbindungen erhalten bleiben.

2. Pruning und Clustering auf der Grundlage des Informationsgewinns

Cluster von verwandten Phrasen werden auf der Grundlage hoher Informationsgewinnwerte identifiziert. Die Phrasen innerhalb eines Clusters sind miteinander verwandt und weisen signifikante Informationsbeziehungen auf. Nach der Identifizierung guter Phrasen verfeinert das System die Liste weiter, indem es Phrasen entfernt, die keine anderen guten Phrasen vorhersagen oder lediglich Erweiterungen anderer Phrasen sind.

  • Ausschneiden unvollständiger Phrasen: Unvollständige Phrasen, die nur ihre Erweiterungen vorhersagen, werden entfernt, um sicherzustellen, dass nur Phrasen übrig bleiben, die einen wesentlichen Informationsgewinn bieten. Zum Beispiel würde „Präsident von“ entfernt werden, wenn es keine anderen eindeutigen Phrasen jenseits seiner Erweiterungen wie „Präsident der Vereinigten Staaten“ vorhersagt.
  • Clustering verwandter Phrasen: Phrasen werden auf der Grundlage eines hohen Informationsgewinns zwischen ihnen geclustert. Dies hilft bei der Bildung semantisch sinnvoller Gruppen von Phrasen, die häufig zusammen verwendet werden, und verbessert die kontextuelle Relevanz der Suchergebnisse.

3. Verbesserung der Suchergebnisse durch Phrasenerweiterungen

Die phrasenbasierte Indexierung nutzt den Informationsgewinn von Phrasen, um die Suchergebnisse zu verbessern, indem sie Phrasenerweiterungen vorschlägt oder automatisch danach sucht.

  • Erweiterung der Suchanfrage: Wenn ein Benutzer eine Teilphrase eingibt, kann das Suchsystem die Erweiterungen dieser Phrase mit dem höchsten Informationsgewinn verwenden, um die Suche vorzuschlagen oder durchzuführen. Zum Beispiel kann eine Abfrage nach „President of the United“ automatisch „President of the United States“ vorschlagen.
  • Verringerung der Mehrdeutigkeit: Durch die Verwendung von Phrasen mit hohem Informationsgewinn reduziert das System die Mehrdeutigkeit und verbessert die Genauigkeit der Suchergebnisse, wodurch sichergestellt wird, dass die Benutzer die relevantesten Dokumente finden.

4. Annotation und Ranking von Dokumenten

Der Informationsgewinn wird genutzt, um Dokumente mit verwandten Phrasen zu annotieren, was das Ranking und die Relevanz der Suchergebnisse verbessert.

  • Annotation: Dokumente werden mit Zählungen und Vektoren verwandter Phrasen kommentiert, was der Suchmaschine hilft, die primären und sekundären Themen des Dokuments zu verstehen. Diese strukturierten Daten werden verwendet, um Dokumente auf der Grundlage ihrer Relevanz für die Suchanfrage effektiver einzustufen.
  • Einstufung nach verwandten Ausdrücken: Die Dokumente werden nicht nur nach dem Vorkommen von Suchphrasen, sondern auch nach dem Vorhandensein verwandter Phrasen mit hohem Informationsgewinn eingestuft. Dieser mehrschichtige Ansatz stellt sicher, dass Dokumente höher eingestuft werden, wenn sie das Thema umfassender abdecken.

Implikationen für SEO

Aus den untersuchten Google-Patenten lässt sich schließen, dass Informationsgewinn eine auf den einzelnen Nutzer ausgerichtete Methode ist, die ihm immer neue Informationen zu einem Thema liefert und Redundanzen vermeidet.

Die gängige Meinung in der SEO-Branche ist jedoch, dass der Informationsgewinn ein nutzerunabhängiger Rankingfaktor ist. Letztlich geht es darum, den einzelnen Nutzer mit neuen Informationen zu einem Thema in Bezug auf sein bereits erworbenes Wissen zufrieden zu stellen.

Für SEO bedeutet dies, dass man nicht nur Informationen aus den Inhalten, die bereits auf den vorderen Plätzen rangieren, sammeln sollte, sondern auch neue, einzigartige Informationen liefern sollte. Darüber hinaus sollten die Inhalte immer wieder mit neuen, einzigartigen Informationen ergänzt werden, um den Informationsgewinn zu erhalten.

Ein einfaches Kuratieren von Inhalten aus den Top-Rankings bringt in jedem Fall keinen Informationsgewinn.

Um sicherzustellen, dass die eigenen Inhalte möglichst vielen Nutzern einen Informationsgewinn bieten, muss man auf eigene Erfahrungen zurückgreifen und auch vorhersagen, welche Informationen für Nutzer zu einem Thema in Zukunft neu sein könnten.

Einige TF-IDF-Tools bieten die Möglichkeit, neben den Nachweisbegriffen auch eindeutige Begriffe anzuzeigen, die als Referenz für Aspekte genutzt werden können, um die Eindeutigkeit der Informationen zu gewährleisten.

Auch Nutzerumfragen können Hinweise darauf geben, welche Informationen noch nicht durch die bisher gerankten Dokumente abgedeckt sind.

Da die heutigen Google-Rankingsysteme nicht mehr nur begriffsbasiert sind, sondern auch Sätze und ganze Absätze für ein besseres Verständnis durch ein größeres Kontextfenster nutzen, sind TF-IDF-Analysen nicht optimal. SEOs sollten außerdem darauf achten, Texte klar zu strukturieren und semantisch verwandte Begriffe in der gleichen Nachbarschaft zu verwenden. So entstehen Abschnitte mit einer hohen Salienz für das jeweilige Thema.

Zu Olaf Kopp

Olaf Kopp ist Online-Marketing-Experte mit mehr als 15 Jahren Erfahrung in Google Ads, SEO und Content Marketing. Olaf Kopp ist Co-Founder, Chief Business Development Officer (CBDO) und Head of SEO & Content bei der Online Marketing Agentur Aufgesang GmbH. Olaf Kopp ist international anerkannter Branchenexperte für semantische SEO, E-E-A-T, KI- und Suchmaschinen-Technologie, Content-Marketing und Customer Journey Management. Er ist Gründer der weltweit ersten Datenbank für Patente und Research Paper, die jeder SEO kennen sollte. Als Autor schreibt er für nationale und internationale Fachmagazine wie Searchengineland, t3n, Website Boosting, Hubspot Blog, Sistrix Blog, Oncrawl Blog ... . 2022 war er Top Contributor bei Search Engine Land. Als Speaker stand er auf Bühnen der SMX, SEA/SEO World, CMCx, OMT, Digital Bash oder Campixx. Er ist ist Host der Podcasts OM Cafe und Digital Authorities. Er ist ist Autor des Buches "Content-Marketing entlang der Customer Journey", Co-Autor des Standardwerks "Der Online Marketing Manager" und Mitorganisator des SEAcamp.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert