Screaming Frog SEO Spider – Ein wertvolles Werkzeug für die SEO Beratung mit neuen interessanten Funktionen

8. Juni 2017 von Jörn Schulz

Bereits mehrfach hat ABAKUS über den Screaming Frog SEO Spider als äußerst interessantes SEO Tool berichtet. An dieser Stelle nutze ich die Gelegenheit und gebe einen Überblick über einige ausgewählte neue, und für den SEO Alltag wirklich interessante, Funktionen.

Wer den Screaming Frog SEO Spider noch nicht kennen sollte, für den an dieser Stelle eine kurze Zusammenfassung direkt von der Herstellerseite:

Dabei gibt es eine Free-Variante, bei der das Crawling allerdings auf 500 URLs einer Domain beschränkt ist. Die Lizenz-Version gibt es gegen eine entsprechende Jahresgebühr von £149.00 pro Jahr.

Den Screaming Frog gibt es mittlerweile in der Version 7.2 (Stand: 09.06.2017). Welche spannenden Funktionen sind mit dem großen Update auf Version 7 hinzugekommen?

Rendering von Inhalten nun möglich

Nicht nur ein Erfassen wichtiger OnPage-Elemente sowie der internen Verlinkung sind mittels des Screaming Frogs möglich. Mit der Version 7 ist nun auch ein für den Suchmaschinenoptimierer sehr interessantes Rendering der URLs möglich. Dieses gibt wertvolle Hinweise auf die korrekte Darstellung der Inhalte – sowohl für die Crawler als auch die Besucher der gecrawlten URLs.
Sofern das Rendering via JavaScript über die Konfiguration des Spiders aktiviert wird, werden die Inhalte auch entsprechend ausgelesen.

Die Möglichkeit der Einstellung der Fenstergröße (siehe Abb. 1) bietet hier zusätzlich eine sehr interessante Funktion. Die Umstellung auf den mobilen Index bzw. mobile first lässt allerdings weiter auf sich warten.[2] Dennoch kann schon heute der Grundstein für eine suchmaschinenfreundliche Ausrichtung der Website auf die mobile Darstellung gelegt werden: Durch ein Rendern mit „Googlebot Mobile Smartphone“ kann die aktuelle Darstellung der gecrawlten Inhalte für Mobilgeräte über den Screaming Frog ermittelt werden – und so eine möglicherweise notwendige Optimierung vorgenommen werden.

Abb. 1: Verschiedene Möglichkeiten des Renderings

Die Vorschau bzw. der gerenderte Inhalt kann dann im Tab „Rendered Page“ eingesehen werden (siehe Abb. 2).

Abb. 2: Gerenderte Inhalte je URL einsehbar

Hreflang-Attribut wird erfasst

Ab Version 7 unterstützt der Screaming Frog nun noch besser bei Recherchen und Analysen für Internationales SEO.

Sowohl über ein normales Crawling einer Website, als auch über ein Crawling der Sitemap werden die hreflang-Attribute nun ausgelesen (siehe Abb. 3).

Abb.3: hreflang-Attribut in Tab

Ausgelesen werden können u.a. falsche Sprachen- bzw. Regional-Codes, fehlende Rückverweise,  fehlende Selbstreferenzen, etc.

Auch URLs, die über keinen hreflang-Attribut verfügen, können somit nun deutlich bequemer ausgelesen und für weitere Optimierungen verwendet werden.

Robots.txt: Es darf getestet werden

Was bereits aus der Google Search Console bekannt ist, kann nun auch im Screaming Frog angewandt werden: Eine Anpassung der robots.txt zu Testzwecken. Der Vorteil beim Screaming Frog: Es kann eine Testversion der robots.txt erstellt werden, ein anschließendes Crawling zeigt, ob die Inhalte auch wirklich ausgeschlossen werden (bzw. nicht gecrawlt werden), die auch beabsichtigt sind.  In der Google Search Console ist dies nur für einzelnen URLs prüfbar (robots.txt – Tester).

Andersherum können so auch URLs herausgefiltert werden, die mit einer aktuellen bzw. zu Testzwecken konfigurierten robots.txt eben durch diese geblockt werden (siehe Abb. 4).

Abb.4: Elemente „blocked by robots.txt filtern“

Screaming Frog selbst liefert zu diesem spannenden Thema gleich einen Guide mit: „Robots.txt Testing Tool“ (Link: https://www.screamingfrog.co.uk/robots-txt-tester/)

Blockierte Ressourcen nun direkt auslesbar

Eine weitere nützliche Funktion ist die Möglichkeit, blockierte Ressourcen auf URL-Basis nun direkt auslesen zu können. Dies kann zum einen über den entsprechenden Filter unter „Rendered Page“ (siehe Abb. 5), zum anderen auch als Bulk-Export in der Navigation exportiert werden.

Abb.5: Blockierte Ressourcen exportieren

Crawling von Login-Bereichen

Ein äußerst interessantes Feature ist das nun mögliche Crawling von Inhalten, die hinter einem Passwort geschützten Bereich liegen.

Aus SEO Sicht fallen uns da natürlich sofort Testumgebungen ein, die bei einem Relaunch einer Website unbedingt verwendet werden sollten. Im Zuge einer SEO Relaunchbegleitung sollten vor dem Live-Gang alle Inhalte der neuen Website auf die Berücksichtigung der Rankingkriterien von Suchmaschinen überprüft werden.

Dies ist auch mit dem Screaming Frog möglich – eine sehr sinnvolle Erweiterung (siehe Abb. 6). Über die Navigation kann dies im Bereich Configuration > Authentication eingestellt werden.

Abb.6: Crawling von Passwort geschützten Bereichen

Fazit

Für technische Optimierungen, der Grundstein einer nachhaltigen Suchmaschinenoptimierung, ist der Screaming Frog SEO Spider ein hochinteressantes Tool. Die mit der Version 7 neu eingeführten Funktionen ergänzen die bereits sehr umfangreichen Möglichkeiten dieses SEO Tools und liefern wichtige Daten einer zu optimierenden Website. Eines der wirklich interessanten Werkzeug, welches auch aus dem Alltag als ABAKUS SEO nicht mehr wegzudenken ist.

 

Weiterführende Infos

[1] https://www.screamingfrog.co.uk/seo-spider/
[2] https://webmasters.googleblog.com/2016/11/mobile-first-indexing.html

 

Eine Antwort hinterlassen

Verwandte Beiträge

Shopware SEO
Shopware SEO: Relaunch und Weiterleitungen

In den letzten Jahren hat sich Shopware besonders in Deutschland zu einer beliebten Shopsoftware entwickelt. Die Vorteile liegen auf der Hand: Das mit der Version Shopware 5 im Sommer 2015 eingeführte Responsive Theme ist out-of-the-Box schon sehr gut für Suchmaschinen optimiert. Damit erhält der Onlinehändler einen Shop mit mobil optimierten Seiten, durch verbessertes Caching schnelle mehr…

11 typische SEO-Fehler
11 typische SEO-Fehler – Aus dem Alltag einer Agentur für Suchmaschinenoptimierung & Social Media

Die Arbeit eines Suchmaschinenoptimierers (SEO) in einer SEO-Agentur ist eine wunderbare Herausforderung. Abwechslungsreich, spannend, im Erfolgsfall Befriedigung verschaffend, manchmal aber auch recht mühselig.  Dies ist insbesondere dann der Fall, wenn verschiedene Dienstleister mit unterschiedlichen Aufgaben gefordert sind, sich im Sinne des Kunden zusammenzuraufen. Im Spannungsfeld zwischen Optik und Inhalt Design, Usability und SEO müssen so mehr…

SEO und Conversion Optimierung

Nach einer erfolgreichen Suchmaschinenoptimierung ist eine Conversion Optimierung der nächste logische Schritt für den Online Marketer und/ oder Analysten. Klickrate steigern Wir haben der Webseite eine Sichtbarkeit bei Google verschafft. Der erste Ansatz, um die Conversion Rate zu steigern ist, die Klickrate (CTR) in den Search Engine Result Pages (SERPs) zu steigern. Mehr Traffic bedeutet mehr…

Latent semantische Optimierung (LSO) – Vielfalt ist King

Die Optimierung der eigenen Seite ist ein sehr individuelles Projekt. Die divers diskutierte These „Content is King“ ist nunmehr ein Fakt, auch wenn der Content sich seine Rankingrelevanz mit ca. 250 weiteren Rankingfaktoren teilen muss.[1] Die neue Devise lautet „Vielfalt ist King“. Diese lässt sich auf viele SEO-Bereiche anwenden, bezieht sich in diesem Blogbeitrag jedoch mehr…