Screaming Frog SEO Spider – Ein wertvolles Werkzeug für die SEO Beratung mit neuen interessanten Funktionen

8. Juni 2017 von Jörn Schulz

Bereits mehrfach hat ABAKUS über den Screaming Frog SEO Spider als äußerst interessantes SEO Tool berichtet. An dieser Stelle nutze ich die Gelegenheit und gebe einen Überblick über einige ausgewählte neue, und für den SEO Alltag wirklich interessante, Funktionen.

Wer den Screaming Frog SEO Spider noch nicht kennen sollte, für den an dieser Stelle eine kurze Zusammenfassung direkt von der Herstellerseite:

Dabei gibt es eine Free-Variante, bei der das Crawling allerdings auf 500 URLs einer Domain beschränkt ist. Die Lizenz-Version gibt es gegen eine entsprechende Jahresgebühr von £149.00 pro Jahr.

Den Screaming Frog gibt es mittlerweile in der Version 7.2 (Stand: 09.06.2017). Welche spannenden Funktionen sind mit dem großen Update auf Version 7 hinzugekommen?

Rendering von Inhalten nun möglich

Nicht nur ein Erfassen wichtiger OnPage-Elemente sowie der internen Verlinkung sind mittels des Screaming Frogs möglich. Mit der Version 7 ist nun auch ein für den Suchmaschinenoptimierer sehr interessantes Rendering der URLs möglich. Dieses gibt wertvolle Hinweise auf die korrekte Darstellung der Inhalte – sowohl für die Crawler als auch die Besucher der gecrawlten URLs.
Sofern das Rendering via JavaScript über die Konfiguration des Spiders aktiviert wird, werden die Inhalte auch entsprechend ausgelesen.

Die Möglichkeit der Einstellung der Fenstergröße (siehe Abb. 1) bietet hier zusätzlich eine sehr interessante Funktion. Die Umstellung auf den mobilen Index bzw. mobile first lässt allerdings weiter auf sich warten.[2] Dennoch kann schon heute der Grundstein für eine suchmaschinenfreundliche Ausrichtung der Website auf die mobile Darstellung gelegt werden: Durch ein Rendern mit „Googlebot Mobile Smartphone“ kann die aktuelle Darstellung der gecrawlten Inhalte für Mobilgeräte über den Screaming Frog ermittelt werden – und so eine möglicherweise notwendige Optimierung vorgenommen werden.

Abb. 1: Verschiedene Möglichkeiten des Renderings

Die Vorschau bzw. der gerenderte Inhalt kann dann im Tab „Rendered Page“ eingesehen werden (siehe Abb. 2).

Abb. 2: Gerenderte Inhalte je URL einsehbar

Hreflang-Attribut wird erfasst

Ab Version 7 unterstützt der Screaming Frog nun noch besser bei Recherchen und Analysen für Internationales SEO.

Sowohl über ein normales Crawling einer Website, als auch über ein Crawling der Sitemap werden die hreflang-Attribute nun ausgelesen (siehe Abb. 3).

Abb.3: hreflang-Attribut in Tab

Ausgelesen werden können u.a. falsche Sprachen- bzw. Regional-Codes, fehlende Rückverweise,  fehlende Selbstreferenzen, etc.

Auch URLs, die über keinen hreflang-Attribut verfügen, können somit nun deutlich bequemer ausgelesen und für weitere Optimierungen verwendet werden.

Robots.txt: Es darf getestet werden

Was bereits aus der Google Search Console bekannt ist, kann nun auch im Screaming Frog angewandt werden: Eine Anpassung der robots.txt zu Testzwecken. Der Vorteil beim Screaming Frog: Es kann eine Testversion der robots.txt erstellt werden, ein anschließendes Crawling zeigt, ob die Inhalte auch wirklich ausgeschlossen werden (bzw. nicht gecrawlt werden), die auch beabsichtigt sind.  In der Google Search Console ist dies nur für einzelnen URLs prüfbar (robots.txt – Tester).

Andersherum können so auch URLs herausgefiltert werden, die mit einer aktuellen bzw. zu Testzwecken konfigurierten robots.txt eben durch diese geblockt werden (siehe Abb. 4).

Abb.4: Elemente „blocked by robots.txt filtern“

Screaming Frog selbst liefert zu diesem spannenden Thema gleich einen Guide mit: „Robots.txt Testing Tool“ (Link: https://www.screamingfrog.co.uk/robots-txt-tester/)

Blockierte Ressourcen nun direkt auslesbar

Eine weitere nützliche Funktion ist die Möglichkeit, blockierte Ressourcen auf URL-Basis nun direkt auslesen zu können. Dies kann zum einen über den entsprechenden Filter unter „Rendered Page“ (siehe Abb. 5), zum anderen auch als Bulk-Export in der Navigation exportiert werden.

Abb.5: Blockierte Ressourcen exportieren

Crawling von Login-Bereichen

Ein äußerst interessantes Feature ist das nun mögliche Crawling von Inhalten, die hinter einem Passwort geschützten Bereich liegen.

Aus SEO Sicht fallen uns da natürlich sofort Testumgebungen ein, die bei einem Relaunch einer Website unbedingt verwendet werden sollten. Im Zuge einer SEO Relaunchbegleitung sollten vor dem Live-Gang alle Inhalte der neuen Website auf die Berücksichtigung der Rankingkriterien von Suchmaschinen überprüft werden.

Dies ist auch mit dem Screaming Frog möglich – eine sehr sinnvolle Erweiterung (siehe Abb. 6). Über die Navigation kann dies im Bereich Configuration > Authentication eingestellt werden.

Abb.6: Crawling von Passwort geschützten Bereichen

Fazit

Für technische Optimierungen, der Grundstein einer nachhaltigen Suchmaschinenoptimierung, ist der Screaming Frog SEO Spider ein hochinteressantes Tool. Die mit der Version 7 neu eingeführten Funktionen ergänzen die bereits sehr umfangreichen Möglichkeiten dieses SEO Tools und liefern wichtige Daten einer zu optimierenden Website. Eines der wirklich interessanten Werkzeug, welches auch aus dem Alltag als ABAKUS SEO nicht mehr wegzudenken ist.

 

Weiterführende Infos

[1] https://www.screamingfrog.co.uk/seo-spider/
[2] https://webmasters.googleblog.com/2016/11/mobile-first-indexing.html

 

Eine Antwort hinterlassen

Verwandte Beiträge

Website Suchfunktion
Website Suchfunktion – SEO & Conversion Relevanz

Die Website Suchfunktion (interne Suche) ist für Online-Shops eine wichtige Selbstverständlichkeit, aber auch für andere, größere Webseiten, ausgesprochen sinnvoll. Das Suchfeld ergänzt die Navigation und erleichtert im Idealfall das Auffinden spezieller Inhalte oder Detailinformationen. Daneben sind mittlerweile viele User durch Google und Amazon gewöhnt, direkt über die interne Suche zu navigieren, statt den oftmals gefühlt mehr…

JavaScript & SEO

Viele Websites und Onlineshops nutzen JavaScript für nützliche Funktionen, die die Interaktivität und die Usability fördern. So manche Site ist ohne JavaScript gar nicht mehr funktional nutzbar, die Waren eines Onlineshops nicht bestellbar oder die Fahrzeuge einer Autovermietung einfach nicht zu buchen. Zugegeben, es  gibt nicht viele User, die aus Sicherheitsgründen JavaScript deaktiviert haben. Aber mehr…

Umstellung auf HTTP/2 – Ladezeit Check

HTTP 1.1 – Das Webprotokoll der ersten Stunde Im heutigen Beitrag möchten wir euch zeigen welche potentiellen Vorteile das neue Übertragungsprotokoll HTTP/2 mit sich bringt und ob die versprochenen Neuerungen auch in der Praxis messbar sind. Da HTTP 1.1 seit 18 Jahren unverändert besteht und stetig komplexere oder neuere HTML-Elemente wie CSS & JavaScript dazukommen, mehr…

Featured Snippets in den Google Suchergebnissen
Featured Snippets in den Google Suchergebnissen

Featured Snippets ermöglichen dem Suchenden eine schnelle Beantwortung ihrer Suchanfrage. Für den Webseitenbetreiber hat die Anzeige aber nicht immer einen Vorteil. Wir erklären den Begriff Featured Snippets, was diese für Auswirkungen haben und wie Sie dafür sorgen können, dass Ihre Webseite zitiert wird. Was sind Featured Snippets? Es gibt drei verschiedene Arten von Featured Snippets mehr…