VPS für Scraping: Worauf es bei der Datensammlung ankommt
Ein Scraper braucht einen Server, der rund um die Uhr läuft, nicht vom Internetanschluss zu Hause abhängt und nicht an ein Traffic-Limit stößt. Die passende Konfiguration hängt jedoch stark davon ab, wie Sie die Daten sammeln. Klären Sie deshalb vor der Miete eines VPS, zu welchem der beiden Typen Ihr Scraper gehört.
HTTP-Scraper oder Headless-Browser
Scraper mit direkten Anfragen – Scrapy, aiohttp, httpx, Go-Clients – laden HTML oder JSON herunter und parsen es. Die meiste Zeit warten sie auf das Netzwerk, daher bewältigt ein einziger Kern Hunderte parallele asynchrone Anfragen, und 1–2 GB Arbeitsspeicher reichen aus. Die CPU wird vor allem beim Parsen belastet: lxml und reguläre Ausdrücke auf Tausenden Seiten pro Minute heizen den Prozessor spürbar auf. Für solche Skripte genügt auch ein gewöhnlicher VPS für Python.
Headless-Browser – Playwright, Puppeteer, Selenium – brauchen Sie dort, wo Inhalte per JavaScript aufgebaut werden. Jeder Chromium-Tab belegt Hunderte Megabyte Arbeitsspeicher und einen spürbaren Anteil eines Kerns. Planen Sie die Ressourcen nach der Zahl gleichzeitiger Tabs: Mit 2 Kernen und 4 GB sind einige wenige sinnvoll, für Dutzende brauchen Sie 8–16 GB und entsprechend viele Kerne.
Wenn Sie Chromium in Docker starten, vergrößern Sie /dev/shm (Parameter --shm-size) – mit den standardmäßigen 64 MB stürzen Tabs auf schweren Seiten ab.
Traffic und Portgeschwindigkeit
Scraping erzeugt vor allem eingehenden Traffic, und dessen Menge wird leicht unterschätzt: Eine Seite mit Bildern und Skripten wiegt mehrere Megabyte, und pro Tag kommen Hunderttausende zusammen. Nehmen Sie einen Tarif mit unbegrenztem Traffic – dieser Filter ist auf der Seite bereits aktiv, ähnliche Tarife finden Sie im Bereich VPS mit unbegrenztem Traffic. Prüfen Sie die Portgeschwindigkeit: „Unbegrenzt“ mit 100 Mbit/s und mit 1 Gbit/s sind zwei verschiedene Dinge. Deaktivieren Sie im Headless-Modus das Laden von Bildern, Schriften und Videos, wenn Sie sie nicht brauchen.
IP-Adressen
Ein Server bedeutet eine IPv4-Adresse, und bei intensiver Datensammlung begrenzen Websites die Anfragerate von dieser Adresse schnell. Zusätzliche IPv4 kosten bei Anbietern extra und sind nicht immer verfügbar. Viele Tarife enthalten ein IPv6-Subnetz /64, das sich aber nur bei Websites nutzen lässt, die IPv6 akzeptieren – siehe die Auswahl VPS mit IPv6. Eigene Proxys können Sie ebenfalls auf Ihrem Server betreiben, mehr dazu auf der Seite VPS für einen Proxy-Server.
Wählen Sie den Standort nach den Zielseiten: Viele Websites liefern regional unterschiedliche Inhalte, und ein Server im selben Land sieht dieselben Seiten wie lokale Besucher.
Was Sie vermeiden sollten
- Überlasten Sie fremde Websites nicht: Halten Sie vernünftige Pausen ein und beachten Sie die Regeln der Plattform. Beschwerden von Website-Betreibern gehen an den Anbieter, und der kann den Server abschalten.
- Sammeln Sie keine personenbezogenen Daten ohne Rechtsgrundlage – dafür haften Sie gesondert.
- Speichern Sie die Ergebnisse nicht nur auf dem Server. Exportieren Sie sie in eine Datenbank oder einen Speicher und legen Sie Backups an.
In der Tabelle oben sind die Preise bereits umgerechnet, und in der Spalte „Zahlung“ sehen Sie, welche Zahlungswege jeder Anbieter akzeptiert.