Für Shop-Betreiber: unser Crawler
parelo vergleicht Lebensmittel nach Protein pro Kalorie. Dafür lesen wir öffentliche Produktseiten von Shops und Marken: Nährwerte, Zutaten, Preise und Produktbilder.
Bei direkten Abrufen meldet sich unser Crawler so:
parelo-crawler/1.0 (+https://parelo.de; info@parelo.de)
- Er beachtet Ihre robots.txt.
- Er ruft eine Seite nach der anderen ab, mit Pause dazwischen.
- Er meldet sich nirgends an.
- Er liest Produktseiten in der Regel einmal im Monat nach, solche mit reduziertem Preis einmal am Tag.
- Manche Seiten rufen wir über einen Proxy-Dienstleister ab. Ihre robots.txt-Regeln für
parelo-crawlergelten auch dann.
Produktbilder prüfen wir mit einer zweiten Kennung: parelo-image-check/1.0 (+https://parelo.de/). Sie ruft ein Bild in der Regel einmal in der Woche ab, einzelne öfter, nie über einen Proxy, und beachtet Ihre robots.txt. Eine Sperre für parelo-crawler gilt auch für sie.
So sperren Sie ihn
In Ihrer robots.txt:
User-agent: parelo-crawler
Disallow: /Oder schreiben Sie an info@parelo.de. Wir stoppen den Abruf Ihrer Seiten in der Regel innerhalb von 24 Stunden und nehmen auf Wunsch auch die Angaben und Bilder von Ihrer Seite heraus.