Narzędzia na miarę
Praga, CZ
Google · Bing · crawlery AI

Generator robots.txt.

Generator tworzy plik robots.txt, który mówi wyszukiwarkom i crawlerom AI, gdzie na stronie mogą wejść. Osobno ustawiają Państwo zwykłe wyszukiwarki, crawlery AI do trenowania modeli i wyszukiwanie AI, które może Państwa cytować. Dodają Państwo zablokowane ścieżki i sitemap oraz testują, czy konkretny URL przejdzie.

Punkt wyjścia
Crawlery AI
Blokuj tylko ścieżki techniczne. robots.txt to nie zabezpieczenie.
robots.txt

—

Działa w całości w przeglądarce. Nic nie jest wysyłane ani zapisywane.

Jak tego użyć

04
  1. Krok01

    Wybierz dostęp

    Wyszukiwarki, trenowanie AI i wyszukiwanie AI osobno.

  2. Krok02

    Dodaj blokowane ścieżki

    Na przykład /admin/ lub /koszyk/.

  3. Krok03

    Dopisz sitemap

    Pełny adres pliku sitemap.xml.

  4. Krok04

    Przetestuj URL

    Sprawdź, czy crawler może wejść pod dany adres.

Trenowanie a wyszukiwanie

Część dostawców ma osobny crawler do trenowania modeli i osobny do wyszukiwania na żywo. Generator je rozróżnia, więc mogą Państwo zostać widoczni w odpowiedziach AI i jednocześnie nie oddawać treści do trenowania.

Wynik sprawdzi widoczność w AI.

FAQ03

O co ludzie pytają

01Czy robots.txt blokuje indeksowanie?

Nie niezawodnie. Blokuje przeglądanie, ale strona może trafić do indeksu przez linki. Do usunięcia z indeksu służy meta tag noindex.

02Czy blokować crawlery AI?

Po zablokowaniu wyszukiwarki AI nie będą Państwa cytować. Wiele firm blokuje trenowanie, ale wpuszcza wyszukiwanie AI.

03Czy crawlery respektują robots.txt?

Duzi dostawcy tak. To jednak dobrowolny standard (RFC 9309), a nie zabezpieczenie.

Następny krok01

Co dalej

Powiązane06

Czytaj dalej

Masz pracę, którą powinien robić program?

Kontakt jeszcze uruchamiam. W międzyczasie wypróbuj narzędzia, które już działają.

Kontakt