1/4
Ботов не пускают на порог
Что ломается
у каждой нейросети свои роботы, и robots.txt может закрыть им вход. Закрыл - бот не прочитает сайт и не приведет к тебе человека, который спросил про твою нишу.
Кто есть кто
OAI-SearchBot - поиск ChatGPT: от него зависит, покажут ли тебя в ответах. GPTBot - сбор текстов для обучения моделей OpenAI. У Claude так же: Claude-SearchBot для поиска, ClaudeBot для обучения. PerplexityBot - поиск Perplexity.
Проверка без кода
открой твойсайт.ru/robots.txt и поищи эти имена. Рядом с ними Disallow: / - бот закрыт. Закрыт User-agent: * - закрыты все сразу.
Скажи агенту
"Проверь robots.txt: разреши доступ ботам OAI-SearchBot, GPTBot, Claude-SearchBot, ClaudeBot и PerplexityBot. Служебные разделы оставь закрытыми".
Честно:
не хочешь кормить своими текстами обучение - закрой GPTBot, но оставь OAI-SearchBot. Это разные роботы, и в поиске ChatGPT ты останешься.
Яндекс
нейроответы в Яндексе собираются из обычной выдачи. Нет сайта в поиске - нет и в Нейро. А строчка User-agent: YandexAdditional с запретом убирает тебя из Нейро, даже если в поиске ты есть.