rhizo
Подписаться

Почему ChatGPT не советует твой сайт

Люди спрашивают нейросеть, где заказать торт или какой сервис выбрать. Если бот не смог прочитать твой сайт, тебя в ответе нет.

первые две решают почти все

1/4

Ботов не пускают на порог

Что ломается

у каждой нейросети свои роботы, и robots.txt может закрыть им вход. Закрыл - бот не прочитает сайт и не приведет к тебе человека, который спросил про твою нишу.

Кто есть кто

OAI-SearchBot - поиск ChatGPT: от него зависит, покажут ли тебя в ответах. GPTBot - сбор текстов для обучения моделей OpenAI. У Claude так же: Claude-SearchBot для поиска, ClaudeBot для обучения. PerplexityBot - поиск Perplexity.

Проверка без кода

открой твойсайт.ru/robots.txt и поищи эти имена. Рядом с ними Disallow: / - бот закрыт. Закрыт User-agent: * - закрыты все сразу.

Скажи агенту

"Проверь robots.txt: разреши доступ ботам OAI-SearchBot, GPTBot, Claude-SearchBot, ClaudeBot и PerplexityBot. Служебные разделы оставь закрытыми".

Честно:

не хочешь кормить своими текстами обучение - закрой GPTBot, но оставь OAI-SearchBot. Это разные роботы, и в поиске ChatGPT ты останешься.

Яндекс

нейроответы в Яндексе собираются из обычной выдачи. Нет сайта в поиске - нет и в Нейро. А строчка User-agent: YandexAdditional с запретом убирает тебя из Нейро, даже если в поиске ты есть.

2/4

Текст рисует JavaScript

Что ломается

многие сайты от конструкторов с ИИ приходят в браузер пустыми, а текст дорисовывает JavaScript. Человек разницы не видит. А ИИ-боты скрипты не запускают: в исследовании Vercel 2024 года ни один крупный ИИ-робот JavaScript не исполнял. Для них страница - конверт без письма.

Проверка без кода

открой сайт → правая кнопка → "Просмотр кода страницы" → поиск по тексту: любая фраза из середины главной. Нашлась - бот ее видит. Не нашлась - для бота страница пустая.

Скажи агенту

"Сделай так, чтобы основной контент отдавался сервером в HTML: серверный рендеринг или статическая генерация страниц. Проверь через просмотр кода страницы, что текст там есть".

Честно:

Google скрипты исполняет, Яндекс - частично. Но в нейросети ты попадаешь через их собственных роботов, а они не умеют.

3/4

Нет выжимки llms.txt

Что это

/llms.txt - короткая шпаргалка о сайте для нейросетей: кто ты, что делаешь и ссылки на главное. Обычный текст, как оглавление в начале книги.

Скажи агенту

"Создай /llms.txt в формате Markdown: название, одна фраза о продукте, список главных страниц со ссылками и описанием в одну строку".

Честно:

это предложение разработчика Джереми Говарда 2024 года, а не стандарт. OpenAI, Anthropic и Яндекс не обещают его читать, а Google прямо пишет, что особые файлы для ИИ не нужны. Делается за пять минут, так что пусть лежит, но чудес не жди.

4/4

Нет разметки для машин

Что ломается

цены, адрес и телефон на странице человек видит сразу, а машина угадывает. Разметка Schema.org - та же информация в виде анкеты: "название", "цена", "телефон". Угадывать не нужно.

Скажи агенту

"Добавь JSON-LD разметку Schema.org: Organization с контактами на главной, Product или Service с ценой на страницах товаров, FAQPage для частых вопросов".

Честно:

разметка дает красивые сниппеты в Google и Яндексе. Что ее читают ChatGPT и Claude, их разработчики нигде не пишут. Делай ради поиска, нейросетям она как минимум не мешает.

Источникисверено 27.09.2026

  1. OpenAI: роботы OAI-SearchBot, GPTBot, ChatGPT-User
  2. Anthropic: роботы ClaudeBot, Claude-SearchBot, Claude-User
  3. Perplexity: роботы PerplexityBot и Perplexity-User
  4. Яндекс: Поиск с Нейро и YandexAdditional
  5. Vercel и MERJ: ИИ-роботы не исполняют JavaScript (2024)
  6. Яндекс: индексирование страниц с JavaScript
  7. llms.txt: описание формата
  8. Google: сайты в ИИ-ответах поиска
  9. Google: структурированные данные