# =========================================================
# KOPI MOEK - ROBOTS.TXT
# https://kopimoek.com/robots.txt
# =========================================================


# =========================================================
# CONTENT SIGNAL
# =========================================================

# search   = penggunaan konten untuk indeks pencarian
# ai-input = penggunaan konten sebagai input sistem AI
# ai-train = penggunaan konten untuk training/fine-tuning AI
# use      = cara sistem AI menggunakan konten

User-agent: *
Content-Signal: search=yes,ai-train=no,use=reference
Allow: /


# =========================================================
# GOOGLE SEARCH
# =========================================================

User-agent: Googlebot
Allow: /

User-agent: Googlebot-Image
Allow: /

User-agent: Googlebot-News
Allow: /

User-agent: Googlebot-Video
Allow: /


# =========================================================
# OPENAI / CHATGPT
# =========================================================

User-agent: OAI-SearchBot
Allow: /

User-agent: OAI-AdsBot
Allow: /

User-agent: GPTBot
Allow: /


# =========================================================
# GOOGLE AI
# =========================================================

User-agent: Google-Extended
Allow: /


# =========================================================
# CRAWLER LAINNYA
# =========================================================

User-agent: Amazonbot
Allow: /

User-agent: Applebot-Extended
Allow: /

User-agent: Bytespider
Allow: /

User-agent: CCBot
Allow: /

User-agent: ClaudeBot
Allow: /

User-agent: CloudflareBrowserRenderingCrawler
Allow: /

User-agent: meta-externalagent
Allow: /


# =========================================================
# SEMUA CRAWLER LAINNYA
# =========================================================

User-agent: *
Allow: /


# =========================================================
# SITEMAP
# =========================================================

Sitemap: https://kopimoek.com/sitemap.xml