Why blocking LLMs from your website is dumb9 months ago#LLMs#Content Distribution#SEOhttps://johnjianwang.medium.com/why-blocking-llms-from-your-website-is-dumb-3dc7c3c9097dCopy LinkPerplexity被指控抓取了robots.txt文件中禁止LLM爬虫的网站内容从道德层面和对AI的普遍反感来看,阻止LLM的做法受到批评大语言模型是下一代搜索层,能为网站带来流量阻止LLM意味着切断一个快速增长的流量分发渠道适应大语言模型并提供优质内容比阻止它们更有利