-
如何为django工程加上robot.txt
用django做了一个站,通常为了让搜索引擎更好的抓取内容,或者拒绝搜索引擎爬内容。
都需要配置这个文件。普通的应用开发,把 robot.txt 放在根目录就好了,
如果用django 就没这么容易了,有以下几种方法处理:
2012-07-20【[Python/Django]】
阅读更多
用django做了一个站,通常为了让搜索引擎更好的抓取内容,或者拒绝搜索引擎爬内容。
都需要配置这个文件。普通的应用开发,把 robot.txt 放在根目录就好了,
如果用django 就没这么容易了,有以下几种方法处理:
2012-07-20【[Python/Django]】
阅读更多