数据正在传送.请稍候

梦游时光互联 » 站长茶馆 » 问个小问题,备案已经通过了。能不能加个论坛玩玩?
     
本帖主题: 问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-11-17 05:37 PM No.1 发表人:sinokid  个人Blog  社区短消息  TOP
sinokid
Meyu Customer
Rank: 8Rank: 8


UID 8299
精华 1
积分 455
帖子 292
体力 295
威望 22
贡献 2
阅读权限 80
注册 2007-12-27
状态 离线
[广告]: 新手解疑1:FTP空间各文件目录的作用
我博客站通过备案了,想在域名下弄个小论坛跟几个熟人热闹下。
论坛内容谈不上什么非法,但也不适合光明正大地去说。
因此决定用个robots文件去限制搜索引擎。
大家觉得可行么?










http://wesley-lee.com
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-11-17 05:39 PM No.2 发表人:domin  个人Blog  社区短消息  QQ对话  TOP
domin
梦游科技管理人员
Rank: 12Rank: 12Rank: 12



最佳技术奖   商业用户奖   官方管理人员  
UID 2
精华 44
积分 31595
帖子 18023
体力 16501
威望 976
贡献 21
阅读权限 200
注册 2005-12-15
状态 离线
[广告]: 备案信息核验单 - 现行国内备案必看
不可行

回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-11-17 06:58 PM No.3 发表人:CGrrr  社区短消息  TOP
CGrrr
Conqueror
Rank: 3Rank: 3



UID 9892
精华 0
积分 257
帖子 167
体力 163
威望 0
贡献 0
阅读权限 30
注册 2008-5-18
状态 离线
[广告]: 优惠券代码:20111001FF20% 有效期:2011.10.01/2011.10.15
相当不可行

回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-11-17 07:17 PM No.4 发表人:92uu  个人Blog  社区短消息  QQ对话  TOP
92uu
Meyu Customer
Rank: 8Rank: 8
梦游科技捣蛋人员


UID 5717
精华 0
积分 1954
帖子 1666
体力 1651
威望 26
贡献 0
阅读权限 80
注册 2007-5-18
状态 离线
[广告]: 优惠券代码:20111001FF20% 有效期:2011.10.01/2011.10.15
你搬到国外撤掉备案可行









一直找机会推到meyu 爆菊
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-11-18 01:07 PM No.5 发表人:An_Apple  主页  个人Blog  社区短消息  Yahoo!  TOP
An_Apple (Yeeher)
Discuz! user
Rank: 6Rank: 6
总裁俱乐部首席执行官


UID 3294
精华 2
积分 4670
帖子 4139
体力 4059
威望 49
贡献 1
阅读权限 60
注册 2006-11-27
来自 上海市徐汇区
状态 离线
[广告]: 备案信息核验单 - 现行国内备案必看
建议站长们把百度给屏蔽了,估计百度也会做一个某某站长的镜像论坛,像传说中的“百度有啊”一样。









Hello, World! I'm Back!
2019.9.1
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-12-5 01:47 PM No.6 发表人:死猴子  个人Blog  社区短消息  QQ对话  TOP
死猴子 (Dead monkeys)
梦游科技备案专员
Rank: 8Rank: 8
猴子很忙



官方管理人员  
UID 105
精华 0
积分 7208
帖子 6370
体力 6160
威望 2
贡献 0
阅读权限 255
注册 2005-12-16
来自 椰树上!
状态 离线
[广告]: 新手解疑1:FTP空间各文件目录的作用
- -百度有这么可怕么









只要在备案区发过的帖,没有一帖我会漏掉,无需找我要回应.等待就行了!
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-12-5 07:07 PM No.7 发表人:An_Apple  主页  个人Blog  社区短消息  Yahoo!  TOP
An_Apple (Yeeher)
Discuz! user
Rank: 6Rank: 6
总裁俱乐部首席执行官


UID 3294
精华 2
积分 4670
帖子 4139
体力 4059
威望 49
贡献 1
阅读权限 60
注册 2006-11-27
来自 上海市徐汇区
状态 离线
[广告]: 新手解疑1:FTP空间各文件目录的作用


QUOTE:
原帖由 死猴子 于 2008-12-5 01:47 PM 发表
- -百度有这么可怕么
百度 一下,你就知道了。










Hello, World! I'm Back!
2019.9.1
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-12-6 10:40 AM No.8 发表人:hc4u  个人Blog  社区短消息  TOP
hc4u
Meyu Customer
Rank: 8Rank: 8
Te quiero.


UID 8904
精华 0
积分 768
帖子 509
体力 500
威望 1
贡献 0
阅读权限 80
注册 2008-3-7
状态 离线
[广告]: 优惠券代码:20111001FF20% 有效期:2011.10.01/2011.10.15
User-agent: Baiduspider
Disallow: /


百度无视robots的- -

NND 我都屏蔽百度好几个月了 还是收录我的页面 我靠- -










喜欢我这是革命需要,知道不?!
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-12-8 10:07 AM No.9 发表人:sinokid  个人Blog  社区短消息  TOP
sinokid
Meyu Customer
Rank: 8Rank: 8


UID 8299
精华 1
积分 455
帖子 292
体力 295
威望 22
贡献 2
阅读权限 80
注册 2007-12-27
状态 离线
[广告]: 优惠券代码:20111001FF20% 有效期:2011.10.01/2011.10.15


QUOTE:
原帖由 hc4u 于 2008-12-6 10:40 AM 发表
User-agent: Baiduspider
Disallow: /


百度无视robots的- -

NND 我都屏蔽百度好几个月了 还是收录我的页面 我靠- -
百度是个大流氓。
要屏蔽它只能屏蔽它蜘蛛的IP才可以。










http://wesley-lee.com
回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-12-8 01:07 PM No.10 发表人:domin  个人Blog  社区短消息  QQ对话  TOP
domin
梦游科技管理人员
Rank: 12Rank: 12Rank: 12



最佳技术奖   商业用户奖   官方管理人员  
UID 2
精华 44
积分 31595
帖子 18023
体力 16501
威望 976
贡献 21
阅读权限 200
注册 2005-12-15
状态 离线
[广告]: 备案信息核验单 - 现行国内备案必看
用.htaccess屏蔽它的User-Agent标识就行.

回复:问个小问题,备案已经通过了。能不能加个论坛玩玩?
2008-12-8 03:51 PM No.11 发表人:hc4u  个人Blog  社区短消息  TOP
hc4u
Meyu Customer
Rank: 8Rank: 8
Te quiero.


UID 8904
精华 0
积分 768
帖子 509
体力 500
威望 1
贡献 0
阅读权限 80
注册 2008-3-7
状态 离线
[广告]: 备案信息核验单 - 现行国内备案必看
好像现在屏蔽baiduspider已经成为一种时尚,难道这玩意也跟着纳斯达克变?

  首先我自己不会屏蔽baiduspider,也不大相信baiduspider会故意忽略robots.txt,但如果你真的想屏蔽 baiduspider,可尝试以下方法:

  1. 上传一个robots.txt到根目录,内容为:

  User-agent: baiduspider

  Disallow: /

  一个搜索引擎爬虫工作前首先应该访问/robots.txt制定排除列表,baiduspider还无法高级到故意忽略某些网站的robots.txt,不知道baiduspider怎么折腾才能让robots.txt失效。

  2. 如果仅仅因为服务器吃不消,不防按照的指示写信给百度。估计很多人试过得不到回复(Google基本都是2个工作日内回复)。

  3. 如果还没有办法,可尝试.htaccess屏蔽,上传一个.htaccess文件到根目录,内容为:

  SetEnvIfNoCase User-Agent ^baiduspider ban_bot

  deny from env=ban_bot

  还可以扩大这个列表,屏蔽那些Email提取爬虫、网站克隆爬虫等(小偷一般不守法,但总比自己什么都不做强):

  SetEnvIfNoCase User-Agent ^baiduspider ban_bot

  SetEnvIfNoCase User-Agent ^HTTrack ban_bot

  SetEnvIfNoCase User-Agent ^EmailCollector ban_bot

  SetEnvIfNoCase User-Agent ^EmailWolf ban_bot

  SetEnvIfNoCase User-Agent ^ExtractorPro ban_bot

  SetEnvIfNoCase User-Agent ^Offline ban_bot

  SetEnvIfNoCase User-Agent ^WebCopier ban_bot

  SetEnvIfNoCase User-Agent ^Webdupe ban_bot

  SetEnvIfNoCase User-Agent ^WebZIP ban_bot

  SetEnvIfNoCase User-Agent ^Web Downloader ban_bot

  SetEnvIfNoCase User-Agent ^WebAuto ban_bot

  SetEnvIfNoCase User-Agent ^WebCapture ban_bot

  SetEnvIfNoCase User-Agent ^WebMirror ban_bot

  SetEnvIfNoCase User-Agent ^WebStripper ban_bot

  deny from env=ban_bot

  .htaccess要用文本方式上传,有些Apache配置比较怪异,防止引起冲突建议上传后立刻看看是否影响普通用户的访问。如果浏览正常,再用FlashGet模拟baiduspider测试这个.htaccess是否工作,方法是:

  FlashGet-工具-选项-协议,把HTTP用户代理改成用户自定义:baiduspider;然后用FlashGet下载该网站任意页面,在FlashGet的下载日志里得到HTTP/1.1 403 Forbidden则成功.



================================================

弄了這個東西,回頭觀察下SB百度的動作了- -










喜欢我这是革命需要,知道不?!
     

Powered by Discuz!3.12 Licensed © 2001-2005
Processed in 0.007881 second(s), 7 queries , Gzip enabled
所有时间为 GMT+8, 现在时间是 2024-11-24 12:38 AM
清除 Cookies - 联系我们 - 梦游时光互联 -