一起学习网,一个一起免费的网络建站教程资源共享和seo教程、黑帽教程学习交流的学习网站,www.17xuexiwang.com,一起学习,共同进步!

seo如何抓取蜘蛛爬行

时间:2016-05-17 20:48   文章来源:一起学习网   访问次数:
在网站根目录index.php文件中加入以下代码,没有index.php的可以做一个跳转到html的php文件。
<?php 
function get_naps_bot() 
$useragent = strtolower($_SERVER['HTTP_USER_AGENT']); 
if (strpos($useragent, 'googlebot') !== false){ 
return 'Google'; 
if (strpos($useragent, 'baiduspider') !== false){ 
return 'Baidu'; 
if (strpos($useragent, 'msnbot') !== false){ 
return 'Bing'; 
if (strpos($useragent, 'slurp') !== false){ 
return 'Yahoo'; 
if (strpos($useragent, 'sosospider') !== false){ 
return 'Soso'; 
if (strpos($useragent, 'sogou spider') !== false){ 
return 'Sogou'; 
if (strpos($useragent, 'yodaobot') !== false){ 
return 'Yodao'; 
return false; 
function nowtime(){ 
$date=date("Y-m-d.G:i:s"); 
return $date; 
$searchbot = get_naps_bot(); 
if ($searchbot) { 
$tlc_thispage = addslashes($_SERVER['HTTP_USER_AGENT']); 
$url=$_SERVER['HTTP_REFERER']; 
$file="17xuexiwang.txt"; 
$time=nowtime(); 
$data=fopen($file,"a"); 
fwrite($data,"Time:$time robot:$searchbot URL:$tlc_thispage\n"); 
fclose($data); 
?> 
然后在根目录放一个txt文件,名字和$file的名字保持一致即可。
查看http://域名/文件名.txt即可看到记录。
如下:

上一篇:织梦后台验证码不显示解决办法
下一篇:dedecms自定义表单中加入用户提交时间

标签: seo如何抓取蜘蛛爬行

今日话题更多>

  • 武汉大学信息门户是什么 武汉大学信息门户是什么 武汉大学信息门户是武汉大学官方网站的入口,它为武汉大学师生员工提供信息服务和网络应用入口。信息门户网址为:ehall.whu.edu.cn。 信息门户包含以下主要功能: 1. 统一身份……
  • 壹米滴答物流单号查询方法 壹米滴答物流单号查询方法 壹米滴答物流单号查询可通过以下方式进行: 1. 登录壹米滴答官网 登录www.yimidida.com网址,点击页面右上角的登录按钮,输入用户名和密码进行登录。登录成功后,在用户中心可……
  • 壹米滴答物流是什么平台 壹米滴答物流是什么平台 壹米滴答是一家中国国际物流快递公司,提供国内外物流配送服务。 1. 公司简介 壹米滴答成立于2013年,由深圳市壹米滴答供应链管理有限公司运营。现已开通200多个国家和地区的……

黑帽学习 更多 >>