在分析日志的過程中,往往會(huì)發(fā)現(xiàn)404狀態(tài)下有一些或者很多的不完整的url或者比原url多出字段的莫名其妙的網(wǎng)站本身不存在的url的抓取。在群里面也見有人問過類似的情況,覺得這是一個(gè)大家普遍都會(huì)遇見的問題,有猜測(cè)過有可能是被別人采集才導(dǎo)致這樣的問題出現(xiàn),在上課的時(shí)候問過國平老大,當(dāng)時(shí)國平老大說有可能是爬蟲在抓取url的時(shí)候下載不完整,但是這都沒有一個(gè)具體的數(shù)據(jù)來支撐,總是覺得很朦朧沒把握。
現(xiàn)在,google管理員工具可以很清晰的用數(shù)據(jù)為你揭曉這其中的詫異了,google管理員工具是國平老大非常推崇的一個(gè)seo工具,有人覺得做百度的人不需要google的東西,因?yàn)榘俣群蚲oogle的算法有差別,那下面介紹google管理員的這個(gè)功能可以告訴你這樣的想法是大錯(cuò)特錯(cuò)的,管理員工具是一個(gè)按照網(wǎng)站seo各項(xiàng)考核標(biāo)準(zhǔn)制定的一個(gè)最最權(quán)威的seo工具,做seo需要的數(shù)據(jù),絕大部分都可以從這里面獲取,下面就來介紹管理員工具的這個(gè)功能(好像是最近更新的,以前不是這樣子)。
首頁看下百度日志里面的怪異404
這些url的入口在哪里呢?搜索引擎是從什么地方獲取這些url的?
Google告訴你
首先介紹下google管理員工具關(guān)于抓取錯(cuò)誤的功能
下面是另一個(gè)網(wǎng)站由于改版問題沒做跳轉(zhuǎn)和抓取攔截所造成的找不到抓取錯(cuò)誤,有一很完整的曲線可以讓你很清晰的看見網(wǎng)站存在的這方面的問題的變化趨勢(shì)
和服務(wù)器問題造成的抓取錯(cuò)誤
接第一張圖(同一個(gè)網(wǎng)站)
一開始從日志中觀察到這些錯(cuò)誤,但是不知道這些錯(cuò)誤的來源
現(xiàn)在可以知道這些錯(cuò)誤的url是從何而來
點(diǎn)擊第102條,彈出下面的框,url不在sitemap中,但是在自己的其他網(wǎng)站里面出現(xiàn),說明網(wǎng)址是網(wǎng)站自身存在的但是已經(jīng)被刪除了
點(diǎn)擊第110條,彈出下面的框,可以看到搜索引擎是從其他網(wǎng)站過來的(或是采集站,或是其他)
點(diǎn)擊進(jìn)入具體的來源頁面可以看到
至此,可以很明確的知道,到底網(wǎng)站日志里面的出現(xiàn)的那些莫名其妙的url到底是怎么回事了,是自己站內(nèi)存在的還是站外錯(cuò)誤構(gòu)成的。最近更新的還有其他的功能,感興趣的朋友可以親自用用體驗(yàn)下。
原文地址:光年論壇