解析対象にしているロボット一覧
()内はuseragentに含まれている文字列
Google(Googlebot)
goo(Slurp.so/Goo)
goo(mogimogi)
goo(moget)
Inktomi(Slurp/si)
Inktomi(Slurp/cat)
TOCC(Slurp-TOCC/si)
TOCC(Slurp.so/TOCC)
Infoseek(Sidewinder)
Fresheye(indexpert)
Fresheye(FreshGet)
AAA!Cafe(aruyo)
Looksmart etc.(ZyBorg)
AlltheWeb(WebCrawler)
Openfind(Openbot)
AltaVista(Scooter)
IncyWincy(NetResearchServer)
Daum(RaBot)
Yahoo! Down Site Checker(Down Site Checker)
AllAboutJapan LinkChecker(AllAboutJapan LinkChecker)
Dmoz Editor Check(refere=dmoz.org/editors/editunrev2.cgi)
Yahoo Editor for new site check(refere=surf.yahoo.co.jp/submissions)
Yahoo Editor for current site check(refere=surf.yahoo.co.jp/changes)
※
「Yahoo Editor for new site check」とは、サイトをYahooJapanへURL申請した後でサーファーが来たときのデータです。
「Yahoo Editor for current site check」とは、サイトをYahooJapanへURL変更依頼した後でサーファーが来たときのデータです。
「Dmoz Editor Check」とは、サイトをdmozにURL申請した後でエディターが参照したときのデータです。