770 名前:名無しさん@全板トナメ参戦中[] 投稿日:2008/06/26(木) 01:05:14 ID:GGa+C9Y90 ちょっとおもしろいもの発見したよ Mainichi Daily Newsのサイトがクローラーをどういうふうに制御しているのかと思って robots.txtを見てみたw まず、このURLにアクセス ↓ http://mdn.mainichi.jp/robots.txt そうすると、こういう文字列が出る ↓ User-agent: ia_archiver Disallow: /culture ia_archiverというのはInternet Archiveのク... 続きを読む
[PR]ブログのペットがお留守番
コメント
事の経緯。
SEOなんだよ http://www.nurs.or.jp/~ogochan/essay/archives/1209
これはすごい逆SEO…。クローラを一切合切蹴るとはなんという自殺行為
ふ~ん
「毎日母さん」だけは読みたいな。私にとっては,スタートレックで地球に価値があると知らしめたザトウクジラみたいなもの。
「毎日新聞(MDN)が、ついにロボット型検索エンジンのクロールを完全に拒絶!」これはひどい
毎日デイリーニューズ、J-CAST等が取上げる前からWaiwaiのあった部分だけクローラ拒否してたのが、6/27~全ての記事に対して拒否
毎日(MDN)のrobots.txtの変遷まとめ
この対応は無いなあ・・・。/毎日.jpが拒否しているわけではないらしい。http://d.hatena.ne.jp/TERRAZI/20080709/p1
知らなかった。恥ずかしい>javascript:alert(document.lastModified)
マスコミのサイトが、情報隠蔽に走っているという面白い(じゃ済まないんだが)現象。
完全にロボットのクロールを拒否している…。自殺行為に走って良いのか毎日.jp。