目障りなSEO To66.Asia 内部検索スパムをRobots.txtでブロックしてクロール禁止に

内部検索スパム サーチコンソールの未登録件数

最近サーチコンソールの未登録件数が異常に増えすぎて50万件以上の内部検索スパムがnoindexで除外されていた事に気付きました。
実際にはGoogle検索にインデックス登録されていないので問題は無いのですが、かなり目障りなのでRobots.txtでクロールをブロックしてしまいます!

増え続ける内部検索スパム SEO To66.Asia

内部検索スパム サーチコンソールの未登録件数
久しぶりにgoogleサーチコンソールを眺めていると、ページのインデックス登録で未登録件数が異常に増え続けている事に気付きました。
ほとんどの場合はnoindexタグでインデックス登録自体を除外できているものの、一部はクロール済み – インデックス未登録となっております。

これは内部検索スパムと言って、内部検索フォームに様々な文字列を入力してクローラーに巡回させるスパムらしいのです。

ほとんどの場合はcontent=”noindex”でGoogle検索にインデックスをさせないように制御をできるものの、metaタグにnoindexを入れていないウェブサイトは、Google検索に内容の無いページが検索登録されてしまっている状況です。

内部検索スパムをnoindexでブロックした件数
URLに決まったパターンがあれば特定のURLにcanonicalを入れたり404ページにしたり出来るのですが、ドメイン直後の文字列に決まったパターンがなく、ランダムな文字列を入れてその後にギャンブル系の文字列を入力しているのです。

黒幕は中華系のSEO業者らしいのですが、登録されたページにはギャンブル系の文字列に関する内容のページが存在しておらず、内部検索スパムをする意図も全く分からないものとなっておりますので、ほぼ嫌がらせに近いのではないかとも言われているようです。

ほとんどの場合は文字列の中に[To66.Asia]が入っているのが特徴ですが、ドメインの後にランダムな文字列が入ってから[To66.Asia]が入っているので、悩みに悩んでどうやってクローラーの巡回を止めるか考えてみました。

WordPressは仮想Robots.txtを編集する仕組みが必要

WordPressテーマにTCDのGENSENを使用しているのですが、noindexとnofollowでクローラーを制御する仕組みが無く、プラグイン頼りでWP Custom Noindex Nofollowをインストールしておりますので、検索フォームの制御はnoindex化しかできません。

つまり、このままでは50万件近い内部検索スパムのURLにクローラーが巡回してしまうのです。

これを止めてしまおうという事で、Robots.txtで特定文字列が入ったURLにクローラーが巡回しないようにすれば良いのではないかと考えました。

Robots.txtは通常ディレクトリ直下に配置されますが、WordPressは仮想Robots.txtが生成される仕組みになっているため、このファイル自体がサーバー内に存在しておりません。

つまり、仮想Robots.txtの内容を読み込んで編集できるようにしないといけないのです。

WP Robots Txtをインストールしてクローラーの巡回を停止させる

ワードプレスプラグインWP-ROBOTS.TXTのインストール
ワードプレス用プラグインのWP Robots Txt By George Pattihisをインストールして、有効化します。
有効化をしたら、設定の表示設定の欄にRobots.txt Contentという項目が追加されますので、これでWordPressの仮想Robots.txtを編集できるようになります。

Disallow: *To66.Asia*を仮想Robots.txtに入力
Disallow: *キーワード*をRobots.txtに書き込むと、このキーワードが入ったURLへのクローラーの巡回を停止させられる事が出来るはずです。
Disallow: *to66.asia*でもクローラーの巡回をブロック出来ると思いますが、念のためDisallow: *To66.Asia*も入力して、大文字と小文字の両方を仮想Robots.txtに書き込みました。

ちなみにXMLサイトマップのURLが記載されていないのは、XMLサイトマップ作成プラグインのGoogle XML Sitemaps Generator Proが自動で出力しているためで、実際に出力しているRobots.txtにはXMLサイトマップのURLが入っております。
実際に読み込ませたいXMLサイトマップのURL以外をサーチコンソールに認識せないためにもWP Robots Txtは有効なのです。

サーチコンソール robots.txt によりブロックされました
これで様子を見続けておりましたが、「クロール済み – インデックス未登録」と「noindexタグによって除外されました」の項目にはTo66.Asiaが入った新たなURLは表示されなくなりました。
しかし、インデックス未登録の項目に「robots.txt によりブロックされました」の項目が追加されてしまったので、未登録が増え続ける事自体の根本的な解決には至っておりません。

サーチコンソールに表示される項目が変わらない限り増え続けるのだと思いますが、クローラーの巡回自体は停止させられていると思うので、しばらくこのまま様子を見ていこうと思います。

この内部検索スパムは何をしたいんでしょうね。意図があってやっているのか、ただ単に頭が悪いだけなのか・・。この文字列を好みそうな人同士で勝手にやってくれれば良いけど、関係ないウェブサイトまで巻き込むのは非常に迷惑です。


YouTubeチャンネルバナー

Youtubeチャンネルでは、日本国内各地の美しい四季の風景、ネイチャービデオ、花火大会やイベント・お祭り等、クリスマスイルミネーションや夜景、星景タイムラプス映像、Vlog、飛行機や新幹線などの乗り物等の映像をライブラリー化し、世界各地に発信しております。
また、不定期で花火大会やイベントのライブ配信も実施中!
下のYouTubeアイコンからチャンネルを表示していただき、チャンネル登録後に通知をオンにしていただくとライブ配信の通知が受け取れます!
もちろん動画URLや埋め込みタグを使用したウェブサイトへの埋め込みやSNSでのシェアもOKです!

最新の更新情報を受け取れる各種SNSを運営中!フォローや登録はこちら!


X Postをタップして、@jvcameratravelを付けたまま記事をX(旧・Twitter)でシェアをすると、弊社運営のXアカウントにてあなたのポストをリポストするアカウント拡散キャンペーンを行っています。
不要な時は@jvcameratravelは外してね!

関連記事

  1. XサーバーのXPageSpeedの設定

    WordPressサイトのトラブル|TCD GENSENのヘッダーバーメニューが開けない時の対処法

  2. WordPress Popular Postsのサムネイル

    ワードプレスで人気記事ランキングを表示するプラグイン WordPress Popular Posts

  3. WordPressプラグインWP Rocketの購入ページと3つの料金プラン

    WP Rocketのレビュー!高機能キャッシュ&最強のWordPress高速化プラグイン!

  4. 重いプラグインを減らしてWordPressサイトを高速化!読み込みを快適にして直帰率を下げるのがオススメ!

    重いプラグインを減らしてWordPressサイトを高速化!読み込みを快適にして直帰率を下げるのがオススメ!

  5. エックスサーバー 2024年のハードウェア増強

    Xサーバーがハードウェアを増強したので、新サーバー簡単移行でお引越し!

  6. 記事の最後に定型文を自動表示するWord Pressプラグイン!Add Widget After Content

    記事最後に定型文を自動表示するWordPressプラグイン!Add Widget After Content

  7. ワードプレスプラグイン Autoptimizeの導入サムネイル画像

    WordPress高速化プラグインAutoptimizeの設定方法!CSS JavaScript 画像を最適化!

  8. WP YouTube Lyteの設定方法サムネイル画像

    YouTubeのサムネイルをキャッシュするWordPress高速化プラグインWP YouTube Lyte

  9. TCD ワードプレステーマGENSEN 検索フォーム

    TCD GENSENでSEO対策!検索機能が高性能でオススメの有料WordPressテーマのレビュー

  10. 閉鎖したサブドメインのWordPressサイトから新サブドメインに301リダイレクトする方法 サムネイル画像

    閉鎖したサブドメインのWordPressサイトから新サブドメインに301リダイレクトする方法

  11. WordPressを高速化するプラグイン3選 サムネイル画像

    WordPressを高速化!95点から100点を取れる軽量爆速の無料プラグイン3選

  12. Xサーバーの高速化設定ページのサムネイル

    エックスサーバーの高速化設定!レンタルサーバーのパフォーマンス向上で快適に!

  1. この記事へのコメントはありません。

  1. この記事へのトラックバックはありません。

  1. 宮城県仙台市 榴岡公園の枝垂桜-夜桜ライトアップ

    榴岡公園 桜まつり 2025年3月27日から開催! ステージ…

  2. 仙台西公園で咲く満開の桜 とお花見を楽しむ人々

    桜名所 仙台西公園でお花見とステージイベントは2025…

  3. 山形県大蔵村 肘折温泉 いでゆ館

    山形肘折温泉の日帰り入浴施設 肘折いでゆ館が2025年…

  4. 茨城県石岡市の枝垂れ桜の名所 常陸風土記の丘

    枝垂桜が美しい常陸風土記の丘さくらまつりを2025年3…

  5. 青森県弘前市 弘前公園の桜

    世界に誇る桜名所! 弘前公園 さくらまつりは2025年4…

  6. 佐賀県武雄市 御船山楽園 花まつりの桜 夜桜ライトアップ

    九州武雄温泉の桜名所 御船山楽園 花まつりは2025年3…

  7. 宮城県 平筒沼の桜と桟橋

    お花見スポット 平筒沼ふれあい公園桜まつりは2025年…

  8. 夜桜も美しい桜名所 涌谷城址 城山公園 わくや桜まつり|宮城県涌谷町

    涌谷城址 城山公園 わくや桜まつりを2025年4月4日か…

  9. 船岡城址公園の夜桜ライトアップ

    船岡城址公園で花見と夜桜!しばた桜まつりを2025年4…

  10. 宮城県大河原町 白石川堤一目千本桜

    白石川堤一目千本桜 おおがわら桜まつりは2025年4月1…

楽天トラベルのバナー画像

よく読まれている人気記事ランキング




Amazonトップページバナー
楽天モバイルアフィリエイト