You are here : Beranda » internet » Mengatasi Crawl error pada google webmaster

Mengatasi Crawl error pada google webmaster

Udah lama nggak melongo di google webmaster tool yang merupakan satu-satunya andalan SEO bagi saya, tujuan saya melihat-lihat googlewebmaster hanya untuk mengecek kalau-kalau ada yang ganjil atau yang mungkin error, kalupun ada yang error atau ganjil dari biasa juga nggak bisa memperbaikinya, karen daftar saja saya udah syukur banget.


Singkat cerita, emang saya cerita apa? hee…he..Oh ya..setelah login saya mulai mengklik satu persatu tool yang ada, mmm….kayaknya biasa-biasa saja tidak ada yang berubah alias masih seperti dulu, cuma kalau dulu ada sitelink sekarang sudah tidak ada lagi, mungkin kemren google ngasih saya sitelink salah kali buktinya baru beberapa minggu eh..dicabut lagi.

Nah… sampai pada tool diagnosa, ( penyakit kali pakai diagnosa segala) kan ada tool crawl error, disini ternyata banyak perubahan, nah saya mulai bingung kenapa dan ada apa serta bagaimana mengatasinya, apa ini berpengaruh pada index google???? masih dalam keadaan setengah panik saya masih bisa mengetikkan keyword di google untuk mencari apa penyebab dan bagai mana solusinya, nah ternyata sedikit sekali yang membahas ini dan hampir tidak ada, apakah ini luput dari perhatian para master, atau memang juga ini bukan hal yang menarik untuk dibahas??

Dari sedikit yang disodorkan oleh mbah google hanya ada satu blog yang mengulasnya, kesimpulannya begini karena yang banyak error pada webmastertool saya adalah URLs restricted by robots.txt adalah url yang di blokir oleh robot.txt kenapa diblokir padahal saya tidak pernah meminta untuk diblokir, kata google webmaster central seperti ini :

Google was unable to crawl the URL due to a robots.txt restriction. This can happen for a number of reasons. For instance, your robots.txt file might prohibit the Googlebot entirely; it might prohibit access to the directory in which this URL is located; or it might prohibit access to the URL specifically. Often, this is not an error. You may have specifically set up a robots.txt file to prevent us from crawling this URL. If that is the case, there’s no need to fix this; we will continue to respect robots.txt for this file.

If a URL redirects to a URL that is blocked by a robots.txt file, the first URL will be reported as being blocked by robots.txt (even if the URL is listed as Allowed in the robots.txt analysis tool).

Mmmm, saya makin tambah bingung melihat jawaban dari google ini, padahal sumpah deh saya tidak pernah meminta untuk memblokirnya.
Kembali pada blog yang saya baca tadi, disana ditulis, jika ternyata banyak url yang nggak anda kehendaki untuk di blokir ternyata terblokir oleh robots.txt itu artinya anda harus mengoptimasi meta tag pada template blog anda. Biasanya dengan menyertakan tag:

Hasilnya saya makin bingung, sobat tau cara memperbaiki error tersebut, dan buat para pakar SEO adakah ini berpengaruh pada index google???



Artkel Terkait:

This entry was posted in internet, SEO, Uncategorized and tagged , . Bookmark the permalink.

50 Responses to Mengatasi Crawl error pada google webmaster

  1. ChugyGOGOG says:

    Saya jarang utak atik Um kaya gitu…paling kalau mau update sitemap saja br bk webmaster tool.heheheeeehehe…!!! mungkin teman2 yang master seo bisa memberikan solusinya….!!!

    saya ikut nyimak saja….!!!

  2. Sudinotakim says:

    Wah..minta maaf bang saya tidak ada solusi tentang hal di atas..maklum bang saya seo belum paham benar..

  3. Tomo says:

    oh untuk error tersebut biarkan saja kawand.
    blogku saja juga restrict.
    Hal itu sudah disebabkan mungkin ya mungkin disebabkan karena antara judul posting ada yang sama dengan keyword atau ada yang sama dengan label.

    Restrict ini biasanya menjurus ke label.
    Kalau posting tiada labelnya restrict ini tidak muncul sudah aku coba untuk blogku yang lain.

    Yang penting sitemap tidak error itu yang terpenting

  4. uswah islam says:

    asalkan sitemap tidak error atau muncul tanda silang it's ok menurutku

  5. selamat beraktifitas kawand ya
    thanks share url errornya

  6. srex says:

    Penjelasan Bung Tomo, kayaknya logis dan bisa diterima….cuma masalah 'keyword' si Robot yg di terjemahkan secara bebas oleh mbah Google.

  7. belum pernah kemeu dengan error seperti itu sob,,,,, mudah2an gak pernah dech…. bisa pusing saya dibuatnya….

  8. rizal says:

    @cugy: saya berharap juga ada yang memberi solusi
    @bangdinoe: nggak pa-pa bang…saya juga bingung nih..
    @cak tomo: nah ini dia, errornya memang crawl pada lebel thank cak atas penjelasannya
    @uswah: sitmap ada error satu saja..
    @hikmah : sama-sama
    @ndan srex: bener bangt kdang kita hanya bisa meenebak saja
    @ashtho : saya juga baru pertama kali nih

  9. saya malah tambah bingung lagi :D
    saya cuma daftar saja, setelah itu jarang saya lihat perkembangannya, masalahnya saya juga kurang paham istilah2 yg ada di menu google wabmaster :)

  10. Ferdinand says:

    klo buatku ndak terlalu bermasalah sama Indexnya sih hhe… klo ditambah meta content itu kan termasuk optimalisasinya yg boleh dipake boleh nggak tapi klo pun dipake ya sekalian tambah Content judul dan temen2nya aja sekalian hhe,…. jadi klo aku sih tetep nganggapnya gak bermasalah….. lha wong templateku aja errrornya 154 aku tetep gak apa2in hhe.. biarpun kata org klo strict lebih bagus buat SEO hhe.. katanya lho hhe…

    Maaf baru bisa mampir Sob.. semangat n happy blogging…

  11. Darin says:

    Ini topik yang sangat bagus, namun sayangnya saya belum berkompeten tuk ikut berkomentar karena masih dalam tahap belajar.

    Mungkin sobat lain bisa mengutarakan pendapatnya? :)

  12. same with mr. darin, i dunno about SEO

  13. anas says:

    wah saya kurang paham mas

  14. sy sdh lbh 2 bln ngak login ke webmaster google, dulu sering periksa dan perbaiki jika ada error.
    coba di cek saja judul postingan di google search apakah ada ke index google sob.

  15. Aku dah lama ga ke web masternih. Jangan-jangan banyak yang eror.
    Tanggapan:
    Kalu untuk meta itu sebaiknya jangan di pasang, setahuku crawl eror itu karena banyaknya posting yang tak di terima urlnya tapi nanti itu akan berjalan lagi. Seperti itu mungkin ya? kurang begitu paham apa yang di pikirkan crawl tentang eror.

  16. Ferdinand says:

    SiankSob… sambil makan siank aku mampir menyapa hhe……. wah masih memperbaiki crawl error nie sahabatku hhe.. semangat n met aktivitas ya Sob……

  17. mimi taria says:

    Met siang bang.,
    semangat terus key…
    Moga cepet sukses…

  18. Reza Saputra says:

    webmaster saya belum saya ferifikasi mas, males masuk c-panel :D

  19. em..ferdinand ama tomo keren tuh sarannya

  20. joe says:

    wah, aku gak mudeng ya…?

  21. Rizky2009 says:

    aq juga bukan pakarnya SEO sob di web master juga banyak yg error blog q, tp tak apalah, aq biarin saja

  22. Ferdinand says:

    Siank Sob.. seperti biasa aku datang rutin untuk menyapa… tetep semangat N happy blogging Sob…. D'tgu tulisan selanjutnya hhe.. :)

  23. Wahhhh…. kalau yang beginian aku gak paham sob… :-)

  24. cahyo says:

    Sumpah mas saya benar-benar OON klo masalah kaya ginian..

  25. ngekngok says:

    itu di diamkan gpp ya bung? semua labelku crawl eror

  26. xxx says:

    iyo bro…sama masalahnya, punyaku juga error.heeee……..kalo dah pada tau solusinya ane dikasih tau ya.thank

  27. inilooh says:

    semua pasti ada jalannya dan kita semua pasti bisa.

  28. aq gak tau maslah gituan mas…. maklum newbie

  29. arif says:

    g’ ngerti gan!! apa yang di bahas, ane cuma mau nyari adag’ tips buat memperbanyak indeks blog ane ehsablog.com di search engine!! soalnya newbie

  30. yoga says:

    coba liat di Blognya Om Jevuska “Redirect error 404″ atau pake plugins “permalink finder” bro…bisa membantu tu

  31. Qinz says:

    Mungkin ada duplikat konten di blognya mas.. Karena pernah mengganti title atau discripsi blog.. Bisa juga sering gonta ganti plugin seo.. Coba pake aja plugin cononical url untuk ngatasin

  32. Iyal.. banyak banget nih diblokir ama si robot nakal.. padahal tuannya ga minta…

    waduh2.. gimana nih,, mana blog ku masih seumur jagung lagi.. :(

  33. wah ada yang punya solusi gakya… buat ngilangin errornya itu?? dan kayaknya tiap aku postiing errornya kok juga nambah. pengaruh gak sih dengan index di googlenya.

  34. Trus gmna dung cara ngatasi Crawl yang error( URLs restricted by robots.txt)????
    Thank U

  35. bagyojose says:

    saya juga ngalamin hal ky gt bos… gmn y solusiny???

  36. cixass says:

    gimana solusinya ya….

  37. news update says:

    apa ya penyebabnya

  38. Rina As says:

    Saya pernah membahasnya di blog saya nie, jadi sedikit tahu soal ini..
    Pemblokiran tersebut ada manfaatnya bagi blog kita, salah satunya supaya spider bot bisa lebih konsentrasi mengcrawl bagian blog yang penting seperti halaman konten blog.

  39. Bawor says:

    mkasih atas informasi yg berharga’y gan…

  40. uLin DeLonge says:

    Nice information guys, thx so much about information. ^_^

  41. muhaiminabd says:

    masalah kita sama…. susah juga nih menjadi master SEO… ada aja kendalanya…

  42. Ude says:

    Ane juga mengalami hal yang sama. Url diblokir oleh robot.txt dan sekarang lagi cari soslusi nich. Thanks sob infonya..

  43. Om Andri says:

    Sy juga dpt email bhw salah satu website saya error di robot.txt nya…

    Kenapa ya??? Belum nemu jawaban nich…

Leave a Reply

Your email address will not be published. Required fields are marked *

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>