[COLOR=#293E3E]Robots.txt nedir ve içeriği ne olmalıdır nasıl bir yol izlenmelidir hakkında bilgi içermektedir.

[COLOR=#293E3E] Bu yazımda Robots.txt yapımı hakkında siz ziyaretçilerimizi bilgilendireceğim. Robots.txt sitenin ana dizininde bulunan ismi değişmeyen, Google Botları için kılavuz bir dosyadır. Yani Google Botları sitenizi ziyaret ettiğinde, dosyanız varsa ilk Robots.txt dosyasına girecektir, yoksa işiniz zor, Robots.txt dosya içersinde bazı kodlar görecektir ve bu kodlar doğrultusunda nereleri indexleyeceğini, nerelere girmeyeceğini anlayacaktır. Sonuç olarak Robots.txt Google botları için olmazsa olmazlardandır. Şimdi biz de Robots.txt yapımını beraberce öğrenelim.
[COLOR=#293E3E] Yeni bir metin belgesi açalım ismini Robots.txt yapalım. Robots.txt dosyamız içersinde iki farklı değişkenimiz olacak. Bunlar ve anlamları şöyledir:


[COLOR=#293E3E] User-agent: Google Botu’nun adı gelecek
Disallow: Botun izinlerini gireceğimiz komutlar yer alacak
[COLOR=#293E3E] Örnek 1:
User-agent: *
Disallow
[COLOR=#293E3E] Kodlarımızı yorumlayalım. 1. satırdaki kodumuz da bakınız Google Botları’nın isimleri gelecekti fakat ’*’ işaretini gördünüz. Bunun anlamı, siteniz tüm Google Botları’nca istisnasız indexlenmesine izin vermişsiniz demektir.


[COLOR=#293E3E] Örnek 2:
User-agent: *
Disallow: /
[COLOR=#293E3E] Gördüğünüz gibi birinci satırdaki user-agent kodumuzun anlamı tüm Google Botları’na sitenizi indexlemesi için izin verilmesiydi. Fakat ikinci satırda ’/’ böyle bir karakter görüyorsunuz. Bu karakterin anlamı site üzerinde tüm dosyaların taranmaması isteniyor.
[COLOR=#293E3E] Yani bu Robots.txt kod bütününden de anlayacağımız şey, bütün Google Botları’nca sitemizin hiçbir dosyası indexlenmeyecek, taranmayacak.
[COLOR=#293E3E] Örnek 2:
User-agent: *
Disallow: /cgi-bin/
Disallow: /images/
Disallow: /tmp/
Disallow: /private/
[COLOR=#293E3E] Bütün google botları, bu 4 dosyayı indexlemeyecektir.
[COLOR=#293E3E] Örnek 3:
User-agent: DeepCrawl
Disallow: /private/
[COLOR=#293E3E] DeepCrawl, bir google botudur. Görevi ise; sitenizi uzun aralıklarla ziyaret edip, indexlenmesi için gerekli bilgileri toplar. Bu kodların anlamı ise, ismi verilen botun ilgili private klasörünü indexlememeli.
[COLOR=#293E3E] Örnek 4:
User-agent: *
Disallow: /directory/dosya.html
[COLOR=#293E3E] Tüm botlar, ilgili dosyayı indexlemeyecektir. Ama directory dizinindeki dosya.html hariç diğer tüm dosyaları tarar ve indexler.
[COLOR=#293E3E] Örnek 5:
User-agent: *
Allow: /dosya1/site.html
Disallow: /dosya1/
[COLOR=#293E3E] Bu kodların anlamı ise, tüm Google Botları dosya dizininde bulunan site.html dosyası hariç diğer tüm dosyaları taramaz ve indexlemeyecektir.
[COLOR=#293E3E]
[COLOR=#293E3E] User-agent: Googlebot
[COLOR=#293E3E] Disallow: /wp-*******/
Disallow: /trackback/
Disallow: /wp-admin/
Disallow: /archives/
Disallow: /index.php
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.css$
Disallow: */feed/
Disallow: */trackback/
[COLOR=#293E3E] User-agent: Googlebot-Image
Disallow: /wp-includes/
[COLOR=#293E3E] User-agent: ia_archiver
Disallow: /
[COLOR=#293E3E] User-agent: duggmirror
Disallow: /

Kaynak : Robots.txt yapımı » SEO Hocası

seohocasi.com/robots-txt-yapimi/