Kosten, У меня например вот такой robots
Код
User-agent: *
Allow: /*?page
Allow: /*?ref=
Allow: /stat/dspixel
Disallow: /*?
Disallow: /stat/
Disallow: /index/1
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /index/0-9
Disallow: /index/sub/
Disallow: /panel/
Disallow: /admin/
Disallow: /informer/
Disallow: /secure/
Disallow: /poll/
Disallow: /abnl/
Disallow: /*_escaped_fragment_=
Disallow: /*-*-*-*-987$
Disallow: /*0-*-0-17$
Disallow: /*-0-0-
Disallow: /*.gif$
Disallow: /*.jpg$
Disallow: /*.png$
Sitemap: http://gde31.ru/sitemap.xml
Sitemap: http://gde31.ru/sitemap-forum.xml
Host: gde31.ru
В нем я установил запрет на индексацию картинок вот этим Код
Disallow: /*.gif$
Disallow: /*.jpg$
Disallow: /*.png$
так как толку от них все-равно мало, только бот гуляет дольше и все