Роботс для каждого сайта составляется свой. Лучше проверить мусорные ссылки, которые попали в индекс различными чекерами типа netpeak или screaming frog или в вебмастерах поисковиков смотреть. А то может получится что на 1 контент будет ссылаться 3 разных ссылки.