為了你的網站可以被別人搜尋到，搜尋引擎爬蟲，有時也稱為搜尋機器人(bots)或是搜尋蜘蛛(spiders)，會爬取你的網站，搜尋有變動的內容並且重新更新搜尋引擎的搜尋檢索。