كيف تعمل محركات البحث ؟وكيف تفهرس المواقع ؟وماهي أدواتها ؟
عندما تذهب إلى صفحات جوجل أو ياهو او أى محرك بحث وتطلب استفسارا , يقوم محرك البحث بالبحث فى قواعد البيانات المخزنة لديه , والتي تحتوي على ملايين الجداول من المعلومات التي تشمل النصوص والصور والأفلام .
ولكن من يقوم بوضع هذه الجداول وينظمها و يجعلها سهلة العرض وسريعة الاستجابة ,تقوم العناكب بتجميع البيانات خلال المرور على المواقع وجلبها حيث تقوم المفهرسات(Indexers) بفهرستها وتوضيبها واستخلاص الكلمات الدليلية وجمعها تمهيدا للبحث.
إSearch Engine Spiders
وتسمي أيضا
crawlers, bots, spiders,
ومن مشاهير عناكب البحث
Googlebot
MSNBot
Yahoo Slurp
Alexa (IA Archiver)
MSNBot-media
Ask
araby
أنها حواسيب تمر يوميا على الملايين من المواقع , تجلب العديد من الصفحات داخل الموقع لكل رابط عدا الصفحات التى يطلب صاحب الموقع عدم فهرستها .يعتمد تصنيف الموقع على الكلمات الدليلية وعدد مرات الطلب عليه وعوامل أخرى تميز كل محرك بحث بذاته .