搜索引擎原理:倒排索引

1.概述

在关系数据库系统里,索引是检索数据最有效率的方式,。但对于搜索引起,他它并不能满足其特殊要求:

1)海量数据:搜索引擎面对的是海量数据,像Google,百度这样大型的商业搜索引擎索引都是亿级甚至几千的网页数量
,面对如此海量数据 ,使得数据库系统很难有效的管理。

2)数据操[……]

Read more

搜索引擎原理:网络爬虫

通用搜索引擎的处理对象是互联网网页,目前网页数量以百亿计,搜索引擎的网络爬虫能够高效地将海量的网页数据传下载到本地,在本地 形成互联网网页的镜像备份。它是搜索引擎系统中很关键也很基础的构件。

1. 网络爬虫本质就是浏览器http请求。

浏览器和网络爬虫是两种不同的网络客户端,都以相同的方式来获取[……]

Read more