正文 第768章 爬虫

“不要急,我早就说过了,短期之内不看份额,只看产品。”

“产品……”

王小船暗暗叹气。

单看产品,微点搜索也不如百度啊!唯一的优势,就是微点的配套设施更多,有浏览器,有导航网,有输入法,有音乐平台等等。

周不器笑了笑,“这点信心都没有?还是说你承认技术不行?”

王小船从小就是计算机天才,在技术方面从未服过谁,摇头道:“搜索引擎的架构高度复杂,有抓取器、渲染器、DNS解析、Redis内存数据库、URL队列、种子队列、响应队列、URL提取、URL过滤、重复URL检测等等,是一个技术性很强的庞大工程。我自认为微点的架构不比百度差,可一些技术细节,还需要时间。”

周不器笑着说:“我知道搜索技术很高端,可随着时间的推移,搜索技术就会走下神坛,变为比较大众的技术。最根本的技术,还是大数据处理。”

在大方向的理论上,周大老板比一些专业人士还强。

王小船深以为然,“是啊,大数据的处理。百度和谷歌的差距,微点和百度的差距,最主要的就是体现在我们在数据处理时的效率问题。按理来说,通过爬虫技术,可以抓取到互联网上所有信息。可相关信息太多了,数据量太大了。怎么才能在短时间内把想要的信息抓取并展示出来,是搜索引擎最大的技术难题。”

周不器打了个响指,笑道:“巧了,我这次过来,就是想问问你爬虫的事。”

王小船有些费解。

周大老板这个技术外行,怎么还关心起技术细节来了?

就缓缓的解释道:“爬虫是搜索的基础工具,爬虫搜信息……嗯,就跟使用浏览器上网差不多,都是先向服务器发送请求,获得返回的页面,然后筛选出有价值的内容。如果时间足够长计算量足够大,使用爬虫工具,就可以把互联网上的所有信息都搜索一遍。”

见周大老板似乎很感兴趣的样子。

王小船就拿过纸笔,很快速的写下了一行代码,“假如说我们要爬取微知网的信息,用这行代码就可以实现了。”

周不器拿过代码一看,嗯,是很简单。

headers={‘Use-Agent’:‘ChaiknowsThebot’,}

r=requests.gets

难怪说3月份的时候,北科有两个计算机系的大学生被开除了。

这技术好像是不太难。

因为大四写论文,可用谷歌、百度、微点等搜索引擎,却搜不到别人写的相关论文。怎么办?就有计算机系的学生,自己写了段爬虫算法。

为优化阅读体验,本站内容均采用分页显示,请点击下一页继续阅读! 第2页 / 共3页

相关阅读: 慕爷的小祖宗可甜可飒我有六个外挂全球神祇眷族都是史莱姆独宠太子妃月千澜君墨渊渣女又惹了黑化男神嫡长女她又美又飒我的帝国战争游戏夏夕绾陆寒霆.我在美影世界当神探我的掌中小世界柯南之又一个名侦探神算萌妻超凶萌入赘豪门韩三千苏迎夏修真门派掌门人万界旅者的自我修养我在精灵世界当饲育屋老板我被骗成了光三国:我真是猛将啊炼气五千年通往星辰之路