Ubuntu优化之修改打开文件数上限ulimit值的方法
Ubuntu中Mysql 5.7的open_files_limit默认值过小导致的server has gone away问题解决
ubuntu/linux磁盘空间不断被减少却找不到占用的文件的解决方法
“帆布指纹识别”
windows下nginx+php,使用CURL请求本地URL会卡死的解决方法
在Windows上安装 v8js for PHP 让PHP能运行js代码
【转】爬取搜索引擎之寻你千百度
【转】爬取搜索引擎之搜狗
【转】搜狗微信公众号文章反爬虫完美攻克
【转】记搜狗微信号搜索反爬虫
微信公众号爬虫方法之一
需求某某微信公众号历史的所有文章的阅读数和点赞数难点微信公众号历史的所有文章(来源???)每篇文章的阅读量和点赞量(电脑上浏览文章只显示内容,没有阅读量、点赞量、评论……)突破难点一搜狗微信搜索,可以搜索微信公众号文章。但是貌似只能显示该公众号最近十篇的文章。放弃……利用抓包工具(Fiddler),抓取文章。成本有点大…&a
阅读全部TF-IDF框架与其可以衍生到的SEO知识
这是一篇关于搜索引擎排序基础TF-IDF框架的普及文章,并非网上偶尔可见的一些泛泛而谈甚至断章取义的内容,而是结合搜索引擎的理论,和自己观察到的较多实例所总结的切实的知识。虽然可能相对比较难以理解,但相信我,这些用来理解的时间绝对是值得的。写这篇文章主要是为了对后面一篇《SEO实践》系列的文章中要提到的一些内容先写好基础理论,就不放到正篇里面去占用篇幅了。本文先引用一段张俊林的《这就是搜索引擎》中对于TF-IDF框架的概述。由于原文较长,这里概述下我所认为的重点,或许会有概述不足之处
阅读全部夜息:TF-IDF与关键词排名问题
今天看到zero发的关于TF-IDF的关键词排名问题 http://semwatch.org/2012/03/tf-idf/想到自己在N久前写过一篇未发表的草稿,里面提了提做SEO需要 “理解tf-idf的原理”。只是当时没写完,也没发出来。其实TF-IDF可以解决很多SEO的基础问题。例如,拿京东商城为例,关于京东商城我观察了很久。从去年开始京东的SEO开始发力,制作了/series/频道。之后改版过几次。(不幸打不开京东网页,没法截图做例子,这个series频道猜测应该是学的zo
阅读全部夜息:给力SEO理论:链轮策略和金字塔链接模型
在这边从没见过有人讨论逆推搜索引擎的算法。事实上这样做是很重要的。在SEO领域中,我们需要这样的先锋愿意去解决那些非常困难的搜索引擎原理问题。我希望我们能从一个崭新的高度来讨论SEO,我会帮助大家来解决这个问题。
...
阅读全部夜息:小议SEO数据分析III – 维护词库
前言具体上一篇SEO数据分析文章已经隔了很久了,今天有个朋友网上问我,有了词库怎么维护。正好借这个机会谈谈这个问题。 在获取到大量关键词后,首先要对这些词进行处理,在我实际工作中,总结以下几个项目我做过或者觉得有必要做的事情。提取实体(通俗点讲就是找关键词中的重点词)1、去重2、受控词表3、分类4、提取实体提取实体的概念就是找关键词中的重点词。比如 “北京温泉哪里好”,那这个词中的”北京 “和”温泉”这两个词是重点,”哪里好”只是一个疑问词,对主题描述帮助相对比较小。于是我们就需要通过一些技术手
阅读全部【**搜索研发部】搜索引擎同义词反馈机制
1. 介绍由于搜索算法本身的局限性,对于用户的语义、意图等理解不够,而基于用户行为的点击调权,作为对传统搜索算法的补充,在搜索中扮演着重要的作用。尽管用户行为已经被证明在搜索中的效果,但是一直只是停留在query-url层面,或者ngram-url层面[1],没有深入反馈到检索算法中的基础策略,比如:同义词、紧密度、省略等,这些策略影响了url与query之间的关系。本文以对同义词的反馈为例,提出一个通用的基于用户行为的基础策略反馈框架。由于同义词词典与线上应用算法的限制,检索系统中
阅读全部【**搜索研发部】检索结果聚类结果说明
检索结果聚类,可以有效地反映出特定Query下,检索结果内容的分布,可以清晰地描述出结果中的各个类别,对Query结果的展示方式亦不再是传统1页若干条结果的流式输送,而是采用展现核心词或代表词的方式,简明扼要地从不同维度提示核心信息,免去用户重新构造Query再搜索或在大量检索结果中寻找、定位所需内容的过程。 关键词:搜索引擎,搜索结果,聚类 我们首先
阅读全部【**搜索研发部】基于主特征空间相似度计算的切分算法
说到切分(segmentation),大多数人最容易想到的就是中文分词。作为没有天然空格区分的语言,切词可以帮助计算机去索引文章,从而便于信息检索等方面。该部分主要用到了分词的一个方面:降低搜索引擎的性能消耗。我们常用的汉字有5000多个,常用词组是几十万个。在倒排索引中,如果用每个字做索引的话,那么会造成每个字对应的拉链非常长。所以我们一般会用词组来代替单个汉字建立索引。除此,切词
阅读全部【**搜索研发部】语义主题计算–来自搜索背后的奥义
两篇文档是否相关往往不只决定于字面上的词语重复,还取决于文字背后的语义关联。对语义关联的挖掘,可以让我们的搜索更加智能化。本文着重介绍了一个语义挖掘的利器:主题模型。主题模型是对文字隐含主题进行建模的方法。它克服了传统信息检索中文档相似度计算方法的缺点,并且能够在海量互联网数据中自动寻找出文字间的语义主题。近些年来各大互联网公司都开始了这方面的探索和尝试。就让我们看一下究竟吧。
阅读全部