刚在群里有人突然提起这个,也就顺便写写大家暂且看之,所以算法都需要考虑应用场景,而我自己设计的算法也仅满足我当时的业务应用而已,不可直接照抄,否则后果自负。
1、一般处理的方法
(1)最原始的使用文本相似度判别,相当准确,但是计算速度慢,提高的方法无非是先索引进行预处理,或者用SVD来降维减少矩阵运算时间
(2)文本摘要为文本特征,进行特征重复判别
(3)抽取文本关键词,构成比较小的文本向量做为特征进行判别
大家考虑过以上3中算法的共性没?那就是要分词,中文分词博大精深,效果越好速度越慢这是铁律,但具体还要看分词算法的设计。所以这部分时间的消耗以上3中方法是无可避免的必须进行的步骤。
而我所考虑的是从句子的角度,但如果单个句子的特征,特征未免单一,而不具有代表性,句子多了又可能,造成特征过于复杂和容错性能的下降,毕竟我们通过自动抽取的网页正文不能保证100%无任何噪音和抽取失误带来的原文缺失。在这个角度上我们进一步考虑是否能有更好的方法呢?传统中文断句,我们主要依赖于标点符号,那我的想法就是标点符号左右的汉字已经能有很强的代表性来作为句子的特征,而句子又能作为文本的特征,因此尝试了取逗号 句号 感叹 问号 左右2边各2个汉字或英文作为特征,来进行文本表示。
全文按照标点符号取出汉字后构成了1个比较长的串,但为了信息指纹的需要,我们必须考虑容错性的问题,这个串如果直接HASH,有可能因为噪音的加入产生巨大的偏差,因此我对这个长串做了截断的处理,同时考虑一般标题的信息含量很高,单独认为标题也成为1个字串,指纹特征就变成了1个标题的HASH码 3个截断后的子串HASH码 同时标题的权重为1.5 其他子串权重为1.0 阀值设定为3 这样如果有标题相同 并有2个字串相同的文章我们就认为是重复,或者标题不相同 3个字串完全相同的是重复。具体消重特征判别,是使用数据库的内存表还是BLOOMFILTER之类的算法就随便你了。
当然以上算法的前提是正文和标题抽取的准确如果噪音过多,这个算法可能降低到一个完全无法应用的程度,怎么提高该算法的在噪音比较高情况下的容错性,该是各位看官自己考虑的问题了(请我吃饭我就告诉你,如果你不喜欢用自己的大脑)
[Last Modified By King, at 2008-04-02 17:16:58]
分享到:
相关推荐
蚊子咬了,怎么消肿止痒最快
消肿散结类用药行业(2021-2026)企业市场突围战略分析与建议.docx
利水消肿药使用注意.ppt
【避免和减轻瘢痕增生的方法】切眉如何消肿.rar
2021年度消肿散结类用药行业人力资源效能分析报告(市场招聘用工).pdf
消肿散结类用药公司(行业)薪酬管理制度方案-薪酬设计方案资料文集系列.docx
2021年生产部门表格模板
为研究百里香提取物对大鼠炎症的抑制作用,分别用足跖注射角叉菜胶和蛋清的方法建立急性炎症...结果显示,百里香提取物能够有效抑制角叉菜胶或蛋清引起的急性炎症反应并显著降低足跖肿胀程度,其消肿效应显著优于红花油。
将USB文件夹的内容复制到Windows安装thumbdrive上,并在出现要求时覆盖。 安装后,右键单击“开始”菜单,单击“计算机配置”,然后单击“用户”选项卡,然后右键单击“管理员”并设置密码。
具有使手术创面恢复快,消肿止痛,防止了感染等作用。 它的治疗范围有:急慢性咽炎、扁桃体炎、急慢性喉炎、颞下颌关节炎、急慢性鼻炎、外耳道炎、中耳炎、鼻部软组织损伤等。超声波雾化器的作用: 一、它能在常温下...
绿茶是近几年来最为人所津津乐道的养生饮品,因为其中含强效的抗氧化剂儿茶酚以及维他命C,不但可以清除体内的自由基,还能使副肾皮质分泌出对抗紧张压力的荷尔蒙,对于情绪暴躁有很大改善。不过,最好在白天饮用,...
肌筋膜疼痛综合征是一种以慢性疼痛为特征的常见疾病, 其发病率高、发病人群广、严重影响劳动效率, 临床上常采用物理疗法进行治疗。弱激光疗法作为常用物理治疗方法之一, 具有消炎、镇痛、消肿等作用, 近年来已成为肌...
鲫鱼补血汤快来尝一尝 导读鲤鱼补血汤滋阴补血可以预防孕期妊娠性贫血适合孕期的准妈妈食用 健康提醒鲤鱼补血汤滋阴补血益肝肾明目安神健脾补气利尿消肿适合孕期食用 原料黑豆4两生姜2片红枣10粒鲤鱼1条陈皮
它最初是一个个人项目,目的是改善电池寿命,然后使其他一些MI手机消肿。 结果非常出色。 电池寿命更长 无广告 改善工作流程 更好的控制 MiUi警告:关闭查找设备 项目要做 更新miui.sh以支持MiUi 12 分隔Google...
针刺能促进周围神经损伤的修复已被证明是确切的,许多研究发现,针刺在促进神经因子的分泌以及增强血供方面具有独特的优势,并能消肿消炎、引导神经定向再生,延缓肌肉的退行性病变。利用针刺的这些优势将其与组织...
山西历山国家级自然保护区位于山西省东南部,中条山东段,共有野生药用...9. 消炎、利尿、消肿类57种;lO. 治疗风湿类36种;11. 解热镇痛类44种。最后,根据历山保护区野生药用植物资源的现状,提出了可持续利用的对
| 电池优化 + GMS Doze | 通知与 GMS DOZE 配合良好 | Debloated 权限 (WIP) | 消肿无用的东西| Google 地图和拨号器支持 | 预定义系统组件 | OK Google 支持(仅限标准版) >>>>> 包 <<<<< MINI-ME...