基于知乎社区的数据集分析姜智文组.pptx

基于知乎社区的数据集分析,组长：姜智文组员：陈池罗旭东张钧驰黄莹魏伟,什么是知乎,知乎是一个真实的网络问答社区，社区氛围友好与理性，连接各行各业的精英。他们分享着彼此的专业知识、验经和见解，为中文互联网源源不断地提供高质量的信息。用户围绕着某一感兴趣的话题进行相关的讨论，同时你可以关注和你兴趣一致的人。对于概念性的解释，网络百科几乎涵盖了你所有的疑问；但是对于发散思维的整合，却是知乎的一大特色。知乎鼓励在问答过程中进行讨论，以拓宽问题的发散性。在回答的时候，答案顺序按赞同票数排序，赞同票数相同的情况下按个人PR值排序，同时隐藏被认为无效的答案。这在一定程度上过滤了相当的垃圾信息。,项目目标：分析知乎知识领域中最有影响力的用户,数据采集,数据处理,数据分析,结果验证,使用Java爬取了和IT领域相关联的383个问题，共65536条有效回答,使用C+进行数据录入、处理和相关影响力节点分析,选取上述发现的影响力节点，登陆知乎进行验证，证明了方法的有效性,实现方法,数据采集,网络爬虫,工具：HtmlUnit语言：Java模拟用户登陆使用URL直接定位到topiceg：互联网话题->有哪些知乎用户推荐的物品，你买了以后觉得并不好用？->,数据格式,原始数据,数据格式：问题ID、问题名称、回答ID、问题评分、作者ID、作者姓名、写作时间、赞同数量、评论数目、内容文本长度,处理后数据,数据分析,主要研究参数：赞同数目（A）评论数量（B）内容文本长度（C）（A+B）、（A+B+C）、（A+B）/C采取策略：rank,分析结果及验证,A+B,分析结果及验证,分析结果及验证,A+B+C,分析结果及验证,“水军”居多,分析结果及验证,(A+B)/C,分析结果及验证,结论与展望,作业总结：1.实现了在动态网页上的数据爬取2.实现了指定话题中的有影响力检测3.实现了网络水军的探测问题展望：1.针对一个更加细分的领域做更加充分的数据采集2.改善rank策略，更加有效的利用采集到的参数,谢谢！,