基于大数据的hadoop微博舆情监测分析系统

课题项目源码功能介绍

基于Python大数据技术进行网络爬虫的设计,框架使用Scrapy.
系统设计支持以下技术栈
前端开发框架:vue.js
数据库 mysql 版本不限
后端语言框架支持：
1 java(SSM/springboot)-idea/eclipse
2.python(flask/django)–pycharm/vscode
3.Nodejs+Vue.js -vscode
4.php(thinkphp/laravel)-hbuilderx/vscode
数据库工具：Navicat/SQLyog等都可以
具体实现截图

开发流程

1）情况搭建
搭建符合课题开发的情况。如果接纳支持高可用的系统（例如hdfs，Hbase，Flink，Spark 等）,集群至少3台服务器;
2）数据采集。可选项，根据课题必要完成数据采集的设计与开发。
3）数据预处置惩罚。
对于有缺失值的记录，按照自己界说的规则或增补或舍弃处置惩罚，对于类型数据按照规则映射为数值；对于不平衡数据必要有相应的处置惩罚步伐。
4）数据存储。
必须使用数据库保存数据。 推荐使用NoSQL数据库，如 MongoDB、 Redis 等数据库，也可以使用关系数据库保存数据，如 MySQL；开发过程必要包括数据库需求分析、数据库设计、数据库建立、数据输入等部分。
5） 数据分析与预测
使用合理的数据计算框架实现数据分析，例如:Tensorflow/Pytorch、Hadoop、hive、Spark等；根据课题选择、比较各算法性能；构造出基于最佳算法的框架，编程实现并测试选取不同参数时对算法性能的影响；
6） 数据可视化
对模型建立、数据分析效果用不同可视化方式进行可视化分析。此部分可以增加对用户/会员管理功能。推荐接纳B/S布局实现。
2.具体要求：
1）独立开发设计系统的模块步伐，遵循软件工程开发周期进行，包括需求分析、总体方案订定、具体设计和功能规划、编程实现、调试等；
2）所开的系统能正常运行在所选的平台上，并实现相干模块的功能；
3）提供系统模块框架分析图、模块功能说明图、系统平台设计图、各分模块实现框图，在设计文档中体现；
Scrapy爬虫框架

网络爬虫是依靠预先设定好的规则而进行自动的抓取网络信息的过程 。网络爬虫通过剖析网页，自动获取网页的数据。相较于人工去获取网页数据，无疑是要方便许多。本文使用 Python 的 Requests 库和 Beautifulsoup 库去剖析链家网页，获取数据。同样是网络爬虫的一种。当然，网络爬虫也是有缺点的，它在对网页进行爬取时，可能会触发网页的反爬机制，从而导致失败。以是在编写爬虫步伐的时间就要想办法绕过反爬机制，增加了工作量。而且网络爬虫必须要服从相干法律法 规，不能够恶意的去爬取一些网站的信息。
Scrapy是一个Python编写的强盛，机动的网络爬虫框架和数据提取工具。它使用异步I/O网络库Twisted进行高效的爬取，并将提取到的数据存储到多种格式中。然而，在必要大规模爬取复杂的网站时，单机爬虫速度会受到限制。为了解决这个问题，Scrapy提供了分布式爬虫系统
爬虫核心代码展示

1. import scrapy
2. import pymysql
3. import pymssql
4. from ..items import xiangmuItem
5. import time
6. import re
7. import random
8. import platform
9. import json
10. import os
11. from urllib.parse import urlparse
12. import requests
13. import emoji
14. class xiangmuSpider(scrapy.Spider):
15.     name = 'xiangmuSpider'
16.     spiderUrl = 'https://url网址'
17.     start_urls = spiderUrl.split(";")
18.     protocol = ''
19.     hostname = ''
21.     def __init__(self, *args, **kwargs):
22.         super().__init__(*args, **kwargs)
25.     # 列表解析
26.     def parse(self, response):
27.         
28.         _url = urlparse(self.spiderUrl)
29.         self.protocol = _url.scheme
30.         self.hostname = _url.netloc
31.         plat = platform.system().lower()
32.         if plat == 'windows_bak':
33.             pass
34.         elif plat == 'linux' or plat == 'windows':
35.             connect = self.db_connect()
36.             cursor = connect.cursor()
37.             if self.table_exists(cursor, 'xiangmu') == 1:
38.                 cursor.close()
39.                 connect.close()
40.                 self.temp_data()
41.                 return
43.         list = response.css('ul.subject-list li.subject-item')
44.         
45.         for item in list:
47.             fields = xiangmuItem()
51.             fields["laiyuan"] = self.remove_html(item.css('div.pic a.nbg::attr(href)').extract_first())
52.             if fields["laiyuan"].startswith('//'):
53.                 fields["laiyuan"] = self.protocol + ':' + fields["laiyuan"]
54.             elif fields["laiyuan"].startswith('/'):
55.                 fields["laiyuan"] = self.protocol + '://' + self.hostname + fields["laiyuan"]
56.             fields["fengmian"] = self.remove_html(item.css('div.pic a.nbg img::attr(src)').extract_first())
57.             fields["xiaoshuoming"] = self.remove_html(item.css('div.info h2 a::attr(title)').extract_first())
59.             detailUrlRule = item.css('div.pic a.nbg::attr(href)').extract_first()
60.             if self.protocol in detailUrlRule:
61.                 pass
62.             elif detailUrlRule.startswith('//'):
63.                 detailUrlRule = self.protocol + ':' + detailUrlRule
64.             else:
65.                 detailUrlRule = self.protocol + '://' + self.hostname + detailUrlRule
66.                 fields["laiyuan"] = detailUrlRule
68.             yield scrapy.Request(url=detailUrlRule, meta={'fields': fields},  callback=self.detail_parse)
71.     # 详情解析
72.     def detail_parse(self, response):
73.         fields = response.meta['fields']
75.         try:
76.             if '(.*?)' in '''div#info span a::text''':
77.                 fields["zuozhe"] = re.findall(r'''div#info span a::text''', response.text, re.S)[0].strip()
78.             else:
79.                 if 'zuozhe' != 'xiangqing' and 'zuozhe' != 'detail' and 'zuozhe' != 'pinglun' and 'zuozhe' != 'zuofa':
80.                     fields["zuozhe"] = self.remove_html(response.css('''div#info span a::text''').extract_first())
81.                 else:
82.                     fields["zuozhe"] = emoji.demojize(response.css('''div#info span a::text''').extract_first())
83.         except:
84.             pass
85. # 去除多余html标签
86.     def remove_html(self, html):
87.         if html == None:
88.             return ''
89.         pattern = re.compile(r'<[^>]+>', re.S)
90.         return pattern.sub('', html).strip()
92.     # 数据库连接
93.     def db_connect(self):
94.         type = self.settings.get('TYPE', 'mysql')
95.         host = self.settings.get('HOST', 'localhost')
96.         port = int(self.settings.get('PORT', 3306))
97.         user = self.settings.get('USER', 'root')
98.         password = self.settings.get('PASSWORD', '123456')
100.         try:
101.             database = self.databaseName
102.         except:
103.             database = self.settings.get('DATABASE', '')
105.         if type == 'mysql':
106.             connect = pymysql.connect(host=host, port=port, db=database, user=user, passwd=password, charset='utf8')
107.         else:
108.             connect = pymssql.connect(host=host, user=user, password=password, database=database)
110.         return connect
112.     # 断表是否存在
113.     def table_exists(self, cursor, table_name):
114.         cursor.execute("show tables;")
115.         tables = [cursor.fetchall()]
116.         table_list = re.findall('(\'.*?\')',str(tables))
117.         table_list = [re.sub("'",'',each) for each in table_list]
119.         if table_name in table_list:
120.             return 1
121.         else:
122.             return 0

复制代码

论文誊写大纲

绪论
1.系统分析
1.1需求分析
1.2所接纳的技术关键
2系统总体设计
2.1总体功能
2.2处置惩罚流程设计
3系统具体设计
3.1概念布局设计
3.2数据库设计
3.3数据模块设计
4系统调试与测试
4.1测试情况简介
4.2测试目的
4.3测试方法
4,4步伐测试
5结论
参考文献
致谢
具体视频演示

请接洽我获取更具体的演示视频
源码获取

文章最下方手刺接洽我即可~

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。