存入MongoDB
1.啟動MongoDB數(shù)據(jù)庫：sudo mongod
2.執(zhí)行下面程序：py2 process_youyuan_mongodb.py
# process_youyuan_mongodb.py
# -*- coding: utf-8 -*-
import json
import redis
import pymongo
def main():
# 指定Redis數(shù)據(jù)庫信息
rediscli = redis.StrictRedis(host='192.168.199.108', port=6379, db=0)
# 指定MongoDB數(shù)據(jù)庫信息
mongocli = pymongo.MongoClient(host='localhost', port=27017)
# 創(chuàng)建數(shù)據(jù)庫名
db = mongocli['youyuan']
# 創(chuàng)建表名
sheet = db['beijing_18_25']
while True:
# FIFO模式為 blpop，LIFO模式為 brpop，獲取鍵值
source, data = rediscli.blpop(["youyuan:items"])
item = json.loads(data)
sheet.insert(item)
try:
print u"Processing: %(name)s %(link)s>" % item
except KeyError:
print u"Error procesing: %r" % item
if __name__ == '__main__':
main()
存入 MySQL
1.啟動mysql：mysql.server start（更平臺不一樣）
2.登錄到root用戶：mysql -uroot -p
3.創(chuàng)建數(shù)據(jù)庫youyuan:create database youyuan;
4.切換到指定數(shù)據(jù)庫：use youyuan
5.創(chuàng)建表beijing_18_25以及所有字段的列名和數(shù)據(jù)類型。
6.執(zhí)行下面程序：py2 process_youyuan_mysql.py
#process_youyuan_mysql.py
# -*- coding: utf-8 -*-
import json
import redis
import MySQLdb
def main():
# 指定redis數(shù)據(jù)庫信息
rediscli = redis.StrictRedis(host='192.168.199.108', port = 6379, db = 0)
# 指定mysql數(shù)據(jù)庫
mysqlcli = MySQLdb.connect(host='127.0.0.1', user='power', passwd='xxxxxxx', db = 'youyuan', port=3306, use_unicode=True)
while True:
# FIFO模式為 blpop，LIFO模式為 brpop，獲取鍵值
source, data = rediscli.blpop(["youyuan:items"])
item = json.loads(data)
try:
# 使用cursor()方法獲取操作游標(biāo)
cur = mysqlcli.cursor()
# 使用execute方法執(zhí)行SQL INSERT語句
cur.execute("INSERT INTO beijing_18_25 (username, crawled, age, spider, header_url, source, pic_urls, monologue, source_url) VALUES (%s, %s, %s, %s, %s, %s, %s, %s, %s )", [item['username'], item['crawled'], item['age'], item['spider'], item['header_url'], item['source'], item['pic_urls'], item['monologue'], item['source_url']])
# 提交sql事務(wù)
mysqlcli.commit()
#關(guān)閉本次操作
cur.close()
print "inserted %s" % item['source_url']
except MySQLdb.Error,e:
print "Mysql Error %d: %s" % (e.args[0], e.args[1])
if __name__ == '__main__':
main()
總結(jié)
以上所述是小編給大家介紹的分布式爬蟲處理Redis里的數(shù)據(jù)操作步驟，希望對大家有所幫助，如果大家有任何疑問歡迎給我留言，小編會及時回復(fù)大家的！
您可能感興趣的文章:- 使用Docker Swarm搭建分布式爬蟲集群的方法示例
- 深入理解Python分布式爬蟲原理
- Python 用Redis簡單實現(xiàn)分布式爬蟲的方法
- Scrapy-redis爬蟲分布式爬取的分析和實現(xiàn)
- PHP一個簡單的無需刷新爬蟲
- Python3爬蟲全國地址信息
- python爬蟲獲取小區(qū)經(jīng)緯度以及結(jié)構(gòu)化地址
- 用C#做網(wǎng)絡(luò)爬蟲的步驟教學(xué)
- Python數(shù)據(jù)抓取爬蟲代理防封IP方法
- 爬蟲技術(shù)之分布式爬蟲架構(gòu)的講解
