Scrapy通过Twisted将数据异步插入到数据库

秒速五厘米 2022-05-23 00:46 172阅读 0赞

**如何通过twisted实现数据库异步插入？**

**　　1. 导入adbapi;**

**　　2. 生成数据库连接池;**

**　　3. 执行数据数据库插入操作;**

**　　4. 打印错误信息，并排错.**

**demo:**

\# 用twisted库将数据进行异步插入到数据库

class MysqlTwistedPipeline(object):  
    def \_\_init\_\_(self, dbpool):  
        self.dbpool = dbpool  
  
    @classmethod  
    def from\_settings(cls, settings):  
        \# 需要在setting中设置数据库配置参数  
        dbparms = dict(  
            host=settings\['MYSQL\_HOST'\],  
            db=settings\['MYSQL\_DBNAME'\],  
            user=settings\['MYSQL\_USER'\],  
            passwd=settings\['MYSQL\_PASSWORD'\],  
            charset='utf8',  
            cursorclass=MySQLdb.cursors.DictCursor,  
            use\_unicode=True,  
        )  
        \# 连接ConnectionPool（使用MySQLdb连接，或者pymysql）  
        dbpool = adbapi.ConnectionPool("MySQLdb", \*\*dbparms)  \# \*\*让参数变成可变化参数  
        return cls(dbpool)   \# 返回实例化对象  
  
  
    def process\_item(self, item, spider):  
        \# 使用twisted将MySQL插入变成异步执行  
        query = self.dbpool.runInteraction(self.do\_insert, item)  
        \# 添加异常处理  
        query.addCallback(self.handle\_error)  
  
  
    def handle\_error(self, failure):  
        \# 处理异步插入时的异常  
        print(failure)  
  
  
    def do\_insert(self, cursor, item):  
        \# 执行具体的插入  
        insert\_sql = """  
                    insert into jobbole\_artitle(name, base\_url, date, comment)  
                    VALUES (%s, %s, %s, %s)  
                """  
        cursor.execute(insert\_sql, (item\['name'\], item\['base\_url'\], item\['date'\], item\['coment'\],))