怎么用python爬虫分析动态网页的商品信息
这篇文章主要介绍怎么用python爬虫分析动态网页的商品信息,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

创新互联建站自2013年起,是专业互联网技术服务公司,拥有项目网站设计制作、成都网站制作网站策划,项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命,1280元色尼做网站,已为上家服务,为色尼各地企业和个人服务,联系电话:13518219792
先安装Puppeteer库,用到的也就只有这个库:
npm install puppeteer
链接网页也非常简单,只需要几行代码:
const puppeteer = require('puppeteer')
//启动浏览器
const browers = await puppeteer.launch()
//启动新页面
const page = await browers.newPage()
//链接网址
await page.goto(url)拿到了同类所有商品的标签信息,接下来开始分析信息。获取里面所有商品的名称,然后对照关键字是否存在,如果存在则将headless改为false弹出窗口提醒,如果不存在则在半小时后再次链接。Puppeteer提供了一个等待命令page.waitFor(),不仅可以按时间等待,也可以按某个元素的加载进度进行等待。
const goods = page.$$eval('#auctionRecommend > div.mc > ul > li', el => {
//错误和关键字不存在都会返回false
try {
for (let i = 0; i < el.length; i++) {
let n = el[i].querySelector('div.p-name').textContent
if(n.includes('妙控板')){
return true
} else {
return false
}
}
} catch (error) {
return false
}
})
if(!bool){
return console.log('网页已打开,不再监控')
}
//根据goods里面的回调函数返回ture或false来决定是否开启浏览器界面
await goods.then(async (b) => {
if(b){
console.log('有货了!')
await page.waitFor(2000)
await browers.close()
return requestUrl(false)
} else {
console.log('还没货')
console.log('三十分钟后再尝试')
await page.waitFor(1800000)
await browers.close()
return requestUrl(true)
}
})以上是“怎么用python爬虫分析动态网页的商品信息”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!
标题名称:怎么用python爬虫分析动态网页的商品信息
URL分享:http://www.jxjierui.cn/article/pejpss.html


咨询
建站咨询
