Javascript抓取京东、淘宝商品数据(商品采集商品详情图片抓取)
之前用的方法:
let temp = []
var lists = $('#J_goodsList li.gl-item')
$.each(lists,function(idx,item){
temp.push({
id:$(item).data('sku'),
goods_img:$(item).find('img').attr('src'),
goods_name:$(item).find('.p-name em').text(),
market_price:$(item).find('.p-price i').text(),
})
})
console.log(temp)
-
通过分类查询京东、淘宝的商品,比如搜索“电子产品”,获取到电子产品的列表
-
通过JavaScript操作页面dom元素,获取到商品信息数组
-
通过在线工具将json数组转成excel文件
-
处理图片地址,包裹上img标签,通过浏览器加载并下载图片
//img13.360buyimg.com/n7/jfs/t1/181788/14/25091/44594/63c0c017F11c3c118/4521648b22e0dd3a.jpg
-
原图片
-
将链接中的n7改成n1(尺寸变大),并且加上img标签
<img src=https://img13.360buyimg.com/n1/s450x450_jfs/t1/181788/14/25091/44594/63c0c017F11c3c118/4521648b22e0dd3a.jpg />
-
将图片下载到本地
-
-
将生成的excel文件数据和EDI网站商品数据合并
-
将商品图片上传到服务器
-
手动给每个商品添加商品详情,这个是主要的工作量
这种方式主要有两个缺点:
-
列表获取不到商品详情图片,需要手动去抓取
-
过程比较繁琐,有很多需要手动操作的地方
优化后直接用API调用,稳定性好,支持高并发。
1、注册账号获取APIkey和密钥,点此注册
2、查看API文档,获取请求参数和响应参数表。