低代码自动翻页采集山姆商品数据

1 前言

山姆超市以会员经营为主，会员需要向商家购买会员卡才可以获得购物权，享受更多的优惠和折扣，这种模式实际上是通过高质量的商品和服务吸引顾客忠诚度，建立"忠诚顾客"的经营模式。山姆超市的商品销售以大批次和整箱销售为主，这种销售方式可降低物流和库存成本，让顾客享受到更低的商品价格。

山姆超市的商品种类非常多，包括生鲜、烘焙、零食、熟食和日用品等，比如生鲜有樱桃番茄、草莓提子等水果，烘焙有瑞士卷蛋糕、菠萝包等，零食有青柠汁、麻辣牛肉等，熟食有烤鸡、披萨等，日用品有牙膏、毛巾等。每个类别都有很多可选商品，能满足不同人群的消费需求。

山姆官网已经不提供商品显示功能，只能通过京东山姆会员商店的页面查看和购买商品。

2 采集方法

京东上山姆商品页面如下图

A区：为商品分类，每个分类对应有相应商品列表。

B区：为商品列表，显示每个分类的商品数据。

根据页面内容组织情况，采集需要分两个步骤：

1、采集商品分类，同时采集分类对应页面URL。

2、采集分类页面里商品数据，自动翻页采集，直到所有商品采集完成。

本文使用小O网兜软件进行自动化采集。

下载软件登录官网 www.gis9.com ，首页往下滚动，下载【小O网兜】。

软件无需安装，下载后直接运行，可能会被防火墙或者软件管家之类的软件拦截，请将软件添加到信任列表里。

软件启动后进入主界面如图，请注册登录后使用软件。

3 操作步骤

根据用户需求，网兜已经配置好对应的模板，用户进入软件，直接下载山姆模板任务，进行简单重置操作即可执行采集任务。

该模板分为两个子步骤：

1、采集商品分类：采集分类数据，以及分类页面的URL

2、采集商品信息：按上一步，循环打开分类页面，并自动翻页采集商品数据。

具体步骤如下：

新建任务

打开任务模板，下图，点击模板后软件自动下载任务文件，并打开。

如模板中没有所需任务，可点击【客服】，将需求网址发给后台客服，客服将按需求配置并上线新模板。

重置任务

由于山姆商品页面内容定期更新，因此商品分类和商品数据也会变化，每次执行前，需要执行重置，将商品类别记录清空，然后先执行采集商品类别，之后再循环执行商品采集。

打开【数据表】，将商品分类表数据清空，如下。

读取商品分类

接下来，执行第一个步骤，读取商品分类，分类数据只需读取一次即可，无需循环。

如下图，执行【打开页面】，如遇提示，点击【是】即可，右侧浏览器打开目标页面。

再执行【读取数据】，读取页面中分类数据至表格中。

执行完毕后，打开【数据表】窗口，查看分类数据，包括类别URL和类别名称。其中URL为读取商品时循环打开页面使用。

读取商品数据

读取商品数据，根据上一步采集的数据，依次打开商品分类URL页面，自动翻页读取商品数据。

先执行【重置】如下图

然后，循环执行打开页面，程序会自动依次执行步骤，读取数据

当执行完成一次【3 读取数据】后，可以打开【数据表】查看采集商品信息，包含页面中显示的商品信息。

如下图，显示商品列表数据，以及读取商品记录的数量。

执行过程无需人工干预，自动翻页，自动打开商品分类的URL页面，直到所有分类页面都打开并执行完毕。

数据排重

采集完毕数据，可能会出现数据重复的情况，可以在数据表格窗口中选择【】，对数据进行排重处理。

同时也提供导出数据功能，将采集数据导出为CSV格式，可在EXCEL、WPS等表格软件中进行查看和处理。

异常情况

京东页面登陆

执行时可能会遇到页面提示登陆，可以先登陆京东账号，然后再执行采集。登陆过程均在页面中完成，程序不会采集任何账号信息。

分类页面找不到

参考上文读取商品分类步骤。

异常任务停止

执行过程如遇特殊情况，导致任务中断（图标圆点变红色），可在该步骤上点击右键，点击循环执行即可。

任务执行过程支持断点执行，即可在中断处继续往下执行。

4 小结

本文演示使用小O网兜软件采集京东山姆超市商品信息，可以为研究机构和商超提供数据源，执行商品数据分析和可视化操作。

小O网兜提供网页信息采集功能，除了提供任务模板方式采集，也可以自行配置任务，采集其他页面的信息，并对数据进行排重和导出等操作。