当前位置：首页 > article >正文

使用Java爬虫获取1688店铺所有商品信息（item_search_shop API接口）

article 2025/2/21 4:06:45

一、引言

在电商领域，获取店铺的所有商品信息对于市场分析、竞品研究和用户体验优化至关重要。1688作为国内领先的B2B电商平台，提供了丰富的API接口，其中item_search_shop接口允许开发者获取指定店铺的所有商品信息。本文将详细介绍如何使用Java爬虫技术调用该API接口，并对获取到的数据进行解析和应用。

二、准备工作

（一）注册1688开放平台账号

访问1688开放平台官网，注册一个账号并完成相关认证。注册成功后，会获得专属的App Key和App Secret，这两个密钥在调用API接口时用于身份验证，保障接口调用的安全性与合法性。

（二）申请API接口权限

在1688开放平台中，找到item_search_shop接口，根据自身业务需求申请相应的权限。申请过程中，可能需要填写应用场景、预计调用量等信息，以便平台审核。

（三）Java开发环境

确保已安装Java开发环境，推荐使用JDK 1.8或更高版本。

（四）依赖管理

使用Maven或Gradle管理项目依赖，主要包括以下库：

Apache HttpClient：用于发送HTTP请求。
Jackson：用于解析JSON数据。

以下是Maven项目的pom.xml依赖配置示例：

xml

<dependencies>
    <dependency>
        <groupId>org.apache.httpcomponents</groupId>
        <artifactId>httpclient</artifactId>
        <version>4.5.13</version>
    </dependency>
    <dependency>
        <groupId>com.fasterxml.jackson.core</groupId>
        <artifactId>jackson-databind</artifactId>
        <version>2.10.0</version>
    </dependency>
</dependencies>

三、技术实现

（一）构建API请求

根据1688开放平台的API文档，item_search_shop接口的请求地址为https://api-gw.onebound.cn/1688/item_search_shop。以下是请求参数的说明：

key：AppKey。
secret：AppSecret。
shop_id：店铺ID，用于指定需要获取商品信息的店铺。
page：页码（默认为1）。
page_size：每页显示的商品数量（默认为40）。

（二）生成签名

1688 API接口需要对请求参数进行签名验证。以下是一个生成签名的Java方法示例：

java

import java.security.MessageDigest;
import java.util.TreeMap;

public class ApiUtil {
    public static String generateSign(TreeMap<String, String> params, String appSecret) {
        StringBuilder paramStr = new StringBuilder();
        for (Map.Entry<String, String> entry : params.entrySet()) {
            paramStr.append(entry.getKey()).append("=").append(entry.getValue()).append("&");
        }
        paramStr.append(appSecret);
        return md5(paramStr.toString()).toUpperCase();
    }

    private static String md5(String str) {
        try {
            MessageDigest md = MessageDigest.getInstance("MD5");
            byte[] array = md.digest(str.getBytes());
            StringBuilder sb = new StringBuilder();
            for (byte b : array) {
                sb.append(Integer.toHexString((b & 0xFF) | 0x100).substring(1, 3));
            }
            return sb.toString();
        } catch (Exception e) {
            e.printStackTrace();
            return null;
        }
    }
}

（三）发送HTTP请求

使用Apache HttpClient发送GET请求，获取API返回的JSON数据：

java

import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

import java.util.TreeMap;

public class AlibabaShopItemCrawler {
    private static final String APP_KEY = "your_app_key";
    private static final String APP_SECRET = "your_app_secret";

    public static void main(String[] args) {
        String shopId = "123456789"; // 示例店铺ID
        int page = 1;
        int pageSize = 40;

        TreeMap<String, String> params = new TreeMap<>();
        params.put("key", APP_KEY);
        params.put("shop_id", shopId);
        params.put("page", String.valueOf(page));
        params.put("page_size", String.valueOf(pageSize));

        String sign = ApiUtil.generateSign(params, APP_SECRET);
        params.put("sign", sign);

        StringBuilder urlBuilder = new StringBuilder("https://api-gw.onebound.cn/1688/item_search_shop?");
        for (Map.Entry<String, String> entry : params.entrySet()) {
            urlBuilder.append(entry.getKey()).append("=").append(entry.getValue()).append("&");
        }
        String url = urlBuilder.toString().substring(0, urlBuilder.length() - 1);

        try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
            HttpGet request = new HttpGet(url);
            CloseableHttpResponse response = httpClient.execute(request);
            String jsonResponse = EntityUtils.toString(response.getEntity());
            System.out.println("API Response: " + jsonResponse);
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

（四）解析JSON数据

假设接口返回的数据是JSON格式，可以使用Jackson库将其解析为Java对象：

java

import com.fasterxml.jackson.databind.ObjectMapper;

public class AlibabaShopItemCrawler {
    public static void main(String[] args) {
        String jsonResponse = fetchShopItems(...); // 获取店铺商品数据
        ObjectMapper mapper = new ObjectMapper();
        try {
            ShopItemsResponse response = mapper.readValue(jsonResponse, ShopItemsResponse.class);
            for (Item item : response.getItemList()) {
                System.out.println("商品ID: " + item.getNumIid());
                System.out.println("商品标题: " + item.getTitle());
                System.out.println("商品价格: " + item.getPrice());
                System.out.println("商品图片URL: " + item.getPicUrl());
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    static class ShopItemsResponse {
        private Item[] itemList;

        public Item[] getItemList() {
            return itemList;
        }
    }

    static class Item {
        private String numIid;
        private String title;
        private String price;
        private String picUrl;

        public String getNumIid() {
            return numIid;
        }

        public String getTitle() {
            return title;
        }

        public String getPrice() {
            return price;
        }

        public String getPicUrl() {
            return picUrl;
        }
    }
}