shield_lock
金大哥
← 返回 Skill 列表
extension
分类: 数据与分析无需 API Key

Xiaohongshu Search

小红书内容抓取(搜索/读笔记/看用户)。统一走 agent-browser(官方 JS 环境 + X-s 签名自动处理)。需注入登录 cookie。

person作者: excalibursssooohubclawhub
open_in_new仓库download下载资源包

xiaohongshu-search

⚠️ cookie 必填。关键字段:a1(长效) + web_session(6-12h 短效) + id_token + webId/gid/acw_tc/websectiga/sec_poison_id/loadts/ets(风控指纹)。

⚡ 30 秒上手

export SKILL=/path/to/xiaohongshu

python3 $SKILL/xhs-keepalive.py check                             # cookie 验证

# 🎯 抓特定用户的视频(⭐ 推荐 — 完全绕开 search captcha)
python3 $SKILL/xhs-harvest.py user <user_id> --limit 15 --comments 15
python3 $SKILL/xhs-harvest.py user 5c6391880000000012009893 --limit 15

# 🆘 不知道 user_id? 用 --from-name (走 search 桶,被 captcha 时会失败)
python3 $SKILL/xhs-harvest.py user --from-name "影视飓风" --limit 15 --comments 15

# 抓一个主题的热门笔记(必须 search 桶,被 captcha 时会失败)
python3 $SKILL/xhs-harvest.py hot "AI" --limit 10 --comments 10

# 已知 note_id 批量抓
python3 $SKILL/xhs-harvest.py ids id1 id2 id3 --tokens "t1,t2,t3"

xhs-harvest.py 编排工作流,xhs-fetch.py 原子操作。落盘: $SKILL/data/harvests/<topic>-<ts>/REPORT.md。

🎯 抓特定用户视频(⭐ 一条命令,推荐)

xhs-harvest.py user <user_id> --limit 15 --comments 15

为什么是推荐路径:

  • ✅ 完全不走 search 桶 → search captcha 触发也不影响
  • ✅ 主页 DOM 里 note-item 自带 xsec_token + xsec_source=pc_user → 30/30 命中
  • ✅ 一条命令,内部完成: 主页拿 30 篇 → DOM 拿 token → 逐条走 /user/profile/{uid}/{nid}?...&xsec_source=pc_user 抓详情 → 报告

内部流程

Step 1  xhs-fetch.py user <user_id> --notes 50  →  user.json
        ↓ DOM 解析 note-item 里的 <a href>, 拿 (note_id, xsec_token, xsec_source=pc_user)
Step 2  对每条 note, 走 via-user-profile 抓详情
        URL: /user/profile/{uid}/{nid}?xsec_token=...&xsec_source=pc_user
        ↓ 完全在 user/profile 桶, 不碰 search 桶
Step 3  落盘 + 写 REPORT.md

落盘结构

$SKILL/data/harvests/user-<uid前12位>-<时间戳>/
├── REPORT.md          ← 人类可读报告
├── user.json          ← 主页元数据 + 笔记列表 (带 xsec_token)
└── notes/
    ├── n01-*.json     ← 笔记详情 + 评论
    └── ...

不知道 user_id? 备选 --from-name

xhs-harvest.py user --from-name "小Lin说" --limit 15

限制: 内部调 xhs-fetch.py user-search,会走 search 桶。search 桶 IP captcha 触发时此命令会失败(报"未找到匹配")。

故障时切换:

# 浏览器登录 xhs → 搜索 → 进主页 → URL 末尾 32 位 hex = user_id
# 例: xhs.com/user/profile/5c6391880000000012009893
xhs-harvest.py user 5c6391880000000012009893 --limit 15        # 直接走 user/profile 桶

🛡️ IP-bound captcha 完全解决

xhs captcha 按 URL 路径分桶,各桶独立计数:

| 桶 | 路径 | 衰减 | 状态 | |---|---|---|---| | 桶 1 | /search_result?keyword=... (search listing) | 5-10 min | ❌ 频繁锁 | | 桶 2 | /search_result/{nid}?xsec_token=...&xsec_source=pc_note | 5-10 min | ❌ 300017 | | 桶 3 | /user/profile/{uid} (用户主页) | 30+ min | ⚠️ 触发频率低 | | 桶 4 | /user/profile/{uid}/{nid}?xsec_token=...&xsec_source=pc_user | 30+ min | ✅ 推荐路径 |

🎯 黄金法则:永远走桶 4(via-user-profile)

xhs-harvest.py user <user_id> --limit 15 --comments 15

这条命令完全不碰 search 桶,即使 search 桶被锁也照常工作。

⛔ 不要走(会被 captcha 拦)

| 命令 | 失败原因 | |---|---| | xhs-fetch.py note <id> --via-search (用主页 token) | 30017 url invalid — token + xsec_source 不匹配 | | xhs-fetch.py search "..." (search listing) | 桶 1 captcha | | xhs-harvest.py user --from-name "..." (search 桶被锁时) | 找不到匹配的 user_id | | xhs-harvest.py hot "..." (search 桶被锁时) | 拿不到候选 |

🚨 重要:captcha / IP 风控 一律不重试

v1.3.0 行为变更:遇到 captcha 或 300012 IP 风控,脚本直接报错退出,不自动 sleep + 重试。

为什么: 之前自动重试反而把 captcha 锁得更死(IP 持续被标记)。现在:

  • 遇到 captcha → 立即报错,告诉你"等 5-30 min 或换 IP 后重跑"
  • 不消耗额外请求
  • 不让 captcha 加锁
  • 不让用户等 N 分钟看脚本自己重试

用户决定要不要重跑,什么时候重跑,要不要换 IP。

captcha / IP 风控的解决

| 方式 | 操作 | 效果 | |---|---|---| | 4G 热点 | 手机开热点,PC 连 | 立即换 IP,所有桶清空 | | 重启路由 | 断电重启 | 重新分配 IP(看 ISP) | | 代理池 | 脚本支持 http_proxy 环境变量 | 批量抓推荐 | | 等衰减 | 5-30 分钟 | search 桶 5-10 min,user 桶 30+ min |

🪤 7 个常见坑

| # | 坑 | 怎么避 | |---|---|---| | 1 | user-search "影视飓风" 抓到 @GOODLUCK | 用官方/唯一名(影视飓风官方);Stage 1.5 自动验证 author | | 2 | 主页 link 没 xsec_token | 不会发生,30/30 都有,parse_user_note_link 拿 | | 3 | /explore/{id} 直接访问 300031 | 必须带 xsec_token 走 via-user-profile 或 via-search | | 4 | write_report KeyError 崩 | 已修,全用 .get() | | 5 | search 路径的 author 字段带后缀 "name2天前" | strip_author_suffix() 处理 | | 6 | search 关键词太泛搜不到目标笔记 | 用全标题或前 15 字;长尾/低曝光笔记可能搜不到 | | 7 | 笔记页 DOM 的 likes/collects 不准 | 累计点赞以 user.json 的 likes 字段为准 |

⚠️ ab 直接调用的限速铁律

| 场景 | 间隔 | |---|---| | ab_open → ab_open(不同页面) | 必须 sleep ≥ 3s(脚本默认 4s) | | ab_eval → ab_open(页面切换) | sleep ≥ 2s | | ab_eval → ab_eval(同一页面) | 不需 sleep | | 连续多次 ab_open(调试) | 必中 300012 |

黄金法则:能交给脚本的事,绝不要用 ab 手动打。

决策规则(报错时查这个)

| 错误 | 含义 | 动作 | |---|---|---| | 300012 | IP 风控(与 cookie 无关) | 不重试,换网络/IP | | 300011 | 账号异常 / cookie 失效 | 重导 cookie → inject → check | | 300017 | url is invalid | xsec_token + xsec_source 不匹配;改用 via-user-profile | | 300031 | 笔记不可见 | 走 via-user-profile 或 via-search | | Security Verification(search 路径) | search 桶 captcha | 不重试,等 5-10 min 或换 IP | | Security Verification(user/profile 路径) | user 桶 captcha | 不重试,等 30+ min 或换 IP |

经验法则:300012 → 换网络;300011 → 换 cookie;浏览器卡死 → agent-browser close --all && sleep 2 万能解。

首次 setup(用户手动,一次性)

# 1. 浏览器登录 xiaohongshu.com → F12 → Application → Cookies → www.xiaohongshu.com
# 2. Console 跑 copy(document.cookie),粘到文件:
cat > $SKILL/data/cookies-raw.txt <<'EOF'
a1=xxx; web_session=xxx; id_token=xxx; ...
EOF
chmod 600 $SKILL/data/cookies-raw.txt

# 3. 转 Netscape + 验证
python3 $SKILL/xhs-keepalive.py inject    # → $SKILL/data/cookies.txt
python3 $SKILL/xhs-keepalive.py check     # exit 0=有效

web_session 6-12h 短效,过期报 300011 → 重导 cookies。

边界

  • 小红书抓数据 → 本 skill
  • 写操作(点赞/评论/关注)/ 其他网站 → agent-browser skill