Linux用wget递归下载网页图片方法
2026-05-11 12:58:14
0浏览
收藏
本文详解了如何用 wget 在 Linux 系统中高效、安全地递归下载网页图片,直击“只下HTML不下图”的常见痛点——根源在于 wget 默认仅跟踪 `` 标签超链接,而忽略 `` 等静态资源链接;通过 `-r -p -A` 组合精准控制递归深度、拉取页面依赖(CSS/JS/图片)及限定图片后缀,并辅以 `--span-hosts`、`--domains` 应对 CDN 跨域、`--level` 和 `--exclude-directories` 防止爬虫失控、`--random-wait` 与 `--user-agent` 规避反爬,再配合 `--restrict-file-names=windows` 解决乱码重名问题;同时明确指出其局限性:对懒加载(data-src)、JS 动态渲染、Base64 内联图等现代前端场景完全无效,强调“先查看网页源代码”是判断 wget 是否适用的关键前提——适合静态站点快照,而非动态 Web 应用。

wget递归下载图片时为什么只下到HTML,不抓图?
因为默认 wget 不识别图片链接——它只按超链接(a href)递归,而网页中图片多是 img src,不在默认抓取路径里。必须显式告诉它哪些后缀要当“资源”拉下来,并启用页面内资源下载。
关键参数组合:--recursive(或 -r)控制层级,--page-requisites(或 -p)拉取页面依赖(CSS/JS/图片),--accept 限定文件类型。
wget -r -p -A "*.jpg,*.jpeg,*.png,*.gif" https://example.com/gallery/- 加
-nH --cut-dirs=1可避免生成嵌套过深的本地目录 - 若目标站用相对路径引用图片(比如
src="images/photo.jpg"),-p能自动补全并下载;但若图片在 CDN 域名上(如src="https://cdn.example.net/pic.png"),默认不会跨域抓——得加--span-hosts并配合--domains白名单
如何防止 wget 下载整站或触发反爬?
递归没约束极易失控:可能顺着导航栏、分页链接一路扫到后台路径,甚至撞上 /wp-admin/ 或 /api/ 接口。不是所有链接都该进队列。
- 用
--level=2限制递归深度(例如只下当前页 + 链接页,共两层) - 用
--exclude-directories排除敏感路径:--exclude-directories="/admin,/cgi-bin,/phpmyadmin" - 加
--random-wait让请求间隔随机(0.5–1.5秒),比固定--wait=1更不易被封 - 务必加
--user-agent模拟浏览器,否则很多站直接 403:--user-agent="Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36"
下载的图片文件名乱码或重复怎么办?
网页里 img src 的 URL 可能含中文、空格、查询参数(如 ?v=123),wget 默认按原始 URL 命名,导致文件不可读或冲突。
- 用
--restrict-file-names=windows自动转义非法字符(斜杠→下划线,问号→@等),兼容性最好 - 加
--convert-links会重写 HTML 中的链接指向本地文件,方便离线浏览(但仅对-p下载的页面有效) - 如果发现大量同名文件(如全是
image.jpg),说明服务器返回的响应头没带Content-Disposition,此时靠wget无法区分——得换方案,比如先用curl抓 HTML,再用grep -o 'src="[^"]*"' | sed 's/src="//;s/"$//' | xargs -I{} wget {}手动提取并去重
为什么有些图片明明在网页里却死活不下载?
常见于懒加载(data-src)、JS 渲染图片、Base64 内联图,或图片 URL 被动态拼接。这些 wget 完全看不见——它只处理静态 HTML 文本,不执行 JS。
这时候别硬刚递归参数。确认是否真需要这些图:
- 如果是懒加载,查看源码里是否有
data-src,手动替换成src再试-p - 如果是 JS 渲染(如 React/Vue 页面),
wget无解,得用Puppeteer或Selenium渲染后提取img标签 - Base64 图片不用下,它们已编码在 HTML 里,提取出来 base64 decode 即可
递归下载本质是“静态快照”,对现代前端架构天然有盲区。判断是否适用,先右键“查看网页源代码”,搜 ——如果图片 URL 在源码里明文存在,
wget 才靠谱;否则,换工具更省时间。
本篇关于《Linux用wget递归下载网页图片方法》的介绍就到此结束啦,但是学无止境,想要了解学习更多关于文章的相关知识,请关注golang学习网公众号!
扫描全能王去水印技巧分享
- 上一篇
- 扫描全能王去水印技巧分享
- 下一篇
- 无人机驾驶证有什么用?
查看更多
最新文章
-
- 文章 · linux | 32分钟前 | Linux
- Nginx缓存指定URL配置方法详解
- 322浏览 收藏
-
- 文章 · linux | 37分钟前 |
- Linux用wget递归下载网页图片方法
- 206浏览 收藏
-
- 文章 · linux | 41分钟前 | Linux
- Linux下Vector日志转发配置教程
- 366浏览 收藏
-
- 文章 · linux | 3小时前 |
- LinuxShell字符串处理技巧大全
- 344浏览 收藏
-
- 文章 · linux | 3小时前 |
- LinuxCron表达式详解与使用教程
- 308浏览 收藏
-
- 文章 · linux | 4小时前 |
- Linux定时任务配置:cron与systemd-timers详解
- 181浏览 收藏
-
- 文章 · linux | 4小时前 | Linux
- Linux下Directus安装配置全攻略
- 344浏览 收藏
-
- 文章 · linux | 14小时前 |
- Linux查看网络端口与连接命令详解
- 115浏览 收藏
-
- 文章 · linux | 14小时前 | Linux
- Ubuntu22.04显卡驱动安装方法
- 127浏览 收藏
-
- 文章 · linux | 15小时前 |
- Linux内核net.ipv4优化技巧分享
- 179浏览 收藏
-
- 文章 · linux | 16小时前 |
- Linux终端配色设置教程
- 232浏览 收藏
-
- 文章 · linux | 16小时前 |
- LinuxNFSv4固定端口设置教程
- 371浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 4493次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 4842次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 4719次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 6557次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 5085次使用
查看更多
相关文章
-
- 命令行工具:应对Linux服务器安全挑战的利器
- 2023-10-04 501浏览
-
- 如何使用Docker进行容器的水平伸缩和负载均衡
- 2023-11-07 501浏览
-
- linux .profile的作用是什么
- 2024-04-07 501浏览
-
- 如何解决s权限位引发postfix及crontab异常
- 2024-11-21 501浏览
-
- 如何通过脚本自动化Linux上的K8S安装
- 2025-02-17 501浏览

