找回密码
 注册
搜索
[新手上路]批处理新手入门导读[视频教程]批处理基础视频教程[视频教程]VBS基础视频教程[批处理精品]批处理版照片整理器
[批处理精品]纯批处理备份&还原驱动[批处理精品]CMD命令50条不能说的秘密[在线下载]第三方命令行工具[在线帮助]VBScript / JScript 在线参考
查看: 73865|回复: 16

[文件操作] 请教一个批量下载网页的问题?

[复制链接]
发表于 2014-5-17 23:03:03 | 显示全部楼层 |阅读模式
本帖最后由 DDDYJQ1 于 2017-8-26 23:06 编辑

F:\BIAO\TEST11.TXT内容为
http://zisea.com/zscontent.asp?uni=123105
http://zisea.com/zscontent.asp?uni=123106
http://zisea.com/zscontent.asp?uni=123107
http://zisea.com/zscontent.asp?uni=123108
http://zisea.com/zscontent.asp?uni=123109
http://zisea.com/zscontent.asp?uni=123110


批处理内容为
wget -P "F:\BIAO\11" -i "F:\BIAO\test11.txt" --html-extension -p -k

不知网站怎么回事,太快了就断开了,不能下载了,如何设定在批量下载的时候完成一下网页后,5秒后再下载下一个网页,不知能否实现,先谢了!

评分

参与人数 1PB +2 收起 理由
Batcher + 2 感谢给帖子标题标注[已解决]字样

查看全部评分

发表于 2014-5-18 10:21:20 | 显示全部楼层
wget有一个等待的选项:
  -w,  --wait=SECONDS           wait SECONDS between retrievals.
       --waitretry=SECONDS      wait 1...SECONDS between retries of a retrieval.
 楼主| 发表于 2014-5-18 10:56:18 | 显示全部楼层
谢了,是这样吗?
wget -P -W 5 "F:\BIAO\11" -i "F:\BIAO\test11.txt" --html-extension -p -k
可是没有看到运行
 楼主| 发表于 2014-5-18 20:11:47 | 显示全部楼层
请各位好心人再帮忙看看
发表于 2014-5-19 00:19:05 | 显示全部楼层
这样试呢
  1. wget -P "F:\BIAO\11" -w5 -i "F:\BIAO\test11.txt" --html-extension -p -k
复制代码

评分

参与人数 1技术 +1 收起 理由
Batcher + 1 乐于助人

查看全部评分

 楼主| 发表于 2014-5-19 08:57:21 | 显示全部楼层
谢了,就是这样,很好用
 楼主| 发表于 2017-8-26 23:04:45 | 显示全部楼层
https://www.lszj.com/tag/jianghuating_3074_1.html
https://www.lszj.com/tag/jiangjieshi_29_1.html
这种格式的如何批量下载?
wget -P "F:\BIAO\11" -w5 -i "F:\BIAO\test11.txt" --html-extension -p -k不能用了
 楼主| 发表于 2017-8-27 21:19:46 | 显示全部楼层

请教一个批量下载网页的问题?

本帖最后由 DDDYJQ1 于 2017-8-27 23:09 编辑

F:\BIAO\TEST11.TXT内容为
https://www.lszj.com/tag/jianghuating_3074_1.html
https://www.lszj.com/tag/jiangjieshi_29_1.html
这种格式的如何批量下载?
wget -P "F:\BIAO\11" -w5 -i "F:\BIAO\test11.txt" --html-extension -p -k不能用了
请问一下要如何改进?
发表于 2017-8-28 08:16:59 | 显示全部楼层
wget.exe损坏?丢失?还是怎么的,应该行的啊
 楼主| 发表于 2017-8-28 20:57:38 | 显示全部楼层
没损坏,也没丢失
 楼主| 发表于 2017-8-28 20:58:49 | 显示全部楼层
请问一下要如何改进?
 楼主| 发表于 2017-8-29 22:20:49 | 显示全部楼层
请各位大神帮忙想想!
发表于 2017-8-29 22:55:21 | 显示全部楼层
  1. wget --user-agent="Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.3) Gecko/2008092416 Firefox/3.0.3" --no-check-certificate -c -t 0 -T 40 -i test11.txt
复制代码
测试下载成功
这一句有两个作用,1 仿浏览器访问,避免wget被拒绝   2 可以下载加密网页https,如果要区分,忘了,这是我用wget的标配语句。
 楼主| 发表于 2017-8-29 23:04:58 | 显示全部楼层
谢了,就是这样,谢谢
 楼主| 发表于 2018-4-10 22:49:54 | 显示全部楼层

请教一个批量下载网页的问题?

E:\BIAO\TEST1.TXT内容为
https://baike.baidu.com/item/1
https://baike.baidu.com/item/2
https://baike.baidu.com/item/3
https://baike.baidu.com/item/4
https://baike.baidu.com/item/5
https://baike.baidu.com/item/6
https://baike.baidu.com/item/公元前1年
https://baike.baidu.com/item/公元前2年
https://baike.baidu.com/item/公元前3年
https://baike.baidu.com/item/公元前4年
这种格式的如何批量下载?
wget -P "e:\BIAO\1" -w5 -i "e:\BIAO\test1.txt" --html-extension -p -k
不能用了
请问一下要如何改进?
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|批处理之家 ( 渝ICP备10000708号 )

GMT+8, 2026-3-18 03:04 , Processed in 0.023822 second(s), 9 queries , File On.

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表