Имя пользователя:
Пароль:  
Помощь | Регистрация | Забыли пароль?  | Правила  

Компьютерный форум OSzone.net » Программирование, базы данных и автоматизация действий » Скриптовые языки администрирования Windows » Любой язык - [решено] wget команда не закачивает файл по ссылке

Ответить
Настройки темы
Любой язык - [решено] wget команда не закачивает файл по ссылке

Старожил


Сообщения: 239
Благодарности: 8

Профиль | Отправить PM | Цитировать


Изменения
Автор: v79italya
Дата: 02-09-2019
добрый день. хотел закачать файл .csv по ссылке через wget команду. команда такая: c:\wget\wget.exe -i c:\url-list.txt --secure-protocol=auto -nc -c -P c:\files\ . выходит такое сообщение
Скрытый текст
HTML код: Выделить весь код
Microsoft Windows [Version 6.1.7601] (c) Корпорация Майкрософт 2012. Все права защищены. C:\Users\Администратор>c:\wget\wget.exe -i c:\url-list.txt --secure-protocol=aut o -nc -c -P c:\files\ --2019-06-29 20:33:55-- https://query1.finance.yahoo.com/v7/finance/download/AA U?period1=1530282224&period2=1561818224&interval=1d&events=history&crumb=lW3nnVK .6HD Resolving query1.finance.yahoo.com (query1.finance.yahoo.com)... 87.248.118.23, 87.248.118.22, 2a00:1288:80:800::7000, ... Connecting to query1.finance.yahoo.com (query1.finance.yahoo.com)|87.248.118.23| :443... connected. HTTP request sent, awaiting response... 401 Unauthorized Username/Password Authentication Failed. C:\Users\Администратор>


какая причина не пойму, так как мало в этом разбираюсь. есть момент что эсли эту ссылку на яхоо вставить в браузер IE, то загрузка не происходит. если же вставить в браузер гугл хром, то без лишних диалогов закачивает на ура. хотелось бы закачать через wget.
не могли бы помочь найти проблему. или есть другие варианты для скачивания нескольких файлов по списку

Отправлено: 18:44, 29-06-2019

 

Deadooshka


Сообщения: 2499
Благодарности: 682

Профиль | Отправить PM | Цитировать


v79italya, мы меняем в урлах параметр crumb, который берём из страницы с таблицей (u1) с помощью регулярного выражения. Они могут изменить текст, имя параметра, способ проверок и тд., и тогда придётся корректировать. По крайней мере с ноября 2018 ничего не менялось, судя по дате блога. Это не публичный API yahoo, где есть какие-то гарантии. Если у них есть API для загрузки этих котировок, то безусловно нужно использовать его.

UPD: нашёл спец. адрес для получения crumb здесь (_https://query1.finance.yahoo.com/v1/test/getcrumb). Обновил пост со скриптом.

Последний раз редактировалось Sham, 02-07-2019 в 17:04.

Это сообщение посчитали полезным следующие участники:

Отправлено: 16:22, 02-07-2019 | #21



Для отключения данного рекламного блока вам необходимо зарегистрироваться или войти с учетной записью социальной сети.

Если же вы забыли свой пароль на форуме, то воспользуйтесь данной ссылкой для восстановления пароля.


Старожил


Сообщения: 239
Благодарности: 8

Профиль | Отправить PM | Цитировать


Sham, спасибо за второй вариант скрипта. увидел где можно менять паузу между обращениями на сайт. еще, по моему, есть изменения в строках, относящихся к crumb, но я не разбираюсь в этом и ладно.
на счет crumb я сильно не переживаю. как перестанет работать, возьму с сайта рабочую ссылку и в Excel по быстрому изменю концовку всех ссылок. так и делал для макроса. не будет работать, тогда, чтож, подыму тему), там видно будет. мне это надо то один раз в месяц для аналитики. а так все работает. спасибо большое
Nordek, извиняюсь, только ваш вариант так и не запустил. да и ладно. уже есть решение от Sham

слушайте, а возможно с помощью таких скриптов скачать таблицу с сайта в csv-файл. вот ссылка- https://finance.yahoo.com/quote/AAL/...ate=1565913600
там нет готового csv. поэтому и хотел узнать
ссылка сохранилась не полностью
https://finance.yahoo.com/quote/AAL/...ate=1568937600

Последний раз редактировалось v79italya, 07-07-2019 в 14:18.


Отправлено: 08:18, 07-07-2019 | #22


Deadooshka


Сообщения: 2499
Благодарности: 682

Профиль | Отправить PM | Цитировать


Цитата v79italya:
а возможно с помощью таких скриптов скачать таблицу с сайта в csv-файл »
Там json надо разбирать из страницы. Можно, но ненадёжно. Ищите API этих таблиц.

Отправлено: 03:29, 08-07-2019 | #23


Старожил


Сообщения: 239
Благодарности: 8

Профиль | Отправить PM | Цитировать


Цитата Sham:
json надо разбирать из страницы »
вот это я не фига не понял
Цитата Sham:
Ищите API этих таблиц »
тоже не понял, но готов искать. как искать? дать объявление на авито - ищу API таких таблиц ?)
еще вопрос. как на этом форуме правильнее, открыть новую тему или можно продолжить в этой?

Отправлено: 05:23, 08-07-2019 | #24


Старожил


Сообщения: 239
Благодарности: 8

Профиль | Отправить PM | Цитировать


Sham, скажите, вы сможете это сделать? я про это:
слушайте, а возможно с помощью таких скриптов скачать таблицу с сайта в csv-файл. вот ссылка- https://finance.yahoo.com/quote/AAL/...ate=1565913600
там нет готового csv. поэтому и хотел узнать

Отправлено: 20:37, 13-07-2019 | #25


Deadooshka


Сообщения: 2499
Благодарности: 682

Профиль | Отправить PM | Цитировать


v79italya, можно, но изначально это json (в таком виде (взят только нужный массив) https://pastebin.com/G6v74TYW ), который нужно перелопатить в csv. Это спарсено со страницы, поэтому в любой момент может всё поменяться.

Отправлено: 02:05, 14-07-2019 | #26


Старожил


Сообщения: 239
Благодарности: 8

Профиль | Отправить PM | Цитировать


Цитата Sham:
можно »
хорошо что можно. я так понял что Вы это сможете сделать. запишу Ваши контакты из профиля. приспичит - обращусь.
сейчас у меня есть вариант получения этих данных. макросами и формулами в Excel за 30 минут получаю нужные данные с >11500 тикеров. когда сломается, если не смогу исправить, обращусь к Вам. c .csv обработаю в Power Query. по времени, наверное, быстрее получится.
приносило бы еще все это прибыль, а то гоняю демосчет уже больше года.

Отправлено: 13:17, 14-07-2019 | #27


Ветеран


Сообщения: 2189
Благодарности: 724

Профиль | Отправить PM | Цитировать


Помогите с скриптом для скачивания файла по ссылке https://kjkpub.s3.amazonaws.com/soft...e-11842-64.exe

Отправлено: 18:36, 30-12-2019 | #28


Старожил


Сообщения: 352
Благодарности: 193

Профиль | Отправить PM | Цитировать


sov44, А в чём проблема?
Скрытый текст
Код: Выделить весь код
C:\tmp>wget "https://kjkpub.s3.amazonaws.com/software/sumatrapdf/prerel/SumatraPDF-prerelease-11842-64.exe"
--2019-12-30 19:01:18--  https://kjkpub.s3.amazonaws.com/software/sumatrapdf/prerel/SumatraPDF-prerelease-11842-64.exe
Resolving kjkpub.s3.amazonaws.com (kjkpub.s3.amazonaws.com)... 52.216.141.164
Connecting to kjkpub.s3.amazonaws.com (kjkpub.s3.amazonaws.com)|52.216.141.164|:443... connected.
HTTP request sent, awaiting response... 200 OK
Length: 15253672 (15M) [application/x-msdownload]
Saving to: 'SumatraPDF-prerelease-11842-64.exe'

SumatraPDF-prerelease-11842-6  12%[=====>                                            ]   1,78M   298KB/s    eta 48s    ^C
C:\tmp>wget --version
GNU Wget 1.20.3 built on mingw32.

...

Отправлено: 19:03, 30-12-2019 | #29


Ветеран


Сообщения: 2189
Благодарности: 724

Профиль | Отправить PM | Цитировать


iglezz, хм, сработало. Видимо был какой-то глюк ПК.
Код: Выделить весь код
bin\wget.exe --no-check-certificate -P "%~dp0TempZ" "https://kjkpub.s3.amazonaws.com/software/sumatrapdf/prerel/SumatraPDF-prerelease-11842-64.exe"

Отправлено: 19:21, 30-12-2019 | #30



Компьютерный форум OSzone.net » Программирование, базы данных и автоматизация действий » Скриптовые языки администрирования Windows » Любой язык - [решено] wget команда не закачивает файл по ссылке

Участник сейчас на форуме Участник сейчас на форуме Участник вне форума Участник вне форума Автор темы Автор темы Шапка темы Сообщение прикреплено

Похожие темы
Название темы Автор Информация о форуме Ответов Последнее сообщение
CMD/BAT - Задать вопрос как через бат файл присвоить два занения и перейти по ссылке zzup Скриптовые языки администрирования Windows 2 20-01-2015 01:45
CMD/BAT - Как из бат-файла проверить наличие файла по ссылке, не скачивая файл ? mitiya Скриптовые языки администрирования Windows 2 27-06-2008 20:50
Как открыть по ссылке файл *.rdp? Rhamzes Вебмастеру 1 15-11-2005 09:05
Можно ли при помощи PHP скачать файл по ссылке вида http://xxxx? (+) Igor_I Вебмастеру 2 12-09-2005 21:31
Клик по ссылке на zip файл в IE pro100_tak Хочу все знать 4 09-12-2004 10:21




 
Переход