Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Скриптовые языки программирования > PHP
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 05.04.2016, 16:29   #1
nikolokaputik80
Пользователь
 
Регистрация: 30.09.2015
Сообщений: 74
Радость Парсер пожалуйста помогите поправить

Привет !

есть парсер на пхп, вот код

PHP код:
<?php
set_time_limit
(0);
$m file("link.txt");
foreach(
$m as $v){
$a file_get_contents("$v");
preg_match("~<span id=\"adv_phone_big\">(\d+)</span>~",$a,$s);
$boom[] = $s[1];
}
$filter array_filter($boom);
file_put_contents("result.txt",implode("\n",$filter),FILE_APPEND);
?>


логика работы такая, при запуске скрипт рекурсивно переходит
по ссылкам из файла link.txt
парсит нужную мне инфу и записывает результат по концовке парсинга в текстовик result.txt

но есть большая проблема, когда в текстовике link.txt
более 50 ссылок через минуту после запуска в браузере всегда вылетает ошибка


504 Gateway Time-out
nginx/1.1.19


я уже и php.ini правил увеличивая объем памяти до 5 гб и время выполнения скрипта в вместо 60 ставил 6000000 секунд.
все ровно здыхает парсинг через минуту и ошибка

504 Gateway Time-out
nginx/1.1.19

может кто подскажет как сделать чтобы парсер работал 50 секунд к примеру записывал все что спарсит в result.txt
потом снова рестартился и продолжал с того места где последний раз была остановка, и такими порциями по 50 сек будет парсить, помогите пожалуйста внести изменения в мой парсер!
nikolokaputik80 вне форума Ответить с цитированием
Старый 07.04.2016, 22:48   #2
TranceSmile
Смайлик :)
Форумчанин
 
Аватар для TranceSmile
 
Регистрация: 12.12.2010
Сообщений: 445
По умолчанию

Такие вещи кроном делают.
Самый перспективный framework Yii (c)
TranceSmile вне форума Ответить с цитированием
Старый 17.04.2016, 12:57   #3
proinfotech
 
Аватар для proinfotech
 
Регистрация: 23.02.2016
Сообщений: 3
По умолчанию

Лучше ajax`ом на php обработчик отправляеть запросы.
Таким способом можно контролировать состояние парсинга и осуществлять ожидания при недоступности ресурса.
Можно еще для визуализации процесса поставить progressbar.
Если нужно - могу сделать.
Пишите: vetal2525@mail.ru
Или Skype: proinfotech
proinfotech вне форума Ответить с цитированием
Старый 18.04.2016, 11:44   #4
CodeNOT
Форумчанин
 
Аватар для CodeNOT
 
Регистрация: 08.11.2010
Сообщений: 593
По умолчанию

зачем крон, зачем ajax, используйте cli/fpm
CodeNOT вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Помогите поправить программу пожалуйста GrafVir Фриланс 4 05.06.2014 13:49
поправить код паскаля, пожалуйста mishammm Помощь студентам 6 29.09.2013 13:43
Необходимо дописать и поправить парсер!!! maks1985 Фриланс 4 31.05.2010 14:40
помогите поправить макрос tem1112 Microsoft Office Excel 7 06.11.2009 21:25
помогите поправить! koyot Работа с сетью в Delphi 4 13.02.2008 18:46