Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Delphi программирование > Работа с сетью в Delphi
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 07.12.2009, 13:25   #1
AndrzejX
Пользователь
 
Регистрация: 12.11.2008
Сообщений: 55
По умолчанию Как избежать бана со стороны сервера за запросы

Здравствуйте! Хочу сделать свой Sitemap генератор. Для этого компонентом idHTTP получаю текст страницы, нахожу ссылки, получаю эти страницы и т.д. Между запросами пауза (увеличивал до 1500 мсек). Так вот, максимум на 960 странице сервер перестаёт отдавать страницы. Возможно, со стороны сервера это выглядит как атака? Как этого избежать, или что я делаю неправильно? Параметр ReadTimeOut=10 000, может нужно ждать дольше? Но ведь браузер открывает "недоступную" страницу практически моментально!

Последний раз редактировалось AndrzejX; 07.12.2009 в 13:49.
AndrzejX вне форума Ответить с цитированием
Старый 07.12.2009, 15:55   #2
Voody
Форумчанин
 
Регистрация: 22.06.2009
Сообщений: 310
По умолчанию

Используйте прокси.
А вообще, если через браузер заходит, то не похоже на бан. Можно увидеть код?
Voody вне форума Ответить с цитированием
Старый 07.12.2009, 17:03   #3
AndrzejX
Пользователь
 
Регистрация: 12.11.2008
Сообщений: 55
По умолчанию

Да всё обычно. Получаю страницу
Код:
var Text, Link: String; //Link - полученная с одной из предыдущих страниц ссылка
begin
  try
    Text:=idHTTP1.get(Link);
  except
    Text:='Cтраница недоступна';
  end;
end;
И вот наступает момент, когда все последующие страницы недоступны. Копирую Link, вставляю в браузер - OK! Прикреплю весь проект. Он рабочий, хоть и не доведён. Не получается пока перекодировать текст в UTF-8, но это потом.
Вложения
Тип файла: rar SiteScaner.rar (17.6 Кб, 63 просмотров)

Последний раз редактировалось AndrzejX; 08.12.2009 в 02:23.
AndrzejX вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
как избежать кэширования в Опере rolling PHP 3 01.12.2009 18:34
Как избежать сужения (уменьшение размера) пикселей изображения, при включенном свойстве Stretch? Лукманов Александр Мультимедиа в Delphi 8 26.10.2009 09:52
Как избежать повторение одного и того же номера дважды CockPuncher Microsoft Office Excel 6 03.09.2009 09:53
Как при постройке графика избежать диления на 0 Zerony Общие вопросы Delphi 9 12.01.2009 18:02
Программирование под Windows (ошибка), как избежать ошибки Unresolved external '_main' referenced fro DeLure Общие вопросы C/C++ 2 02.03.2008 01:35