Форум программистов
 

Восстановите пароль или Зарегистрируйтесь на форуме, о проблемах и с заказом рекламы пишите сюда - alarforum@yandex.ru, проверяйте папку спам!

Вернуться   Форум программистов > Delphi программирование > Общие вопросы Delphi
Регистрация

Восстановить пароль
Повторная активизация e-mail

Купить рекламу на форуме - 42 тыс руб за месяц

Ответ
 
Опции темы Поиск в этой теме
Старый 04.10.2013, 16:13   #1
Pcrepair
Форумчанин
 
Регистрация: 04.01.2011
Сообщений: 260
По умолчанию Сбор, хранение и обработка данных из строки

Добрый день. Есть следующая ситуация:
- Веб-сайт, на сайте множество страниц, на каждой странице php скрипт
- при обращении к странице скрипт записывает в лог-файл строку со следующими параметрами:
<имя страницы> <времы вызова страницы> <ИП-адрес получателя страницы>
Раз в сутки к лог-файлу подключается программа, перносит данные к себе и обнуляет лог-файл
на текущий момент объем строк может быть от 30 до 100 тысяч строк в сутки (число страниц Х число посещений)
собирать данные нужно в течение нескольких лет, это уже десятки а то и сотни миллионов строк
кроме того периодически нужно получать выборки из это массива строк по заданному параметру (например ИП-адрес, в периоде с такого то числа по такое), для анализа

Вопрос:
как правильно организовать все выше перечисленное? наверно БД?
если у кого есть опыт решения похожих задач, подскажите, если не сложно
Pcrepair вне форума Ответить с цитированием
Старый 04.10.2013, 16:51   #2
Человек_Борща
Старожил
 
Аватар для Человек_Борща
 
Регистрация: 30.12.2009
Сообщений: 11,426
По умолчанию

Цитата:
как правильно организовать все выше перечисленное? наверно БД?
БД, и даже БД в облаке.

По-поводу чтения.. тут дело не хитрое, подключем файловый маппинг или файловый поток, прыгаем в конец файла и читаем свежие записи, и переносим в базу.
Все это одновременно с работающей программой, которая и строчит лог.
Человек_Борща вне форума Ответить с цитированием
Старый 04.10.2013, 16:59   #3
Pcrepair
Форумчанин
 
Регистрация: 04.01.2011
Сообщений: 260
По умолчанию

строчит в лог не программа а скрипт, который php, который на веб-странице
программа подключается к веб-серверу. читает лог, обнуляет лог
вопрос в том что в делфи есть компоненты для работы с БД. но с какими БД? с любыми?
Pcrepair вне форума Ответить с цитированием
Старый 04.10.2013, 17:22   #4
eval
Подтвердите свой е-майл
 
Регистрация: 29.08.2012
Сообщений: 4,011
По умолчанию

Цитата:
и даже БД в облаке
И что это даст?

Цитата:
но с какими БД? с любыми?
абсолютно
eval вне форума Ответить с цитированием
Ответ


Купить рекламу на форуме - 42 тыс руб за месяц



Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Сбор данных RelaX Inc. Безопасность, Шифрование 8 28.03.2013 17:55
Обработка и хранение файлов в БД PostgresSQL manula PHP 6 21.03.2013 11:16
С (Си) - строки (обработка символьных данных) - прощу помочь MR_Andrew Общие вопросы C/C++ 25 30.12.2009 03:44
Сбор данных OgE®_M@G Microsoft Office Excel 6 05.11.2008 05:57