Форум программистов
 
Контакты: о проблемах с регистрацией, почтой и по другим вопросам пишите сюда - alarforum@yandex.ru, проверяйте папку спам! Обязательно пройдите активизацию e-mail.

Вернуться   Форум программистов > Web > SQL, базы данных
Регистрация

Восстановить пароль
Повторная активизация e-mail

Ответ
 
Опции темы
Старый 27.12.2017, 11:50   #11
Аватар
Модератор
Заслуженный модератор
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Адрес: Северодонецк.ua
Сообщений: 17,671
Репутация: 6211
По умолчанию

В таблице кроссов должно быть суррогатное ключевое поле, коль уникальность на уровне группы полей Бренд1, Артикул1, Бренд2, Артикул2 не поддерживается. Есть?

Если есть, то покажу на примере своей табличке YksDvig, ключевое поле YksDvig_Id и поля Bs,Ks которые буду проверять и удалять не уникальные. Здесь два, у тебя четыре, что не принципиально

Следующий запрос сгруппирует по Bs,Ks, вернет максимальный YksDvig_Id и количество в группировке
Код:

SELECT MAX(YksDvig_Id) AS YksDvig_Id,Bs,Ks,COUNT(*) AS RecCount
  FROM YksDvig
  GROUP BY Bs,Ks

Теперь его засуну вложенным в другой запрос, который вернет все, что нужно удалить. Последнее условие Y1.RecCount>1, как и вообще возврат RecCount в общем и не обязательно, поскольку Y.YksDvig_Id<>Y1.YksDvig_Id вполне достаточно
Код:

SELECT Y.*
  FROM YksDvig Y,
       (SELECT MAX(YksDvig_Id) AS YksDvig_Id,Bs,Ks,COUNT(*) AS RecCount
          FROM YksDvig
          GROUP BY Bs,Ks) Y1
  WHERE Y.Bs=Y1.Bs AND Y.Ks=Y1.Ks AND Y.YksDvig_Id<>Y1.YksDvig_Id AND Y1.RecCount>1

Теперь осталось встроить его в инструкцию DELETE
Код:

DELETE YksDvig
  FROM YksDvig Y,
       (SELECT MAX(YksDvig_Id) AS YksDvig_Id,Bs,Ks,COUNT(*) AS RecCount
          FROM YksDvig
          GROUP BY Bs,Ks) Y1
  WHERE Y.Bs=Y1.Bs AND Y.Ks=Y1.Ks AND Y.YksDvig_Id<>Y1.YksDvig_Id AND Y1.RecCount>1

проверил на сиквеле, синтаксису мускула походу не противоречит
__________________
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию

Последний раз редактировалось Аватар; 27.12.2017 в 12:27.
Аватар вне форума   Ответить с цитированием
Старый 27.12.2017, 12:27   #12
OmegaBerkut
Участник клуба
 
Аватар для OmegaBerkut
 
Регистрация: 19.03.2013
Сообщений: 875
Репутация: 111
По умолчанию

Аватар, вложением прикрепил заголовки полей таблицы.
Из бренда и артикула создаётся общее поисковое значение.
Это всё что есть.
Изображения
Тип файла: png TDM_LINKS.png (2.8 Кб, 12 просмотров)
__________________
Подпись ? Не, не слышал ...
OmegaBerkut вне форума   Ответить с цитированием
Старый 27.12.2017, 12:43   #13
Аватар
Модератор
Заслуженный модератор
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Адрес: Северодонецк.ua
Сообщений: 17,671
Репутация: 6211
По умолчанию

Это не все что есть. Уникальный ключ есть или нет? Code, например, случайно не уникальный ключ записи таблицы? Если в группе записей-дублей нет поля или группы полей, позволяющих однозначно идентифицировать запись, то средствами SQL удалить дубликаты и оставить только одну проблемно, хоть из программы, хоть из оболочки. В мускуле как-то limit можно прицепить, но запаришься его цеплять к куче групп-дубликатов. В сиквеле пришлось бы удалить всё из записей-дублей, запомнив предварительно инфу одной из них. Потом вставить то, что запомнил
__________________
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
Аватар вне форума   Ответить с цитированием
Старый 27.12.2017, 12:52   #14
OmegaBerkut
Участник клуба
 
Аватар для OmegaBerkut
 
Регистрация: 19.03.2013
Сообщений: 875
Репутация: 111
По умолчанию

Аватар
Цитата:
Сообщение от OmegaBerkut Посмотреть сообщение
Идентификация по кодам записей - части с одинаковым источником данных, где источник определяется как поле CODE.
Это буквально ВСЕ поля таблицы.
Цитата:
Сообщение от Аватар Посмотреть сообщение
удалить дубликаты и оставить только одну проблемно, хоть из программы, хоть из оболочки
Парсинг в лоб ?
__________________
Подпись ? Не, не слышал ...
OmegaBerkut вне форума   Ответить с цитированием
Старый 27.12.2017, 12:55   #15
Аватар
Модератор
Заслуженный модератор
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Адрес: Северодонецк.ua
Сообщений: 17,671
Репутация: 6211
По умолчанию

Цитата:
Уникальный ключ есть или нет?
Есть или нет?
Цитата:
Парсинг в лоб ?
Чего это?

Если нет, выдерни во временную таблицу сгруппированные по брендам и артикулам записи-дубли
Удали все записи-дубли используя эту временную табличку не оставляя ни одной
Вставь по одной из каждой группы дубликатов из временной таблички
__________________
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию

Последний раз редактировалось Аватар; 27.12.2017 в 13:01.
Аватар вне форума   Ответить с цитированием
Старый 27.12.2017, 13:17   #16
OmegaBerkut
Участник клуба
 
Аватар для OmegaBerkut
 
Регистрация: 19.03.2013
Сообщений: 875
Репутация: 111
По умолчанию

Цитата:
Сообщение от Аватар Посмотреть сообщение
Есть или нет?
Получается, что уникального ключа нет. Да и смысл, это же набор конечных данных. Это если только какой нибудь внутренний ID, в котором я не вижу никакого смысла.
Цитата:
Сообщение от Аватар Посмотреть сообщение
выдерни во временную таблицу сгруппированные по брендам и артикулам записи-дубли
Сначала их нужно найти.
Можно не парсить, а для каждой записи составить зеркальный "ключ" (что то типа кэша), а в процессе искать повторы, которые были ранее. Но как составлять ключ - я ещё не придумал.
И тем не менее, от парсинга как такового это не спасает.
P. S. Лимит по миллиону вроде грузит.
__________________
Подпись ? Не, не слышал ...

Последний раз редактировалось OmegaBerkut; 27.12.2017 в 13:24.
OmegaBerkut вне форума   Ответить с цитированием
Старый 27.12.2017, 13:48   #17
Аватар
Модератор
Заслуженный модератор
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Адрес: Северодонецк.ua
Сообщений: 17,671
Репутация: 6211
По умолчанию

Цитата:
Сначала их нужно найти.
Ну ёлы-палы, с sql совсем плохо. Найти просто:
Код:

SELECT BKey1,AKey1,BKey2,AKey2
  FROM ТвояТаблица
  GROUP BY BKey1,AKey1,BKey2,AKey2
  HAVING COUNT(*)>1

Может еще PKey1,PKey2 засунуть по аналогии. Дальше смотри #15, там точно также все просто
Цитата:
Получается, что уникального ключа нет. Да и смысл, это же набор конечных данных. Это если только какой нибудь внутренний ID, в котором я не вижу никакого смысла.
И плохо, с ним всегда удобней. Вот тебе и пример - проблемы с удалением только одной записи из двух полностью идентичных
__________________
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
Аватар вне форума   Ответить с цитированием
Старый 27.12.2017, 16:43   #18
OmegaBerkut
Участник клуба
 
Аватар для OmegaBerkut
 
Регистрация: 19.03.2013
Сообщений: 875
Репутация: 111
По умолчанию

Цитата:
Сообщение от Аватар Посмотреть сообщение
Ну ёлы-палы, с sql совсем плохо.
Да, плохо ... Для меня база данных - это средство хранения, а не обработки информации. Если движок базы позволяет добавлять-изменять-удалять информацию - это уже хорошо (не нужно напрямую в файлы БД писать). Обработка информации должна же происходить за пределами её хранилища. Гибкости всяко по больше будет.
Цитата:
Сообщение от Аватар Посмотреть сообщение
Найти просто
Алгоритм составить может и не сложно, но вот процесс его выполнения будет происходить всё дольше и дольше (чем дальше по таблице, тем дольше смотреть на то, что было уже просмотрено.

Банальный запрос
Код:

SELECT COUNT(*) FROM TDM_LINKS
	GROUP BY BKEY1,AKEY1,BKEY2,AKEY2
	HAVING COUNT(*)>1

висит в базе уже И я не контроллирую процесс выборки (не вижу никакого движения).
Мне теперь либо перезапускать сервер/базу, либо ждать результата.
Хоть выясню количество полных дублей (а мне ещё и зеркальные дубли нужно вычистить).
Либо пока не ляжет база/сервер.

P. S. За 35 минут выполнения этого запроса база не вернула ничего. И не нулевое количество (а запрашивал я количество), а просто ничего. Пошёл выполнять без COUNT.
P. P. S. За 10 минут этот запрос без COUNT так же вернул ничего.
__________________
Подпись ? Не, не слышал ...

Последний раз редактировалось OmegaBerkut; 27.12.2017 в 17:17.
OmegaBerkut вне форума   Ответить с цитированием
Старый 27.12.2017, 16:46   #19
OmegaBerkut
Участник клуба
 
Аватар для OmegaBerkut
 
Регистрация: 19.03.2013
Сообщений: 875
Репутация: 111
По умолчанию

Цитата:
Сообщение от OmegaBerkut Посмотреть сообщение
Но как составлять ключ - я ещё не придумал.
И сейчас на компе это проблема ... Что можете посоветовать для составления такого хэш-ключа ?
За час обработало 700 000 записей (из них уже добрая половина - дубли). А записей всего 12 миллионов.
И обработка выполняется всё медленнее и медленнее.
__________________
Подпись ? Не, не слышал ...
OmegaBerkut вне форума   Ответить с цитированием
Старый 27.12.2017, 17:24   #20
Аватар
Модератор
Заслуженный модератор
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Адрес: Северодонецк.ua
Сообщений: 17,671
Репутация: 6211
По умолчанию

Цитата:
За 35 минут выполнения этого запроса база не вернула ничего
Тяжелый случай, не потому ли, что:
Цитата:
а на серваке всего 768 мегабайт
мучайся, делай неделями то, что тремя запросами, потратив на написание и отладку 10 минут, максимум час, можно выполнить за несколько минут )) Начальство не может что ли, более приличный комп под sql-сервер выделить?
__________________
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
Аватар вне форума   Ответить с цитированием
Ответ

Опции темы

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.

Быстрый переход

Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
System.IO.File.Copy() компьютер вешается наглухо OmegaBerkut C# (си шарп) 13 25.02.2017 15:32
Ошибка в запросе INSERT php Godfather07 Помощь студентам 0 21.02.2012 20:57
Можно ли при пост-запросе InDy получить только куки (при логине на сайт например)? TwiX Работа с сетью в Delphi 2 07.02.2010 09:21
ошибка при запросе добавления Rin БД в Delphi 4 26.12.2009 02:41
Зависание при пост запросе Фенрир Работа с сетью в Delphi 1 14.12.2009 16:18


19:42.


Powered by vBulletin® Version 3.8.8 Beta 2
Copyright ©2000 - 2018, Jelsoft Enterprises Ltd.

RusProfile.ru


Справочник российских юридических лиц и организаций.
Проекты отопления, пеллетные котлы, бойлеры, радиаторы
интернет магазин respective.ru