denis ⛅️
если мне надо большим количеством данных не помещающимися в оперативку крутить, то sql надо пользовать или как?
Fᴏʀᴅᴇɴ
denis ⛅️
Fᴏʀᴅᴇɴ
Fᴏʀᴅᴇɴ
выдает 1 элемент последовательности, без загрузки всего датасета в память
denis ⛅️
Проксимов
Fᴏʀᴅᴇɴ
питон сам по себе не особо шустрый, если на то пошло
Проксимов
Тебе шашечки или ехать?
Fᴏʀᴅᴇɴ
нужна скорость - стоит использовать специализированные средства
Проксимов
Fᴏʀᴅᴇɴ
denis ⛅️
Проксимов
Но судя по уровню вопроса
Дмитрий
clickhouse
Fᴏʀᴅᴇɴ
ставишь туда, загружаешь все данные в табличку и хоть обдрочись с запросами
Fᴏʀᴅᴇɴ
производительности выше крыши
Fᴏʀᴅᴇɴ
denis ⛅️
denis ⛅️
Дмитрий
а что за данные то?
Дмитрий
а то вдруг кликхаус оверкиллом будет
denis ⛅️
я предлагал батчами
denis ⛅️
но он начал руками разводить
denis ⛅️
Дмитрий
"я не понимаю - тимлид даун", лол
denis ⛅️
за много лет
denis ⛅️
Дмитрий
denis ⛅️
Дмитрий
за день? час? минуту? месяц?
Проксимов
Дмитрий
много лет это сколько? два года? три? десять?
Дмитрий
denis ⛅️
Дмитрий
denis ⛅️
делать квантизацию не вариант
Проксимов
denis ⛅️
denis ⛅️
ну там данные говно, надо дырки как то проинтерполировать и все в таком духе
Дмитрий
ну возьми любую бд, там не особо большой объем
Дмитрий
поверх постгри ставится timescale, вроде норм
denis ⛅️
clickhouse
вот это выглядит как годный совет, ща гляну
Viktor
denis ⛅️
Дмитрий
denis ⛅️
denis ⛅️
спасибо
denis ⛅️
хз у меня просто горит жопа с того, что мне платят копейки, при этом требуют делать ВСЕ за ВСЕХ, команда из полторы калеки помимо меня
denis ⛅️
за каждым код тупо переписывать приходится
Дмитрий
ну нам это не интересно)
denis ⛅️
хотя это сука я джун
Petr
Если есть привязка к времени и тебе не сильно важно выполнять джоины, а так же все твое чудо можно уместить в 1 таблицу, то кликхаус самое оно
Viktor
Petr
Даже на 1 машине будет быстро, просто из за структуры
denis ⛅️
ну нам это не интересно)
а вот если по опыту говорить, то это будет сильно медленнее работать чем если прогрузить данные сразу в оперативу и дальше векторно все считать?
denis ⛅️
denis ⛅️
короче пацаны ВСЕГДА спрашивайте на собесе чем вам предстоит конкретно заниматься и желательно в процентном соотношении
Alex
lbh
и сразу в контракт прописать, чем будешь заниматься, и неустойка в случае отклонения со стороны работодателя :D
Tishka17
Iz
Alex
я вот сейчас документики пишу
denis ⛅️
от этого не выиграю ни я ни компания
Tishka17
я как-то пришел рисовать окошки на Qt, а в итоге писал модули ядра для линукса
Tishka17
а потом то же самое на второй работе
Tigran
Alex
Alex
джанга закончилась довольно быстро