denis ⛅️
а как сделать то так?
Alex
в смысле он ее использует под капотом но API нет.
Tishka17
а
denis ⛅️
лучше бы завезли треды нормальные
Alex
треды нормальные
denis ⛅️
треды нормальные
только не дают прироста из-за гил?
Alex
только не дают прироста из-за гил?
дают в определенных условиях.
Alex
и отлично решают свою задачу
denis ⛅️
имхо, если данные не планируется менять, лучше просто форкнуться и переиспользовать
ты предлагаешь заново для каждого процесса загружать таблицу с диска или как?
Tishka17
нет
Anonymous
set(lst) & set(other)
Anonymous
Подскажите, вылетело из головы, можно лямдой - найти свовпадение в поле объекта в списке объектов.. if a_name in (x.name for x in x_arr) - что то похожее на это
Tishka17
ты предлагаешь заново для каждого процесса загружать таблицу с диска или как?
ну был пример с глобальной переменной - но это грубо. Можно просто запускать метод объекта вместо функции, буде твроде то же самое
Tishka17
не понимаю что ты имеешь ввиду
x=[...] def func(): global x ... multiprocssing(func, something)
denis ⛅️
x=[...] def func(): global x ... multiprocssing(func, something)
утверждается что не будет пикла?
Tishka17
не понимаю что ты имеешь ввиду
правда адо уточнить что конкретно ты делаешь
Alex
x=[...] def func(): global x ... multiprocssing(func, something)
но имхо это слегка костыль
Tishka17
это PoC
Tishka17
вопрос что у него там
Tishka17
map или ещё что
denis ⛅️
правда адо уточнить что конкретно ты делаешь
ну если конкретно, то я загружаю кучу таблиц из памяти и попарно рассчитываю некоторую другую функцию, определенную как f(table1, table2)
Tishka17
если мап, он не пикли твесь список, он посылает по элементу
Tishka17
если конечно каждый элеент гигабайт, имеет смысл посылать только номера
Tishka17
если мелкие, то выигрыша не будет
Alex
в теории можно как-то через https://docs.python.org/3.7/library/multiprocessing.html#module-multiprocessing.sharedctypes попробовать
denis ⛅️
Tishka17
но имхо это слегка костыль
class Runner: def run(self, data): self.data = data pool.map(self.apply, range(len(data)) def apply(self): ... r = Runner() r.run()
Tishka17
куча таблиц по 30-40 мб
откуда они у тебя вообще разом в памяти?
denis ⛅️
откуда они у тебя вообще разом в памяти?
подгрузил, оперативка позволяет
Tishka17
ну ты можешь чтобы каждый просто грузил только то что ему надо
denis ⛅️
ну ты можешь чтобы каждый просто грузил только то что ему надо
проблема в том, что предполагается частое переиспользование
Tishka17
ну вон ещё костыль
denis ⛅️
типа на всех возможных парах таблиц
denis ⛅️
Alex
типа на всех возможных парах таблиц
что из себя эти таблицы представляют?
denis ⛅️
что из себя эти таблицы представляют?
дата и значение на этой дате
Евгений
ща попробу
Можно поробовать на OpenCL переписать твой код. Я думаю там быстрее посчитает чем через процессы.
Евгений
ща попробу
Если речь про расчет вчерашнего
Alex
дата и значение на этой дате
если там нет особо извращений в виде типов и дату можно представить в виде числа, ты можешь таки заюзать ctypes типы данных для этого.
Евгений
да
Тогда рекомендую opencl
Евгений
да
Я на нем Лапласиан 2го порядка для матрицы 512х512 за доли секунд считал
Anonymous
Всем привет. Кто нибудь использовал Python для извлечения комментариев с веб страниц?
Unat
В мыслях не было
Anonymous
Всем привет! Парни кто-нибудь рекомпайлил binary файлы модулей линукса под разные CPU под aarch64 конкретно интересует ?
Туночка️
>>> id = 750000000 >>> p = 1 >>> fch = '{"inline_keyboard": [[{"text": "On pixiv", "url": "https://www.pixiv.net/member_illust.php?mode=medium&illust_id={}"}, {"text": "More", "url": "http://t.me/dpixivbot?start={}"}, {"text": "Share", "switch_inline_query": "{}_{}"}]]}' >>> fch.format(id,id,id,p) Traceback (most recent call last): File "<stdin>", line 1, in <module> KeyError: '"inline_keyboard"' >>>
Туночка️
в чем трабл???
Туночка️
fch строка
Туночка️
а можно \?
Damir
та же ошибка
Скинь новый код
Damir
та же ошибка
А вообще здесь % удобнее было бы
Туночка️
>>> for_channel = json.dumps({'inline_keyboard': ... [ ... [{'text':'On pixiv', 'url':'https://www.pixiv.net/member_illust.php?mode=medium&illust_id={{}}'}, ... {'text': 'More','url':'http://t.me/dpixivbot?start={{}}'}, ... {'text':'Share', 'switch_inline_query':'{{}}_{{}}'}]] ... }) >>> for_channel.format(id,id,id,p) Traceback (most recent call last): File "<stdin>", line 1, in <module> KeyError: '"inline_keyboard"'
Туночка️
Туночка️
>>> for_channel = json.dumps({{'inline_keyboard': ... [ ... [{{'text':'On pixiv', 'url':'https://www.pixiv.net/member_illust.php?mode=medium&illust_id={}'}}, ... {{'text': 'More','url':'http://t.me/dpixivbot?start={}'}}, ... {{'text':'Share', 'switch_inline_query':'{}_{}'}}]] ... }}) Traceback (most recent call last): File "<stdin>", line 3, in <module> TypeError: unhashable type: 'dict' >>>
denis ⛅️
тю
я думал ты тянка а ты тунка
Туночка️
Damir
Нет, бред несу
Туночка️
ничо не понял го по новой
Damir
ничо не понял го по новой
Чего ты хочешь от этого кода?
Туночка️
Чего ты хочешь от этого кода?
ну хочу сделать жсон строку а потом форматом засунть нужные числа