Svyatoslav
Я ещё не дорос чтобы понимать это
Svyatoslav
Xaxashutkin
Попробуй разобраться в двоичной системе числения, там не сложно
Хотя для джаваскрипта это почти бесполезные знания
Svyatoslav
Попробуй разобраться в двоичной системе числения, там не сложно
Хотя для джаваскрипта это почти бесполезные знания
Я знаю что есть двоичная система
Svyatoslav
ЕГЭ как то сдавал же
Svyatoslav
Есть много простых вещей, понимание которых приходит со временем...
А до этого кажется что это невероятно сложно
Xaxashutkin
Ну тогда чего непонятного
Інт32 значит что число имеет 32 бита
Для него возможный диапазон -2,147,483,648 до +2,147,483,647
Твое число вылезло за диапазон и произошло урезание числа
Svyatoslav
А урезание это - 2 ** 32?
Svyatoslav
Видимо да
Svyatoslav
Тогда правильным решением будет
if i > 2**32:
i -= 2 ** 32
Не. Тут какая-то дичь
Svyatoslav
Спасибо
Xaxashutkin
Нет
Урезание это удаление всех битов старше 32го
В чем смысл этой операции мне пока непонятно
Svyatoslav
Ок
Svyatoslav
Просто - 2 ** 32 даёт тот же результат что и << 0
Xaxashutkin
А откуда ты эту операцию взял?
Svyatoslav
Конкретно
Svyatoslav
<< 0?
Xaxashutkin
-2^32
Xaxashutkin
А если увеличить число в 10 раз результат тоже будет совпадать
Xaxashutkin
?
Svyatoslav
Надо тестировать
Svyatoslav
Я не уверен что это 100% верное решение
Svyatoslav
Как минимум если число будет 0, то его сделают -4млрд
Svyatoslav
Короче, вот то число на скрине - красный цвет
Svyatoslav
Там где большое число, это выхлоп из сдвига argb
Нужно перевести это число, в то, что js возвращает при << 0, но на питоне
Потому что корректное значение для красного цвета -65536
Svyatoslav
В данном случае сработало простое вычитание... Но как бы это сделать правильно...
Как вариант, перевести в строку битов и обрезать её до длины 32. Но я не уверен что это правильно
Oleg
Просто - 2 ** 32 даёт тот же результат что и << 0
Да почитай ты спеку уже, я тебе же всё скинул
сравни даже 4294967296 * 3 - Math.pow(2, 32) и 4294967296 * 3 << 0
Xaxashutkin
Да почитай ты спеку уже, я тебе же всё скинул
сравни даже 4294967296 * 3 - Math.pow(2, 32) и 4294967296 * 3 << 0
ты сам проверял что это дает?
Xaxashutkin
ану кинь скрин где это в спеке
Svyatoslav
Да почитай ты спеку уже, я тебе же всё скинул
сравни даже 4294967296 * 3 - Math.pow(2, 32) и 4294967296 * 3 << 0
Понял. То есть тот вариант с ифом был правильный
Svyatoslav
Почти
Svyatoslav
if i > 2 ** 31:
i -= 2 ** 32
Xaxashutkin
блять
Svyatoslav
В либе на js юзали сдвиги.
Xaxashutkin
Xaxashutkin
Xaxashutkin
как же спека?
Svyatoslav
Нахер math pow когда 2 ** 32 работает?
Oleg
Xaxashutkin
Xaxashutkin
и? я не понимаю что ты от меня хочешь. я и говорю, что это не просто вычитание 2**32
тогда прости, я думал ты говоришь что это одно и тоже
Svyatoslav
Xaxashutkin
Нахер math pow когда 2 ** 32 работает?
короче если ты почитаешь внимательней то там сначала округляют до инт32 а дальше вычитают
для округления до интт32 в пайтоне должны быть отдельные функции
Oleg
Почему ты умножаешь на три
просто чтобы показать, что при больших числах твоя формула не сработает так, как <<
Xaxashutkin
а просто совпаение в твоем случае
Svyatoslav
а просто совпаение в твоем случае
4294901760 * 3 - 2 ** 32 * Math.ceil(4294901760 * 3 / 2 ** 32)
Svyatoslav
Теперь верно в любом случае
Svyatoslav
Кроме случая если число меньше 2 ** 32
Xaxashutkin
так это по сути и есть приведение до инт32, когда ты делишь на 2**32
Xaxashutkin
только в пайтоне лучше использовать встроеные методы для приведения типов
Svyatoslav
Конечно лучше. Знать бы еще как они называются, или хотя бы как это гуглить
Svyatoslav
int 32 python дает вообще головокружительные ответы
Xaxashutkin
а с какого типа ты приводить хочешь?
как тебе данные придут, строкой?
Svyatoslav
а с какого типа ты приводить хочешь?
как тебе данные придут, строкой?
Данные у меня изначально в массиве, типа [255, 255, 255, 255]
Массив [255, 0, 0, 255] переводится в int 4294901760
Svyatoslav
сдвигами
Svyatoslav
но 4294901760 не валидное значение для цвета.
Xaxashutkin
понял
Xaxashutkin
щас придумаем
Svyatoslav
когда же тг научится ограничивать длину ника...
Xaxashutkin
Svyatoslav
там если даже альфа не указана, в либе ее специально дописывают
Svyatoslav
И потом - 65*** корректно распознается, значит все правильно
Xaxashutkin
а либа пайтоновская? или джс?
Xaxashutkin
да, распознается, но тот ли это цвет
Xaxashutkin
и задействован ли там альфа канал
Svyatoslav
Svyatoslav
завтра протестирую
Xaxashutkin
я знаю что тебе нужно делать но не знаю как
тебе нужно превратить беззнаковый тип в знаковый
Svyatoslav