выпишите ему бан плз

Здравствуйте, есть те которые программируют на CUDA у меня есть ряд вопросов. Благодарю.

Здравствуйте, есть те которые программируют на CUDA у меня есть ряд вопросов. Благодарю.

на уровне обучалок и подковырять исходники, чтоб заработало. больше для нейронок ничего и не надо от cuda

на уровне обучалок и подковырять исходники, чтоб заработало. больше для нейронок ничего и не надо от cuda

В таком случае подскажите пожалуйста на примере входных строе мне нужно обучить ИИ генерировать новые строки, алфавит заранее известен

В таком случае подскажите пожалуйста на примере входных строе мне нужно обучить ИИ генерировать новые строки, алфавит заранее известен

а причём тут cuda?

а причём тут cuda?

Хотя бы потому, что цп будет медленнее cuda, но я могу и от amd найти карты для этого исследования

это понятно

просто вопрос странный. примерно как сначала спросить - кто разбирается в физике плазмы, а потом пояснить, что мол мне это чтобы чайник вскипятить на газовой плите, так быстрее будет

https://github.com/karpathy/char-rnn

фреймворки для нейросетей стараются с cuda работать незаметно для конечного пользователя

по генерации строк и символьных последовательностей все начинают ознакомление с этого кода Карпаты

по генерации строк и символьных последовательностей все начинают ознакомление с этого кода Карпаты

Благодарю :) приступил изучать, но ведь логику верно выстроил другими словами сделал выборку на предмет того а есть ли готовые методы на cuda

Благодарю :) приступил изучать, но ведь логику верно выстроил другими словами сделал выборку на предмет того а есть ли готовые методы на cuda

в области нейросетей очень силён академизм, то есть подход "учоных", а не "программистов". тут половина людей не сможет объяснить как в точности работает та или иная технология высшего уровня, не то что там cuda. поскольку им это и не нужно. у учёного есть данные и есть модель, он одно в другое скармливает, нажимает кнопочку fit и бежит скорей писать статью. а как оно там работает - некогда копаться

в области нейросетей очень силён академизм, то есть подход "учоных", а не "программистов". тут половина людей не сможет объяснить как в точности работает та или иная технология высшего уровня, не то что там cuda. поскольку им это и не нужно. у учёного есть данные и есть модель, он одно в другое скармливает, нажимает кнопочку fit и бежит скорей писать статью. а как оно там работает - некогда копаться

понимаю) у меня также есть данные и модель)

плюсы у этого есть - можно наколдовать нейросеть в 10 строк

плюсы у этого есть - можно наколдовать нейросеть в 10 строк

если у вас есть на примете что-то стоящее я буду рад взять за основу и за дальнейшую доработку, а со статьями да ознакомился как написать нейросеть за "десяток" строк. Попадались такие :)

тут на канале куча материала, как раз по генерации текста и т.п.

Низкий вам поклон, пробегусь выше всё на заметки помечу для себя :)

в области нейросетей очень силён академизм, то есть подход "учоных", а не "программистов". тут половина людей не сможет объяснить как в точности работает та или иная технология высшего уровня, не то что там cuda. поскольку им это и не нужно. у учёного есть данные и есть модель, он одно в другое скармливает, нажимает кнопочку fit и бежит скорей писать статью. а как оно там работает - некогда копаться

лол

так толсто что аж тонко

так толсто что аж тонко

хотите сказать, что совсем не так?)

Ну вот недавно прошёл нипс, можно привести ссылку на статью, результаты в которой получены подобным образом. Чтобы не быть голословным. Все же учёные придумывают методы/идеи, которые потом спецы по куде имплементят в фреймворках, а кнопку фит жмут инженеры-прикладники

Ну вот недавно прошёл нипс, можно привести ссылку на статью, результаты в которой получены подобным образом. Чтобы не быть голословным. Все же учёные придумывают методы/идеи, которые потом спецы по куде имплементят в фреймворках, а кнопку фит жмут инженеры-прикладники

зачем далеко ходить, собственно мистер Карпаты ярко иллюстрирует собой подобный подход https://karpathy.github.io/2015/05/21/rnn-effectiveness/

человек чудесно неэффективным способом сделал по сути простейший бредогенератор, глядя на который любой практикующий дорвейщик будет думать - смеяться или плакать? а у учоного сразу чудеса, магия и невиданная эффективность :))

Хм... по-моему ты перепутал научную статью и блог. Это во-первых, а во-вторых, он удивился тому что нейронкой в принципе можно что то приличное получить. До этого за пятьдесят лет нейронками вообще мало что получалось

Да не, просто чувак для красного словца гиперболизировал слегка) А теперь ему неохота писать, что просто погорячился, он и выкручивается.

Да не, просто чувак для красного словца гиперболизировал слегка) А теперь ему неохота писать, что просто погорячился, он и выкручивается.

ну соре, считать что подход ученых это ни в чем не разбираясь жать на кнопки, а подход программистов это во всем разобраться, это либо очень толстый троллинг, либо идиотизм

в любом случае стоит избежать вступления в дискуссию

Ну вот недавно прошёл нипс, можно привести ссылку на статью, результаты в которой получены подобным образом. Чтобы не быть голословным. Все же учёные придумывают методы/идеи, которые потом спецы по куде имплементят в фреймворках, а кнопку фит жмут инженеры-прикладники

Вроде всегда так было алгоритм с математика, реализация под ЯП с программиста по этому ЯП

ну соре, считать что подход ученых это ни в чем не разбираясь жать на кнопки, а подход программистов это во всем разобраться, это либо очень толстый троллинг, либо идиотизм

я такого не писал

ну соре, считать что подход ученых это ни в чем не разбираясь жать на кнопки, а подход программистов это во всем разобраться, это либо очень толстый троллинг, либо идиотизм

Я ж говорю, гиперболизировал)) и он профессии в кавычках написал, то есть это такая условная классификация

в области нейросетей очень силён академизм, то есть подход "учоных", а не "программистов". тут половина людей не сможет объяснить как в точности работает та или иная технология высшего уровня, не то что там cuda. поскольку им это и не нужно. у учёного есть данные и есть модель, он одно в другое скармливает, нажимает кнопочку fit и бежит скорей писать статью. а как оно там работает - некогда копаться

> в области нейросетей очень силён академизм, то есть подход "учоных", а не "программистов" ... нажимает кнопочку fit и бежит скорей писать статью. а как оно там работает - некогда копаться

в любом случае стоит избежать вступления в дискуссию

+

Я ж говорю, гиперболизировал)) и он профессии в кавычках написал, то есть это такая условная классификация

я сначала подумал, что категории перепутаны если честно

Правильно считать что GAN может извлечь информацию из данных без подсказок (обучения)? Приводят пример с книгами на разных языках где GAN извлекает семантику из текста и использует ее для перевода. А для временного ряда это будет работать?

Правильно считать что GAN может извлечь информацию из данных без подсказок (обучения)? Приводят пример с книгами на разных языках где GAN извлекает семантику из текста и использует ее для перевода. А для временного ряда это будет работать?

не думаю что кто-то такое делал

может будет, а может и нет

Правильно считать что GAN может извлечь информацию из данных без подсказок (обучения)? Приводят пример с книгами на разных языках где GAN извлекает семантику из текста и использует ее для перевода. А для временного ряда это будет работать?

Как вообще необученная сеть может что-то достать? Во-вторых, с каких это пор в задачи GAN входит извлечение информации? Можно ссылку?

Как вообще необученная сеть может что-то достать? Во-вторых, с каких это пор в задачи GAN входит извлечение информации? Можно ссылку?

Думаю, Ivan имеет в виду unsupervised learning, а не отсутствие фазы тренировки. UL с помощью GAN действительно можно делать, хотя и велика вероятность застрять в локальном минимуме.

Ребят, а реально на глубинном обучении адаптивную систему для ставок или трейдинга делать? Есть реальные саксесс стори?

реально, но тебе нет

Ребят, а реально на глубинном обучении адаптивную систему для ставок или трейдинга делать? Есть реальные саксесс стори?

если у тебя есть канал получения денег с высокой маржинальностью — то его можно автоматизировать. если канал с небольшой маржинальностью — то ты хрен настроишь систему на DL для работы с ним.

если у тебя есть канал получения денег с высокой маржинальностью — то его можно автоматизировать. если канал с небольшой маржинальностью — то ты хрен настроишь систему на DL для работы с ним.

Ну, от скольки начинается высокая маржинальность?

1-2 процента с операции? Или другие характеристики стоит рассматривать?

предсказуемость операции должна быть выше маргинальности

предсказуемость операции должна быть выше маргинальности

Это есть

т.е. если маргинальность операции низкая — то неточности работы НС могут сами по себе создавать проблемы.

ну всё, если эти два условия соблюдены — то вперёд, пробуй.

т.е. если маргинальность операции низкая — то неточности работы НС могут сами по себе создавать проблемы.

А вы знаете какую нибудь литературу? Или иные источники информации о конкретном применении касательно этого вопроса. Встречались?

периодически разные статьи бывают в интернете

но вообще, у кого получается — те молчат и пользуются

конкурентов плодить невыгодно

поэтому статьи в интернете в основном от начинающих

(но это не значит, что у тех, кто не пишет статьи о своём опыте — всё получилось. совсем нет)

вообще, для большинства случаев, бустинговые и обычные случайные деревья решений будут работать быстрее, не хуже, и требовать меньше данных для обучения — советую в первую очередь глядеть на них.

Ну, значит тупо траить. Хорошо.

DL хорош, когда данных много и между элементами есть хорошие корреляции — типа как для видео, фото, аудио, итп.

если же меньше 100 единиц данных для принятия решения — то НС никаких новых сложных зависимостей по сравнению с более простыми классификаторами скорее всего не найдёт (а если найдёт — то наверняку вдобавок и кучу мусорных ошибочных зависимостей).

для предсказания multidimensional time series DL неплох. Я использовал одномерный аналог ResNet, по последним нескольким часам предсказывал, куда пойдет график. На validation data не получилось выйти за пределы следующих ограничений: 1. Комиссия биржи 0.25% за транзакцию 2. Не менее 30% годовых в целом Поэтому забил, расчетные 10% годовых вообще не радуют. Но это была криптовалюта, рынок акций должен быть более предсказуем. Видел где-то статью чувака, у которого бот сделал несколько тысяч долларов за лето на акциях, там была рекуррентная сеть, по-моему даже не LSTM. Но пару раз ему приходилось выключать бота, когда он во время аномалий начинал сливать все. Не для слабонервных в общем это.

для предсказания multidimensional time series DL неплох. Я использовал одномерный аналог ResNet, по последним нескольким часам предсказывал, куда пойдет график. На validation data не получилось выйти за пределы следующих ограничений: 1. Комиссия биржи 0.25% за транзакцию 2. Не менее 30% годовых в целом Поэтому забил, расчетные 10% годовых вообще не радуют. Но это была криптовалюта, рынок акций должен быть более предсказуем. Видел где-то статью чувака, у которого бот сделал несколько тысяч долларов за лето на акциях, там была рекуррентная сеть, по-моему даже не LSTM. Но пару раз ему приходилось выключать бота, когда он во время аномалий начинал сливать все. Не для слабонервных в общем это.

Лол. А сколько buy & hold на крипте показывал?)

у меня на фьючерсе РТС хорошие графики были (ровный equity без просадок, 300 сделок в день), но на высокой волатильности (кажется, весной 2015). летом робот проигрывать стал, когда рынок успокоился.

использовал xgboost, ордерлог, 100мсек таймфрейм.

сейчас бы все на нейронки переписал, конечно.

Лол. А сколько buy & hold на крипте показывал?)

у меня в биткоинах номинировано все было, не в долларах

у меня в биткоинах номинировано все было, не в долларах

А, +30% от бейзлайна. Тогда ок.

Проблема в том, что обычно мало данных, и их для нормальной валидации не хватает. Поэтому стратегия может выигрывать на validation и плохо работать в production. Вообще, повторяющиеся паттерны (неэффективность некоторых игроков) на рынке влегкую определяются всеми достаточно умными игроками -- и этот выигрыш делится на всех таких игроков (а я напоминаю, что рынок -- это игра с нулевой суммой). Поэтому "дополнительные мозги" дают очень мало дополнительных денег.

Эксперименты одного моего приятеля тоже давали слишком небольшой средний выигрыш и полное отсутствие гарантий.

Проблема в том, что обычно мало данных, и их для нормальной валидации не хватает. Поэтому стратегия может выигрывать на validation и плохо работать в production. Вообще, повторяющиеся паттерны (неэффективность некоторых игроков) на рынке влегкую определяются всеми достаточно умными игроками -- и этот выигрыш делится на всех таких игроков (а я напоминаю, что рынок -- это игра с нулевой суммой). Поэтому "дополнительные мозги" дают очень мало дополнительных денег.

рынок это игра с отрицательной суммой за счет комиссий

рынок это игра с отрицательной суммой за счет комиссий

да, так точнее

Ребят, а реально на глубинном обучении адаптивную систему для ставок или трейдинга делать? Есть реальные саксесс стори?

я как то пробовал сделать, но потом понял, что рыночек так не работает. разоришься со 100% гарантией в долгой перспективе

прогресс в распознавании лиц — https://i.redd.it/s8t9xeu53w901.gif

Здравствуйте, есть зачаточные знания матана, нужны матан, алгебра, теорвер, статистика и может что-нибудь ещё. Подскажите пжлст с чего начать, чтобы скорее вникнуть в суть мл и уже потом продолжать совершенствовать свои знания в обл математики

cs231n

Спс

fast.ai

На Udacity есть курсы где всё разжёвывается, Intro to ML можете пройти

извините но что за ML ?

традиционно посоветую ml-class

Udacity не рекомендую! Просто просмотрел некоторые курсы, очень некомпетентые люди рассказывают!

Там не глубоко, не спорю

не глубинно

Да что за ML!!!