примерно

самолеты давно сами взлетают, летят и садятся

при желании.

Пока это все стартапчики и выкачка денег

ну не, довольно крупные игроки включились

самолеты давно сами взлетают, летят и садятся

Про это вкурсе, но речь об убирании пилота там нету даже близко

ну в общем да, какое-то время еще полетают

так что этот поезд не совсем ушел, для тех, кому IT осточертело

на эту жизнь хватит

А че сложно пилотом стать? сколько учиться нужно?

Средний программист не проходит по здоровью

это в РФ, где одни нормативы для пилотов и космонавтов

мои знакомые делали операции, что бы по зрению проходить

Средний программист не проходит по здоровью

Я думаю средний человек не проходит)

Ладно, раз в этом анимешном канале речь про самолёты зашла, задам вопрос по теме: а как для нейронки подбирать количество скрытых слоёв и их размер? Есть какие-то общие рекомендации?

надо просто заранее этот момент выяснить, что бы потом не было облома

Это точно чат про хаскель ??

Да зараза какая-то из чата про емакс заразила этот чат

Ладно, раз в этом анимешном канале речь про самолёты зашла, задам вопрос по теме: а как для нейронки подбирать количество скрытых слоёв и их размер? Есть какие-то общие рекомендации?

Опытным путем сравнивать разные топологии на выборках

Our Robots, Ourselves: Robotics and the Myths of Autonomy https://www.amazon.com/Our-Robots-Ourselves-Robotics-Autonomy-ebook/dp/B00SI02AWK

Ладно, раз в этом анимешном канале речь про самолёты зашла, задам вопрос по теме: а как для нейронки подбирать количество скрытых слоёв и их размер? Есть какие-то общие рекомендации?

random search если неохота заморачиваться

Про эти ваши роботы-самолеты

@dmalkr этому точно книга какая-нибудь не посвящена? и там еще разные разделы, типа для чего какая нейронка и как подбирать

random search если неохота заморачиваться

правило большого пальца - количество параметров не должно быть сильно больше чем количество данных

Не могу каких-то внятно книг, где бы это написано было, найти

ну по ML-ю книг много, неужели именно про нейронки ничего нет? просто тема какая-то дюже общая

Не могу каких-то внятно книг, где бы это написано было, найти

да потому что интуиция и метод проб и ошибок либо Автоматизация

Ладно, значит, перебор :(

Ладно, значит, перебор :(

random search эффективнее

Ну я про него, да. Всё множество параметров не перебрать.

Ну, разве что ген.алгоритмы добавить

мой опыт использования нейронок пришел к тому, что когда у тебя хороший вектор, который ты в нейронку пихаешь, то нейронка и не нужна становится

но это было больше десяти лет назад

Это как?

это как что?

перевод: как получается так что нейронка не нужна

Что такое "хороший вектор" и почему при нём нейронка становится не нужна?

мой опыт использования нейронок пришел к тому, что когда у тебя хороший вектор, который ты в нейронку пихаешь, то нейронка и не нужна становится

Нейронка это же обывательский термин для метода обратного распространения ошибки, нет?

Да

ну вот распознаешь ты символы

ты ж не будешь прям пикселы в нейронку пихать?

ты строишь некий от них инвариант

стойкий там к таким преообразованиям, сяким преобразованиям

и когда ты его научился строить

то оно прекрасно распознается тупым k-means

но да это было 10 лет назад и может с тех пор корабли бороздят и всё такое.

Прям пиксели и суют, насколько я понимаю. Как раз чтобы найти эти инварианты

может и суют, но тогда совали не пиксели. а собирали какой-то набор фактов о символах + какие-то геометрические производные

-деривативы- в смысле. ну там находили центр масс, вектора строили еще что-то вот такое.

Насколько я понимаю, вся суть хайпа в том, что монополии набрали себе таких вычислительных мощностей, что могут в нейронки пихать огромные вектора

ну я не знаю. учоные что-то изучают, пейперы пишутся, всё это происходит уже мнго лет, не стоит наверное так вот обобщать. как показывает практика, 1% всего этого должен быть по делу

ну, 0.1% - 1%

Ну так они много лет изучают, чо

Я говорю не о теории, а о практике

ну я бы остерегся говорить, что нейросети - 100% шлак

Если ты гугл, то нихера не шлак ?

но если сравнивать с той областью ноуке, что я окунулся лет пять назад - то где-то 99% публикаций - шлак

Ну я про него, да. Всё множество параметров не перебрать.

есть всякие градиент-десент стайл алгоритмы

ну по ML-ю книг много, неужели именно про нейронки ничего нет? просто тема какая-то дюже общая

Просто чем больше слоев, тем в общем случае "умнее" сеть, но тем дольше ее учит. Но это как я понял. Плюс там еще фишечки с переобучением

Ну моя позиция такая: монополии набрали себе ресурсов, чтобы подешёвке приближённо решать сложные задачи статистическим анализом, вместо того, чтобы нанимать дорогостоющие лаборатории и ждать десятки лет. А все мелкие компании тянутся за ними в хвосте и не понимают, что за этим хайпом стоят многомиллионные кластеры

В общем, только эмпирически подбирать, ИМО

@LuckAttractor "умнее" тут как-то смотриться... профанически.

т.е этих сетей 9000 видов

@LuckAttractor "умнее" тут как-то смотриться... профанически.

Ну я как бы и есть профан

не только слои определяют её свойство

В сетях-то

там есть и прочие какие-то архитектурные вещи

какие-то. мне казалось, даже у меня в книжках по ML-ю разбиралась пара-тройка видов сетей

Я просто всего пару раз их тыкал по работе, и то не сам

ERROR: S client not available

Тут и правда от задачи зависит, сколько слоев городить

мы десять лет назад пытались строить что-то наподобие Decision tree, только в узлах были простые персептроны, и всё это дело учить при помощи генетических алгоритмов

но быстро устали

пока собирается ghcjs можно обсудить широкий круг тем

по нескольку раз

Понятно. По-моему, кстати, куча стат задач решается без сети, просто с обучением, или я не понимаю?

Ну то есть обычный монте-карло, эволюция и прочие алгоритмы

ну я это и пытался сказать. при хорошем препроцессинге и инвариантах символы получалось распознавать без всяких нейросетей простым kmeans

ну в смысле nearest neighbor

Они же не особо связаны с сетями, но подходят там, где сейчас пытаются нейросети делать

Ну да

У нас просто недавно было сборище по бионинформатике, решали задачки разные. Сначала все такие - а давайте тут нейронку, и еще там и потом еще сверху одну

В итоге почти все задачи старыми алгоритмами решались на ура, все и дропнули это сети

Так суть-то нейронок в том, что засыпал туда данных, и оно само всё.

дооо

И не надо никаких "старых алгоритмов" знать

само

Вот примерно так ;)

Ну моя позиция такая: монополии набрали себе ресурсов, чтобы подешёвке приближённо решать сложные задачи статистическим анализом, вместо того, чтобы нанимать дорогостоющие лаборатории и ждать десятки лет. А все мелкие компании тянутся за ними в хвосте и не понимают, что за этим хайпом стоят многомиллионные кластеры

А почему эти монополии сейчас открывают код и форсят весь этот диплёнинг? Раз у "простых смертных без кластеров" всё равно ничего не выйдет без этих кластеров.

А почему эти монополии сейчас открывают код и форсят весь этот диплёнинг? Раз у "простых смертных без кластеров" всё равно ничего не выйдет без этих кластеров.

чтобы простые смертные лезли во всё это и не мешали

А почему эти монополии сейчас открывают код и форсят весь этот диплёнинг? Раз у "простых смертных без кластеров" всё равно ничего не выйдет без этих кластеров.

Очевидно, чтобы получить новые теоретические наработки за чужой счёт бесплатно

Не мешали чему?

большим конторам

а там да, может что и выгорит

если выгорит — купят

Так если они этим диплёнингом занимаются, как же они большим конторам мешают? Наоборот помогают

> чтобы простые смертные лезли во всё это и не мешали я же ровно про это и написал

задают нужный им вектор, и масса народу туда ломится

По-моему как раз был бы логичный вопрос обратный: если бы можно было срубить нехило на диплёнинге, не имея ресурсов монополий, кто бы тогда своими технологиями делился? Ну кроме GPL-фанатиков

А, в том смысле, что в дркгие направления не ломятся? ХитрО!

Ну вот и я про то же. Технологиями поиска же не делятся