Изучить нейросети
Пришло время разобраться в самой сложной, активно развивающейся, многообразной области машинного обучения - нейросетях. Частично моя цель освоить теорию - я хочу более или менее свободно разбираться в новых алгоритмах, которые появляются в области глубинного обучения. Но другая часть практическая. Библиотеки машинного обучения позволяют использовать многие методы не особенно задумываясь о реализации, буквально одной строчкой кода, но с нейросетями такой фокус не проходит. Все библиотеки типа TensorFlow, Theano и т.д. дают только заготовки, которыми нужно уметь пользоваться, адаптируя их под разные цели.
План я сейчас составляю примерный и буду корректировать его по пути. Я не хочу пихать в списки материалов все, что могу найти и постараюсь фильтровать материал, но всегда открыта для рекомендаций.
Постараюсь писать отчеты хотя бы раз в неделю (хотя луче бы чаще)
Goal Accomplishment Criteria
1. Практические навыки построения нейросетей для конкретных целей (например классификации последовательностей)
2. Чтение и понимание статей с новыми исследованиями в области
Personal resources
Работа в области анализа больших данных, которая всегда подкидывает мне интересные новые задачи. Хотя прямо сейчас у меня нет необходимости в нейросетях (поскольку в основном я занимаюсь рекомендательной системой), но искать новых знаний никогда не рано.
-
Ознакомится с принципами построения нейросетей в целом
- В качестве начального курса может подойти этот Deep learning от Google (тут есть отзыв от человека, который этот курс прошел )
- Рекомендации по глубокому обучению (про инциализацию данных, выбр функции активации и т.д.): часть первая и вторая.
- Про распознавание лиц с помощью нейросетей
-
Пройти курс Neural Networks for Machine Learning
Neural Networks for Machine Learning. Курс по отзывам очень хорош хотя и сложен
-
Разобраться с алгоритмами широко-используемых специфических видов нейросетей: рекурентными (LSTM в особенности) и сверточными (CNN)
- Вводная статья по LSTM: Understanding LSTM (и ее перевод на русский: LSTM)
- Статья Predict Time Sequence with LSTM
- Вводная статья по сверточным нейросетям
-
Разобраться с существующими библиотеками для deep learning под python
Варианты: TensorFlow, Theano, Keras, PyBrain, что-нибудь еще
Тут должно быть много кодинга, но уже с пониманием принципов работы. Нужно протестировать инструменты на разных примерах и типах NN, выбрать самый удобный
- Описание работы с PyBrain
- Статья про решение kaggle соревнования по компьютерному зрению
- Статья по реализации на TensorFlow рекурентной нейросетки
-
Разное
- Распределенное обучение нейросетей:
- TensorFlow
- Есть ли что-то для Spark
- Нейросети для рекомендаций
- Распределенное обучение нейросетей:
Don't miss new posts!
Subscribe for the Goal and follow through to its completion
