Машинное обучение и искусственный интеллект увлекли мое любопытство и разожгли страстное стремление к исследованию знаний. По состоянию на 2023 год шумиха в СМИ вокруг этих областей огромна, и я прочитал бесчисленное количество статей, в которых обсуждалось внимание и опасения, которые они вызывают. Поскольку искусственный общий интеллект (AGI) служит конечной целью, я надеюсь каким-то образом внести свой вклад в эту преобразующую область в течение своей жизни. Пока я путешествую по этой захватывающей области, я приглашаю вас присоединиться ко мне в этом захватывающем путешествии открытий. Я охотно приветствую вклад великих умов, которые помогут определить наше направление.
На прошлой неделе я отпраздновал свой 24-й день рождения, и это было идеальное время, чтобы написать свой первый блог. Размышляя о прошлых решениях, я часто сожалел о том, что раньше не посвятил себя тому, чем я действительно увлечен, например машинному обучению. Иногда я испытываю чувство срочности, задаваясь вопросом, не слишком ли поздно. Тем не менее, я твердо верю, что этот возраст предоставляет идеальную возможность поделиться своим учебным путешествием и максимально использовать предстоящее время.
Моя цель — предоставить достоверный отчет о моем учебном опыте, предлагая взглянуть на взлеты и падения и бесценные уроки, которые я усвоил на этом пути. Я буду регулярно обновлять этот блог, охватывая различные области знаний, которые я приобрел. Обратите внимание, что этот блог будет развивающимся процессом по мере изменения ресурсов и налаживания связей. Я верю, что это воспоминание о моем путешествии будет бесценным для других, которые надеются отправиться в подобное путешествие. Это также может быть интересно читать, когда я буду намного старше.
Позвольте мне поделиться некоторыми мыслями о моей истории, так как это поможет контекстуализировать рост, который я испытал за этот период. Присоединяйтесь ко мне, когда мы исследуем постоянно расширяющийся ландшафт машинного обучения, раскрывая его тайны и используя бесконечные возможности, которые открываются перед нами. Вместе мы будем решать проблемы, учиться друг у друга и вносить свой вклад в захватывающие достижения в этой замечательной области.
Приветствую Алексу Гордича — он вдохновил меня на создание моего первого блога и предоставляет полезную информацию. Его невероятная самоотверженность демонстрирует, что при наличии достаточного количества времени и усилий можно научиться чему угодно и сделать успешную карьеру, приносящую счастье.
Взгляд в мою историю
Я считаю, что являюсь продуктом своего окружения и стандартов, окружающих меня. Выросший в районе, где немногие стремились осуществить свои мечты или активно работать над их достижением, я хорошо учился в школе, но часто делал достаточно, чтобы сделать следующий шаг, не рассматривая весь путь.
Я получил степень бакалавра компьютерных наук с отличием в университете Russel Group в Великобритании. Возможность получить диплом с отличием первой степени не казалась реальной до последнего семестра моего последнего года обучения, когда я подумал, что это возможно получить, если приложу больше усилий. После выпуска я работаю инженером-программистом (SWE), сталкиваясь со своими собственными проблемами и преодолевая препятствия, усугубленные пандемией COVID-19.
Поворотный момент для меня наступил, когда моя непосредственная сеть поддержки изменилась. Мне повезло, что у меня есть очень поддерживающая меня девушка, которая учится в ведущем британском университете и изучает право в Лондонской школе экономики. Она, наряду со своими сверстниками, иллюстрирует идею о том, что успех связан с упорным трудом, а не со сверхчеловеческими способностями.
Машинное обучение не было моей первоначальной целью в этом откровении. Вместо этого он постепенно стал кульминацией предыдущих шагов в моем новом путешествии по самосовершенствованию посредством тяжелой работы и стремления к знаниям. Все началось с желания стать лучшим SWE, что заставило меня после десятилетнего перерыва взяться за книгу, начиная с Чистого кода. С тех пор я активно читаю, поставив перед собой цель читать по книге каждый месяц — вы можете следить за моим списком чтения на GoodReads. Признавая важность алгоритмов в кодировании интервью, я решил, что это будет следующим шагом. Однако вскоре я понял, что всестороннее понимание концепций требует пересмотра основы теоретической информатики — математики. По общему признанию, иногда я, возможно, неосознанно откладывал взаимодействие с такими платформами, как LeetCode.
В начале 2023 года я отправился в путешествие, чтобы изучить некоторые ключевые фундаментальные аспекты линейной алгебры и исчисления с помощью Coursera. Хотя раньше для разработки SWE я использовал такие платформы, как Pluralsight, я стремился к более долгосрочному и методичному обучению. Я наткнулся на Coursera через подкаст Лекса Фридмана, и было очевидно, насколько популярна специализация по машинному обучению.
Стремление к знаниям и общее удовольствие вдохновили меня вернуться к образованию и получить степень магистра в области передовых компьютерных наук, для чего я получил стипендию и начну обучение в сентябре 2023 года. На момент подачи заявки я все еще сосредоточился на SWE и моя приверженность машинному обучению еще не была абсолютной. Следовательно, я искал программу, которая предлагала гибкость для изучения обоих направлений. На протяжении всего своего пути я пришел к пониманию, что успех в университете продлевает получение степени — он связан с использованием представленных возможностей при активном создании новых. Поэтому я буду использовать свое свободное время для развития своих знаний в области машинного обучения. У меня есть стремление также получить докторскую степень из-за возможностей для роста, которые она предоставляет.
Отказ от ответственности. Я хотел бы подчеркнуть, что я не эксперт в области машинного обучения, и это мое путешествие со стремлением углубиться в эту область. Я надеюсь, что, поделившись своим опытом, я смогу предоставить полезные ресурсы и ценную информацию
Путь машинного обучения
Как уже упоминалось, мой общий путь не начался с чисто машинного обучения, поэтому некоторые шаги, которые я предпринял, можно было проигнорировать. Я верю, что все они сыграли свою роль в моем общем развитии, которое длилось более 6 месяцев. Вполне возможно сделать это в более короткие сроки, однако мне нужно найти баланс между моими отношениями, работой на полную ставку, пауэрлифтингом и образованием.
Баланс. Позже я дам несколько советов о том, как распоряжаться временем и стараться быть максимально продуктивным, используя самый ограниченный ресурс — время.
Сокращенное путешествие
Если вам нужен прямой путь в машинном обучении, вы можете пройти следующие курсы от DeepLearning.AI. Первые 2 курса можно проходить параллельно, поскольку специализация машинного обучения не слишком требовательна к математике.
- Математика для машинного обучения и науки о данных
- Специализация машинного обучения
- Специализация глубокого обучения
На этом этапе у вас будет отличное понимание машинного обучения и вы сможете начать заниматься некоторыми проектами, понимать исследовательские работы и понимать, в какой области вы хотите заниматься дальше. В этот период вы также должны исследовать влиятельных фигур в сообществе ИИ и выбирать структуру глубокого обучения.
Мой путь к машинному обучению
Я курировал свой подход к обучению машинному обучению посредством обширных исследований, уделяя особое внимание максимальному повышению эффективности и действенности моего учебного процесса. Все специализации предоставляются DeepLearning.AI, что обеспечивает хорошую преемственность. Хотя этот процесс был адаптирован на основе моего прошлого опыта и набора навыков, ему может следовать большинство людей, что потенциально требует дополнительного внимания к конкретным областям по мере необходимости.
Прежде чем отправиться в путешествие, я посвятил время самосовершенствованию и личному развитию. Хотя подробности этого будут рассмотрены в следующем посте, это не имеет решающего значения для ядра машинного обучения. Однако я твердо верю, что мой прагматичный подход, сформированный путем проб и ошибок, может дать ценную информацию и рекомендации.
Если вы хотите отслеживать мой прогресс в машинном обучении, я активно обновляю следующую Страницу понятий с помощью ресурсов, которые я использовал, а также того, что я планирую изучать дальше.
Жизненный опыт
Прежде чем начать специализацию по машинному обучению, я переоценил уровень фоновых знаний, необходимых для глубокого понимания материалов курса. Несмотря на то, что можно пройти курс с ограниченными предварительными знаниями, я настоятельно рекомендую приобрести эти базовые знания на раннем этапе. Это улучшит ваш опыт обучения и подготовит вас к будущему развитию. Я бы порекомендовал:
- Математика — линейная алгебра, исчисление и, при необходимости, статистика.
- Знания в области программирования — Python — самый идеальный язык
При желании вы можете получить базовые знания, а также параллельно изучить некоторые основы машинного обучения.
Математика
Хорошее понимание необходимой математики может дать представление о том, что происходит в вашей модели машинного обучения, что даст вам направление при отладке. Лично это упростило изучение некоторых элементов машинного обучения, поскольку они не были подробно рассмотрены во время «Специализации машинного обучения».
Математика для машинного обучения и обработки данных
Это была первая специализация, которую я выбрал, потому что это был курс математики с определенной структурой. Это отличное условие для специализации машинного обучения.
Разделить на 3 курса, охватывающих:
- Линейная алгебра для машинного обучения и науки о данных
- Исчисление для машинного обучения и науки о данных
- Вероятность и статистика для машинного обучения и науки о данных
3Blue1Brown. Я также рекомендую этот курс для изучения линейной алгебры и исчисления. Если у вас есть глубокие познания в математике, предлагаемых курсов может быть достаточно. Я проходил этот курс из-за временного промежутка между настоящим моментом и первым изучением линейной алгебры и исчисления. Ресурс также предоставляет отличную визуальную информацию о нейронных сетях.
Знания в области программирования
Общее понимание того, как программировать, требуется, если вы хотите работать с моделями машинного обучения, манипулировать данными и использовать самые популярные фреймворки.
Из-за того, что я не знаю вашего опыта программирования, я не могу точно сказать, сколько времени вам нужно будет потратить. Моя текущая роль в SWE использует язык C#, поэтому я потратил некоторое время на ознакомление с Python.
Python – это лучший выбор для изучения программирования для машинного обучения, поскольку его используют основные платформы машинного обучения, такие как PyTorch, TensorFlow и Jax.
Быстрый обход
Мои первоначальные цели по улучшению были связаны с тем, чтобы стать лучшим SWE, поэтому после того, как я начал Специализацию по математике для машинного обучения и науке о данных, это изначально было предпосылкой для развития моего понимания алгоритмов. Прошла первые 2 курса Специализации по алгоритмам и книгу Алгоритмы Grokking.
Основы машинного обучения
Теперь вы можете погрузиться в захватывающую часть и приступить к изучению основ машинного обучения. Специализация машинного обучения не нуждается в представлении, так как ее настоятельно рекомендуют многочисленные надежные источники.
Разделить на 3 курса, охватывающих:
- Машинное обучение с учителем: регрессия и классификация
- Расширенные алгоритмы обучения
- Обучение без учителя, рекомендации, обучение с подкреплением
Эта статья также очень полезна при первом знакомстве с машинным обучением: Несколько полезных вещей, которые нужно знать о машинном обучении.
Что я изучаю дальше?
Обучение с подкреплением
Как житель Великобритании, я искренне очарован новаторской работой Google DeepMind и их миссией проложить путь к ОИИ.
Я твердо верю, что Google DeepMind будет определять будущее, и приятно осознавать, что они совсем рядом со мной. Если вы ищете вдохновляющие часы, я настоятельно рекомендую документальный фильм AlphaGo. Он блестяще разъясняет технические аспекты обучения с подкреплением и демонстрирует неподдельный энтузиазм, стоящий за потенциально изменяющим жизнь воздействием этой технологии.
Я планирую изучить основы из легендарного Введение в обучение с подкреплением с Дэвидом Сильвером, одновременно читая книгу Обучение с подкреплением: введение. Я планирую закрепить свои знания, посмотрев Spinning Up in Deep RL.
Математика… Снова
Я записался на курс «Математика для машинного обучения и специализации по науке о данных» после его первого выпуска. Однако окончательный курс «Статистика и вероятность» в то время еще не был доступен. Я планирую закончить этот курс, осознавая его важность в области машинного обучения. Это позволит мне получить сертификат по этой специализации.
Кроме того, я одновременно посвящаю время пересмотру и закреплению своего понимания фундаментальных математических понятий, таких как линейная алгебра и исчисление. Для этой цели я использую образовательные ресурсы, предоставленные 3Blue1Brown, как упоминалось ранее.
Спецификация глубокого обучения
Специализация глубокого обучения служит логическим продолжением моих предыдущих учебных усилий. В следующей статье подробно рассматриваются рассуждения. Углубившись в такие темы, как нейронные сети, сверточные сети и рекуррентные сети, эта специализация поможет лучше понять мое понимание.
Разделить на 5 курсов, охватывающих:
- Нейронные сети и глубокое обучение
- Улучшение глубоких нейронных сетей: настройка гиперпараметров, регуляризация и оптимизация
- Структурирование проектов машинного обучения
- Сверточные нейронные сети
- Модели последовательности
Я планирую также использовать Погружение в глубокое обучение, так как это отличная бесплатная интерактивная книга. Еще одна более традиционная книга — Глубокое обучение.
Проекты
Проекты служат бесценным инструментом для закрепления теоретических знаний и демонстрации практического понимания. Используя обширные доступные ресурсы и рекомендации, я намерен в этот период приступить к реализации небольшого проекта. В рамках этих усилий я выберу PyTorch для глубокого обучения. Хотя с этим выбором может быть связана кривая обучения, я рад принять его и расширить свой набор навыков.
В настоящее время я не могу предоставить конкретные подробности о проекте, который я буду выполнять, но я предполагаю, что он будет включать в себя подкрепление и глубокое обучение. Тем не менее, я буду делиться обновлениями и прогрессом в следующем посте, и вы можете найти код проекта в моем репозитории GitHub. Оставайтесь с нами для получения дополнительной информации!
Университет
Следующий этап моего обучения потребует от меня временной приостановки моей профессиональной карьеры, поскольку я получаю степень магистра в области передовых компьютерных наук. Хотя этот курс сосредоточен не только на машинном обучении, я намерен подойти к этому периоду с таким же уровнем преданности делу самообразования.
Я уверен, что этот опыт не только обогатит мои знания, но и предоставит ценные возможности для общения с выдающимися людьми в этой области. Благодаря активному участию в активном сообществе профессионалов и исследователей я стремлюсь расширить свою сеть контактов и установить значимые связи, которые будут способствовать моему личному и интеллектуальному развитию. Моя основная цель — приобрести необходимые знания и исследовательские навыки в области машинного обучения, которые позволят мне получить докторскую степень в ведущем университете Великобритании. Я тщательно определил университеты и области исследований, которые соответствуют моим устремлениям, и я стремлюсь добиться значительного прогресса в обеспечении поступления на лучшую программу докторантуры.
Я надеюсь выбрать, в какой области машинного обучения я надеюсь заниматься, поскольку в настоящее время я нахожу все это чрезвычайно увлекательным, включая: НЛП, обучение с подкреплением, глубокое обучение и графовые нейронные сети. В конечном счете, я надеюсь, что буду исследовать методологии, которые сыграют роль в развитии ОИИ. Я считаю, что сочетание всего первого чрезвычайно важно.
В Gatsby Computational Neuroscience Unit в UCL есть чрезвычайно увлекательная работа, объединяющая теоретическую нейронауку и машинное обучение. Я имел честь присутствовать на публичном онлайн-симпозиуме Gatsby25, который дал ценную информацию о новаторской работе, проводимой в этой области.
Устойчивые привычки
На мой взгляд, ключ к выработке устойчивых привычек лежит в процессе проб и ошибок, руководствуясь научно обоснованными данными. Ежедневные обстоятельства и обязательства каждого человека различаются, что приводит к разному количеству времени, доступного для обучения. Поэтому крайне важно адаптировать стратегии обучения к своей уникальной ситуации и постоянно пересматривать и совершенствовать эти подходы на основе фактических данных и личного опыта.
Метод проб и ошибок. Совет, аналогичный тренировкам, например, пауэрлифтингу, который я предпочитаю. Вы должны дать чему-то возможность и время, чтобы увидеть, работает ли это на вас.
Как достичь идеального баланса
Последовательность
В погоне за продуктивностью я пришел к выводу, что выработка долгосрочных устойчивых привычек намного лучше, чем опора на нестабильные состояния продуктивности, за которыми следует неизбежный спад энергии. Чтобы эффективно управлять своими приоритетами, я воспользовался своим календарем Google в качестве инструмента для планирования целенаправленных рабочих сессий и предоставления достаточного свободного места для моментов отдыха, которые теперь я считаю важными для общего благополучия. Этот сбалансированный подход позволил мне лучше ориентироваться в разнообразных целях и стремлениях, которые у меня есть в жизни.
В прошлом я часто обнаруживал, что посвящал интенсивные всплески энергии одной области, такой как пауэрлифтинг, только для того, чтобы испытать постепенный спад и, в конечном итоге, выгорание в течение длительного периода времени. Однако в настоящее время я чувствую себя наиболее энергичным и способным поддерживать гармоничный баланс во всех аспектах моей жизни. Хотя в моем календаре явно не отражены моменты, которые я провожу со своей девушкой, поскольку наши отношения имеют небольшую динамику на расстоянии, я слежу за тем, чтобы у нас были выходные для полного расслабления и время от времени для чтения во время моих поездок на работу.
Учитывая прогресс, которого я добился, и положительное влияние моей рутины на уровень моей энергии и общее самочувствие, я могу опубликовать последующий пост, чтобы глубже изучить конкретные рутины и привычки, которые я выработал с течением времени. Эти изменения превратили меня из человека, который раньше испытывал упадок сил и сбои в течение дня или бодрствовал до раннего утра. Совсем недавно я начал реализовывать предложения из Подкаста Эндрю Хубермана.
В следующем сообщении в блоге я углублюсь в методологии и подходы, которые я использовал в своей жизни для достижения сбалансированного и гармоничного существования в различных областях. Хотя этот процесс продолжается и постоянно развивается, я надеюсь предложить ценные советы и идеи, которые научно подкреплены множеством авторитетных ресурсов. Делясь этими стратегиями, я стремлюсь дать практическое руководство, которое может помочь другим в их стремлении к балансу и удовлетворению жизни. Следите за дальнейшим постом, в котором мы рассмотрим основанные на фактических данных методы, направленные на достижение целостного благополучия и продуктивности.
Как учиться
Прежде чем начать свое обучение, я знал об ограниченном количестве свободного времени, которое у меня было. Желая максимально использовать свое время, я осознал необходимость эффективных стратегий обучения. Традиционное школьное образование часто упускает из виду важный навык обучения тому, как учиться. Я активно стараюсь использовать изученные методологии, используя такие инструменты, как Anki, чтобы помочь с интервальным повторением и активным вспоминанием.
Совет Coursera. Воспользуйтесь возможностью аудита курса, которая предоставляет вам доступ ко всем видео, исключая доступ к лабораторным работам и тестам. Мой рекомендуемый подход для получения максимальной пользы включает в себя просмотр всех видео и создание карточек Anki для закрепления полученных знаний. Как только я чувствую уверенность в своих знаниях, я решаю оплатить курс и пройти тесты, чтобы получить сертификат. Этот подход дает значительное преимущество, поскольку вам нужно платить за курс только тогда, когда вы готовы сдавать тесты, что экономит время и деньги.
Совсем недавно на основе рекомендаций Эндрю Хубермана оптимизация рабочего пространства для повышения производительности. Я выполнял 90-минутные блоки глубокой работы, разделенные на 45 минут углубленной работы, 5-минутный перерыв и последние 45 минут углубленной работы. До этого я использовал технику Pomodoro.
Что помогло сформировать меня
Алекса Гордич — вдохновительница этого блога — яркий пример безграничных возможностей обучения без формальной университетской структуры. Даже сейчас, когда он занимается своим собственным стартапом, его замечательный путь включает в себя получение должности инженера-исследователя в Google DeepMind, что свидетельствует о его исключительных способностях и преданности делу.
Джулиан Шриттвизер – важная фигура, показанная в документальном фильме AlphaGo вместе с Дэвидом Сильвером. Я наткнулся на его блог, в котором содержится ценная информация о его пути от инженера-программиста Google до инженера-исследователя Google DeepMind. Что отличает его блог, так это его архивный характер, позволяющий читателям наблюдать за его развитием и извлекать пользу из его предложений, накопленных за последнее десятилетие. Он служит ценным ресурсом для тех, кто ищет вдохновения и руководства в области машинного обучения. Я также лично резонировал с его философией по отношению к жизни. Он вдохновил меня начать изучение японского языка.
Петар Величкович — научный сотрудник Google DeepMind Research, который чрезвычайно известен в области машинного обучения своим вкладом в нейронные сети на основе графов и скоро получит заказ Геометрическое глубокое обучение. Я также настоятельно рекомендую послушать этот подкаст, в нем собрано множество вопросов, которые у меня возникали, начиная с перехода с SWE на машинное обучение, получения докторской степени и изучения некоторых его работ.
Подкаст Google DeepMind – очень увлекательный подкаст, организованный Ханном Фраем, в котором рассказывается об исследованиях, проводимых в DeepMind.
Андрей Карпати — влиятельная фигура в области машинного обучения. Его персональный веб-сайт и блог представляют собой подлинный опыт того, как максимально использовать вашу докторскую степень. На его канале YouTube есть несколько фантастических ресурсов, которые я бы порекомендовал. Он также известен своим курсом CS231n Стэнфордского университета.
Лекс Фридман — выдающийся ведущий подкастов, известный тем, что привлекает внимание к интересным людям. Уделяя особое внимание темам, связанным с ИИ, его ранние подкасты глубоко погружаются в сферу искусственного интеллекта, увлекая аудиторию проницательными дискуссиями и наводящими на размышления идеями.
Эндрю Хуберман — нейробиолог и профессор Стэнфордского университета, который сыграл ключевую роль в повышении качества моей жизни благодаря своим научно обоснованным протоколам.
Компании — Google DeepMind, Meta AI, Microsoft Research, Google AI и Open AI.
Я всегда открыт для общения, так что не стесняйтесь писать в личные сообщения или оставлять комментарии.— Я здесь, чтобы помочь в меру своих возможностей и искренне получать удовольствие от общения с новыми люди, чтобы получить свежие перспективы. Как человек, который постоянно учится и исследует, я рад возможности обмениваться идеями и расти вместе.
