4 Temmuz 2020 Cumartesi

Andrew Ng: Makine Öğrenimi'nde (Machine Learning, ML) Sonraki Aşama

Makine öğrenimine yeni başlayanlar, makine öğrenimi ve derin öğrenme konularında MOOC’leri (Kitlesel Çevrimiçi Açık Dersler) bitirdikten sonra bir sonraki aşamaya nasıl geçebilir ve araştırma makalelerini okuyabilme ve bir endüstriyel kurumda verimli bir şekilde katkıda bulunabilme noktasına nasıl gelebilirler?

Andrew Ng, Coursera’nın Kurucularından; Stanford Üniversitesi’nde Misafir Profesör Cevaplama Tarihi: 13.Eylül • Featured on Quora Sessions's Twitter

Çeviren: Ahmet Diril (e-posta)

Kurslar (çevrimiçi dersler) öğrenmek için çok etkili bir yoldur; bu nedenle oradan başlamak kesinlikle mantıklı. ML (makine öğrenimi) MOOC (ml-class.org) ve Derin öğrenme uzmanlığını (http://deeplearning.ai) tamamladıktan sonra, sıradaki adımlar şunlar olabilir:

  1. ML’de (makine öğrenimi) öncülerini twitter’da takip edin, onları heyecanlandıran ve ilgisini çeken araştırma makalelerini/blog yayınlarını/vs bulun ve onları da okuyun.
  2. Makalelerde başkalarının yayınladığı sonuçları kendiniz elde etmeye çalışın. Bu, ML’de daha iyi olmak için çok etkili ancak yeterince değer verilmeyen bir yoldur. Stanford’un yeni Doktora öğrencilerinin büyük araştırmacılara dönüşmesini görmüş biri olarak, en yeni algoritmaların detaylarını anlamanın en etkili yöntemlerinden birinin başkalarının araştırma makalelerini sadece okumakla yetinmeyip aynı sonuçları elde etmeye çalışmak olduğunu söyleyebilirim. Birçok kişi hemen yeni bir şeyler icat etmeye çalışıyor ki bu da faydalı bir şeydir; fakat aslında öğrenmek ve bilgi temellerini oluşturmak için daha yavaş bir yoldur.
  3. Yeterli sayıda makale/blog/vb okuduktan ve yeterince araştırma sonuçlarını kendiniz elde ettikten sonra, neredeyse sihirli bir şekilde bu konularda kendi düşüncelerinize ve kendi fikirlerinize sahip olmaya başlayacaksınız. Yeni bir şeyler yaptığınızda, bunu bir makale veya blog yazısı olarak yayınlayın ve kodunuzu açık kaynak kod yapmayı düşünün ve onu toplulukla paylaşın! Bu şekilde topluluktan daha fazla geri bildirim alabilir ve öğrenmenizi daha da hızlandırabilirsiniz.
  4. Öğrenmenize yardım edecek diğer zenginleştirme faaliyetlerine de katılın. Örn: çevrimiçi yarışmalar; buluşmalara (meetup’lar) gitmek; ICML, NIPS ve ICLR gibi iyi AI/ML/görüş/NLP/konuşma/vb konferanslarına katılmak (veya çevrimiçi videolarını izlemek).
  5. Bunları beraber yapabileceğiniz arkadaşlar bulun. Kendi başınıza da çok ilerleme kaydedebilirsiniz, ancak fikir alışverişi yapabileceğiniz arkadaşlarınızın olması öğrenmenize yardımcı olur ve bunu daha eğlenceli hale getirir. Profesörler, doktora öğrencileri veya iyi araştırmacılar gibi AI uzmanlarına ulaşabiliyorsanız onlarla da konuşun. Bazen Geoff Hinton, Yoshua Bengio, Yann LeCun gibi kişilerle 5 dakika konuşarak bir ton şey öğrendim; Stanford’daki doktora öğrencilerimden, deeplearning.ai ’deki ekip üyelerinden veya bazen ziyaret ettiğim çeşitli şirketlerdeki mühendislerden de çok şey öğrendim.
  6. Beraber çalışacağınız arkadaşlarınız olması çok önemlidir; ancak arkadaşlarınız sizinle aynı fikirde değilse bazen yine de fikirlerinizi uygulamanız ve sonucu kendiniz görmeniz gerekir. Geoff Hinton da “Derin Öğrenme’nin Kahramanları” söyleşisinde benzer bir şey söylemişti.

Tanıdığım her dünya çapında ML araştırmacısı, algoritmaları uygulayarak, hiper parametreleri ayarlayarak, makaleler okuyarak ve yazılanların işe yarayıp yaramadığını anlamaya çalışarak yalnız başına saatler geçirmiştir. Ben hala bu şekilde çalışmayı eğlenceli buluyorum ve umarım siz de seversiniz.

How can beginners in machine learning, who have finished their MOOCs in machine learning and deep learning, take it to the next level and get to the point of being able to read research papers & productively contribute in an industry?

Andrew Ng, Co-founder of Coursera; Adjunct Professor of Stanford Answered Sep 13 • Featured on Quora Sessions's Twitter

Courses are a very very efficient way to learn, so starting there definitely makes sense. After finishing the ML MOOC (ml-class.org) and Deep learning specialization (http://deeplearning.ai), here’re some additional steps you can take:

1. Follow leaders in ML on twitter to see what research papers/blog posts/etc. they’re excited about, and go read them too.

2. Replicate others’ published results. This is a very effective but highly under-rated way to get good at ML. Having seen a lot of new Stanford PhD students grow to become great researchers, I can say confidently that replicating others’ results (not just reading the papers) is one of the most effective ways to see and make sure you understand the details of the latest algorithms. Many people jump too quickly into trying to invent something new, which is also worth doing, but is actually a slower way to learn and build up your foundation of knowledge.

3. When you’ve read enough papers/blogs/etc. and replicated enough results, almost magically you’ll start to have your own opinions and your own ideas. When you do build something new, publish it in a paper or blog post and consider open-sourcing your code, and share it back out with the community! Hopefully this will help you get more feedback from the community, and further accelerate your learning.

4. Participate in any other enrichment activities that help you learn, such online competitions, going to meetups, attending (or watching online videos of) good AI/ML/vision/NLP/speech/etc. conferences like ICML, NIPS and ICLR.

5. Find friends to do this with. You can make a lot of progress by yourself, but having friends to bounce ideas off will help your learning and also make it more fun. If you have access to AI experts like professors, PhD students, or good researchers, talk to them too. Sometimes I’ve learned a ton from a 5 minute conversation with people like Geoff Hinton, Yoshua Bengio, Yann LeCun; but also from my PhD students at Stanford, team members at deeplearning.ai, or engineers at the various companies I sometimes visit.

6. Despite the importance of having friends to work with, if your friends disagree with your ideas, sometimes you should still implement it and try it out to see for yourself. Geoff Hinton also said something similar in his “Heroes of Deep Learning” interview.

Every world class ML researcher I know has spent a lot of solitary hours implementing algorithms, tuning hyperparameters, reading papers, and figuring out for themselves what does and doesn’t work. I still find this type of work fun, and hope you will too.

Hiç yorum yok:

Yorum Gönder