<div dir="ltr"><div class="gmail_default" style="font-size:12.8px"><font color="#000000" face="arial, helvetica, sans-serif">When:     Friday, February 2nd <span class="gmail-m_2420618808463760418gmail-m_7960197898027616883gmail-m_8692226636264124041gmail-m_2794822896869921223gmail-m_7508998950622620526gmail-m_-7153355664495542534gmail-il">at</span> <b style="background-color:rgb(255,255,0)">10:30 am</b></font></div><div class="gmail_default" style="font-size:12.8px"><font color="#000000" face="arial, helvetica, sans-serif"><br></font></div><div class="gmail_default" style="font-size:12.8px"><font color="#000000" face="arial, helvetica, sans-serif">Where:    <span class="gmail-m_2420618808463760418gmail-m_7960197898027616883gmail-m_8692226636264124041gmail-m_2794822896869921223gmail-m_7508998950622620526gmail-m_-7153355664495542534gmail-m_8421504075585210435gmail-m_3262824545120381495gmail-m_-1141671822915777344gmail-m_-7219251726624328345gmail-m_-8588148075564318222gmail-m_-8767966813928691312gmail-m_-1542318334608687154gmail-m_5717104778280916634gmail-m_4845490158781220632gmail-m_5124567205141626540gmail-m_3209361100497750746gmail-m_2953668934074478317gmail-m_-3155518689668024534m_9067904842688472155gmail-m_3071693547520408192gmail-il"><span class="gmail-m_2420618808463760418gmail-m_7960197898027616883gmail-m_8692226636264124041gmail-m_2794822896869921223gmail-m_7508998950622620526gmail-m_-7153355664495542534gmail-il">TTIC</span></span>, 6045 S Kenwood Avenue, 5th Floor, Room 526</font></div><div class="gmail_default" style="font-size:12.8px"><br></div><div style="font-size:12.8px"><font color="#000000"><font face="arial, helvetica, sans-serif">Who:       </font></font><span style="color:rgb(0,0,0);font-family:arial,helvetica,sans-serif">Yang Yuan, Cornell University</span></div><span style="color:rgb(0,0,0);font-family:Arial,sans-serif;white-space:pre-wrap"><div><span style="color:rgb(0,0,0);font-family:Arial,sans-serif;white-space:pre-wrap"><br></span></div><div><br></div><div>Title:   Provable and Practical Algorithms for Non-convex Problems in Machine Learning<br></div>
Abstract:  Machine learning has become one of the most exciting research areas in the world, with various applications. However, there exists a noticeable gap between theory and practice. On one hand, simple algorithm like stochastic gradient descent (SGD) works very well in practice, without satisfactory theoretical explanations. On the other hand, the algorithms from the theory community, although with solid guarantees, tend to be less efficient compared with the techniques widely used in practice, which are usually hand tuned or ad hoc based on intuition. 
 
In this talk, I would like to discuss my effort to bridge theory and practice from two directions. The first direction is “practice to theory”, i.e., to explain and analyze the existing algorithms and empirical observations in machine learning. I will first briefly talk about how SGD escapes saddle points, and then present a two-phase convergence analysis of SGD for the two-layer neural network with ReLU activation. 

The other direction is “theory to practice”, i.e., using deep theory tools to obtain new, better and practical algorithms. Along this direction, I will introduce our new algorithm Harmonica that uses Fourier analysis and compressed sensing for tuning hyperparameters. Harmonica supports parallel sampling and works well for tuning neural networks with 30+ hyperparameters.</span><div><font color="#000000" face="Arial, sans-serif"><span style="white-space:pre-wrap"><br></span></font></div><div><font color="#000000" face="Arial, sans-serif"><span style="white-space:pre-wrap"><br></span></font></div><div><font color="#000000" face="Arial, sans-serif"><span style="white-space:pre-wrap">Host: <a href="mailto:nati@ttic.edu">Nathan Srebro</a></span></font></div><div><font color="#000000" face="Arial, sans-serif"><span style="white-space:pre-wrap"><br></span></font></div><div><font color="#000000" face="Arial, sans-serif"><span style="white-space:pre-wrap"><br clear="all"></span></font><div><div class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
</div></div>