<div dir="ltr"><p dir="ltr" style="color:rgb(0,0,0);font-family:-webkit-standard;line-height:1.38;margin-top:0pt;margin-bottom:0pt"><span style="font-family:Arial;color:rgb(47,47,47);background-color:transparent;font-variant-east-asian:normal;vertical-align:baseline;white-space:pre-wrap"><span style="font-weight:700;color:rgb(0,0,0);font-family:arial,helvetica,sans-serif">When: </span><span style="color:rgb(0,0,0);font-family:arial,helvetica,sans-serif">    Wednesday, November 6th, 2019 at 11:00am</span><b>
</b></span></p><div class="gmail_default"><font color="#000000" face="arial, helvetica, sans-serif"><br></font></div><div class="gmail_default" style="font-weight:bold"><font color="#000000" face="arial, helvetica, sans-serif">Where:<span style="font-weight:400">    </span><span style="font-weight:400">TTIC</span><span style="font-weight:400">, 6045 S Kenwood Avenue, 5th Floor, Room 526</span></font></div><div class="gmail_default" style="font-weight:bold"><font color="#000000" face="arial, helvetica, sans-serif"><span style="font-weight:400"><br></span></font></div><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><span style="color:rgb(47,47,47);background-color:transparent;font-variant-east-asian:normal;vertical-align:baseline;white-space:pre-wrap"><font style="color:rgb(34,34,34);white-space:normal"><span style="color:rgb(0,0,0)"><b>Who:</b></span><span style="color:rgb(0,0,0)"><b> </b>      </span></font></span><span class="gmail-il">Kenji</span> Kawaguchi, Massachusetts Institute of Technology </p><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><font color="#000000"><br></font></p><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><span style="background-color:transparent;font-variant-east-asian:normal;vertical-align:baseline;white-space:pre-wrap"><font face="arial, helvetica, sans-serif"><b><font color="#000000">Title:</font><font color="#2f2f2f">        </font></b></font></span>Optimization Landscapes in Deep Learning</p><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><font face="arial, helvetica, sans-serif"><br></font></p><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><span style="background-color:transparent;font-variant-east-asian:normal;vertical-align:baseline;white-space:pre-wrap"><font face="arial, helvetica, sans-serif" color="#000000"><b>Abstract: </b></font></span>Deep learning has provided high-impact data-driven methods in various applications. However, theoretical guarantees in deep learning tend to provide too pessimistic insights with a gap from practical observations, often because of hidden special properties. Identifying such special properties can provide novel theoretical insights, and is potentially helpful for understanding and designing practical methods. In this talk, I will discuss special properties on nonconvex optimization landscapes of deep neural networks, as well as their implications on gradient descent methods and a few results on real-world applications.</p><p class="MsoNormal"><font face="arial, helvetica, sans-serif"><u></u> <u></u></font></p><p class="MsoNormal"><font face="arial, helvetica, sans-serif"><font color="#000000"><b>Bio:</b>  </font>    </font><span class="gmail-il">Kenji</span> Kawaguchi is a Ph.D. candidate at Massachusetts Institute of Technology (MIT), advised by Prof. Leslie Pack Kaelbling. He received his M.S. in Electrical Engineering and Computer Science from MIT. His research interests span deep learning, machine learning, artificial intelligence, nonconvex optimization and Bayesian optimization. His research has been cited widely in academia and used in classes at various universities. He was invited to speak at the 2019 International Congress on Industrial and Applied Mathematics Minisymposium on “Theoretical Foundations of Deep Learning”. In 2018, he was invited for a summer research visit at Microsoft Research in Redmond. He was awarded the Funai Overseas Scholarship in 2014 and was selected for the Nakajimi Foundation Fellowship in 2013.</p><div class="gmail_default"><div class="gmail_default"><font face="arial, helvetica, sans-serif" color="#000000"><br></font></div></div><div><font color="#000000"><b>Host:   </b><a href="mailto:nati@ttic.edu" target="_blank">Nati Srebro</a></font></div><div><br></div>-- <br><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><b><font color="#0b5394">Alicia McClarin</font></b><div><div><font color="#0b5394"><i>Toyota Technological Institute at Chicago</i></font></div><div><div><font color="#0b5394"><i>6045 S. Kenwood Ave., </i></font><i style="color:rgb(11,83,148)">Office 518</i></div><div><i style="color:rgb(11,83,148)">Chicago, IL 60637</i><br></div></div><div><i style="color:rgb(11,83,148)">773-834-3321</i><i style="color:rgb(11,83,148)"><br></i></div><div><a href="http://www.ttic.edu/" target="_blank"><font color="#0b5394"><i>www.ttic.edu</i></font></a></div></div></div></div></div></div></div></div></div></div>