<div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><span style="font-size:12.8px">When:</span><b style="font-size:12.8px"> </b><span style="font-size:12.8px">    </span><span style="font-size:12.8px">Monday, October 24th at 11:00 a.m.</span><span style="font-size:12.8px"> </span><br></font></div><div dir="ltr" style="font-size:12.8px"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div><font face="arial, helvetica, sans-serif" style="font-size:12.8px">Who:       </font><font face="arial, helvetica, sans-serif">Kilian Weinberger, Cornell</font></div><div><font face="arial, helvetica, sans-serif"><br></font></div></div><p dir="auto" style="font-size:12.8px;font-family:sans-serif"><span style="font-size:12.8px">Title:     Redundancy in Deep Learning</span><br></p><p dir="auto" style="font-size:12.8px;font-family:sans-serif">Abstract:<br>Deep Learning has lead to undeniable successes all over the machine learning landscape. In contrast to most approaches, deep networks have much larger model sizes and often fit many more parameters than training examples. It is now apparent that a lot of these parameters are redundant and encode similar things. In this talk I will show how to reduce the redundancy in deep neural networks by compressing models through weight hashing. I will also demonstrate how to leverage redundancy to make neural networks deeper and more accurate. Finally, I will introduce a novel neural network architecture, which, by design, incorporates these lessons and leads to compact models with state-of-the-art generalization properties.</p><p dir="auto" style="font-size:12.8px;font-family:sans-serif">Bio:<br>Kilian Weinberger is an Associate Professor in the Department of Computer Science at Cornell University. He received his Ph.D. from the University of Pennsylvania in Machine Learning under the supervision of Lawrence Saul and his undergraduate degree in Mathematics and Computer Science from the University of Oxford. During his career he has won several best paper awards at ICML, CVPR, AISTATS and KDD (runner-up award). In 2011 he was awarded the Outstanding AAAI Senior Program Chair Award and in 2012 he received an NSF CAREER award. He is co-Program Chair for ICML 2016 and AAAI 2018. Kilian Weinberger's research focuses on Machine Learning and its applications. In particular, he focuses on learning under resource constraints, metric learning, machine learned web-search ranking, transfer- and multi-task learning as well as biomedical applications and deep learning. Before joining Cornell University, he was an Associate Professor at Washington University in St. Louis and before that he worked as a research scientist at Yahoo! Research in Santa Clara.</p><p dir="auto" style="font-size:12.8px;font-family:sans-serif"><br></p><p style="font-size:12.8px;font-family:sans-serif">Host: Greg Shakhnarovich, <a href="mailto:greg@ttic.edu" target="_blank"><font color="#0000ff"><b><span style="font-family:"normal arial",sans-serif;font-size:12px">greg</span><span style="font-family:"normal arial",sans-serif;font-size:12px">@ttic.edu</span></b></font></a></p><p dir="auto" style="font-size:12.8px;font-family:sans-serif"><br></p><p dir="auto" style="font-size:12.8px;font-family:sans-serif"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">For more information on the </span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">colloquium</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"> series or to subscribe to the mailing list, please see </span><a href="http://www.ttic.edu/colloquium.php" target="_blank" style="font-family:arial,helvetica,sans-serif;font-size:12.8px">http://www.ttic.edu/colloq<wbr>uium.php</a><br></p><div><br></div><div><div class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
</div>