<div dir="ltr"><div><br></div><div><b>When:         </b>Friday October 19, 11am-12pm<br><b>Where:        </b>Room 526, TTIC 6045 S Kenwood Avenue<br><b>Who:           </b>Sewoong Oh, University of Illinois, Urbana Champaign<div><br><b>Title:           </b>The Power of Multiple Samples in Generative Adversarial Networks<div><br><b>Abstract: </b>We bring the tools from Blackwell’s seminal result on comparing two stochastic experiments from 1953, to shine a new light on a modern  application of great interest: Generative Adversarial Networks (GAN). Binary hypothesis testing is at the center of training GANs, where a trained neural network (called a critic) determines whether a given sample is from the real data or the generated (fake) data. By jointly training the generator and the critic, the hope is that eventually the trained generator will generate realistic samples. One of the major challenges in GAN is known as “mode collapse”; the lack of diversity in the samples generated by thus trained generators. We propose a new training framework, where the critic is fed with multiple samples jointly (which we call packing), as opposed to each sample separately as done in standard GAN training. With this simple but fundamental departure from existing GANs, experimental results show that the diversity of the generated samples improve significantly. We analyze  this practical gain by first providing a formal mathematical definition of mode collapse and making a fundamental connection between the idea of packing and the intensity of mode collapse. Precisely, we show that the packed critic naturally penalizes mode collapse, thus encouraging generators with less mode collapse. The analyses critically rely on operational interpretation of hypothesis testing and corresponding data processing inequalities, which lead to sharp analyses with simple proofs. For this talk, I will assume no prior background on GANs</div><div><br></div><div><div><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif;font-kerning:none">For more information on the <span class="gmail-m_-5643956663012057626gmail-il">machine</span> <span class="gmail-m_-5643956663012057626gmail-il">learning</span> seminar series (<span class="gmail-m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-m_4240741644540508174gmail-m_-7649362550103587767gmail-m_37711595404184628gmail-m_-8366621373355229216gmail-il"><span class="gmail-m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-m_4240741644540508174gmail-m_-7649362550103587767gmail-il"><span class="gmail-m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-m_4240741644540508174gmail-il"><span class="gmail-m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-il">MLSS), </span></span></span></span></span><span style="font-family:arial,sans-serif;font-size:12.8px">please request to join the group at </span><a href="https://groups.google.com/a/ttic.edu/d/forum/mlss" target="_blank" style="font-size:13px;font-family:arial,helvetica,sans-serif;font-weight:bold">https://groups.google.com/a/ttic.edu/d/forum/<span class="gmail-m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831gmail-il">mlss</span></a><span style="font-family:arial,sans-serif;font-size:12.8px">. </span><span style="font-family:arial,sans-serif;font-size:12.8px">If you are interested in presenting in the seminar, </span><span style="font-family:arial,sans-serif;font-size:12.8px">please send an email to </span><a href="mailto:suriya@ttic.edu" target="_blank" style="font-family:arial,sans-serif;font-size:12.8px">suriya@ttic.edu</a><span style="font-family:arial,sans-serif;font-size:12.8px">. </span><br class="gmail-m_-5643956663012057626gmail-m_5424449334188756541gmail-Apple-interchange-newline"><br></div></div></div><br class="gmail-Apple-interchange-newline"></div><div><br></div><br clear="all"><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 517</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div></div></div></div></div><br><br><div class="gmail_quote"><div dir="ltr">On Wed, Oct 17, 2018 at 3:33 PM Mary Marre <<a href="mailto:mmarre@ttic.edu">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><b>When:         </b>Friday October 19, 11am-12pm<br><b>Where:        </b>Room 526, TTIC 6045 S Kenwood Avenue<br><b>Who:           </b>Sewoong Oh, University of Illinois, Urbana Champaign<div><br><b>Title:           </b>The Power of Multiple Samples in Generative Adversarial Networks<div><br><b>Abstract: </b>We bring the tools from Blackwell’s seminal result on comparing two stochastic experiments from 1953, to shine a new light on a modern  application of great interest: Generative Adversarial Networks (GAN). Binary hypothesis testing is at the center of training GANs, where a trained neural network (called a critic) determines whether a given sample is from the real data or the generated (fake) data. By jointly training the generator and the critic, the hope is that eventually the trained generator will generate realistic samples. One of the major challenges in GAN is known as “mode collapse”; the lack of diversity in the samples generated by thus trained generators. We propose a new training framework, where the critic is fed with multiple samples jointly (which we call packing), as opposed to each sample separately as done in standard GAN training. With this simple but fundamental departure from existing GANs, experimental results show that the diversity of the generated samples improve significantly. We analyze  this practical gain by first providing a formal mathematical definition of mode collapse and making a fundamental connection between the idea of packing and the intensity of mode collapse. Precisely, we show that the packed critic naturally penalizes mode collapse, thus encouraging generators with less mode collapse. The analyses critically rely on operational interpretation of hypothesis testing and corresponding data processing inequalities, which lead to sharp analyses with simple proofs. For this talk, I will assume no prior background on GANs</div><div><br></div><div><div><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif;font-kerning:none">For more information on the <span class="m_-5643956663012057626gmail-il">machine</span> <span class="m_-5643956663012057626gmail-il">learning</span> seminar series (<span class="m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-m_4240741644540508174gmail-m_-7649362550103587767gmail-m_37711595404184628gmail-m_-8366621373355229216gmail-il"><span class="m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-m_4240741644540508174gmail-m_-7649362550103587767gmail-il"><span class="m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-m_4240741644540508174gmail-il"><span class="m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831m_1152783867575208337gmail-m_6304275458207443548gmail-m_-7145703505004302510gmail-m_6958947101002467454gmail-il">MLSS), </span></span></span></span></span><span style="font-family:arial,sans-serif;font-size:12.8px">please request to join the group at </span><a href="https://groups.google.com/a/ttic.edu/d/forum/mlss" style="font-size:13px;font-family:arial,helvetica,sans-serif;font-weight:bold" target="_blank">https://groups.google.com/a/ttic.edu/d/forum/<span class="m_-5643956663012057626gmail-m_5424449334188756541gmail-m_-3891119236180826831gmail-il">mlss</span></a><span style="font-family:arial,sans-serif;font-size:12.8px">. </span><span style="font-family:arial,sans-serif;font-size:12.8px">If you are interested in presenting in the seminar, </span><span style="font-family:arial,sans-serif;font-size:12.8px">please send an email to </span><a href="mailto:suriya@ttic.edu" style="font-family:arial,sans-serif;font-size:12.8px" target="_blank">suriya@ttic.edu</a><span style="font-family:arial,sans-serif;font-size:12.8px">. </span><br class="m_-5643956663012057626gmail-m_5424449334188756541gmail-Apple-interchange-newline"><br></div><br class="m_-5643956663012057626gmail-Apple-interchange-newline"><div class="m_-5643956663012057626gmail-yj6qo"></div><br class="m_-5643956663012057626gmail-Apple-interchange-newline"></div><div><div dir="ltr" class="m_-5643956663012057626gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 517</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div>
</blockquote></div></div>