<div dir="ltr"><div class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gE gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-iv gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt" style="font-size:12.8px;padding-left:0px"><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif;background-color:rgb(255,242,204)"><b>CORRECTION!! </b></span></div><div class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gE gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-iv gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt" style="font-size:12.8px;padding-left:0px"><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif;background-color:rgb(255,242,204)"><b><br></b></span></div><div class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gE gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-iv gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt" style="font-size:12.8px;padding-left:0px"><b><span style="background-color:rgb(255,242,204)"><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">When:</span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    Monday, <u>December</u> 12th at </span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">11:00 am</span></span><br></b></div><div id="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:jk" class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-ii gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adP gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adO" style="font-size:12.8px;margin-bottom:0px;margin-left:0px;padding-bottom:5px"><div id="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:qr" class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-a3s gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-aXjCH gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m157fdbb4a58e966d"><div dir="ltr"><font face="arial, helvetica, sans-serif" style="font-size:12.8px"><span style="font-size:12.8px"><br></span><span style="font-size:12.8px">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</span><span style="font-size:12.8px"><br><br></span><span style="font-size:12.8px">Who:   </span></font><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    </span><span name="Junyoung Chung" class="gmail-m_-7186204648195796297gmail-gD" style="font-size:12.8px">Junyoung Chung<span style="white-space:nowrap">, </span></span><font face="arial, helvetica, sans-serif">Université de Montréal</font></div><div dir="ltr"><font face="arial, helvetica, sans-serif"><br></font></div><div dir="ltr"><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif"><br></span></div><div dir="ltr"><div style="font-size:12.8px">Title:        Towards Hierarchical Multiscale Recurrent Neural Networks</div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Abstract: The recent resurgence of recurrent neural networks has led to remarkable advances in various applications including machine translation, speech recognition, speech synthesis and caption generation. However, learning both hierarchical and temporal representation has been among the longstanding challenges of recurrent neural networks. Multiscale recurrent neural networks have been considered as a promising approach to resolve this issue, yet there has been a lack of empirical evidence showing that this type of models can actually capture the temporal dependencies by discovering the latent hierarchical structure of the sequence. </div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">In this talk, I will discuss about my previous works on multiscale recurrent neural networks. I will show how a deep recurrent neural network with extra gating units can update its layers with different timescales and discover the underlying structure of the sequences. We will discuss about three types of gated recurrent neural network architectures, gated feedback recurrent neural networks that allow recurrent connection across different level of recurrent layers via a soft gating mechanism, bi-scale recurrent neural networks that consist with fast-changing and slow-changing recurrent layers to model characters and words separately in neural machine translation systems, and finally, hierarchical multiscale recurrent neural networks that can capture the latent hierarchical structure of the sequences with discrete gating units, so called boundary detectors. The hierarchical multiscale recurrent neural networks can save notable amount of computation compared to standard recurrent neural networks in principle and can generalize better.</div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"> host:<b> <a href="mailto:mcallester@ttic.edu" target="_blank">David McAllester</a></b></div></div><div dir="ltr"><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif"><br></span></div><div dir="ltr"><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif"><br></span></div><div dir="ltr"><div style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">******************************<wbr>******************************<wbr>******************************<wbr>********</span><br></div><div style="font-size:12.8px"><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif">The TTIC <span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">Young</span> <span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">Researcher</span> Seminar <span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><wbr>Series</span> (<a href="http://www.ttic.edu/young-researcher.php" target="_blank">http://www.ttic.edu/yo<wbr>ung-<span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">researcher</span>.php</a>) features talks by Ph.D. students and postdocs whose <span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">research</span> is of broad interest to the computer science community. The <span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">series</span> provides an opportunity for early-career <span class="gmail-m_-7186204648195796297gmail-m_-5686542857095767540gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">researchers</span> to present recent work to and meet with students and faculty at TTIC and nearby universities.</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 11:00am in TTIC Room 526.<br><br>For additional information, please contact Matthew Walter (<a href="mailto:mwalter@ttic.edu" target="_blank">mwalter@ttic.edu</a>).</font></p><div><font face="arial, helvetica, sans-serif"><br></font></div><div><font face="arial, helvetica, sans-serif"><br></font></div><div><font face="arial, helvetica, sans-serif"><br></font></div></div></div></div></div><div><div class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
</div>