<div dir="ltr"><div><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">When:</span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">     Wednesday, June 7th at </span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">11:00 am</span><br></div><div><div id="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:jk" class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-ii gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adP gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adO" style="margin-bottom:0px;margin-left:0px;padding-bottom:5px"><div id="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:qr" class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-a3s gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-aXjCH gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m157fdbb4a58e966d"><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px"><span style="font-size:12.8px"><br></span><span style="font-size:12.8px">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</span><span style="font-size:12.8px"><br><br></span><span style="font-size:12.8px">Who:   </span></font><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    Junyoung Chung, </span><span style="font-size:small">Université de Montréal</span></div><div style="font-size:12.8px"><span style="font-size:small"><br></span></div><div style="font-size:12.8px"><span style="font-size:12.8px"><br></span></div><div style="font-size:12.8px"><span style="font-size:12.8px">Title:       Towards Hierarchical Multiscale Recurrent Neural Networks and their Applications</span><br></div></div></div></div></div><div class="gmail_extra" style="font-size:12.8px"><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Abstract: The recent resurgence of recurrent neural networks has led to remarkable advances in various applications including machine translation, speech recognition, speech synthesis and caption generation. However, learning both hierarchical and temporal representation has been among the longstanding challenges of recurrent neural networks. Multiscale recurrent neural networks have been considered as a promising approach to resolve this issue, yet there has been a lack of empirical evidence showing that this type of models can actually capture the temporal dependencies by discovering the latent hierarchical structure of the sequence. </div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">In this talk, I will talk about my previous works on multiscale recurrent neural networks. I will show how a deep recurrent neural network with extra gating units can update its layers with different timescales and discover the underlying hierarchical structure of the sequences. The hierarchical multiscale recurrent neural networks have a potential to remove inherent problems of standard recurrent neural networks. In addition, the learned hierarchical structures can be useful information to many other downstream tasks such as extracting story segments for video understanding, adaptively compressing sequences for speech recognition and extracting sub-task structures in hierarchical reinforcement learning.</div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Host: <a href="mailto:mcallester@ttic.edu" target="_blank">David McAllester</a></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>********</span><br></div><div style="font-size:12.8px"><div style="font-size:12.8px"><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif">The TTIC <span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-il">Young</span></span></span> <span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-il">Researcher</span></span></span> Seminar <span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><wbr>Series</span> (<a href="http://www.ttic.edu/young-researcher.php" target="_blank">http://www.ttic.edu/yo<wbr>ung-<span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-il">researcher</span></span></span>.php</a>) features talks by Ph.D. students and postdocs whose <span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-il">research</span></span></span> is of broad interest to the computer science community. The <span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">series</span> provides an opportunity for early-career <span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="gmail-m_9065458744339962113gmail-m_2038649208801028506gmail-il">researchers</span></span></span> to present recent work to and meet with students and faculty at TTIC and nearby universities.</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 11:00am in TTIC Room 526.<br><br>For additional information, please contact Matthew Walter (<a href="mailto:mwalter@ttic.edu" target="_blank">mwalter@ttic.edu</a>).</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p></div></div></div><div class="gmail_extra"><br clear="all"><div><div class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
<br><div class="gmail_quote">On Tue, Jun 6, 2017 at 12:34 PM, Mary Marre <span dir="ltr"><<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">When:</span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">     Wednesday, June 7th at </span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">11:00 am</span><br></div><div><div id="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:jk" class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-ii m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adP m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adO" style="margin-bottom:0px;margin-left:0px;padding-bottom:5px"><div id="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:qr" class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-a3s m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-aXjCH m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m157fdbb4a58e966d"><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px"><span style="font-size:12.8px"><br></span><span style="font-size:12.8px">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</span><span style="font-size:12.8px"><br><br></span><span style="font-size:12.8px">Who:   </span></font><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    Junyoung Chung, </span><span style="font-size:small">Université de Montréal</span></div><div style="font-size:12.8px"><span style="font-size:small"><br></span></div><div style="font-size:12.8px"><span style="font-size:12.8px"><br></span></div><div style="font-size:12.8px"><span style="font-size:12.8px">Title:       Towards Hierarchical Multiscale Recurrent Neural Networks and their Applications</span><br></div></div></div></div></div><div class="gmail_extra" style="font-size:12.8px"><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Abstract: The recent resurgence of recurrent neural networks has led to remarkable advances in various applications including machine translation, speech recognition, speech synthesis and caption generation. However, learning both hierarchical and temporal representation has been among the longstanding challenges of recurrent neural networks. Multiscale recurrent neural networks have been considered as a promising approach to resolve this issue, yet there has been a lack of empirical evidence showing that this type of models can actually capture the temporal dependencies by discovering the latent hierarchical structure of the sequence. </div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">In this talk, I will talk about my previous works on multiscale recurrent neural networks. I will show how a deep recurrent neural network with extra gating units can update its layers with different timescales and discover the underlying hierarchical structure of the sequences. The hierarchical multiscale recurrent neural networks have a potential to remove inherent problems of standard recurrent neural networks. In addition, the learned hierarchical structures can be useful information to many other downstream tasks such as extracting story segments for video understanding, adaptively compressing sequences for speech recognition and extracting sub-task structures in hierarchical reinforcement learning.</div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Host: <a href="mailto:mcallester@ttic.edu" target="_blank">David McAllester</a></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>********</span><br></div><div style="font-size:12.8px"><div style="font-size:12.8px"><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif">The TTIC <span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-il">Young</span></span></span> <span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-il">Researcher</span></span></span> Seminar <span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><wbr>Series</span> (<a href="http://www.ttic.edu/young-researcher.php" target="_blank">http://www.ttic.edu/yo<wbr>ung-<span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-il">researcher</span></span></span>.php</a>) features talks by Ph.D. students and postdocs whose <span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-il">research</span></span></span> is of broad interest to the computer science community. The <span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">series</span> provides an opportunity for early-career <span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113gmail-m_2038649208801028506gmail-il">researchers</span></span></span> to present recent work to and meet with students and faculty at TTIC and nearby universities.</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 11:00am in TTIC Room 526.<br><br>For additional information, please contact Matthew Walter (<a href="mailto:mwalter@ttic.edu" target="_blank">mwalter@ttic.edu</a>).</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p></div></div></div><div class="gmail_extra"><br clear="all"><div><div class="m_9065458744339962113gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:<a href="tel:(773)%20834-1757" value="+17738341757" target="_blank">(773) 834-1757</a></font></i></div><div><i><font face="arial, helvetica, sans-serif">f: <a href="tel:(773)%20357-6970" value="+17733576970" target="_blank">(773) 357-6970</a></font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
<br><div class="gmail_quote">On Wed, May 31, 2017 at 6:08 PM, Mary Marre <span dir="ltr"><<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">When:</span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">     Wednesday, June 7th at </span><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">11:00 am</span><br></div><div><div id="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:jk" class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-ii m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-gt m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adP m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-adO" style="margin-bottom:0px;margin-left:0px;padding-bottom:5px"><div id="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-:qr" class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-a3s m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-aXjCH m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m157fdbb4a58e966d"><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px"><span style="font-size:12.8px"><br></span><span style="font-size:12.8px">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</span><span style="font-size:12.8px"><br><br></span><span style="font-size:12.8px">Who:   </span></font><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    Junyoung Chung, </span><span style="font-size:small">Université de Montréal</span></div><div style="font-size:12.8px"><span style="font-size:small"><br></span></div><div style="font-size:12.8px"><span style="font-size:12.8px"><br></span></div><div style="font-size:12.8px"><span style="font-size:12.8px">Title:       Towards Hierarchical Multiscale Recurrent Neural Networks and their Applications</span><br></div></div></div></div></div><div class="gmail_extra" style="font-size:12.8px"><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Abstract: The recent resurgence of recurrent neural networks has led to remarkable advances in various applications including machine translation, speech recognition, speech synthesis and caption generation. However, learning both hierarchical and temporal representation has been among the longstanding challenges of recurrent neural networks. Multiscale recurrent neural networks have been considered as a promising approach to resolve this issue, yet there has been a lack of empirical evidence showing that this type of models can actually capture the temporal dependencies by discovering the latent hierarchical structure of the sequence. </div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">In this talk, I will talk about my previous works on multiscale recurrent neural networks. I will show how a deep recurrent neural network with extra gating units can update its layers with different timescales and discover the underlying hierarchical structure of the sequences. The hierarchical multiscale recurrent neural networks have a potential to remove inherent problems of standard recurrent neural networks. In addition, the learned hierarchical structures can be useful information to many other downstream tasks such as extracting story segments for video understanding, adaptively compressing sequences for speech recognition and extracting sub-task structures in hierarchical reinforcement learning.</div><div><br></div><div><br></div><div>Host: <a href="mailto:mcallester@ttic.edu" target="_blank">David McAllester</a></div><div><br></div><div><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>******************************</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><wbr>********</span><br></div><div><div style="font-size:12.8px"><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif">The TTIC <span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-il">Young</span></span></span> <span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-il">Researcher</span></span></span> Seminar <span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><wbr>Series</span> (<a href="http://www.ttic.edu/young-researcher.php" target="_blank">http://www.ttic.edu/yo<wbr>ung-<span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-il">researcher</span></span></span>.php</a>) features talks by Ph.D. students and postdocs whose <span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-il">research</span></span></span> is of broad interest to the computer science community. The <span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">series</span> provides an opportunity for early-career <span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-m_-8851913240295298494gmail-m_-2556873356046171619gmail-m_6077973053988611529gmail-m_5169817330970536202gmail-m_-6945911958741551355gmail-m_-1657390673076249714gmail-m_-3188658297228096346gmail-m_5767020761850768500gmail-m_9173063153275566578gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-m_-3191619973981293488gmail-il"><span class="m_9065458744339962113m_2038649208801028506gmail-il">researchers</span></span></span> to present recent work to and meet with students and faculty at TTIC and nearby universities.</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 11:00am in TTIC Room 526.<br><br>For additional information, please contact Matthew Walter (<a href="mailto:mwalter@ttic.edu" target="_blank">mwalter@ttic.edu</a>).</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p></div></div><div><br></div><div><br></div></div><div><div class="m_9065458744339962113m_2038649208801028506gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:<a href="tel:(773)%20834-1757" value="+17738341757" target="_blank">(773) 834-1757</a></font></i></div><div><i><font face="arial, helvetica, sans-serif">f: <a href="tel:(773)%20357-6970" value="+17733576970" target="_blank">(773) 357-6970</a></font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
</div>
</blockquote></div><br></div></div>
</blockquote></div><br></div></div>