<div dir="ltr"><div style="font-size:12.8px"><div style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">When:     Wednesday, October 5th at <b style="background-color:rgb(255,255,0)">10:00am </b></span><br></div><div><div><font face="arial, helvetica, sans-serif" style="font-size:12.8px"><span style="font-size:12.8px"><br></span><span style="font-size:12.8px">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</span><span style="font-size:12.8px"><br><br></span><span style="font-size:12.8px">Who:   </span></font><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    </span><font face="arial, helvetica, sans-serif">Sainbayar Sukhbaatar, NYU</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div></div></div><div style="font-size:12.8px"><span style="font-size:12.8px">Title:        Memory and Communication in Neural Networks</span><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Abstract: In this talk, I will talk about my two recent works on equipping neural networks with an external memory and communication. In the first part, I will explain about how an external memory can be attached to neural networks. The memory can store variable number of items, which then can be can accessed by a soft-attention mechanism. This whole model can be trained end-to-end with simple back-propagation. Since the model can choose which part of the input to read, it makes it suitable for tasks with out-of-order structure, such as question answering after reading a short story. In the second part, I will talk about how multiple neural networks can learn to communicate with each other to solve a common task. Instead of using discrete symbols for communication, we allow networks to exchange continuous vectors so it can be trained with back-propagation. I will demonstrate the model on multi-agent reinforcement learning tasks.</div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Host: David McAllester, <a href="mailto:mcallester@ttic.edu" target="_blank"><font color="#0000ff"><span style="font-family:"normal arial",sans-serif;font-size:12px">mcallester</span><span style="font-family:"normal arial",sans-serif;font-size:12px">@ttic.ed<wbr>u</span></font></a></div><div style="font-size:12.8px"><span style="color:rgb(119,119,119);font-family:"normal arial",sans-serif;font-size:12px"><br></span></div><div style="font-size:12.8px"><div><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">*************************</span><br></div><div><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif">The TTIC <span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">Young</span> <span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">Researcher</span> Seminar <span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><wbr>Series</span> (<a href="http://www.ttic.edu/young-researcher.php" target="_blank">http://www.ttic.edu/yo<wbr>ung-<span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">researcher</span>.php</a>) features talks by Ph.D. students and postdocs whose <span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">research</span> is of broad interest to the computer science community. The <span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">series</span> provides an opportunity for early-career <span class="gmail-m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">researchers</span> to present recent work to and meet with students and faculty at TTIC and nearby universities.</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 11:00am in TTIC Room 526.<br><br>For additional information, please contact Matthew Walter (<a href="mailto:mwalter@ttic.edu" target="_blank">mwalter@ttic.edu</a>).</font></p></div><div><font face="arial, helvetica, sans-serif"><br></font></div></div></div><div class="gmail_extra"><br clear="all"><div><div class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
<br><div class="gmail_quote">On Tue, Oct 4, 2016 at 9:47 PM, Mary Marre <span dir="ltr"><<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div style="font-size:12.8px"><div style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">When:     Wednesday, October 5th at <b style="background-color:rgb(255,255,0)">10:00am </b></span><br></div><div><div><font face="arial, helvetica, sans-serif" style="font-size:12.8px"><span style="font-size:12.8px"><br></span><span style="font-size:12.8px">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</span><span style="font-size:12.8px"><br><br></span><span style="font-size:12.8px">Who:   </span></font><span style="font-size:12.8px;font-family:arial,helvetica,sans-serif">    </span><font face="arial, helvetica, sans-serif">Sainbayar Sukhbaatar, NYU</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div></div></div><div style="font-size:12.8px"><span style="font-size:12.8px">Title:        Memory and Communication in Neural Networks</span><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Abstract: In this talk, I will talk about my two recent works on equipping neural networks with an external memory and communication. In the first part, I will explain about how an external memory can be attached to neural networks. The memory can store variable number of items, which then can be can accessed by a soft-attention mechanism. This whole model can be trained end-to-end with simple back-propagation. Since the model can choose which part of the input to read, it makes it suitable for tasks with out-of-order structure, such as question answering after reading a short story. In the second part, I will talk about how multiple neural networks can learn to communicate with each other to solve a common task. Instead of using discrete symbols for communication, we allow networks to exchange continuous vectors so it can be trained with back-propagation. I will demonstrate the model on multi-agent reinforcement learning tasks.</div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px">Host: David McAllester, <a href="mailto:mcallester@ttic.edu" target="_blank"><font color="#0000ff"><span style="font-family:"normal arial",sans-serif;font-size:12px">mcallester</span><span style="font-family:"normal arial",sans-serif;font-size:12px">@ttic.ed<wbr>u</span></font></a></div><div style="font-size:12.8px"><span style="color:rgb(119,119,119);font-family:"normal arial",sans-serif;font-size:12px"><br></span></div><div style="font-size:12.8px"><div><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">*************************</span><br></div><div><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif">The TTIC <span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">Young</span> <span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">Researcher</span> Seminar <span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il"><wbr>Series</span> (<a href="http://www.ttic.edu/young-researcher.php" target="_blank">http://www.ttic.edu/yo<wbr>ung-<span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">researcher</span>.php</a>) features talks by Ph.D. students and postdocs whose <span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">research</span> is of broad interest to the computer science community. The <span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">series</span> provides an opportunity for early-career <span class="m_-290782431325204217gmail-m_-8878884332252521502gmail-m_796811872599655286gmail-il">researchers</span> to present recent work to and meet with students and faculty at TTIC and nearby universities.</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 11:00am in TTIC Room 526.<br><br>For additional information, please contact Matthew Walter (<a href="mailto:mwalter@ttic.edu" target="_blank">mwalter@ttic.edu</a>).</font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></p></div></div><div><div class="m_-290782431325204217gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:<a href="tel:%28773%29%20834-1757" value="+17738341757" target="_blank">(773) 834-1757</a></font></i></div><div><i><font face="arial, helvetica, sans-serif">f: <a href="tel:%28773%29%20357-6970" value="+17733576970" target="_blank">(773) 357-6970</a></font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
</div>
</blockquote></div><br></div>