<div dir="ltr"><div dir="ltr">
<font style="color:rgb(0,0,0);font-family:arial,sans-serif"><b>When:</b>     Friday, January 17th.  <b>Refreshments at 12:00pm. </b></font><b>Talk at 12:20pm. <br></b><div class="gmail_quote"><div dir="ltr"><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><span style="font-family:arial,helvetica,sans-serif"><br></span></div><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><span style="font-family:arial,helvetica,sans-serif"><b>Where:</b>    </span><span style="font-family:arial,helvetica,sans-serif">TTIC</span><span style="font-family:arial,helvetica,sans-serif">, 6045 S Kenwood Avenue, 5th Floor, Room 526</span><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><div><p style="margin-bottom:0.0001pt;line-height:normal"><font face="arial, helvetica, sans-serif"><b>Who: </b>     <b> </b></font>David Chiang, TTIC</p><table style="border-collapse:collapse;margin-top:0px;width:auto;font-family:Roboto,RobotoDraft,Helvetica,Arial,sans-serif;font-size:0.875rem;letter-spacing:0.2px;display:block" cellpadding="0"></table></div><div><br></div><div><b>Title:       </b>Representing Unordered Data Using Multiset Automata</div><div><br></div><div><b>
</b><div><b>Abstract: </b> Unordered, variable-sized inputs arise in many settings across 
multiple fields. The ability for set- and multiset- oriented neural 
networks to handle this type of input has been the focus of much work in
 recent years. We propose to represent multisets using complex-weighted 
multiset automata. Multiset automata (also known as commutative 
automata) are a class of automata for which the symbols can be read in 
any order and obtain the same result. I will talk about algorithms for 
converting weighted multiset automata to and from weighted commutative 
regular expressions, for computing inside weights, and for training 
weighted multiset automata from data. Finally, I will show how the 
multiset representations of certain existing neural architectures can be
 viewed as special cases of ours. Namely, (1) we provide a new 
theoretical and intuitive justification for the Transformer model's 
representation of positions using sinusoidal functions, and (2) we 
extend the DeepSets model to use complex numbers, enabling it to 
outperform the existing model on an extension of one of their tasks.<div><br>This talk presents work done with Justin DeBenedetto.</div><div><div id="gmail-m_-2237394750608523191m_-6281119864947526141m_-4821438133843384681gmail-m_6291452947409543257m_5058370782281332144:7sa"><img src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif" class="gmail-CToWUd"></div></div></div></div></div><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><div style="font-size:13px;margin:0px;line-height:normal"><b style="font-size:12.8px"><font face="arial, helvetica, sans-serif">******************************************************************************************************</font></b><br></div><div style="font-family:arial;font-size:13px;margin:0px;line-height:normal"><div style="font-family:arial,sans-serif;font-size:12.8px"><b><font face="arial, helvetica, sans-serif"><br></font></b></div><div style="font-family:arial,sans-serif;font-size:12.8px"><b><font face="arial, helvetica, sans-serif">Research at TTIC Seminar Series</font></b></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">TTIC is
 hosting a weekly seminar series presenting the research currently 
underway at the Institute. Every week a different TTIC faculty member 
will present their research.  The lectures are intended both for 
students seeking research topics and adviser, and for the 
general TTIC and University of Chicago communities interested in hearing
 what their colleagues are up to.   </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">To receive announcements about the seminar series, please subscribe to the mailing list: <a href="https://groups.google.com/a/ttic.edu/group/talks/subscribe" style="font-family:arial,sans-serif;text-decoration-line:none" target="_blank">https://groups.google.com/a/ttic.edu/group/talks/subscribe</a></font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">Speaker details can be found at: <a href="http://www.ttic.edu/tticseminar.php" style="font-family:arial,sans-serif;text-decoration-line:none" target="_blank">http://www.ttic.edu/tticseminar.php</a>.</font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">For additional questions, please contact Nathan Srebro at <a href="mailto:mcallester@ttic.edu" style="font-family:arial,sans-serif;text-decoration-line:none" target="_blank">nati@ttic.edu</a>.</font></div></div></div><div><div id="gmail-m_-2237394750608523191m_-6281119864947526141m_-4821438133843384681gmail-m_6291452947409543257m_5058370782281332144gmail-:6p1"><img src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif" class="gmail-CToWUd"></div></div></div></div><div class="gmail-yj6qo gmail-ajU"><div id="gmail-:9s" class="gmail-ajR" tabindex="0"><img class="gmail-ajT" src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif"></div></div>

<div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif"><b>Jerome Allen</b><br></font><div><font face="arial, helvetica, sans-serif">Executive Assistant<br></font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 518</font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></div><div><font face="arial, helvetica, sans-serif">p:(773) 702-2311<br></font></div><div><i><b><a href="mailto:jallen@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">jallen@ttic.edu</font></a></b></i></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Jan 16, 2020 at 12:55 PM Jerome Allen <<a href="mailto:jallen@ttic.edu">jallen@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">
<font style="color:rgb(0,0,0);font-family:arial,sans-serif"><b>When:</b>     Friday, January 17th.  <b>Refreshments at 12:00pm. </b></font><b>Talk at 12:20pm. <br></b><div class="gmail_quote"><div dir="ltr"><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><span style="font-family:arial,helvetica,sans-serif"><br></span></div><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><span style="font-family:arial,helvetica,sans-serif"><b>Where:</b>    </span><span style="font-family:arial,helvetica,sans-serif">TTIC</span><span style="font-family:arial,helvetica,sans-serif">, 6045 S Kenwood Avenue, 5th Floor, Room 526</span><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><div><p style="margin-bottom:0.0001pt;line-height:normal"><font face="arial, helvetica, sans-serif"><b>Who: </b>     <b> </b></font>David Chiang, TTIC</p><table style="border-collapse:collapse;margin-top:0px;width:auto;font-family:Roboto,RobotoDraft,Helvetica,Arial,sans-serif;font-size:0.875rem;letter-spacing:0.2px;display:block" cellpadding="0"></table></div><div><br></div><div><b>Title:       </b>Representing Unordered Data Using Multiset Automata</div><div><br></div><div><b>
</b><div><b>Abstract: </b> Unordered, variable-sized inputs arise in many settings across 
multiple fields. The ability for set- and multiset- oriented neural 
networks to handle this type of input has been the focus of much work in
 recent years. We propose to represent multisets using complex-weighted 
multiset automata. Multiset automata (also known as commutative 
automata) are a class of automata for which the symbols can be read in 
any order and obtain the same result. I will talk about algorithms for 
converting weighted multiset automata to and from weighted commutative 
regular expressions, for computing inside weights, and for training 
weighted multiset automata from data. Finally, I will show how the 
multiset representations of certain existing neural architectures can be
 viewed as special cases of ours. Namely, (1) we provide a new 
theoretical and intuitive justification for the Transformer model's 
representation of positions using sinusoidal functions, and (2) we 
extend the DeepSets model to use complex numbers, enabling it to 
outperform the existing model on an extension of one of their tasks.<div><br>This talk presents work done with Justin DeBenedetto.</div><div><div id="gmail-m_-2237394750608523191m_-6281119864947526141m_-4821438133843384681gmail-m_6291452947409543257m_5058370782281332144:7sa"><img src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif"></div></div></div></div></div><div style="font-family:arial,sans-serif;color:rgb(0,0,0)"><div style="font-size:13px;margin:0px;line-height:normal"><b style="font-size:12.8px"><font face="arial, helvetica, sans-serif">******************************************************************************************************</font></b><br></div><div style="font-family:arial;font-size:13px;margin:0px;line-height:normal"><div style="font-family:arial,sans-serif;font-size:12.8px"><b><font face="arial, helvetica, sans-serif"><br></font></b></div><div style="font-family:arial,sans-serif;font-size:12.8px"><b><font face="arial, helvetica, sans-serif">Research at TTIC Seminar Series</font></b></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">TTIC is
 hosting a weekly seminar series presenting the research currently 
underway at the Institute. Every week a different TTIC faculty member 
will present their research.  The lectures are intended both for 
students seeking research topics and adviser, and for the 
general TTIC and University of Chicago communities interested in hearing
 what their colleagues are up to.   </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">To receive announcements about the seminar series, please subscribe to the mailing list: <a href="https://groups.google.com/a/ttic.edu/group/talks/subscribe" style="font-family:arial,sans-serif;text-decoration-line:none" target="_blank">https://groups.google.com/a/ttic.edu/group/talks/subscribe</a></font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">Speaker details can be found at: <a href="http://www.ttic.edu/tticseminar.php" style="font-family:arial,sans-serif;text-decoration-line:none" target="_blank">http://www.ttic.edu/tticseminar.php</a>.</font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif"> </font></div><div style="font-family:arial,sans-serif;font-size:12.8px"><font face="arial, helvetica, sans-serif">For additional questions, please contact Nathan Srebro at <a href="mailto:mcallester@ttic.edu" style="font-family:arial,sans-serif;text-decoration-line:none" target="_blank">nati@ttic.edu</a>.</font></div></div></div><div><div id="gmail-m_-2237394750608523191m_-6281119864947526141m_-4821438133843384681gmail-m_6291452947409543257m_5058370782281332144gmail-:6p1"><img src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif"></div></div></div></div>

<div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif"><b>Jerome Allen</b><br></font><div><font face="arial, helvetica, sans-serif">Executive Assistant<br></font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 518</font></div><div><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></div><div><font face="arial, helvetica, sans-serif">p:(773) 702-2311<br></font></div><div><i><b><a href="mailto:jallen@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">jallen@ttic.edu</font></a></b></i></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div>
</blockquote></div></div>