<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-size:small"><div dir="ltr"><div style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><font style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0);vertical-align:inherit"><font style="vertical-align:inherit"><b>When:</b>    </font></font><font style="font-family:Arial,Helvetica,sans-serif;font-size:small;vertical-align:inherit"><font style="vertical-align:inherit"><font style="color:rgb(0,0,0)">    Wednesday</font><span class="gmail_default" style="font-family:arial,sans-serif;color:rgb(0,0,0)">, January 11th</span><font style="color:rgb(0,0,0)"> at</font><b style="color:rgb(0,0,0)"> <span style="background-color:rgb(255,255,0)"><u>10:30</u></span></b><b><u><font face="verdana, sans-serif" color="#000000" style="background-color:rgb(255,255,0)"> a</font></u></b><font face="verdana, sans-serif"><b><u><font color="#000000" style="background-color:rgb(255,255,0)">m CT</font></u><font color="#000000"><span style="background-color:rgb(255,255,0)">   </span></font></b></font></font></font><br></div></div><div><p style="color:rgb(80,0,80);font-variant-numeric:normal;font-variant-east-asian:normal;font-stretch:normal;line-height:normal;margin:0px"><font face="arial, sans-serif" color="#000000"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b><span style="background-color:rgb(255,255,0)"><br></span></b></font></font></font></p><div class="gmail_default"><b style="color:rgb(60,64,67);font-family:Roboto,Arial,sans-serif;letter-spacing:0.2px;white-space:pre-wrap">Virtually:</b><span style="font-size:14px;color:rgb(60,64,67);font-family:Roboto,Arial,sans-serif;letter-spacing:0.2px;white-space:pre-wrap">    <i>via</i> Zoom </span>(<b><a href="https://uchicagogroup.zoom.us/webinar/register/WN_nPU7Whf8ScGE2AcsLnhhKg" target="_blank">livestream</a></b><span style="font-size:14px;color:rgb(60,64,67);font-family:Roboto,Arial,sans-serif;letter-spacing:0.2px;white-space:pre-wrap">)</span><br></div><p class="MsoNormal" style="margin:0in 0in 0.0001pt;color:rgb(80,0,80);line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><br></font></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><font style="color:rgb(80,0,80)"><b>Who: </b> </font><font color="#500050" style="color:rgb(80,0,80)">    </font><font color="#000000"><font color="#500050">    </font></font></font></font></font>Elena Voita, FAIR</p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;color:rgb(80,0,80);line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><br></p><div class="MsoNormal" align="center" style="margin:0in 0in 8pt;font-size:11pt;text-align:center;line-height:15.6933px;font-family:Calibri,sans-serif"><hr size="2" width="100%" align="center"></div><div><p style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap"><font face="arial, sans-serif"><span style="color:black;letter-spacing:normal;white-space:normal;margin:0px"><b>Title: </b></span><span style="color:black;letter-spacing:normal;white-space:normal;margin:0px"><b> </b>      </span><span style="color:rgb(102,102,102);letter-spacing:normal">A Journey on Interpretability Methods in NLP: Inside-Out and Back</span></font></p><div style="color:black;margin:0px"><font face="arial, sans-serif"><span style="margin:0px"><b>Abstract: </b></span><span style="line-height:normal;margin:0px;color:rgb(102,102,102)">In this talk, I will illustrate several approaches, motivations and ideas behind analysis of NLP models. As an example, we will take the standard Transformer model trained for the Machine Translation task and will look at it from different points of view. We will start our journey from examining model components and seeing how, and whether, model’s inductive biases facilitate performing the task. Next, we turn to the kinds of information the model relies on to make its predictions. Here we will use attribution methods and will see how some potentially pathological behaviours look on the inside. Finally, we will turn our view inside-out, i.e. from inner workings of the model to analysing its outputs. In this part, we will discover that the way the model learns to translate is very similar to how humans do it: from learning word-by-word translation first to becoming more fluent later.</span><span style="margin:0px"><span style="line-height:normal;margin:0px;color:rgb(102,102,102)"> </span></span><span style="line-height:normal;margin:0px;color:rgb(102,102,102)">Most importantly, the two views (from the inside and from the outside) show the same process, and we will see how this process is reflected in these two types of analysis.</span></font></div><div style="color:black;margin:0px"><font face="arial, sans-serif"><span style="margin:0px"><b><br></b></span></font></div><div style="color:black;margin:0px"><font face="arial, sans-serif"><span style="margin:0px"><b>Bio: </b></span><span style="margin:0px;color:rgb(114,114,114)">Elena (Lena) Voita is a Research Scientist at Facebook AI Research (joined recently). She is mostly interested in understanding what and how neural models learn. Previously, she was a PhD student at the University of Edinburgh supervised by Ivan Titov and Rico Sennrich, was awarded Facebook PhD Fellowship, worked as a Research Scientist at Yandex Research side by side with the Yandex Translate team. She enjoys writing blog posts and teaching; a public version of (a part of) her NLP course is available at<span style="margin:0px"> </span></span><font color="#267cb9"><a href="https://lena-voita.github.io/nlp_course.html" title="https://lena-voita.github.io/nlp_course.html" id="m_-3623389452153514880m_8268997303366931985m_764218417251205021m_5640074537359342823m_5179421049893196392m_951236285887859260LPlnk464683" target="_blank">NLP Course For You</a></font><span style="margin:0px;color:rgb(114,114,114)">.</span></font></div><p style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap"><b style="letter-spacing:normal;color:rgb(34,34,34)"><font face="arial, sans-serif">Host: <a href="mailto:klivescu@ttic.edu" target="_blank">Karen Livescu</a></font></b><br></p></div><div><br></div></div><div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">**************************************************************************************************<br></font></div><div style="font-size:12.8px"><div><p class="MsoNormal" style="margin-bottom:0.0001pt;font-family:arial,sans-serif"><font face="arial, helvetica, sans-serif"> </font><span style="font-family:arial,helvetica,sans-serif">The </span><font color="#3d85c6" style="font-family:arial,helvetica,sans-serif"><i><b>TTIC Young Researcher Seminar Series</b></i></font><span style="font-family:arial,helvetica,sans-serif"> (</span><a href="http://www.ttic.edu/young-researcher.php" style="font-family:arial,helvetica,sans-serif" target="_blank">http://www.ttic.edu/young-researcher.php</a><span style="font-family:arial,helvetica,sans-serif">)</span><span style="font-family:arial,helvetica,sans-serif"> features talks by Ph.D. students and postdocs whose </span><span style="font-family:arial,helvetica,sans-serif">research</span><span style="font-family:arial,helvetica,sans-serif"> is of broad interest to the computer science community. The series provides an opportunity for early-career </span><span style="font-family:arial,helvetica,sans-serif">researchers</span><span style="font-family:arial,helvetica,sans-serif"> </span><span style="font-family:arial,helvetica,sans-serif">to present recent work to and meet with students and faculty at TTIC and nearby universities.</span></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-family:arial,sans-serif"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 10:30am in TTIC Room 530.<br><br>For additional information, please contact <i>David McAllester </i>(<a href="mailto:mcallester@ttic.edu" target="_blank">mcallester@ttic.edu</a>).</font></p></div></div></div><br></div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small"><br></div><div class="gmail_default" style="font-size:small"><br></div><div><div dir="ltr"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue, Rm 517</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">773-834-1757</font></i></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Jan 6, 2023 at 10:58 AM Mary Marre <<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div dir="ltr" style="font-size:small"><div style="font-family:arial,helvetica,sans-serif;font-size:12.8px"><font style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0);vertical-align:inherit"><font style="vertical-align:inherit"><b>When:</b>    </font></font><font style="font-family:Arial,Helvetica,sans-serif;font-size:small;vertical-align:inherit"><font style="vertical-align:inherit"><font style="color:rgb(0,0,0)">    Wednesday</font><span class="gmail_default" style="font-family:arial,sans-serif;color:rgb(0,0,0)">, January 11th</span><font style="color:rgb(0,0,0)"> at</font><b style="color:rgb(0,0,0)"> <span style="background-color:rgb(255,255,0)"><u>10:30</u></span></b><b><u><font face="verdana, sans-serif" color="#000000" style="background-color:rgb(255,255,0)"> a</font></u></b><font face="verdana, sans-serif"><b><u><font color="#000000" style="background-color:rgb(255,255,0)">m CT</font></u><font color="#000000"><span style="background-color:rgb(255,255,0)">   </span></font></b></font></font></font><br></div></div><div><p style="font-size:small;color:rgb(80,0,80);font-variant-numeric:normal;font-variant-east-asian:normal;font-stretch:normal;line-height:normal;margin:0px"><font face="arial, sans-serif" color="#000000"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b><span style="background-color:rgb(255,255,0)"><br></span></b></font></font></font></p><div style="font-size:small"><b style="color:rgb(60,64,67);font-family:Roboto,Arial,sans-serif;letter-spacing:0.2px;white-space:pre-wrap">Virtually:</b><span style="font-size:14px;color:rgb(60,64,67);font-family:Roboto,Arial,sans-serif;letter-spacing:0.2px;white-space:pre-wrap">    <i>via</i> Zoom </span>(<b><a href="https://uchicagogroup.zoom.us/webinar/register/WN_nPU7Whf8ScGE2AcsLnhhKg" target="_blank">livestream</a></b><span style="font-size:14px;color:rgb(60,64,67);font-family:Roboto,Arial,sans-serif;letter-spacing:0.2px;white-space:pre-wrap">)</span><br></div><p class="MsoNormal" style="font-size:small;margin:0in 0in 0.0001pt;color:rgb(80,0,80);line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><br></font></p><p class="MsoNormal" style="font-size:small;margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><font style="color:rgb(80,0,80)"><b>Who: </b> </font><font color="#500050" style="color:rgb(80,0,80)">    </font><font color="#000000"><font color="#500050">    </font></font></font></font></font>Elena Voita, FAIR</p><p class="MsoNormal" style="font-size:small;margin:0in 0in 0.0001pt;color:rgb(80,0,80);line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><br></p><div class="MsoNormal" align="center" style="font-size:11pt;margin:0in 0in 8pt;text-align:center;line-height:15.6933px;font-family:Calibri,sans-serif"><hr size="2" width="100%" align="center"></div><div><p style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap"><font face="arial, sans-serif"><span style="color:black;letter-spacing:normal;white-space:normal;margin:0px"><b>Title: </b></span><span style="color:black;letter-spacing:normal;white-space:normal;margin:0px"><b> </b>      </span><span style="color:rgb(102,102,102);letter-spacing:normal">A Journey on Interpretability Methods in NLP: Inside-Out and Back</span></font></p><div style="color:black;margin:0px"><font face="arial, sans-serif"><span style="margin:0px"><b>Abstract: </b></span><span style="line-height:normal;margin:0px;color:rgb(102,102,102)">In this talk, I will illustrate several approaches, motivations and ideas behind analysis of NLP models. As an example, we will take the standard Transformer model trained for the Machine Translation task and will look at it from different points of view. We will start our journey from examining model components and seeing how, and whether, model’s inductive biases facilitate performing the task. Next, we turn to the kinds of information the model relies on to make its predictions. Here we will use attribution methods and will see how some potentially pathological behaviours look on the inside. Finally, we will turn our view inside-out, i.e. from inner workings of the model to analysing its outputs. In this part, we will discover that the way the model learns to translate is very similar to how humans do it: from learning word-by-word translation first to becoming more fluent later.</span><span style="margin:0px"><span style="line-height:normal;margin:0px;color:rgb(102,102,102)"> </span></span><span style="line-height:normal;margin:0px;color:rgb(102,102,102)">Most importantly, the two views (from the inside and from the outside) show the same process, and we will see how this process is reflected in these two types of analysis.</span></font></div><div style="color:black;margin:0px"><font face="arial, sans-serif"><span style="margin:0px"><b><br></b></span></font></div><div style="color:black;margin:0px"><font face="arial, sans-serif"><span style="margin:0px"><b>Bio: </b></span><span style="margin:0px;color:rgb(114,114,114)"><span>Elena</span> (Lena) Voita is a Research Scientist at Facebook AI Research (joined recently). She is mostly interested in understanding what and how neural models learn. Previously, she was a PhD student at the University of Edinburgh supervised by Ivan Titov and Rico Sennrich, was awarded Facebook PhD Fellowship, worked as a Research Scientist at Yandex Research side by side with the Yandex Translate team. She enjoys writing blog posts and teaching; a public version of (a part of) her NLP course is available at<span style="margin:0px"> </span></span><font color="#267cb9"><a href="https://lena-voita.github.io/nlp_course.html" title="https://lena-voita.github.io/nlp_course.html" id="m_-3623389452153514880m_8268997303366931985m_764218417251205021m_5640074537359342823m_5179421049893196392m_951236285887859260LPlnk464683" target="_blank">NLP Course For You</a></font><span style="margin:0px;color:rgb(114,114,114)">.</span></font></div><p style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap"><b style="letter-spacing:normal;color:rgb(34,34,34)"><font face="arial, sans-serif">Host: <a href="mailto:klivescu@ttic.edu" target="_blank">Karen Livescu</a></font></b><br></p></div><div style="font-size:small"><br></div></div><div style="font-size:small"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">**************************************************************************************************<br></font></div><div style="font-size:12.8px"><div><p class="MsoNormal" style="margin-bottom:0.0001pt;font-family:arial,sans-serif"><font face="arial, helvetica, sans-serif"> </font><span style="font-family:arial,helvetica,sans-serif">The </span><font color="#3d85c6" style="font-family:arial,helvetica,sans-serif"><i><b>TTIC <span>Young</span> <span>Researcher</span> Seminar Series</b></i></font><span style="font-family:arial,helvetica,sans-serif"> (</span><a href="http://www.ttic.edu/young-researcher.php" style="font-family:arial,helvetica,sans-serif" target="_blank">http://www.ttic.edu/<span>young</span>-<span>researcher</span>.php</a><span style="font-family:arial,helvetica,sans-serif">)</span><span style="font-family:arial,helvetica,sans-serif"> features talks by Ph.D. students and postdocs whose </span><span style="font-family:arial,helvetica,sans-serif">research</span><span style="font-family:arial,helvetica,sans-serif"> is of broad interest to the computer science community. The series provides an opportunity for early-career </span><span style="font-family:arial,helvetica,sans-serif">researchers</span><span style="font-family:arial,helvetica,sans-serif"> </span><span style="font-family:arial,helvetica,sans-serif">to present recent work to and meet with students and faculty at TTIC and nearby universities.</span></p><p class="MsoNormal" style="margin-bottom:0.0001pt;font-family:arial,sans-serif"><font face="arial, helvetica, sans-serif"><br>The seminars are typically held on Wednesdays at 10:30am in TTIC Room 530.<br><br>For additional information, please contact <i>David McAllester </i>(<a href="mailto:mcallester@ttic.edu" target="_blank">mcallester@ttic.edu</a>).</font></p><br></div><div><br></div><div><br></div></div></div></div><div><div dir="ltr"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue, Rm 517</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">773-834-1757</font></i></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div>
</blockquote></div></div>