<div dir="ltr"><div class="gmail_default" style="font-size:small"><div class="gmail_default"><b>When</b>:    Thursday, October 10th from<b style="background-color:rgb(255,255,0)"> 11</b><b><span style="background-color:rgb(255,255,0)">:30am - 12:30am CT</span></b></div><div class="gmail_default"><div><b><br></b></div><div><b>Where</b>:   Talk will be given <b><font color="#0000ff">live, in-person</font></b> at<br>               TTIC, 6045 S. Kenwood Avenue<br>               5th Floor, <b><u><font color="#000000">Room 530</font></u></b></div><div><br><b>Virtually</b>: via <a href="https://uchicago.zoom.us/j/97405333371?pwd=KaGiUd7tjzjqk6worbEUJaIz5AioNN.1" target="_blank"><b>Zoom</b></a> <br></div><div>                 </div><div><b>Who:  </b>    Ankita Pasad, TTIC</div><div><br></div></div><div class="gmail_default"><div style="border-top:none;border-right:none;border-left:none;border-bottom:2.25pt solid rgb(11,118,159);padding:0in 0in 1pt"></div><div><font face="arial, sans-serif"><b><br></b></font></div><div><font face="arial, sans-serif"><b>Title:</b> What do Speech Foundation Models Learn? Analysis and Applications</font></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><b>Abstract: </b></font><span style="background-color:transparent;color:rgb(0,0,0);font-family:arial,sans-serif">Speech foundation models (SFMs) are designed to serve as general-purpose representations for a broad spectrum of speech-processing tasks. The last four years have seen an influx of increasingly successful SFMs with impressive performance on various downstream tasks. While the zoo of SFMs continues to grow, we are far behind in understanding the knowledge acquired during pre-training. Our limited understanding makes it difficult to navigate the space of SFMs, as extensive trial and error is cumbersome and impractical for these computationally demanding models.</span></div><div><span id="m_-3521606047883711358gmail-docs-internal-guid-32b3a854-7fff-3404-fff6-8652e559193c"><font face="arial, sans-serif"><br><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><span style="color:rgb(0,0,0);background-color:transparent;font-variant-numeric:normal;font-variant-east-asian:normal;font-variant-alternates:normal;vertical-align:baseline">In this talk, I will present our lightweight analysis framework, highlighting our findings from a comparative analysis of a diverse set of SFMs and how our insights can inform design choices for model adaptation. I will also discuss our contribution to the Spoken Language Understanding Evaluation (SLUE) benchmark, the first large-scale collection of open-source and natural-speech SLU datasets. </span></p><br><p dir="ltr" style="line-height:1.38;margin-top:0pt;margin-bottom:0pt"><span style="color:rgb(0,0,0);background-color:transparent;font-variant-numeric:normal;font-variant-east-asian:normal;font-variant-alternates:normal;vertical-align:baseline">Collectively, this thesis tackles previously unanswered questions about SFMs, providing tools and datasets to further our understanding and enable the community to make informed design choices for future model development and adoption.</span></p></font></span></div><div><br></div><div><b>Thesis Committee: </b>Karen Livescu <font color="#0b5394"><i><b>(Thesis Advisor)</b></i></font>, Kevin Gimpel (QuillBot), Michael Auli (Meta), Allyson Ettinger (AI2)</div><p class="MsoNormal" style="margin:0in 0in 8pt;text-align:justify;line-height:15.6933px"><br class="gmail-Apple-interchange-newline"></p><div><div><font face="arial, sans-serif"><br></font></div></div><div class="gmail_default"><br></div></div></div><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue, Rm 517</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">773-834-1757</font></i></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div>