<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-size:small"><div class="gmail_default"><div><div class="gmail_default"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>When:</b>    </font></font><font style="vertical-align:inherit"><font style="vertical-align:inherit">  Monday, November 29th, 2021 at <b style="background-color:rgb(255,255,0)">11:00 am CT</b></font></font><br></font></div><div><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_default"><div class="gmail_default"><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Where:</b>     </font></font></font><font color="#000000" style="font-family:arial,sans-serif"><u>Zoom Virtual Talk</u> (</font><b style="font-family:arial,sans-serif"><font color="#0000ff"><a href="https://uchicagogroup.zoom.us/webinar/register/WN_OeLGwcytS46pQnaheKLXUw" target="_blank">register in advance here</a></font></b><font color="#000000" style="font-family:arial,sans-serif">)</font><b style="color:rgb(0,0,0);font-family:arial,sans-serif"> </b><br></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Who: </b>       Michael Auli, FAIR</font></font></font></p></div></div></div></div></div></div></div></div></div></div></div></div><div><font face="arial, sans-serif"><br></font></div><div><b><font face="arial, sans-serif"><br></font></b></div><div><font face="arial, sans-serif"><b>Title:</b> <span class="gmail_default">       </span></font>Speech Representation Learning with Wav2vec</div><div><br><b>Abstract: </b>Despite rapid progress in the recent past, current speech recognition systems rely heavily on labeled training data. This limits this technology to a small fraction of languages and accents spoken around the globe. In this talk, I will give an overview of the wav2vec project which vastly reduced the amount of supervision required to build speech technology. The key ingredient is self-supervised pre-training in order to learn powerful representations of speech audio solely from unlabeled data. The resulting models can be fine-tuned with labeled data or they can be used to perform completely unsupervised speech recognition. Our unsupervised approach rivals some of the best published systems trained on 960 hours of labeled data from only two years ago while using no labeled data. This is an important step towards systems which can learn to solve tasks without explicit supervision. </div></div><div class="gmail_default"><font face="arial, sans-serif"><br></font></div><div class="gmail_default"><font face="arial, sans-serif"><b>Bio: </b></font>Michael Auli is a research scientist director at Facebook AI Research in Menlo Park. He leads teams working on speech recognition and NLP which resulted in projects such as wav2vec, the widely used fairseq toolkit, the first modern convolutional seq2seq models outperforming RNNs, and several top ranked submissions at the WMT news translation task in 2018 and 2019. Before that Michael was at Microsoft Research, where he did early work on neural machine translation and neural dialogue modeling. During his PhD he worked on natural language processing and parsing at the University of Edinburgh.<p class="MsoNormal"><u></u></p><p class="MsoNormal"><a href="http://michaelauli.github.io/" target="_blank">http://michaelauli.github.io</a></p><p class="MsoNormal"><br></p><div><font face="arial, sans-serif"><span class="gmail_default"><b>Hos</b></span><span class="gmail_default"><b>ts:</b> <a href="mailto:klivescu@ttic.edu" target="_blank"><b>Karen Livescu</b></a>  and  </span></font><a href="mailto:kgimpel@ttic.edu" target="_blank" style="font-family:arial,sans-serif"><b>Kevin Gimpel</b></a><span style="font-family:arial,sans-serif"> </span></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><br></font></div><div><div class="gmail_default"><font face="arial, sans-serif">For more information on the colloquium series or to subscribe to the mailing list, please see <a href="http://www.ttic.edu/colloquium.php" target="_blank">http://www.ttic.edu/colloquium.php</a> </font></div></div><div><br></div><div><br></div><div><br style="color:rgb(80,0,80)"></div></div></div><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Nov 29, 2021 at 10:02 AM Mary Marre <<a href="mailto:mmarre@ttic.edu">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div style="font-size:small"><div><div><div><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>When:</b>    </font></font><font style="vertical-align:inherit"><font style="vertical-align:inherit">  Monday, November 29th, 2021 at <b style="background-color:rgb(255,255,0)">11:00 am CT</b></font></font><br></font></div><div><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div><div><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Where:</b>     </font></font></font><font color="#000000" style="font-family:arial,sans-serif"><u>Zoom Virtual Talk</u> (</font><b style="font-family:arial,sans-serif"><font color="#0000ff"><a href="https://uchicagogroup.zoom.us/webinar/register/WN_OeLGwcytS46pQnaheKLXUw" target="_blank">register in advance here</a></font></b><font color="#000000" style="font-family:arial,sans-serif">)</font><b style="color:rgb(0,0,0);font-family:arial,sans-serif"> </b><br></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Who: </b>       Michael Auli, FAIR</font></font></font></p></div></div></div></div></div></div></div></div></div></div></div></div><div><font face="arial, sans-serif"><br></font></div><div><b><font face="arial, sans-serif"><br></font></b></div><div><font face="arial, sans-serif"><b>Title:</b> <span class="gmail_default">       </span></font>Speech Representation Learning with Wav2vec</div><div><br><b>Abstract: </b>Despite rapid progress in the recent past, current speech recognition systems rely heavily on labeled training data. This limits this technology to a small fraction of languages and accents spoken around the globe. In this talk, I will give an overview of the wav2vec project which vastly reduced the amount of supervision required to build speech technology. The key ingredient is self-supervised pre-training in order to learn powerful representations of speech audio solely from unlabeled data. The resulting models can be fine-tuned with labeled data or they can be used to perform completely unsupervised speech recognition. Our unsupervised approach rivals some of the best published systems trained on 960 hours of labeled data from only two years ago while using no labeled data. This is an important step towards systems which can learn to solve tasks without explicit supervision. </div></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><b>Bio: </b></font>Michael Auli is a research scientist director at Facebook AI Research in Menlo Park. He leads teams working on speech recognition and NLP which resulted in projects such as wav2vec, the widely used fairseq toolkit, the first modern convolutional seq2seq models outperforming RNNs, and several top ranked submissions at the WMT news translation task in 2018 and 2019. Before that Michael was at Microsoft Research, where he did early work on neural machine translation and neural dialogue modeling. During his PhD he worked on natural language processing and parsing at the University of Edinburgh.<p class="MsoNormal"><u></u></p><p class="MsoNormal"><a href="http://michaelauli.github.io/" target="_blank">http://michaelauli.github.io</a></p><p class="MsoNormal"><br></p><div><font face="arial, sans-serif"><span class="gmail_default"><b>Hos</b></span><span class="gmail_default"><b>ts:</b> <a href="mailto:klivescu@ttic.edu" target="_blank"><b>Karen Livescu</b></a>  and  </span></font><a href="mailto:kgimpel@ttic.edu" style="font-family:arial,sans-serif" target="_blank"><b>Kevin Gimpel</b></a><span style="font-family:arial,sans-serif"> </span></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><br></font></div><div><div><font face="arial, sans-serif">For more information on the colloquium series or to subscribe to the mailing list, please see <a href="http://www.ttic.edu/colloquium.php" target="_blank">http://www.ttic.edu/colloquium.php</a> </font></div></div><div><br></div><div><br></div><div><br></div><div><br></div></div></div><div><div dir="ltr"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Nov 28, 2021 at 5:54 PM Mary Marre <<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div style="font-size:small"><div><div><div><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>When:</b>    </font></font><font style="vertical-align:inherit"><font style="vertical-align:inherit">  Monday, November 29th, 2021 at <b style="background-color:rgb(255,255,0)">11:00 am CT</b></font></font><br></font></div><div><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div><div><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Where:</b>     </font></font></font><font color="#000000" style="font-family:arial,sans-serif"><u>Zoom Virtual Talk</u> (</font><b style="font-family:arial,sans-serif"><font color="#0000ff"><a href="https://uchicagogroup.zoom.us/webinar/register/WN_OeLGwcytS46pQnaheKLXUw" target="_blank">register in advance here</a></font></b><font color="#000000" style="font-family:arial,sans-serif">)</font><b style="color:rgb(0,0,0);font-family:arial,sans-serif"> </b><br></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Who: </b>       Michael Auli, FAIR</font></font></font></p></div></div></div></div></div></div></div></div></div></div></div></div><div><font face="arial, sans-serif"><br></font></div><div><b><font face="arial, sans-serif"><br></font></b></div><div><font face="arial, sans-serif"><b>Title:</b> <span class="gmail_default">       </span></font>Speech Representation Learning with Wav2vec</div><div><br><b>Abstract: </b>Despite rapid progress in the recent past, current speech recognition systems rely heavily on labeled training data. This limits this technology to a small fraction of languages and accents spoken around the globe. In this talk, I will give an overview of the wav2vec project which vastly reduced the amount of supervision required to build speech technology. The key ingredient is self-supervised pre-training in order to learn powerful representations of speech audio solely from unlabeled data. The resulting models can be fine-tuned with labeled data or they can be used to perform completely unsupervised speech recognition. Our unsupervised approach rivals some of the best published systems trained on 960 hours of labeled data from only two years ago while using no labeled data. This is an important step towards systems which can learn to solve tasks without explicit supervision. </div></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><b>Bio: </b></font>Michael Auli is a research scientist director at Facebook AI Research in Menlo Park. He leads teams working on speech recognition and NLP which resulted in projects such as wav2vec, the widely used fairseq toolkit, the first modern convolutional seq2seq models outperforming RNNs, and several top ranked submissions at the WMT news translation task in 2018 and 2019. Before that Michael was at Microsoft Research, where he did early work on neural machine translation and neural dialogue modeling. During his PhD he worked on natural language processing and parsing at the University of Edinburgh.<p class="MsoNormal"><u></u></p><p class="MsoNormal"><a href="http://michaelauli.github.io/" target="_blank">http://michaelauli.github.io</a></p><p class="MsoNormal"><br></p><div><font face="arial, sans-serif"><span class="gmail_default"><b>Hos</b></span><span class="gmail_default"><b>ts:</b> <a href="mailto:klivescu@ttic.edu" target="_blank"><b>Karen Livescu</b></a>  and  </span></font><a href="mailto:kgimpel@ttic.edu" style="font-family:arial,sans-serif" target="_blank"><b>Kevin Gimpel</b></a><span style="font-family:arial,sans-serif"> </span></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><br></font></div><div><div><font face="arial, sans-serif">For more information on the colloquium series or to subscribe to the mailing list, please see <a href="http://www.ttic.edu/colloquium.php" target="_blank">http://www.ttic.edu/colloquium.php</a> </font></div><br></div><div><br></div></div></div><div><div dir="ltr"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Nov 22, 2021 at 6:41 PM Mary Marre <<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-size:small"><div><div><div><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>When:</b>    </font></font><font style="vertical-align:inherit"><font style="vertical-align:inherit">  Monday, November 29th, 2021 at <b style="background-color:rgb(255,255,0)">11:00 am CT</b></font></font><br></font></div><div><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div><div><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Where:</b>     </font></font></font><font color="#000000" style="font-family:arial,sans-serif"><u>Zoom Virtual Talk</u> (</font><b style="font-family:arial,sans-serif"><font color="#0000ff"><a href="https://uchicagogroup.zoom.us/webinar/register/WN_OeLGwcytS46pQnaheKLXUw" target="_blank">register in advance here</a></font></b><font color="#000000" style="font-family:arial,sans-serif">)</font><b style="color:rgb(0,0,0);font-family:arial,sans-serif"> </b><br></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"> </font></p><p class="MsoNormal" style="margin:0in 0in 0.0001pt;line-height:normal;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial"><font face="arial, sans-serif"><font style="vertical-align:inherit"><font style="vertical-align:inherit"><b>Who: </b>       Michael Auli, FAIR</font></font></font></p></div></div></div></div></div></div></div></div></div></div></div></div><div><font face="arial, sans-serif"><br></font></div><div><b><font face="arial, sans-serif"><br></font></b></div><div><font face="arial, sans-serif"><b>Title:</b> <span class="gmail_default">       </span></font>Speech Representation Learning with Wav2vec</div><div><br><b>Abstract: </b>Despite rapid progress in the recent past, current speech recognition systems rely heavily on labeled training data. This limits this technology to a small fraction of languages and accents spoken around the globe. In this talk, I will give an overview of the wav2vec project which vastly reduced the amount of supervision required to build speech technology. The key ingredient is self-supervised pre-training in order to learn powerful representations of speech audio solely from unlabeled data. The resulting models can be fine-tuned with labeled data or they can be used to perform completely unsupervised speech recognition. Our unsupervised approach rivals some of the best published systems trained on 960 hours of labeled data from only two years ago while using no labeled data. This is an important step towards systems which can learn to solve tasks without explicit supervision. </div></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><b>Bio: </b></font>Michael Auli is a research scientist director at Facebook AI Research in Menlo Park. He leads teams working on speech recognition and NLP which resulted in projects such as wav2vec, the widely used fairseq toolkit, the first modern convolutional seq2seq models outperforming RNNs, and several top ranked submissions at the WMT news translation task in 2018 and 2019. Before that Michael was at Microsoft Research, where he did early work on neural machine translation and neural dialogue modeling. During his PhD he worked on natural language processing and parsing at the University of Edinburgh.<p class="MsoNormal"><u></u></p><p class="MsoNormal"><a href="http://michaelauli.github.io/" target="_blank">http://michaelauli.github.io</a></p><p class="MsoNormal"><br></p><div><font face="arial, sans-serif"><span class="gmail_default"><b>Hos</b></span><span class="gmail_default"><b>ts:</b> <a href="mailto:klivescu@ttic.edu" target="_blank"><b>Karen Livescu</b></a>  and  </span></font><a href="mailto:kgimpel@ttic.edu" style="font-family:arial,sans-serif" target="_blank"><b>Kevin Gimpel</b></a><span style="font-family:arial,sans-serif"> </span></div><div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif"><br></font></div><div><div><font face="arial, sans-serif">For more information on the colloquium series or to subscribe to the mailing list, please see <a href="http://www.ttic.edu/colloquium.php" target="_blank">http://www.ttic.edu/colloquium.php</a> </font></div><br></div><div><br></div><div><br></div><div><br></div></div></div><div><div dir="ltr"><div dir="ltr"><div><span style="font-family:arial,helvetica,sans-serif;font-size:x-small">Mary C. Marre</span><br></div><div><div><font face="arial, helvetica, sans-serif" size="1">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6" size="1">6045 S. Kenwood Avenue</font></i></div><div><font size="1"><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></font></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif" size="1">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div>
</blockquote></div></div>
</blockquote></div></div>
</blockquote></div></div>