<div dir="ltr"><div style="font-size:12.8px"><font color="#ff0000" face="arial black, sans-serif"><b>PLEASE NOTE SPECIAL TIME!!!!</b></font></div><div style="font-size:12.8px"><font size="4"><br></font></div><div style="font-size:12.8px"><div><font face="arial, helvetica, sans-serif">When:      Monday, June 19th at <b><span style="background-color:rgb(0,255,255)">10:00 a.m.</span> </b><br></font></div><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px">Who:       <font color="#000000">Michael Schuster, Google</font></font></div><div><font color="#000000"><br></font></div></div></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><span class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-im"><div style="font-size:12.8px">Title: <br></div><div style="font-size:12.8px"><div>The Move to Neural Machine Translation at Google</div><div><br></div><div><span class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Abstract</span>:</div><div>Machine learning and in particular neural networks have made great advances in the last few years for products that are used by millions of people, most notably in speech recognition, image recognition and most recently in neural machine translation. Neural Machine Translation (NMT) is an end-to-end learning approach for automated translation, with the potential to overcome many of the weaknesses of conventional phrase-based translation systems. Unfortunately, NMT systems are known to be computationally expensive both in training and in translation inference. Also, most NMT systems have difficulty with rare words. These issues have hindered NMT's use in practical deployments and services, where both accuracy and speed are essential. In this work, we present GNMT, Google's Neural Machine Translation system, which addresses many of these issues. The model consists of a deep LSTM network with 8 encoder and 8 decoder layers using attention and residual connections. To accelerate final translation speed, we employ low-precision arithmetic during inference computations. To improve handling of rare words, we divide words into a limited set of common sub-word units for both input and output. On the WMT'14 English-to-French and English-to-German benchmarks, GNMT achieves competitive results to state-of-the-art. Using human side-by-side evaluations it reduces translation errors by more than 60% compared to Google's phrase-based production system. The new Google Translate was launched in late 2016 and has improved translation quality significantly for all Google users.</div><div><br></div><div>Bio:</div><div>Dr. Mike <span class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> graduated in Electric Engineering from the Gerhard-Mercator University in Duisburg, Germany in 1993. After receiving a scholarship he spent a year in Japan to study Japanese in Kyoto and Fiber Optics in the Kikuchi laboratory at Tokyo University. His professional career in machine learning and speech brought him to Advanced Telecommunications Research Laboratories in Kyoto, Nuance in the US and NTT in Japan where he worked on general machine learning and speech recognition research and development after getting his PhD at the Nara Institute of Science and Technology. Dr. <span class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> joined the Google speech group in the beginning of 2006, seeing speech products being developed from scratch to toy demos to serving millions of users in many languages over the next eight years, and he was the main developer of the original Japanese and Korean speech recognition models. He is now part of the Google Brain group which focuses on building large-scale neural network and machine learning infrastructure for Google and has been working on infrastructure with the TensorFlow toolkit as well as on research, mostly in the field of speech and translation with various types of recurrent neural networks. In 2016 he led the development of the new Google Neural Machine Translation system, which reduced translation errors by more than 60% compared to the previous system.  </div></div></span><div class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-yj6qo gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajU" style="font-size:12.8px"><div id="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-:nu" class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajR"><img class="gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajT gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-CToWUd gmail-m_2295098328805350535gmail-m_4885748248191099650gmail-CToWUd gmail-m_2295098328805350535gmail-CToWUd gmail-CToWUd" src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif" style="opacity: 0.3;"></div></div></div><div style="font-size:12.8px">Hosts: <a href="mailto:furui@ttic.edu" target="_blank">Sadaoki Furui</a> and <a href="mailto:klivescu@ttic.edu" target="_blank">Karen Livescu</a><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><div style="font-size:12.8px"><div dir="ltr" style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">For more information on the </span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">colloquium</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"> series or to subscribe to the mailing list, please see </span><a href="http://www.ttic.edu/colloquium.php" target="_blank" style="font-family:arial,helvetica,sans-serif;font-size:12.8px">http://www.ttic.edu/colloq<wbr>uium.php</a></div><div style="font-size:12.8px"><br></div></div></div><div class="gmail_extra"><br clear="all"><div><div class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
<br><div class="gmail_quote">On Sun, Jun 18, 2017 at 8:13 PM, Mary Marre <span dir="ltr"><<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div style="font-size:12.8px"><font color="#ff0000" face="arial black, sans-serif"><b>PLEASE NOTE SPECIAL TIME!!!!</b></font></div><div style="font-size:12.8px"><font size="4"><br></font></div><div style="font-size:12.8px"><div><font face="arial, helvetica, sans-serif">When:      Monday, June 19th at <b><span style="background-color:rgb(0,255,255)">10:00 a.m.</span> </b><br></font></div><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px">Who:       <font color="#000000">Michael Schuster, Google</font></font></div><div><font color="#000000"><br></font></div></div></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><span class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-im"><div style="font-size:12.8px">Title: <br></div><div style="font-size:12.8px"><div>The Move to Neural Machine Translation at Google</div><div><br></div><div><span class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Abstract</span>:</div><div>Machine learning and in particular neural networks have made great advances in the last few years for products that are used by millions of people, most notably in speech recognition, image recognition and most recently in neural machine translation. Neural Machine Translation (NMT) is an end-to-end learning approach for automated translation, with the potential to overcome many of the weaknesses of conventional phrase-based translation systems. Unfortunately, NMT systems are known to be computationally expensive both in training and in translation inference. Also, most NMT systems have difficulty with rare words. These issues have hindered NMT's use in practical deployments and services, where both accuracy and speed are essential. In this work, we present GNMT, Google's Neural Machine Translation system, which addresses many of these issues. The model consists of a deep LSTM network with 8 encoder and 8 decoder layers using attention and residual connections. To accelerate final translation speed, we employ low-precision arithmetic during inference computations. To improve handling of rare words, we divide words into a limited set of common sub-word units for both input and output. On the WMT'14 English-to-French and English-to-German benchmarks, GNMT achieves competitive results to state-of-the-art. Using human side-by-side evaluations it reduces translation errors by more than 60% compared to Google's phrase-based production system. The new Google Translate was launched in late 2016 and has improved translation quality significantly for all Google users.</div><div><br></div><div>Bio:</div><div>Dr. Mike <span class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> graduated in Electric Engineering from the Gerhard-Mercator University in Duisburg, Germany in 1993. After receiving a scholarship he spent a year in Japan to study Japanese in Kyoto and Fiber Optics in the Kikuchi laboratory at Tokyo University. His professional career in machine learning and speech brought him to Advanced Telecommunications Research Laboratories in Kyoto, Nuance in the US and NTT in Japan where he worked on general machine learning and speech recognition research and development after getting his PhD at the Nara Institute of Science and Technology. Dr. <span class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> joined the Google speech group in the beginning of 2006, seeing speech products being developed from scratch to toy demos to serving millions of users in many languages over the next eight years, and he was the main developer of the original Japanese and Korean speech recognition models. He is now part of the Google Brain group which focuses on building large-scale neural network and machine learning infrastructure for Google and has been working on infrastructure with the TensorFlow toolkit as well as on research, mostly in the field of speech and translation with various types of recurrent neural networks. In 2016 he led the development of the new Google Neural Machine Translation system, which reduced translation errors by more than 60% compared to the previous system.  </div></div></span><div class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-yj6qo m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajU" style="font-size:12.8px"><div id="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-:nu" class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajR"><img class="m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajT m_2295098328805350535gmail-m_4885748248191099650gmail-m_6905693457700962177gmail-CToWUd m_2295098328805350535gmail-m_4885748248191099650gmail-CToWUd m_2295098328805350535gmail-CToWUd" src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif" style="opacity:0.3"></div></div></div><div style="font-size:12.8px">Hosts: <a href="mailto:furui@ttic.edu" target="_blank">Sadaoki Furui</a> and <a href="mailto:klivescu@ttic.edu" target="_blank">Karen Livescu</a><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><div style="font-size:12.8px"><div dir="ltr" style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">For more information on the </span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">colloquium</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"> series or to subscribe to the mailing list, please see </span><a href="http://www.ttic.edu/colloquium.php" style="font-family:arial,helvetica,sans-serif;font-size:12.8px" target="_blank">http://www.ttic.edu/colloq<wbr>uium.php</a></div><div><br></div><div><br></div><div><br></div><div><br></div></div></div><div class="gmail_extra"><br clear="all"><div><div class="m_2295098328805350535gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:<a href="tel:(773)%20834-1757" value="+17738341757" target="_blank">(773) 834-1757</a></font></i></div><div><i><font face="arial, helvetica, sans-serif">f: <a href="tel:(773)%20357-6970" value="+17733576970" target="_blank">(773) 357-6970</a></font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
<br><div class="gmail_quote">On Fri, Jun 16, 2017 at 1:15 PM, Mary Marre <span dir="ltr"><<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div style="font-size:12.8px"><font color="#ff0000" face="arial black, sans-serif"><b>PLEASE NOTE SPECIAL TIME!!!!</b></font></div><div style="font-size:12.8px"><font size="4"><br></font></div><div style="font-size:12.8px"><div><font face="arial, helvetica, sans-serif">When:      Monday, June 19th at <b><span style="background-color:rgb(0,255,255)">10:00 a.m.</span> </b><br></font></div><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px">Who:       <font color="#000000">Michael Schuster, Google</font></font></div><div><font color="#000000"><br></font></div></div></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><span class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-im"><div style="font-size:12.8px">Title: <br></div><div style="font-size:12.8px"><div>The Move to Neural Machine Translation at Google</div><div><br></div><div><span class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Abstract</span>:</div><div>Machine learning and in particular neural networks have made great advances in the last few years for products that are used by millions of people, most notably in speech recognition, image recognition and most recently in neural machine translation. Neural Machine Translation (NMT) is an end-to-end learning approach for automated translation, with the potential to overcome many of the weaknesses of conventional phrase-based translation systems. Unfortunately, NMT systems are known to be computationally expensive both in training and in translation inference. Also, most NMT systems have difficulty with rare words. These issues have hindered NMT's use in practical deployments and services, where both accuracy and speed are essential. In this work, we present GNMT, Google's Neural Machine Translation system, which addresses many of these issues. The model consists of a deep LSTM network with 8 encoder and 8 decoder layers using attention and residual connections. To accelerate final translation speed, we employ low-precision arithmetic during inference computations. To improve handling of rare words, we divide words into a limited set of common sub-word units for both input and output. On the WMT'14 English-to-French and English-to-German benchmarks, GNMT achieves competitive results to state-of-the-art. Using human side-by-side evaluations it reduces translation errors by more than 60% compared to Google's phrase-based production system. The new Google Translate was launched in late 2016 and has improved translation quality significantly for all Google users.</div><div><br></div><div>Bio:</div><div>Dr. Mike <span class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> graduated in Electric Engineering from the Gerhard-Mercator University in Duisburg, Germany in 1993. After receiving a scholarship he spent a year in Japan to study Japanese in Kyoto and Fiber Optics in the Kikuchi laboratory at Tokyo University. His professional career in machine learning and speech brought him to Advanced Telecommunications Research Laboratories in Kyoto, Nuance in the US and NTT in Japan where he worked on general machine learning and speech recognition research and development after getting his PhD at the Nara Institute of Science and Technology. Dr. <span class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> joined the Google speech group in the beginning of 2006, seeing speech products being developed from scratch to toy demos to serving millions of users in many languages over the next eight years, and he was the main developer of the original Japanese and Korean speech recognition models. He is now part of the Google Brain group which focuses on building large-scale neural network and machine learning infrastructure for Google and has been working on infrastructure with the TensorFlow toolkit as well as on research, mostly in the field of speech and translation with various types of recurrent neural networks. In 2016 he led the development of the new Google Neural Machine Translation system, which reduced translation errors by more than 60% compared to the previous system.  </div></div></span><div class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-yj6qo m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajU" style="font-size:12.8px"><div id="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-:nu" class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajR"><img class="m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajT m_2295098328805350535m_4885748248191099650gmail-m_6905693457700962177gmail-CToWUd m_2295098328805350535m_4885748248191099650gmail-CToWUd" src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif" style="opacity:0.3"></div></div></div><div style="font-size:12.8px">Hosts: <a href="mailto:furui@ttic.edu" target="_blank">Sadaoki Furui</a> and <a href="mailto:klivescu@ttic.edu" target="_blank">Karen Livescu</a><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><div style="font-size:12.8px"><div dir="ltr" style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">For more information on the </span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">colloquium</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"> series or to subscribe to the mailing list, please see </span><a href="http://www.ttic.edu/colloquium.php" style="font-family:arial,helvetica,sans-serif;font-size:12.8px" target="_blank">http://www.ttic.edu/colloq<wbr>uium.php</a></div><div><br></div></div></div><div style="font-size:12.8px"><br></div><div class="gmail_extra"><br clear="all"><div><div class="m_2295098328805350535m_4885748248191099650gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:<a href="tel:(773)%20834-1757" value="+17738341757" target="_blank">(773) 834-1757</a></font></i></div><div><i><font face="arial, helvetica, sans-serif">f: <a href="tel:(773)%20357-6970" value="+17733576970" target="_blank">(773) 357-6970</a></font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
<br><div class="gmail_quote">On Fri, Jun 9, 2017 at 10:28 AM, Mary Marre <span dir="ltr"><<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div style="font-size:12.8px"><font color="#ff0000" face="arial black, sans-serif"><b>PLEASE NOTE SPECIAL TIME!!!!</b></font></div><div style="font-size:12.8px"><font size="4"><br></font></div><div style="font-size:12.8px"><div><font face="arial, helvetica, sans-serif">When:      Monday, June 19th at <b><span style="background-color:rgb(0,255,255)">10:00 a.m.</span> </b><br></font></div><div dir="ltr"><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif">Where:    TTIC, 6045 S. Kenwood Avenue, 5th Floor, Room 526</font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif"><br></font></div><div style="font-size:12.8px"><font face="arial, helvetica, sans-serif" style="font-size:12.8px">Who:       <font color="#000000">Michael Schuster, Google</font></font></div><div><font color="#000000"><br></font></div></div></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><span class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-im"><div style="font-size:12.8px">Title: <br></div><div style="font-size:12.8px"><div>The Move to Neural Machine Translation at Google</div><div><br></div><div><span class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Abstract</span>:</div><div>Machine learning and in particular neural networks have made great advances in the last few years for products that are used by millions of people, most notably in speech recognition, image recognition and most recently in neural machine translation. Neural Machine Translation (NMT) is an end-to-end learning approach for automated translation, with the potential to overcome many of the weaknesses of conventional phrase-based translation systems. Unfortunately, NMT systems are known to be computationally expensive both in training and in translation inference. Also, most NMT systems have difficulty with rare words. These issues have hindered NMT's use in practical deployments and services, where both accuracy and speed are essential. In this work, we present GNMT, Google's Neural Machine Translation system, which addresses many of these issues. The model consists of a deep LSTM network with 8 encoder and 8 decoder layers using attention and residual connections. To accelerate final translation speed, we employ low-precision arithmetic during inference computations. To improve handling of rare words, we divide words into a limited set of common sub-word units for both input and output. On the WMT'14 English-to-French and English-to-German benchmarks, GNMT achieves competitive results to state-of-the-art. Using human side-by-side evaluations it reduces translation errors by more than 60% compared to Google's phrase-based production system. The new Google Translate was launched in late 2016 and has improved translation quality significantly for all Google users.</div><div><br></div><div>Bio:</div><div>Dr. Mike <span class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> graduated in Electric Engineering from the Gerhard-Mercator University in Duisburg, Germany in 1993. After receiving a scholarship he spent a year in Japan to study Japanese in Kyoto and Fiber Optics in the Kikuchi laboratory at Tokyo University. His professional career in machine learning and speech brought him to Advanced Telecommunications Research Laboratories in Kyoto, Nuance in the US and NTT in Japan where he worked on general machine learning and speech recognition research and development after getting his PhD at the Nara Institute of Science and Technology. Dr. <span class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-m_5550836219003182595gmail-il">Schuster</span> joined the Google speech group in the beginning of 2006, seeing speech products being developed from scratch to toy demos to serving millions of users in many languages over the next eight years, and he was the main developer of the original Japanese and Korean speech recognition models. He is now part of the Google Brain group which focuses on building large-scale neural network and machine learning infrastructure for Google and has been working on infrastructure with the TensorFlow toolkit as well as on research, mostly in the field of speech and translation with various types of recurrent neural networks. In 2016 he led the development of the new Google Neural Machine Translation system, which reduced translation errors by more than 60% compared to the previous system.  </div></div></span><div class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-yj6qo m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajU" style="font-size:12.8px"><div id="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-:nu" class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajR"><img class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-m_-5620976802986487483gmail-m_4938785300500470826gmail-m_-4202814777614885005gmail-ajT m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail-CToWUd" src="https://ssl.gstatic.com/ui/v1/icons/mail/images/cleardot.gif" style="opacity:0.3"></div></div></div><div style="font-size:12.8px">Hosts: <a href="mailto:furui@ttic.edu" target="_blank">Sadaoki Furui</a> and <a href="mailto:klivescu@ttic.edu" target="_blank">Karen Livescu</a><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><div style="font-size:12.8px"><div dir="ltr" style="font-size:12.8px"><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">For more information on the </span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px">colloquium</span><span style="font-family:arial,helvetica,sans-serif;font-size:12.8px"> series or to subscribe to the mailing list, please see </span><a href="http://www.ttic.edu/colloquium.php" style="font-family:arial,helvetica,sans-serif;font-size:12.8px" target="_blank">http://www.ttic.edu/colloq<wbr>uium.php</a></div><div><br></div></div></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div style="font-size:12.8px"><br></div><div><div class="m_2295098328805350535m_4885748248191099650m_6905693457700962177gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Administrative Assistant</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 504</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:<a href="tel:(773)%20834-1757" value="+17738341757" target="_blank">(773) 834-1757</a></font></i></div><div><i><font face="arial, helvetica, sans-serif">f: <a href="tel:(773)%20357-6970" value="+17733576970" target="_blank">(773) 357-6970</a></font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div>
</div>
</blockquote></div><br></div></div>
</blockquote></div><br></div></div>
</blockquote></div><br></div></div>