<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-size:small"><div class="gmail_default"><div class="gmail_default"><div><div style="color:rgb(80,0,80)"><font face="verdana, sans-serif" size="4"><span style="background-color:rgb(207,226,243)"><b>Thesis Defense: Blake Woodworth, TTIC</b></span></font><br></div><div style="color:rgb(80,0,80);font-family:arial,helvetica,sans-serif"><br></div><font face="arial, sans-serif" color="#000000"><b>When:</b><b>  </b>    Thur<span style="border-bottom:1px dashed rgb(204,204,204)">sday<b style="text-decoration-line:underline">,</b> May 13th at 9:00 am CT</span></font></div><div><span style="border-bottom:1px dashed rgb(204,204,204)"><font face="arial, sans-serif" color="#000000"><br></font></span></div><div><font face="arial, sans-serif" color="#000000"><b>Where:</b>    <b><i> </i><a href="https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09" target="_blank">Join virtually here</a></b></font></div><div><span style="border-bottom:1px dashed rgb(204,204,204)"><font face="arial, sans-serif" color="#000000"><br></font></span></div><div><font face="arial, sans-serif" color="#000000"><b>Who: </b>       Blake Woodworth, TTIC</font></div><div><font color="#000000"><br></font></div><div><div><font color="#000000"><font face="arial, sans-serif"><b>Title:        </b></font>The Minimax Complexity of Distributed Optimization</font></div><font face="arial, sans-serif" color="#000000"><br></font><div><div><font color="#000000"><font face="arial, sans-serif"><b>Abstract: </b></font>With the increasingly large scale of optimization problems, particularly those arising from training huge machine learning models using massive datasets, it is important to leverage parallelism to tractably solve these problems. This thesis focuses on understanding optimal algorithms for and the fundamental limits of distributed optimization. I will describe the "graph oracle model" framework, an extension of the classic oracle model to the distributed setting, and apply this framework to study several distributed optimization settings of interest. I will focus on the intermittent communication setting---where several machines optimize in parallel but with limited communication between them---where I will characterize the optimal error and optimal algorithms. Finally, I will describe several possible avenues for circumventing these lower bounds in order to be "better than optimal."</font></div><div style="color:rgb(80,0,80)"><div><br></div></div></div></div><font face="arial, sans-serif"><b><font color="#000000">Thesis Advisor:</font></b><font color="#500050"> </font><a href="mailto:nati@ttic.edu" target="_blank" style="color:rgb(80,0,80)">Nathan Srebro</a></font></div><div class="gmail_default"><font color="#500050" face="arial, sans-serif"><br></font><div style="color:rgb(80,0,80)"><font face="arial, sans-serif">******************************************************************************************************</font></div><div style="color:rgb(80,0,80)"><span style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap;font-family:arial,sans-serif"><br></span></div><div style="color:rgb(80,0,80)"><span style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap;font-family:arial,sans-serif">Zoom link for the virtual presentation. </span></div><div style="color:rgb(80,0,80)"><a href="https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09" target="_blank">https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09</a><br style="color:rgb(34,34,34)"><span style="color:rgb(34,34,34)">Meeting ID: 994 8586 3831</span><br style="color:rgb(34,34,34)"><span style="color:rgb(34,34,34)">Passcode: 091555</span><br style="color:rgb(34,34,34)"></div></div><br></div><div class="gmail_default"><br></div><div class="gmail_default"><br></div><div class="gmail_default"><br></div></div><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i><br></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b><br></div></div></div></div></div></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, May 11, 2021 at 9:32 AM Mary Marre <<a href="mailto:mmarre@ttic.edu">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div style="font-size:small"><div><div><div style="color:rgb(80,0,80)"><font face="verdana, sans-serif" size="4"><span style="background-color:rgb(207,226,243)"><b>Thesis Defense: <span>Blake</span> <span>Woodworth</span>, TTIC</b></span></font><br></div><div style="color:rgb(80,0,80);font-family:arial,helvetica,sans-serif"><br></div><font face="arial, sans-serif" color="#000000"><b>When:</b><b>  </b>    Thur<span style="border-bottom:1px dashed rgb(204,204,204)">sday<b style="text-decoration-line:underline">,</b> May 13th at 9:00 am CT</span></font></div><div><span style="border-bottom:1px dashed rgb(204,204,204)"><font face="arial, sans-serif" color="#000000"><br></font></span></div><div><font face="arial, sans-serif" color="#000000"><b>Where:</b>    <b><i> </i><a href="https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09" target="_blank">Join virtually here</a></b></font></div><div><span style="border-bottom:1px dashed rgb(204,204,204)"><font face="arial, sans-serif" color="#000000"><br></font></span></div><div><font face="arial, sans-serif" color="#000000"><b>Who: </b>       <span>Blake</span> <span>Woodworth</span>, TTIC</font></div><div><font color="#000000"><br></font></div><div><div><font color="#000000"><font face="arial, sans-serif"><b>Title:        </b></font>The Minimax Complexity of Distributed Optimization</font></div><font face="arial, sans-serif" color="#000000"><br></font><div><div><font color="#000000"><font face="arial, sans-serif"><b>Abstract: </b></font>With the increasingly large scale of optimization problems, particularly those arising from training huge machine learning models using massive datasets, it is important to leverage parallelism to tractably solve these problems. This thesis focuses on understanding optimal algorithms for and the fundamental limits of distributed optimization. I will describe the "graph oracle model" framework, an extension of the classic oracle model to the distributed setting, and apply this framework to study several distributed optimization settings of interest. I will focus on the intermittent communication setting---where several machines optimize in parallel but with limited communication between them---where I will characterize the optimal error and optimal algorithms. Finally, I will describe several possible avenues for circumventing these lower bounds in order to be "better than optimal."</font></div><div style="color:rgb(80,0,80)"><div><br></div></div></div></div><font face="arial, sans-serif"><b><font color="#000000">Thesis Advisor:</font></b><font color="#500050"> </font><a href="mailto:nati@ttic.edu" style="color:rgb(80,0,80)" target="_blank">Nathan Srebro</a></font></div><div><font color="#500050" face="arial, sans-serif"><br></font><div style="color:rgb(80,0,80)"><font face="arial, sans-serif">******************************************************************************************************</font></div><div style="color:rgb(80,0,80)"><span style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap;font-family:arial,sans-serif"><br></span></div><div style="color:rgb(80,0,80)"><span style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap;font-family:arial,sans-serif">Zoom link for the virtual presentation. </span></div><div style="color:rgb(80,0,80)"><a href="https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09" target="_blank">https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09</a><br style="color:rgb(34,34,34)"><span style="color:rgb(34,34,34)">Meeting ID: 994 8586 3831</span><br style="color:rgb(34,34,34)"><span style="color:rgb(34,34,34)">Passcode: 091555</span><br style="color:rgb(34,34,34)"></div></div><br></div><div style="font-size:small"><br></div><div style="font-size:small"><br></div><div style="font-size:small"><br></div><div style="font-size:small"><br></div><div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Room 517</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><i><font face="arial, helvetica, sans-serif">p:(773) 834-1757</font></i></div><div><i><font face="arial, helvetica, sans-serif">f: (773) 357-6970</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Apr 30, 2021 at 10:10 AM Mary Marre <<a href="mailto:mmarre@ttic.edu" target="_blank">mmarre@ttic.edu</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><div style="font-size:small"><div style="color:rgb(80,0,80)"><font face="verdana, sans-serif" size="4"><span style="background-color:rgb(207,226,243)"><b><span>Thesis</span> <span>Defense</span>: Blake Woodworth, TTIC</b></span></font><br></div><div style="color:rgb(80,0,80);font-family:arial,helvetica,sans-serif"><br></div><font face="arial, sans-serif" color="#000000"><b>When:</b><b>  </b>    Thur<span style="border-bottom:1px dashed rgb(204,204,204)">sday<b style="text-decoration-line:underline">,</b> May 13th at 9:00 am CT</span></font></div><div style="font-size:small"><span style="border-bottom:1px dashed rgb(204,204,204)"><font face="arial, sans-serif" color="#000000"><br></font></span></div><div style="font-size:small"><font face="arial, sans-serif" color="#000000"><b>Where:</b>    <b><i> </i><a href="https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09" target="_blank">Join virtually here</a></b></font></div><div style="font-size:small"><span style="border-bottom:1px dashed rgb(204,204,204)"><font face="arial, sans-serif" color="#000000"><br></font></span></div><div style="font-size:small"><font face="arial, sans-serif" color="#000000"><b>Who: </b>       Blake Woodworth, TTIC</font></div><div style="font-size:small"><font color="#000000"><br></font></div><div style="font-size:small"><div><font color="#000000"><font face="arial, sans-serif"><b>Title:        </b></font>The Minimax Complexity of Distributed Optimization</font></div><font face="arial, sans-serif" color="#000000"><br></font><div><div><font color="#000000"><font face="arial, sans-serif"><b>Abstract: </b></font>With the increasingly large scale of optimization problems, particularly those arising from training huge machine learning models using massive datasets, it is important to leverage parallelism to tractably solve these problems. This thesis focuses on understanding optimal algorithms for and the fundamental limits of distributed optimization. I will describe the "graph oracle model" framework, an extension of the classic oracle model to the distributed setting, and apply this framework to study several distributed optimization settings of interest. I will focus on the intermittent communication setting---where several machines optimize in parallel but with limited communication between them---where I will characterize the optimal error and optimal algorithms. Finally, I will describe several possible avenues for circumventing these lower bounds in order to be "better than optimal."</font></div><div style="color:rgb(80,0,80)"><div><br></div></div></div></div><font face="arial, sans-serif" style="font-size:small"><b><font color="#000000"><span>Thesis</span> Advisor:</font></b><font color="#500050"> </font><a href="mailto:nati@ttic.edu" style="color:rgb(80,0,80)" target="_blank">Nathan Srebro</a></font></div><div><font color="#500050" face="arial, sans-serif"><br></font><div style="font-size:small;color:rgb(80,0,80)"><font face="arial, sans-serif">******************************************************************************************************</font></div><div style="font-size:small;color:rgb(80,0,80)"><span style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap;font-family:arial,sans-serif"><br></span></div><div style="color:rgb(80,0,80)"><span style="color:rgb(60,64,67);letter-spacing:0.2px;white-space:pre-wrap;font-family:arial,sans-serif">Zoom link for the virtual presentation. </span></div><div style="color:rgb(80,0,80)"><a href="https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09" target="_blank">https://uchicago.zoom.us/j/99485863831?pwd=U2pDL2hpTW5URnppbFJBb2dxYnNFdz09</a><br style="color:rgb(34,34,34)"><span style="color:rgb(34,34,34)">Meeting ID: 994 8586 3831</span><br style="color:rgb(34,34,34)"><span style="color:rgb(34,34,34)">Passcode: 091555</span><br style="color:rgb(34,34,34)"></div><br></div><div style="font-size:small"><br></div><div style="font-size:small"><br></div><div><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><font face="arial, helvetica, sans-serif">Mary C. Marre</font><div><font face="arial, helvetica, sans-serif">Faculty Administrative Support</font></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6"><b>Toyota Technological Institute</b></font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">6045 S. Kenwood Avenue</font></i></div><div><i><font face="arial, helvetica, sans-serif" color="#3d85c6">Chicago, IL  60637</font></i></div><div><b><i><a href="mailto:mmarre@ttic.edu" target="_blank"><font face="arial, helvetica, sans-serif">mmarre@ttic.edu</font></a></i></b><br></div><div><b><br></b></div><div><b><br></b></div><div><b><br></b></div></div></div></div></div></div></div></div></div></div></div>
</blockquote></div></div>
</blockquote></div></div>