<div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><span style="background-color:transparent">The next AI Seminar will be on Friday October 23rd, 12-1pm, in the MRB Seminar Room (1st floor).</span></div><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div><br></div><div>*** Pizza and refreshments will be provided ****<br><br>To keep track of the number of attendees, please *register* at:</div><div><a href="https://www.eventbrite.com/e/ai-seminar-series-tickets-2003552138380" target="_blank">https://www.eventbrite.com/e/ai-seminar-series-tickets-2003552138380</a> </div></div><div dir="ltr"><div><br></div><div>The talk will be given by <b>Prof. Nael Abu-Ghazaleh</b>, Department of Computer Science and Engineering, UCR<br><br>TITLE: <span style="background-color:transparent">From Prompts to Silicon: Security and Privacy threats across the LLM Stack</span></div><div><span style="background-color:transparent"><br></span></div><div>ABSTRACT: </div><div><span style="background-color:transparent">Large language models are now trusted with sensitive data, embedded in consequential decision pipelines, and are hosted on shared, expensive hardware. These factors make them an increasingly attractive target for attacks across their training, inference and deployment pipelines. In this talk, we'll go on a tour of LLM security and privacy threats, organized around a simple question, looking at different classes of attacks based on attackers' access points. I'll start where most people think LLM security lives: at the prompt itself, showing how attacker's with malicious intent can bypass the model's safety training. A second group of attacks targets training time, where an attacker who controls even a small slice of a model's training data can plant hidden behaviors that surface only later, including those that enable leaking private information or undermining the safety alignment of the model. Finally, we'll go below the model entirely, to the hardware it runs on: our recent work shows the GPU infrastructure powering today's LLMs leaks information across users who are supposed to be strongly isolated from each other. Taken together, these attacks show that LLM security isn't one problem but several, spread across different layers of the stack, including inference time, training time, and hardware and system vulnerabilities. I'll conclude with some thoughts about how to secure LLM pipelines.</span></div><div><br></div><div><br></div><div>Bio:</div><div><span style="background-color:transparent">Nael Abu-Ghazaleh is a Professor in the Computer Science and Engineering Department at the University of California, Riverside. His research is in architecture and system security, and security for emerging systems. He has published over 250 papers in these areas, several of which have been recognized with best paper awards or nominations. His offensive security research has resulted in the discovery of several new attacks on CPUs and GPUs that have been disclosed to companies including Intel, AMD, ARM, Apple, Microsoft, Google, and Nvidia, and resulted in patches and modifications to products, and coverage from technical news outlets. He is a member of the Micro Hall of Fame, an ACM distinguished member, an IEEE distinguished speaker, and an IEEE Computer Society Distinguished Contributor.</span></div><div><br></div><div>------------------------------------</div><div>Sponsored by the RAISE@UCR Institute, the <span><span><span>AI</span></span></span> <span><span><span>Seminar</span></span></span> <span><span><span>Series</span></span></span> presents speakers working on cutting edge Foundational <span><span><span>AI</span></span></span> or applying <span><span><span>AI</span></span></span> in their research. The goal of these <span><span><span>seminars</span></span></span> is to inform the UCR community about current trends in <span><span><span>AI</span></span></span> research and promote collaborations between faculty in this emerging field. These <span><span><span>seminars</span></span></span> are open to interested faculty and graduate/undergraduate students. Please forward this email to other colleagues or students in your lab that may be interested. After the <span><span><span>seminar</span></span></span> a discussion will follow for questions, open problems, ideas for possible collaborations etc.<br><br>Sincerely,<br>Vassilis Tsotras<br>Professor, CSE Department<br>co-Director, RAISE@UCR Institute<br><br>Amit Roy-Chowdhury<br>Professor, ECE Department<br>co-Director, RAISE@UCR Institute</div></div>
</div></div>
</div>
</div></div>
</div>
</div></div>
</div></div>
</div>
</div></div>
</div>
</div></div>
</div></div>
</div>
</div></div>
</div>
</div>
</div></div>
</div>
</div></div>
</div>
</div></div>
</div></div>
</div>
</div></div>
</div>
</div></div>
</div>