BEGIN:VCALENDAR
VERSION:2.0
PRODID:-//GREYC UMR CNRS 6072 - Groupe de Recherche en Informatique, Image, et Instrumentation de Caen - ECPv5.7.0//NONSGML v1.0//EN
CALSCALE:GREGORIAN
METHOD:PUBLISH
X-WR-CALNAME:GREYC UMR CNRS 6072 - Groupe de Recherche en Informatique, Image, et Instrumentation de Caen
X-ORIGINAL-URL:https://www.greyc.fr
X-WR-CALDESC:évènements pour GREYC UMR CNRS 6072 - Groupe de Recherche en Informatique, Image, et Instrumentation de Caen
BEGIN:VTIMEZONE
TZID:Europe/Paris
BEGIN:DAYLIGHT
TZOFFSETFROM:+0100
TZOFFSETTO:+0200
TZNAME:CEST
DTSTART:20250330T010000
END:DAYLIGHT
BEGIN:STANDARD
TZOFFSETFROM:+0200
TZOFFSETTO:+0100
TZNAME:CET
DTSTART:20251026T010000
END:STANDARD
END:VTIMEZONE
BEGIN:VEVENT
DTSTART;TZID=Europe/Paris:20250320T140000
DTEND;TZID=Europe/Paris:20250320T150000
DTSTAMP:20260420T164834
CREATED:20250313T153900Z
LAST-MODIFIED:20250313T154217Z
UID:11813-1742479200-1742482800@www.greyc.fr
SUMMARY:Séminaire Image : "PETRA: Parallel End-to-End Training with Reversible Architectures"\, Edouard Oyallon
DESCRIPTION:Nous aurons le plaisir d’écouter Edouard Oyallon\, Équipe MLIA\, Sorbonne université.\nIl donnera un séminaire IMAGE le jeudi 20 mars 2025 à 14h en salle de séminaire F-200. \nTitre : « PETRA: Parallel End-to-End Training with Reversible Architectures » \nRésumé :\nDeep learning models are increasingly large\, requiring new strategies for efficient training. In this talk\, I will present PETRA\, a novel approach that leverages reversible architectures and  delayed gradient methods to enable  efficient model parallelism. PETRA allows different stages of a model to compute independently across devices\, drastically reducing memory usage while achieving significant computational speedups. By removing the need for weight stashing and decoupling forward and backward computations\, PETRA provides a scalable alternative to standard backpropagation. I will discuss its implementation within a custom autograd framework and demonstrate its effectiveness on computer vision benchmarks such as ResNet-18\, ResNet-34\, and ResNet-50. \nCe travail a été réalisé en collaboration avec : Stephane Rivaud\, Louis Fournier\, Thomas Pumir\, Eugene Belilovsky\, Michael Eickenberg \nL’article associé (ICLR 2025) est disponible à : https://openreview.net/pdf?id=0fhzSFsGUT
URL:https://www.greyc.fr/event/seminaire-image-petra-parallel-end-to-end-training-with-reversible-architectures-edouard-oyallon/
LOCATION:ENSICAEN – Batiment F – Salle F-200\, 6 Bd Maréchal Juin\, Caen\, 14050\, France
CATEGORIES:Image,Seminaire Image
END:VEVENT
END:VCALENDAR