Sum 41 выпустили альбом «All Killer No Filler» 8 мая 2001 года. Первым синглом с этого диска была композиция «Fat Lip», которая стала крупным хитом лета и достигла первых строчек в хит-парадах США и других стран. Компания Nokia даже объявила, что «Fat Lip» — самая используемая мелодия для мобильного телефона.[11] Этот сингл также входил в трек-лист игры NHL 2002 компании EA Sports вместе с «Makes No Difference». Популярность группы значительно возросла благодаря выступлениям на Warped Tour в этом году[7][12][13]. Позже были выпущены 2 других сингла: «In Too Deep» (в комедийном клипе на эту песню группа участвовала в прыжках в воду с трамплина) и «Motivation» (в клипе группа пела песню в мансарде). Далее вышел клип на песню «Handle This», в котором демонстрировались видео из повседневной жизни группы и записи с концертов. Больше года Sum 41 провели на гастролях, отыграв за 2001 год 300 концертов, включая выступления на разогреве у Blink-182. Последняя неделя тура была отменена музыкантами в связи с событиями 11 сентября.[14] Песни «Fat Lip» и «In Too Deep» вошли в саундтрек к фильму Американский пирог 2.
Стиво 32 исполняет песню «Pain for Pleasure»

В августе 2001 года Sum 41 выступили на концерте по случаю двадцатилетия MTV вместе с Томми Ли и Робертом Хэлфордом, исполнив «Fat Lip», песню Beastie Boys «No Sleep Until Brooklyn» и «Shout at the Devil». В конце года Sum 41 записали шуточную рождественскую песню «Things I Want» с Tenacious D, группой, созданной американскими актёрами Джеком Блэком и Кайлом Гассом.

В 2002 году на MTV Movie Awards группа спела кавер Aerosmith «Walk This Way» вместе с Ja Rule и Nelly.

Позже вышел клип «What We're All About», это изменённая версия песни «Dave’s Possessed Hair/It’s What We’re All About» из альбома «Half Hour of Power», в изменённой версии на гитаре играет соло, а в клипе появляется Керри Кинг из Slayer. Песня вошла в саундтрек с фильму Человек-паук и звучала в финальных титрах фильма.

26 ноября 2002 года Sum 41 выпустили третий альбом под названием «Does This Look Infected?». В новом альбоме Sum 41 изменили свой стиль, их музыка стала немного тяжелее. «Мы не хотим играть музыку, которая всё равно будет звучать, как наш предыдущий альбом, — говорил вокалист группы Дерик Уибли. — Я ненавижу, когда группы повторяют свои песни»[15]. Первым синглом стала песня «Still Waiting», которая попала в хоррор-игру ObsCure. Следом за ней группа выпустила сингл «The Hell Song», в клипе которой показывали игрушечные фигурки знаменитостей: Оззи Осборна, Памелы Андерсон и группы Kiss. Следующим синглом стала песня «Over My Head (Better Off Dead)»; видео на неё вышло исключительно в Канаде и на веб-сайте группы. Клипы «Still Waiting» и «Over My Head (Better Off Dead)» попали на DVD Sum 41 «Sake Bombs and Happy Endings» (2003). Песня «A.N.I.C.» (Anne Nicole Is a Cunt) посвящена скандально известной модели Анне Николь Смит, на концертах Дерик называет песню «особой песней о любви» (special love song), на самом же деле в ней содержится серия оскорблений.