24 мая 1921 года рядом с городом Гуэлф, провинция Онтарио, в сельском сарае собралась группа из 21 канадского и троих иностранных делегатов, чтобы основать Коммунистическую партию Канады. Встреча проводилась тайно из-за принятого парламентом в августе 1914 года реакционного «Закона о военных мерах» (War Measures Act), запрещавшего деятельность социалистических организаций. Однако на учредительный съезд смог проникнуть информатор Королевской канадской конной полиции.
Движение за учреждение коммунистической партии в Канаде было вдохновлено русской революцией. К 1919 году необходимость создания революционной и интернациональной рабочей партии стала предметом ожесточенных споров среди социалистически настроенных рабочих, особенно в Социалистической партии Канады. Дебаты были особенно острыми в Виннипеге, крупнейшем городе провинции Манитоба, который пережил всеобщую забастовку в 1919 году.
1 января 1921 года газета Социалистической партии Канады Western Clarion опубликовала документ «Двадцать одно условие для приема в Коммунистический Интернационал» и открыла свои страницы для обсуждения вопроса о присоединении к Коммунистическому Интернационалу. Вскоре в провинциях Онтарио, Манитоба и Квебек появились социалисты, которые сотрудничали с Коммунистической партией Америки и Коммунистической рабочей партией (также базировавшейся в Соединенных Штатах), которые были основаны в 1919 году и затем слились в единую организацию.
В марте Коммунистический Интернационал направил своего представителя в Канаду с целью объединения этих различных групп и подготовки конференции 24 мая.
Одним из основных вопросов, волновавших партию в первые месяцы ее существования, был вопрос о нелегальной и легальной работе, что вызывало серьезную озабоченность с учетом репрессий со стороны канадского правительства. Летом 1921 года Третий конгресс Коммунистического Интернационала, проходивший в Москве, призвал канадских коммунистов найти способы создания легальных организаций и изданий.
К августу партия начала издавать газету The Workers Guard, а в феврале 1922 года учредила легальную партию под названием Рабочая партия (Workers Party) Канады. Многие члены Социалистической партии Канады присоединились к Рабочей партии с момента ее основания.