Футбольный клуб «Кайрат» был основан в 1954 году в рамках спортивного клуба «Кайрат», который в то время назывался «Рабочий». Общественная организация «Кайрат» начала заниматься футболом в 1936 году, но только через 18 лет был образован отдельный футбольный клуб. Первым тренером команды стал Владимир Тарасенко, который привел к успеху команду в казахстанских турнирах. За первый год своего существования клуб выиграл четыре областных турнира, что сразу же привлекло к нему внимание футбольных экспертов.
В 1961 году «Кайрат» попал в первую лигу Союзного чемпионата и даже смог добиться победы над киевским «Динамо». Однако, в следующем году команда оказалась в первом дивизионе казахстанского чемпионата и на несколько лет ушла в середину турнирной таблицы. Но в 1969 году «Кайрат» снова побеждает в казахстанской лиге и становится восьмикратным чемпионом страны. С этого момента футбольный клуб начинает свое зрелищное развитие и становится одним из самых популярных и уважаемых команд