1975-1979 - дежурный референт, референт Посольства СССР в Сингапуре.

1979-1983 - старший референт, атташе, третий секретарь МИД СССР.

1983-1984 - стажер Пекинского института китайского языка.

1984-1985 - третий секретарь МИД СССР.

1985-1991 - второй, первый секретарь Посольства СССР в КНР.

1991-1992 - слушатель Дипломатической академии.

Март 1992 - декабрь 1993 - заместитель министра иностранных дел РК.

Декабрь 1993 - октябрь 1994 - первый заместитель министра иностранных дел РК.

Октябрь 1994 - октябрь 1999 - министр иностранных дел РК.

Март-октябрь 1999 - заместитель премьер-министра РК (курировал вопросы международного политического и экономического сотрудничества, привлечения иностранных инвестиций, взаимоотношений со странами СНГ, экспортного контроля).

1-12 октября 1999 - ио. премьер-министра РК.

12 октября 1999 - 28 января 2002 - премьер-министр РК.

Январь 2002 - государственный секретарь – министр иностранных дел РК.

Июнь 2003 - министр иностранных дел РК.

11 января 2007 г. по представлению главы государства единогласно избран председателем Сената Парламента РК третьего созыва.

12 марта 2011 г. генеральный секретарь ООН Пан Ги Мун обнародовал решение о назначении Касым-Жомарта Токаева на должность заместителя генерального секретаря ООН, генерального директора отделения ООН в Женеве. В силу занимаемой должности Касым-Жомарт Токаев будет также генеральным секретарем работающей в Женеве конференции по разоружению. Токаев сталт первым представителем Азии на посту генерального директора отделения ООН в Женеве.

Март 2011 - заместитель генерального секретаря ООН, генеральный директор отделения ООН в Женеве и генеральный секретарь Женевской конференции по разоружению.

15 апреля 2011 г. - освобожден от должности председателя сената (верхняя палата парламента) в связи с назначением на пост главы отделения ООН в Женеве.

16 октября 2013 г. указом главы государства  назначен депутатом Сената Парламента Республики Казахстан.