Doğu Karadeniz Bölgesi'nde, Gümüşhane İli'ne bağlı bir ilçe olan Köse'nin kuzeyinde Gümüşhane il merkezi, doğusunda Bayburt il merkezi, batısında Kelkit ilçesi ve güneyinde Bayburt ili ve Kelkit ilçesi yer almaktadır. Kelkit Çayı Vadisinde kurulmuş olan Köse'nin kuzeyinde Köse Dağı ile güneyinde Köse Ovası, Mormuç Düzü yer almaktadır. İlçe topraklarını 3,5 km. uzunluğundaki Köse Çayı sulamakta olup, bunun üzerinde Köse Barajı yapılmıştır. Ayrıca Akbaba Köyü'nde de Akbaba Göleti bulunmaktadır.Deniz seviyesinden 1.650 m. yüksekliğindeki ilçenin yüzölçümü 500 km2 olup, toplam nüfusu 11.354'tür.
Köse'nin kuruluşu ve tarihi konusunda kesin bilgi ve bulgular bulunmamaktadır. Gümüşhane'nin diğer ilçelerinde olduğu gibi burada da Hitit, Asur, Makedonya, Roma ve Bizans hakimiyetinde kaldığı sanılmaktadır. Malazgirt Savaşı'ndan (1071) sonra Selçuklular buraya yerleşmiş, onları İlhanlı, Akkoyunlu ve Osmanlı dönemi izlemiştir. Köse Mahmut Ağa adındaki bir beyin oymağı ile Yurtlar ve Ekinyüzü mevkilerine yerleştiği, daha sonra Örenlere Köse'nin 2 km doğusunda ve bugünkü yerine yerleştiği, Köse isminin de bu beyden kaynaklandığı söylenmektedir.