O Colégio Koelle foi fundado no dia 3 de dezembro de 1883 pelo professor Theodor Koelle, vindo da Alemanha para atender os filhos de imigrantes alemães e suíços, que haviam se radicado na região de Rio Claro.
Durante muitos anos (de 1910 a 1989), a escola abrigou meninos e meninas procedentes de outras localidades que residiam na escola. Eles buscavam uma educação de alto nível inexistente nas suas cidades e a experiência de amadurecimento de morar longe dos pais, muito valorizada naquela época. Em 1958, por exemplo, em um total de 650 alunos, 320 residiam na escola.
Na década de 1950, o Koelle ocupou as manchetes dos jornais pelas vitórias alcançadas por seus alunos na natação, cuja prática era bastante incentivada pelo poder público.
O Colégio Koelle, antes de receber esse nome em 1985, teve várias outras denominações: primeiro Deutsche Schule, depois Escola Alemã e Escola Evangélica. No ano de 1939 passou a denominar-se Instituto Koelle e depois Ginásio Koelle, em 1945.
Hoje, com mais de 125 anos dedicados à educação de crianças e adolescentes, o colégio entende que em tempos de mudanças rápidas e contínuas, a missão da escola evoluiu de passar conteúdos para formar pessoas capazes de aprender sempre, de solucionar problemas, adaptar-se a mudanças, com senso crítico e responsabilidade.