Король Густав II Адольф даровал Кокколе городские права в 1620 году. По-шведски название города произносится как Карлеби. Основан он был в один год с Нюкарлеби, или Новым Карлеби, но на несколько месяцев раньше. Однако местные жители весьма гордятся своим старшинством и свысока поглядывают на южных соседей.
Как и все северные прибрежные города, Коккола была важным портом и центром торговли древесной смолой. Из-за чумы 1710 года в городе погибло около половины населения. А во время Крымской войны, в 1854 году, английский десант сделал неудачную попытку высадиться в гавани. Солдатами русского гарнизона, защищавшими город, были захвачены трофеи: пушка и одна из шлюпок, которая стоит сейчас в Английском парке.
Коккола — название финское. Вариантов его перевода существует два: «место костра» и «место белохвостого орла», каковых водилось в окрестностях большое количество.
Заслуживает внимания район старого города с каменной церковью XV века в зданием ратуши, построенным в 1845 году архитектором Карлом Энгелем.