Группа была создана в 1977 году в Исландии 15-17 летними тинейджерами. Идея такой группы появилась, когда её основатели, гитарист Fridrik Karlsson и клавишник Eythor Gunnarsson впервые встретились летом 1976 года на танцевальном фестивале в Рейкьявике. Позднее в ним присоединились бас-гитарист Johann Asmundsson, барабанщик Gulli (Gunnlaugur) Breim и саксофонист Stefan S.Stefansen. Сперва парни перепевали песни таких известных фанк и джаз-исполнителей как "Earth, Wind & Fire", "Weather Report", George Duke и др., затем Фридрик и Эйдор принялись сочинять свои собственные композиции, относившиеся к стилю "фанки-фьюжн". Постепенно у группы появилось уникальное звучание и необычный ритм, и им удалось заключить контракт с лейблом Steinar Records (ныне SPOR Records).

Их альбом "Mezzoforte" (1979) стал по сути первым исландским фанк-альбомом. Затем Stefansen ушёл из группы, и на его место пришёл ещё один клавишник Bjorn Thorarensen, участвовавший в записи второго и третьего альбомов. Вскоре группа "Mezzoforte" получила известность по всей Исландии и стала более респектабельной. Она обзавелась бэк-вокалистами и совершила тур по главным исландским городам, выступая с другими танцевальными тинейджерскими коллективами. Во время работы над третьим альбомом их продьюсер Berg Isleifsson решил, что его следует выпустить в Великобритании, и группа отправилась в Лондон, однако их затея провалилась, и парни вернулись на родину ни с чем. В то же время к "Mezzoforte" присоединился новый саксофонист Kristinn Svavarsson. В начале 1982 года "Mezzoforte" предпринимают очередную попытку завоевать Британию и выпускают двойной сингл "Dreamland/Shooting star", который получил некоторую известность в лондонских клубах. Группа отправляется в Лондон, где записывает новый альбом "Surprise surprise" (1982). Однако после возвращения в Исландию группа оказывается на перепутье. Небольшой исландский рынок не мог дальше кормить и содержать фьюжн-группу. На их последнем концерте в Университете Рейкьявика в феврале 1983 года было всего 6 человек, и участники "Mezzoforte" уже серьёзно подумывали о своём распаде.

Неожиданно их композиция "Garden party" с альбома "Surprise surprise" стартует в британских поп-чартах и весной 1983 года поднимается до 17-го места. Как следствие она попадает также в чарты других европейских стран, и на записи "Mezzoforte" резко поднимается спрос. Обрадованные участники группы вместе со своими семьями и продьюсерами отправляются в Лондон, откуда начинают длинную серию туров по Европе и Азии, включая Японию. А затем в срочном порядке приступают к работе над своим пятым альбомом "Observations". Песня "Rockall" с этого альбома в июне 1983 года выходит как отдельный сингл и также становится хитом, а сам альбом впервые увидел свет в декабре того же года в Исландии и имел название "Yfirsyn" (с исландскими текстами). После выхода пятого альбома группа "Mezzoforte" в течение 1984 года дала более 150 концертов, включая крупные музыкальные фестивали в Голландии и Швейцарии.

В 1984 году саксофонист Kristinn Svavarsson уходит из группы, и шестой альбом "Rising" парни выпускают как квартет. Но уже в записи следующего, седьмого альбома "No limits" (1985) принимали участие саксофонист David O'Higgins, перкуссионист Jeroen De Rijk и вокалист Noel McCalla. Продьюсером и автором текстов большинства песен был легендарный Nigel Wright. А затем последовали другие совместные проекты и альбомы. В начале 90-х участники "Mezzoforte" занимались также собственными соло-проектами. Так, Fridrik Karlsson создал группу "Point Blank", в которую вошли в том числе и музыканты из "Mezzoforte".