Группа создана в 1995 году режиссёрами-клипмейкерами Сигвурдур Кьяртанссоном и Стефан Ауртни Торгейрссоном. В состав группы, помимо них, вошли вокалисты Магнус Йоунссон, Даниел Аугуст Харальдссон и Хафдис Хульд Трастардоуттир, а также менеджер коллектива Бальдур Стефанссон. Несколько позже присоединились известные в Рейкьявике диджеи Херб Леговитц и Бигги Тораринссон. Название группы связано с фильмом Райнера Вернера Фассбиндера «Страх съедает душу» — в фильме женщина готовит любовнику кус-кус, в её произношении это звучит как gus gus.
Через два года после создания группы был записан альбом «Polydistortion», получивший хорошую критику. Электронно-танцевальное звучание музыки сочетало элементы техно, фанка, хип-хопа, хауса. Помимо сольных выступлений, GusGus выступали в концертных турах с британскими коллективами Cornershop и Lamb.
За время существования группы последовало несколько изменений состава. В настоящее время коллектив состоит из трех членов — Стефана Стефанссона (псевдоним President Bongo), Даниеля Аугуста и Бигги Тораринссона. После третьего альбома группы, This Is Normal, её основатели — клипмейкеры покинули коллектив и сформировали успешный продюсерский центр Celebrator, в настоящее время известный как Arni & Kinski. Некоторые другие члены — Хафдис Хульд, Магнус Йоунссон занялись сольной карьерой; наибольшего успеха добилась Эмилиана Торрини, композиция которой вошла в саундтрек фильма «Властелин колец: Две крепости».