Первая заметка о городе восходит к 1276 году. Город Гливице тогда находился в границах Польши. В XIV веке город имел оборонительный характер, владел здесь Семовит, именующийся гливицким принцем. Во времена Мешка Плёнтоногого, внука Болеслава Кривоустого, гливицкая земля принадлежала опольско-рациборскому княжеству. В 1289 году она стала отдельным княжеством, которое очень быстро попало во владение чешского короля Вацлава II.
Эти территории тогда были известны рыбоводством, мукомольным делом и хмелеводством, что позволяло производить и продавать пиво. Период относительного спокойствия и экономического благополучия нарушило нападение гуситов. После ограбления и сожжения города они установили в городе Гливице центр своего движения.
Ситуация изменилась только в 1431 году. Сигизмунд Корибутович, вождь гуситов, поехал тогда в Краков, чтобы принять участие в теологических дебатах. Его отсутствием в городе воспользовался Конрад VII Олесницкий, который обманным путем овладел городом Гливице. Жило в нем тогда около 1200 человек. Основным источником их содержания была все еще продукция и дистрибуция пива.
В 1532 году, после смерти последнего из правителей рода Пястов, город попал в руки Габсбургов. Это было время религиозной реформации, связанной с деятельностью Мартина Лютера. Гливице получили новый облик. Каменные укрепления уступали места огородам. Город стал тонуть в зелени.
В результате дорогостоящей войны Габсбургов с Турками тогдашние владельцы настойчиво разыскивали денег. Во второй половине XVI века Гливице были переданы в аренду Фредерику Цеттрицу. Тем самым было получено 14 тысяч талеров. Договор первоначально был заключен на 18 лет. В 1580 году его действие было продлено на очередные 10 лет, а потом – на 18 лет.
В 1596 году Гливице были проданы городским властям за 27 тысяч талеров. Благодаря этому город вместе с окружающими районами стал свободным королевским городом. Такой статус был признан только тогда, в частности, подгливицким деревням Кнурув, Кривалд, Остропа, Тринек и Шобишовице.
В 1683 году город своим присутствием удостоил Ян III Собеский. Во главе войск он направлялся в Вену с помощью против Туркам. Остановился в монастыре отцов францишканов при костеле Воздвижения Святого Креста (который сейчас ведут отцы редемптористы).
В XVIII веке в Гливице вспыхивали многие пожары. Самыми ощутимыми были в гг. 1711, 1730 и 1735. Сгорел местный пивоваренный завод. В результате упала пивоваренная отрасль. Годы 1740 – 1763 были периодом прусско-австрийский силезских войн, которые также повлияли на судьбу города.
Историки не сомневаются – прусские времена в городе Гливице способствовали развитию капитализма. Расширялись окраины города, где базировались металлургические районы. Была развита сеть горных и металлургических учреждений. Развивались торговые пути и модернизировались транспортные средства.
Началась стройка Гливицкого канала для обеспечения речного транспорта угля из местных шахт и защиты города от периодических назойливых наводнений. Стройка канала длилась с 1792 по 1822 год. Уголь из Гливице оказался более дешевым от английского, поэтому его охотно импортировали берлинские предприниматели.
В 1796 году в городе был открыт железоплавильный завод, известный во всей Европе. Он пользовался известностью не только в связи с артистическими литейными изделиями, но также в связи с военной продукцией. В 1804 году в Гливице изготовлено первую пушку. В этот период была также введена в эксплуатацию первая в Европе коксовая печь, которую запроектировал и запустил Джон Баилдон. В 1834 году была открыта почта.
Очень важным событием в истории города было проведение в 1845 году железнодорожной линии из Вроцлава в Гливице. В течение очередных трех лет линия была продлена до города Мысловице. В 1887 году был создан Гливицкий район. В конце XIX века в городе открылся театр, в котором играли актеры со всей Европы.
Во время I мировой войны экономика города приспособилась к военной продукции. В результате были закрыты некоторые промышленные предприятия. Период 1919 – 1921 годов был связан с силезскими восстаниями и национальным плебисцитом. Жители Гливице должны были решить, хотят ли они принадлежать польскому государству, или Германии.
Значительное большинство жителей города высказались в пользу принадлежности Германии. По-другому голосовали жители Тошецко-Гливицкого района. Жители 88 гмин на этой территории (среди общего количества 92 гмин) выразили желание присоединить город к Польше. В 1922 году район Верхней Силезии был разделен между двумя государствами.
В 1928 году в центре была построена современная гостиница (OBERSCHLESIEN HAUS). Сейчас в ней находится Городское управление. 31 августа 1939 года имело место притворное нападение на немецкую гливицкую радиостанцию. Это был пропагандистский повод для нападения войск Гитлера на Польшу. В годы II мировой войны город опять стал центром военной продукции. В Гливице были созданы четыре филиалы нацистского концентрационного лагеря Освенцим. Они были источником дешевой рабочей силы. В 1945 году в город вошла Красная Армия. Советские солдаты совершили массовые разрушения. Было сожжено, в частности, историческое здание Театра Виктория. Гливице опять оказались в границах Польши.
После войны город стал важным научным и экономическим центром. Был создан Силезский политехникум. Появились многие проектные учреждения и предприятия химической промышленности. Был создан онкологический центр, Силезский театр оперетты, музей. После изменения общественного строя в 1989 году была создана новая епархия Римско-Католической церкви, с местонахождением в Гливице. Это наступило в 1992 году. Шестью годами позже была открыта фабрика ОПЕЛЬ – современное автомобильное предприятие в городе. Его размещение дало начало специальной экономической зоне, где сейчас действуют многие промышленные фирмы, обеспечивающие рабочие места для жителей города Гливице и близлежащих населенных пунктов.