Само здание музея неизменно привлекает внимание гостей города. Построенное в 1899 году, до революции использовалось как доходный дом, принадлежавший севастопольскому купцу, почетному гражданину, члену городской думы, занимавшемуся благотворительской и попечительской деятельностью Семену Христофоровичу Гавелову. Два первых этажа занимали магазины и отделение Московского банка, квартиры третьего и четвертого этажей сдавались внаем как обычное жилье.
Уникальный фасад здания, поражает обилием декоративных элементов разных эпох и стилей. Создается впечатление, что создавали его сразу несколько архитекторов, причем каждый из них вставил свою любимую деталь. На фасаде колонны всех ордеров, атланты, маскароны, элементы в стиле барокко, создают единство противоречивых архитектурных форм.
Основой художественной экспозиции музея стали экспонаты художественного музея Ялты и частных коллекций национализированных в 1920 году. Переданная Севастополю в 1927 году ялтинская коллекция была дополнена произведениями живописи из государственного музейного фонда, центральных музеев Москвы и Петербурга, Третьяковской галереи и Румянцевского музея.
Картинная галерея была открыта 6 ноября 1927 года, размещена на двух этажах дома № 35 по ул. Фрунзе, делилась на два отдела. На первом этаже – иностранное искусство, на втором – русское искусство.
Раздел иностранного искусства представляли работы голландских, фламандских и французских мастеров эпохи Возрождения. Кроме картин были выставлены прекрасные образцы мейсенского фарфора и западноевропейской бронзовой скульптуры.
Русское искусство было представлено более широко, начиная от ранних «передвижников» и кончая произведениями художников советской эпохи. Всего в галерее насчитывалось около 500 произведений искусства. Фонды галереи постоянно пополнялись, были созданы отдел советского периода и кабинет гравюры. В 1941 году фонды галереи насчитывали около двух с половиной тысяч произведений живописи, графики, скульптуры и декоративно-прикладного искусства.
В период Великой Отечественной войны благодаря директору галереи М.П. Крошицкому, его усилиям, граничащим с самопожертвованием, основная часть экспонатов была эвакуирована из осажденного Севастополя и спасена для потомков.
После войны экспонаты Севастопольской картинной галереи были временно размещены в Симферополе, так как Севастополь лежал в руинах, а здание галереи сгорело. Но уже 5 ноября 1956 года галерея вновь открылась в родном городе. С апреля 1958 года галерея получила постоянную прописку в восстановленном здании на проспекте Нахимова 9.
В 1965 году Севастопольская картинная галерея была переименована в Севастопольский художественный музей, а в 1991 году музей получил имя своего директора и спасителя – Михаила Павловича Крошицкого.
В настоящее время фонды музея насчитывают более 8000 экспонатов, среди которых шедевры западных мастеров XVII-XVIII века, работы русских и украинских живописцев XIX-XX веков: В.Маковского, В. Тропинина, А. Куинджи, И. Левитана, И.Айвазовского, И. Крамского и других.
Музей постоянно ведет выставочную и просветительскую работу. До 15 тематических выставок в год, около 100 массовых мероприятий, более 1000 экскурсий и лекций, 100-150 тысяч посетителей.
Сегодня коллекция музея – одна из богатейших не только в Крыму, но и в Украине.