Искусство оценки: как измерить эффект от творческих проектов

От замысла до постэффектов

Можно ли измерить эффект от творческих проектов? Специалисты по оценке программ и проектов уверены, что да. Любой творческий проект, ориентированный на публику, имеет четыре этапа: 

  • замысел и создание проекта; 
  • публичная реализация проекта/продуктов проекта (экспозиция, программа событий, линейка сувениров и так далее); 
  • непосредственная реакция зрителей на продукт; 
  • эффекты и постэффекты в некотором временном интервале.

На каждом этапе есть маркеры эффективности, которые можно измерить социологически, экономически или экспертно. Таким образом, можно узнать, меняет ли творческий проект жизнь людей к лучшему, какова его общественная и социокультурная значимость, достигает ли проект своих целей и создает ли новые смыслы и ценности. 

В 2024 году завершилась оценка семи творческих проектов — участников Межрегионального форума «Яркие краски креативных индустрий», победителя грантового конкурса Президентского фонда культурных инициатив (ПФКИ) 2023 года. На протяжении нескольких месяцев с творческими командами работали эксперты-консультанты в области оценки проектов и программ.

Участники форума собирали и обсуждали передовой международный и российский опыт оценки социального воздействия творческих проектов, чтобы разработать рекомендации и подходы, с одной стороны, учитывающие специфику творческой сферы и компетенции ее участников, с другой — принимающие во внимание ожидания финансирующих институтов.

В этом материале мы разберем, какие открытия для себя сделала команда организаторов Чеховского книжного фестиваля в Таганроге, как проходила оценка фестиваля и как литературное событие влияет на образ города. 

Чеховский книжный фестиваль проходит в Таганроге с 2007 года. За последние пять лет фестиваль посетило около 15 тысяч человек, что делает его заметным культурным событием не только Ростовской области, но и всего Южного федерального округа. 

Подробнее о Чеховском книжном фестивале.

Ежегодно Чеховский книжный фестиваль собирает жителей и гостей города на более чем 35 площадках. В программе — встречи с известными писателями, презентации книг, мастер-классы, концерты, спектакли, выставки, перформансы, игры, концерты, ярмарки. Гостями фестиваля в разные годы становились писатель Андрей Геласимов, детский поэт Андрей Усачев, ректор Литературного института имени А.М. Горького Алексей Варламов, композитор Григорий Гладков, актер Максим Аверин, редактор и издатель Елена Шубина и другие.

Быть среди первых

Оценка творческих проектов — новая тема для специалистов, занимающихся оценкой проектов и программ. В международном сообществе уже накоплен разнообразный опыт в этой области, в то время как в нашей стране это направление только начало развиваться. Эксперты-практики видят активный интерес к этой теме как со стороны финансирующих институтов, так и участников творческой сферы. 

По словам координатора Чеховского книжного фестиваля (2007–2023), доцента Института креативных индустрий Донского государственного технического университета Людмилы Скрынниковой, у команды организаторов литературного события было желание проанализировать многолетнюю деятельность.

«Чеховский книжный фестиваль — это пространство межкультурного диалога, межличностных отношений, иллюстрация деятельного участия жителей в культурных процессах города. Благодаря таким событиям происходят осмысление и актуализация культурного наследия малой родины. Фестиваль дает импульс, новое движение всей культурной жизни города. Мы хотели посмотреть, каких эффектов достигли за время его проведения, и получить новый опыт», — говорит Скрынникова.

В команду исполнителей оценки вошли представители АНО «Эволюция и филантропия», фонда «Будущее время», социологи. В фокус оценки исследователи взяли пять сезонов фестиваля 2018–2023 годов. 

«Для меня как социокультурного проектировщика этот кейс невероятно интересен. Фестиваль проводится с 2007 года, это редкий пример долго существующего регулярного крупного литературного события за пределами двух столиц. Сочетание энтузиазма команды организаторов и интереса со стороны властей очень важно для проведения таких больших долгосрочных проектов. Поскольку фестиваль включает множество форматов, он работает и на профессиональные сообщества, и на любителей книг, и на горожан и туристов. Когда мы говорим об объекте оценки, важно учитывать контекст», — поясняет Наталья Сергиевская, генеральный директор фонда «Будущее время».

«Мы хотели посмотреть на то, как применяется международный опыт оценки творческих проектов, как используются стандартные подходы, применяемые в социальной сфере, в оценке креативных инициатив», — рассказывает Ольга Евдокимова, исполнительный директор АНО «Эволюция и филантропия». 

Проблемы и возможности

Были сформулированы следующие основные проблемы, с которыми работает фестиваль:

  • невысокая туристическая привлекательность бренда города по сравнению с соседними; 
  • запрос на насыщенность городской жизни качественными событиями; 
  • недостаточная оценка жителями города историко-культурных ресурсов Таганрога.

«Во многих исторических городах гордость жителей строится, скорее, только на сегодняшних достижениях. Не учитываются все возможные плюсы и положительные стороны города как исторического места. То есть, к сожалению, нет ощущения причастности к большой истории своего культурного пространства», — отмечает Наталья Сергиевская.

Команда исполнителей оценки предположила, что для жителей и гостей города фестиваль дает возможность интересно и полезно провести досуг. Для профессионального сообщества он служит площадкой для обмена опытом, развития компетенций, дает возможность встретиться с коллегами из других регионов. Для организаторов фестиваля и заинтересованных сторон — это миссия повысить интерес жителей и гостей города к чтению и литературе, с одной стороны, а с другой — прикладная задача развивать и масштабировать фестиваль. Для властей региона фестиваль отвечает на запрос о повышении привлекательности города для жителей и гостей. Кроме того, он является дополнительным средством для развития территории и сферы культуры. 

Когда разрабатывались подходы к оценке проекта, были учтены также мнения, интересы и ожидания результатов ключевых стейкхолдеров: команды и лидера проекта, управления культуры, властей города и региона, а также Президентского фонда культурных инициатив.

Методология оценки

  • Насколько фестиваль повлиял на обогащение культурной жизни жителей города?
  • Насколько он влияет на развитие туристического бренда города?
  • И насколько повлиял на развитие компетенций творческого профессионального сообщества?

Чтобы получить ответы на эти три оценочных вопроса, команда исполнителей провела онлайн-опрос среди подписчиков групп VK и ТГ-канала фестиваля, а также полуструктурированные интервью с представителями туристических организаций Таганрога, агентств, кафе, ресторанов.

Кроме того, консультанты по оценке анализировали документы: программы фестиваля, списки участников и отзывы посетителей фестиваля, сайт-визитку города, туристические маршруты по Таганрогу, заявку и отчет ПФКИ. Всего в оценке в качестве респондентов приняли участие более 300 человек. 

«Оценка — гибкий и живой процесс. Чтобы ее результаты лучше репрезентировали мнение целевых аудиторий, мы усовершенствовали методику, уточнили задачи оценки, дополнили подходы к анализу данных, включили способы усиления доказательной базы, то есть поиска аргументов, что все, что делается в рамках проекта, действительно приводит к желаемым изменениям», — поясняет эксперт по оценке проектов и программ, социолог Алена Богомолова.

Таким образом, в оценке проекта «Чеховский книжный фестиваль» лежат как количественные, так и качественные методы, что в значительной мере повышает коэффициент полезности и достоверности результатов оценки, отмечает команда исполнителей. 

Ключевые результаты оценки

Ответы на ключевые оценочные вопросы команда исполнителей получила позитивные. 

Выяснилось, что фестиваль способствует обогащению культурной жизни жителей города. Так, среди подписчиков групп фестиваля в соцсетях показатели высокие. И это подтверждает лояльность аудитории и пользу для сообщества: 97% опрошенных считают, что фестиваль позволяет провести свой досуг одновременно и культурно, и интеллектуально, а 98% респондентов уверены, что мероприятие является одним из способов пробуждения в жителях и гостях города любви и интереса к чтению и литературе.

Также подтвердилось, что фестиваль оказывает ожидаемое влияние на развитие компетенций творческого профессионального сообщества. С каждым годом растет число институций, вовлеченных в событие (с 32 в 2018 году до 51 в 2023 году). 97% респондентов высоко оценили профессиональную программу фестиваля с точки зрения ее полезности. Возможность узнать что-то новое, повысить уровень компетенций — самое ценное для представителей профессионального сообщества.

Еще один результат исследования — Чеховский книжный фестиваль оказывает значимое положительное влияние на формирование туристического бренда Таганрога. Этот вывод был сделан на основании интервью с представителями туристического бизнеса города. Жители и гости города видят Таганрог как культурно-исторический центр Юга России, а культурная фигура бренда города — писатель Антон Павлович Чехов.

Другая часть туристического бренда Таганрога — это приморский город с красивыми пейзажами, старинными каменными зданиями. Литературная история Таганрога включена в туристические маршруты, они охватывают достопримечательности, имеющие связь с литературной историей и местами проведения площадок фестиваля.

Основываясь на комментариях членов команды проекта и стейкхолдеров, специалисты по оценке дали ряд рекомендаций, как сделать фестиваль более эффективным и устойчивым культурным событием.

«Оценка показывает, что поддержка фестиваля со стороны властей на региональном и федеральном уровнях была бы целесообразна. Проекту важно расширять партнерские связи, поскольку они сузились в связи с событиями 2020–2022 года. К сожалению, очень сложно на такого типа фестивали привлекать большие книжные издательства. Это важная точка развития и роста для фестиваля», — говорит Наталья Сергиевская.

Как профессиональному сообществу развивать оценку творческих проектов

Специалисты уверены: важно с самого начала учитывать накопленный опыт, нарабатывать собственный и выстраивать равноправный диалог между всеми сторонами. При этом в оценке творческих проектов важно учитывать два уровня: эмпирический — что мы можем наблюдать — и реальный — невидимые механизмы проявления результатов.

«На мой взгляд, в творческих проектах, как и в социальных, важно именно то, что не на поверхности. Если мы ставим вопросы, каким образом можно усилить воздействие проекта на что-то, тогда нам нужно искать инструменты, объяснять подходы, что работает и что влияет на изменения. Тогда оценка будет нам давать больше информации об усилении воздействия. Чем выше будет уровень доказательной базы, больше источников, разнообразного инструментария, тем надежнее будут результаты оценки. Такое исследование требует привлечения очень разных специалистов, должны подключаться социологи, обязательно представители команды и других заинтересованных сторон, эксперты в области социокультурного проектирования и специалисты-практики, реализующие проекты», — отмечает Ольга Евдокимова.

По мнению Игоря Соболева, первого заместителя генерального директора Президентского фонда культурных инициатив, кейсы оценки творческих проектов представляют чрезвычайный интерес как для специалистов по оценке, так и для творческих команд, которые могут на практике увидеть и задуматься о применении предложенного инструментария к своему проекту. 

«Президентский фонд культурных инициатив финансирует не просто проекты творческого самовыражения, а те проекты, которые призваны нести публике ценности и смыслы, входящие в тематическую рамку наших грантовых конкурсов. И есть критерии оценки подаваемых заявок. Оценивание результативности проекта, его творческой концепции, мероприятий, ценностно-смысловых составляющих, адресованных публике, целевым группам, — все это необходимо для широкого развития оценки творческих проектов в целом. Это требует применения и социологического инструментария. Движение в данном направлении идет, и оно очень важно», — говорит Игорь Соболев. 

Оригинальный материал первые опубликован на сайте Агенства социальной информации.

Автор: Юлия Вяткина.

Долгосрочные социальные эффекты спортивных проектов обсуждали на конференции «Спорт и общество: энергия изменений»

Долгосрочные социальные эффекты спортивных проектов — одна из тем конференции Фонда Потанина «Спорт и общество: энергия изменений» в этом году.

Эксперты говорили об измерении долгосрочных социальных эффектов спортивных проектов, их количественных и качественных показателях, а также определении приоритетов и критериев отбора проектов грантодающими организациями. Запись доступна по ссылке.

16 октября на конференции АСОПП эксперты обсуждали развитие доказательного подхода в социальной сфере

16 октября на X конференции АСОПП «Развитие оценки в социальной сфере в России: достижения и точки роста» состоялась сессия «Внедрение доказательного подхода на федеральном уровне: стратегия развития консорциума партнерских организаций», на которой представители академического сообщества, государственных и некоммерческих организаций обсудили развитие доказательного подхода в социальной сфере. Провела сессию Татьяна Подушкина, руководитель Центра доказательного социального проектирования МГППУ.

Участники обсуждали, как доказательное проектирование может повысить эффективность социальных программ и улучшить качество социальной работы в целом. Татьяна Подушкина, руководительница «Центра доказательного социального проектирования» МГППУ, представила трехуровневую модель сетевой верификации и поделилась опытом работы инкубатора доказательных социальных практик.

Алексей Газарян, руководитель Аппарата Уполномоченного при Президенте РФ по правам ребенка, рассказал о проблеме тиражирования программ: «не каждая практика, успешная в одном регионе, может быть столь же эффективной в другом. Практики требуют адаптации и гибкости при внедрении на новом месте». Газарян отметил, что такие различия связаны с местными особенностями, что делает процесс распространения более сложным, чем может показаться на первый взгляд.

Игорь Тимофеев, представитель Института дополнительного образования работников социальной сферы Москвы, выделил важную роль грантовых конкурсов в популяризации доказательного подхода среди государственных и некоммерческих организаций. Он отметил, что необходимо вовлекать участников в исследовательскую работу и обучать их научным методам на ранних этапах.

Для успешного распространения доказательного проектирования важна подготовка специалистов. Андрей Некрасов, руководитель Точки кипения МГППУ, рассказал о подготовке специалистов через образовательные программы на базе университета, которые помогают глубже понять доказательный подход и применять его на практике.

Ольга Евдокимова, директор АНО «Эволюция и филантропия», подчеркнула, что образовательные коллаборации должны базироваться на потребностях системы верификации и предложила также обратить внимание на обучение основам доказательного подхода представителей финансирующих организаций. Она отметила, что образовательные коллаборации нужны для повышения уровня знаний специалистов в области доказательных практик   (конкурсы, образовательные программы). Необходимо ответить на вопросы: каким образом можно связать подготовку специалистов к участию в конкурсах и существующие образовательные программы, какие оптимальные стратегии привлечения специалистов к повышению квалификации в области доказательного подхода. Профессионализация специалистов социальной сферы возможна через просвещение и обучение доказательному подходу: разработку разноуровневых образовательных программ по доказательному подходу, развитие синтетической образовательной инфраструктуры для специалистов государственных и некоммерческих организаций сферы детства на основе общей методологии. 

Светлана Гани, заведующая сектором Федерального ресурсного центра психологической службы в системе высшего образования РАО отметила необходимость создания инфраструктуры для независимой оценки социальных практик, включая междисциплинарные исследования и цифровые платформы для обработки данных.

Эльвира Гарифулина, программный директор фонда «Абсолют-Помощь», рассказала, как доказательный подход помогает организациям лучше планировать деятельность, избегать выгорания сотрудников и привлекать больше ресурсов. Это особенно важно для работы с уязвимыми группами населения, где точные данные и научный подход существенно повышают качество помощи.

Екатерина Ядова из фонда «Сбербанк — Вклад в будущее» отметила важность баланса при внедрении доказательного подхода. Глубокая аналитика и научная верификация улучшают результаты, но важно не перегружать социальные организации сложными требованиями. Необходимо сохранить мотивацию и энергию работников, чтобы они могли эффективно реализовывать свои программы, не отвлекаясь на чрезмерные бюрократические процессы.

Видео доступно по ссылке.

При подготовке новости использовался материал, опубликованный на сайте МГППУ.

16 октября на конференции АСОПП прошла сессия «Оценка социокультурного воздействия творческих проектов: извлеченные уроки»

16 октября 2024 на X конференции АСОПП «Развитие оценки в социальной сфере в России: достижения и точки роста» состоялась сессия «Оценка социокультурного воздействия творческих проектов: извлеченные уроки». Ведущие сессии: Ольга Евдокимова, АНО «Эволюция и Филантропия», Наталья Сергиевская, Фонд «Будущее время».

Наталья Сергиевская представила процесс и результаты оценки проекта «Чеховский книжный фестиваль», осветила особенности, с которыми столкнулись оценщики и заказчики оценки этого и других творческих инициатив, которые были выбраны при реализации проекта «Яркие краски креативных индустрий» (ЯККИ). Ссылка на видео-кейс и презентация.

Ольга Евдокимова презентовала созданную в процессе реализации проекта ЯККИ методическую базу, которая включает: деревья результатов и логические модели, инструменты сбора данных, видео-ролики и презентации отчетов по оценке, планы оценки и резюме оценки (презентация).

Сессию завершило выступление И.С Соболева, первого заместителя генерального директора Президентского фонда культурных инициатив, на тему «Как нам развивать оценку творческих проектов и культурных инициатив».

Видеозапись сессии.

Новости, кейсы и материалы проекта ЯККИ, сайт проекта.

Кейс «Чеховский книжный фестиваль»

Чеховский книжный фестиваль в ТаганрогеЧеховский книжный фестиваль в Таганроге

Презентация

Дерево результатов

Логическая модель

План оценки и резюме отчета

Инструменты

  • Гайд интервью с представителями туристического бизнеса
  • Анкета для зрителей
  • Анкета для представителей профессионального сообщества
  • Анкета для участников команды и стейкхолдеров
Представление проекта "Чеховский книжный фестиваль" на форуме ЯККИ 11 июня 2024Представление проекта "Чеховский книжный фестиваль" на форуме ЯККИ 11 июня 2024
Кейс был представлен на форуме форуме «Яркие краски креативных индустрий» 11 июня 2024
Кейс "Чеховский книжный фестиваль". Конференция АСОПП, 16 октября 2024Кейс "Чеховский книжный фестиваль". Конференция АСОПП, 16 октября 2024
Кейс «Чеховский книжный фестиваль» был представлен Натальей Сергиевской на Х Конференции АСОПП 16 октября 2024 (презентация).

Кейс «Фестиваль и паблик-арт программа «ЧО»»

Екатеринбургская паблик-арт программа «ЧÖ»Екатеринбургская паблик-арт программа «ЧÖ»

Презентация

Дерево результатов

Логическая модель

План оценки и резюме отчета

Инструменты

Представление проекта "Уральский паблик-фестиваль ЧО" на форуме ЯККИ 11 июня 2024Представление проекта "Уральский паблик-фестиваль ЧО" на форуме ЯККИ 11 июня 2024
Представление кейса на форуме «Яркие краски креативных индустрий» 11 июня 2024

Кейс «Стихия металла»

Молодежный фестиваль "Стихия металла"Молодежный фестиваль "Стихия металла"

Презентация

Дерево результатов

Логическая модель

План оценки и резюме отчета

Инструменты

Проект "Стихия металла" на форуме "Яркие краски креативных индустрий" 11 июня 2024Проект "Стихия металла" на форуме "Яркие краски креативных индустрий" 11 июня 2024
Кейс был представлен на форуме «Яркие краски креативных индустрий» 11 июня 2024

Кейс «Онлайн-платформа проекта «Всероссийская актёрская биржа»»

Онлайн-платформа проекта "Всероссийская актерская биржа"Онлайн-платформа проекта "Всероссийская актерская биржа"

Дерево результатов

Логическая модель

План оценки и резюме отчета

Инструменты

Кейс «Мобильная опера-прогулка «Дмитрий Хворостовский. Начало»

Мобильная опера-прогулка «Дмитрий Хворостовский. Начало»Мобильная опера-прогулка «Дмитрий Хворостовский. Начало»

Презентация

Дерево результатов

Логическая модель проекта

План оценки и резюме отчета 

Инструментарий сбора данных

Проект "Мобильная опера прогулка "Дмитрий Хворостовский" на форуме ЯККИПроект "Мобильная опера прогулка "Дмитрий Хворостовский" на форуме ЯККИ
Кейс был представлен на форуме «Яркие краски креативных индустрий» 11 июня 2024

Примеры деревьев результатов и логических моделей для проектов в сфере образования

Дерево результатов и кейс практики «Комплексная программа педагогической поддержки воспитанников и выпускников детских домов, детей из приемных семей» БФ «Большая перемена».

Пример логической модели тренинга для учителей по альтернативным стратегиям чтения.

Пример теории изменений образовательного проекта.