Problemy i trudności w ewaluacji projektów infrastrukturalnych netto a komplementarność projektów Dlaczego powinniśmy badać projekty infrastrukturalne? Międzyregionalna Konferencja Ewaluacyjna Toruń, 25-26.05.2010 r. Prezentuje: dr inŝ. Korneliusz Pylak Projekt zakłóca równowagę w otoczeniu 1 2 Część pierwsza Czy projekt zawsze jest dobry dla wszystkich? Projekt w otoczeniu http://www.ociecprac.pl 3 4 Projekt to nie tylko produkty i rezultaty ChociaŜ efekt realizacji celów nie tylko Projekt moŝe oddziaływać pozytywnie i negatywnie na otoczenie tworzy uŝyteczność y pozytywne y negatywne poprawia funkcjonalność rozwiązań rozwiązuje problemy uŝytkowników infrastruktury naleŝy kojarzyć jedynie z działaniami wykonywanymi w ramach, które tworzą produkty i rezultaty efekt mnoŝnikowy: efekt dochodowy i efekt dostaw efekt przemieszczenia: efekt przesiąkania efekt dodatkowości efekt substytucyjny efekt przemieszczenia: efekt przyciągania efekt wyciekania efekt dodatkowości: (efekt deadweight) ALE stanowi równieŝ bazę do wyliczania innych efektów 5 6 1
dodatkowości vs. deadweight dodatkowości vs. deadweight (II podejście) Podejście 1. Środki publiczne vs. prywatne Podejście 2. Sposób i czas realizacji Cecha X Działania realizujemy szybciej, wcześniej ilepiej częściowej dodatkowości deadweight projekt mógłby być zrealizowany przez środki prywatne, a jest realizowany za pomocą środków publicznych (występuje efekt deadweight) projekt mógłby być zrealizowany jedynie poprzez środki publiczne (brak efektu deadweight) Okres przed realizacją Okres realizacji scenariusz bazowy Okres po realizacji 2001 2002 2003 2004 2005 2006 2007 2008 2009 7 8 przemieszczenia substytucji i mnoŝnikowe i rezultaty przyciągania Projekt przyczynia się do poprawy sytuacji na obszarze kosztem obszaru poza przesiąkania Pozytywne efekty przenikają poza obszar bez zmniejszania korzyści na obszarze wyciekania (negatywnyprzesiąkania) Pozytywne efekty wyciekają poza obszar zamiast pojawiać się (tak jak planowano) na obszarze y przemieszczenia 9 dostawcy Utrzymanie produktów i rezultatów wymaga zamówienia nowych produktów i rezultatów, co tworzy nowe firmy lub je substytucji Projekt przynosi korzyści jednej grupie interesariuszy kosztem innej grupy interesariuszy (nieobjętej interwencją) dochodowy Realizacja może przyczynić się do wzrostu dochodów mieszkańców, przez co może zwiększyć się popyt na dobra i usługi, a to może spowodować powstanie nowych miejsc pracy y mnożnikowe 10 Wszystkie efekty sumują się do efektu netto (sposób odgórny) Jak liczyć efekt netto? Cecha X Okres PRZED interwencją brutto przedłuŝenie trendu Okres PO interwencji 1999 2000 2001 2002 2003 2004 2005 2006 2007 netto pozor ny 11 netto Sposób odgórny - polegający na wyliczeniu efektu brutto i następnie oszacowaniu, w jakim stopniu został on spowodowany przez interwencję Sposób oddolny - polegający na zsumowaniu wszystkich efektów cząstkowych (pozytywnych i negatywnych), które powoduje realizacja (wypadkowa efektów), a następnie wyliczeniu efektu zdarzenia niezaleŝnego i pomniejszeniu o niego wyliczonej wypadkowej 12 2
Jak liczyć efekt netto w sposób oddolny? Część druga wyznaczamy wszystkie efekty oddziaływania danego określamy wielkość efektu zdarzenia niezaleŝnego (deadweight) pomniejszamy kaŝdy efekt, aby pozostała część spowodowana interwencją Problemy i wątpliwości 13 14 Jakie aspekty przedmiotowe ewaluacji moŝemy badać? uwzględnienie lub nie innych projektów prowadzonych na danym obszarze czy w danym czasie, adotyczącymi podobnego obszaru działania zawężenie lub rozszerzenie badania do jednego lub kilku elementów (np. innowacyjności, wpływie na konkurencyjność) Projekt 3 Projekt 2 Projekt 1 Element Element 1 2 uwzględnienie lub pominięcie części obszaru oddziaływania lub grupy interesariuszy, które nie są objęte bezpośrednim oddziaływaniem, ale odczuwają jego wpływ 15 Jaki okres objąć badaniem ewaluacyjnym? z którego będą pochodzić dane do badania ewaluacyjnego DŁUśSZY OKRES uŝyteczność produktów i rezultatów (efekty ) badamy analizując cechy obszaru przed interwencją i po interwencji, aby uzyskać trendy KRÓTSZY OKRES efektywność skuteczność badamy projekt po zakończeniu jego realizacji trafność badamy projekt w konkretnym momencie czasowym, np. przed rozpoczęciem opracowywania szczegółowej dokumentacji technicznej. trwałość badamy w obowiązującym okresie utrzymywania rezultatów, albo punktowo po tym okresie 16 W jaki sposób odróŝnić obszar i zakładanego oddziaływania od obszaru poza projektem? Obszar i zakładanego oddziaływania : obszar, w którym powstają produkty i rezultaty oraz występuje zakładane (przez projektodawcę) oddziaływanie Obszarem poza projektem obszar, na który projekt moŝe oddziaływać, ale oddziaływanie to nie zostało przewidziane przez projektodawcę lub nie było przedmiotem jego zainteresowania Jakie grupy interesariuszy wyróŝnić? Projektodawca Inni projektodawcy UŜytkownicy infrastruktury Nie-uŜytkownicy Władze rządowe / samorządowe beneficjent i/lub operator beneficjenci realizujący inne projekty na obszarze oddziaływania aktywni - zwani często grupą docelową pasywni interesariusze niekorzystający z produktów i rezultatów Środowisko przyrodnicze 17 18 3
W jaki sposób zbadać interesariuszy? Jak zdefiniować populację? Wybrać obiekty np. uŝytkownicy infrastruktury, przedsiębiorstwa Jak definiujemy populację? Jaki wybieramy schemat doboru próby? Jaka powinna być wielkość próby? Wybrać zakres np. mieszkający na obszarze i zakładanego oddziaływania, mające siedzibę na obszarze poza projektem Wybrać czas mieszkający równieŝ na tym obszarze przed realizacją (np. od 1 stycznia 2005 r.), nowopowstałe przedsiębiorstwa (działające maksymalnie od pół roku) 19 20 Jak dobrać schemat doboru próby? Losowe schematy doboru próby Nielosowe schematy doboru próby Jak określić wielkość próby? odchylenie standardowe badanej zmiennej, którego poziom musimy załoŝyć błąd standardowy akceptowalny w badaniach losowanie indywidua lne nieograni czone losowanie systematy czne losowanie warstwowe losowanie grupowe próba okoliczno ściowa próba celowa próba kwotowa wielkość próby JeŜeli wielkość próby będzie zbyt duŝa w stosunku do populacji, moŝemy wprowadzić poprawkę dla populacji nieskończenie duŝych: schemat proporcjo nalny schemat niepropor cjonalny Wielkość populacji 21 22 Jak dobrać odpowiednią metodologię? Część trzecia badania dokumentów analizy i krytyki piśmiennictwa obserwacyjne eksperymentalne i quasieksperymentalne symulacji komputerowej monograficzne Problemy w liczeniu komplementarności projektów sondaŝu diagnostycznego indywidualnych przypadków analizy i konstrukcji logicznej 23 24 4
netto infrastrukturalnego a komplementarność projektów netto infrastrukturalnego dotyczy jednego Co będzie, jeŝeli w powiązaniu z projektem infrastrukturalnym jest realizowany (lub został, albo będzie) inny projekt (twardy lub miękki)? Definicja komplementarności dodatni Stopień tworzenia wartości dodanej (synergii pomiędzy projektami) zerowy potencjalna komplementarność MoŜe się okazać, Ŝe część efektu netto społeczeństwo zawdzięcza obu uzupełniającym się projektom Inaczej mówiąc, gdyby były realizowane dwa oddzielne projekty, nie powstałby w nich taki sam efekt netto, jak w przypadku obu projektów realizowanych w powiązaniu uzupełnianie sięprojektów (warunek brzegowy sukcesu, jak obiekt turystyczny i droga dojazdowa) ujemny Stopień nakładania się projektów (dublowania działań w dwóch projejktach) 25 26 Rodzaje komplementarności Kierunkowość zaleŝność pomiędzy komplementarnymi projektami Cel Projekt wykorzystuje inne projekty jako bazę Projekt 1 Projekt jest bazą dla innych projektów Rozwój obszaru X Rozwój funkcji Y dowolny cel długookresowy Projekt wykorzystuje rezultaty innych projektów Projekt pełnie tę samą funkcję co inne projekty Projekt 2 Projekt 3 są wykorzystywane przez inne projekty Projekt pełnie tę samą funkcję co inne projekty P1 P3 Projekt posiada tych samych uŝytkowników co inne projekty Projekt 4 Projekt posiada tych samych uŝytkowników co inne projekty P2 Projekt moŝe być finansowany przez inne projekty Projekt 5 Projekt finansuje inne projekty Projekty z danego obszaru Projekty o róŝnych funkcjach Projekty realizowane w róŝnym czasie 27 Projekt korzysta z wiedzy wypracowanej przez inne projekty Projekt znajduje się w pobliŝu innych projektów Projekt 6 Projekt 7 Projekt wypracowuje wiedzę, z której korzystają inne projekty Projekt znajduje się w pobliŝu innych projektów 28 Co daje komplementarność? Poprawę / polepszenie produktów i rezultatów umoŝliwia realizację przyspiesza lub ułatwia realizację rozszerza zakres usług oferowanych po projekcie poprawia jakość i uŝyteczność usług oferowanych po projekcie powoduje niezakładany wcześniej wzrost wskaźników zwiększa trwałość rezultatów Stworzenie nowych rezultatów powoduje powstanie nowych rezultatów, których nie przewidziano wcześniej Co dostajemy dzięki projektom komplementarnym? netto komplementarności powstały tylko i wyłącznie dzięki istnieniu kilku projektów komplementarnych bez efektów tworzonych przez poszczególne projekty z osobna Jest to zatem efekt synergii powstały dzięki wspólnemu oddziaływaniu projektów na otoczenie 29 30 5
Jak liczyć efekt netto komplementarności? Cecha X suma efektów uzyskiwanych przez poszczególne interwencje, gdyby były realizowane z osobna Interwencja D Interwencja C Interwencja B Interwencja A Wartość cechy X uzyskiwana przez interwencje realizowane z osobna Interwencja A Interwencja B Interwencja C Interwencja D Wartość cechy X uzyskiwana przez interwencje komplementarne efekt netto komplementarnośc i dla cechy X Grupa kontrolna Grupa rzeczywista 31 synergii dotyczy dwóch lub więcej projektów, które mają część wspólną dotyczącą: obszaru zakładanego oddziaływania, interesariuszy (jednej lub kilku grup). wystąpi wtedy, kiedy realizacja kaŝdego z osobna (np. na innym obszarze, dla innych interesariuszy lub w innym czasie) da w sumie niŝsze efekty niŝ realizacja tych samych projektów na tym samym obszarze, w tym samym czasie i dla tych samych interesariuszy Z drugiej strony, niezrealizowanie jednego nie powoduje całkowitego braku uŝyteczności rezultatów drugiego uŝyteczność tego wystąpi, ale będzie niŝsza niŝ kiedy zrealizowane byłyby oba projekty. 32 Synergia jest bardzo trudna do wychwycenia przykład: synergii nie zawsze wystąpi tam, gdzie realizowane są dwa projekty. Weźmy dla przykładu projekty (załóŝmy, Ŝe jeden dotyczył budowy drogi, drugi ścieŝki rowerowej), które zakończyły się w tym samym czasie, a najwaŝniejszą grupą interesariuszy była ta sama grupa mieszkańców. Po zakończeniu realizacji projektów okazało się, Ŝe jakość Ŝycia interesariuszy związana z bezpieczeństwem na drogach zaczęła poprawiać się szybciej niŝ miało to miejsce przed realizacją tych projektów. Większość rowerzystów zaczęła bowiem korzystać ze ścieŝki rowerowej zamiast jeździć po drodze, zmniejszyła się liczba kolizji z ich udziałem i w ten sposób poprawił się wskaźnik bezpieczeństwa na drodze. Czy efektem synergii jest opisywany efekt zmniejszenia się wypadkowości na drodze w wyniku zmiany zachowań rowerzystów, którzy zaczęli korzystać ze ścieŝki rowerowej? Nie. Rozpoczęcie korzystania ze ścieŝki rowerowej przez rowerzystów jest wyłącznie wynikiem powstania tejŝe ścieŝki, a więc jednego z opisywanych projektów, nie ma więc mowy o synergii. 33 Pierwsze badania ZPORR pokazują, Ŝe efekt netto komplementarności jest bardzo słaby Korzyść Transport Społeczeństwo Rewitalizacja Turystyka Wod-kan informacyjne Korzyści dla realizowanego w ZPORR Brak korzyści dla realizowanego ze 1 2 1 3 1 ZPORR Korzyści dla realizowanego ze ZPORR 4 3 4 3 4 UmoŜliwienie realizacji 0 0 1 0 2 Przyspieszenie lub ułatwienie realizacji 2 1 1 1 2 Rozszerzenie zakresu usług 3 2 2 2 4 Poprawienie jakości usług 3 0 2 1 2 Wzrost wartości wskaźników 1 0 1 1 1 Powstanie nowych rezultatów, nieprzewidzianych wcześniej przez współdziałanie obu projektów Powstanie nowych rezultatów, których nie 1 0 1 2 1 przewidziano wcześniej Wszystkie rezultaty realizowane przez oba projekty zostały przewidziane 4 4 3 3 4 Oczekiwania beneficjentów niekomplementarnych wzrost efektywności działań podejmowanych w 2 2 1 3 3 infrastrukturze powstałej w projekcie lepsze odpowiadanie na potrzeby uŝytkowników infrastruktury wyŝszą uŝyteczność usług ofertowanych w ramach Państwa 3 3 2 2 2 3 2 2 2 2 większą trwałość rezultatów Państwa 2 4 1 2 4 moŝliwość osiągnięcia wyŝszych poziomów wskaźników produktów i rezultatów w projekcie 3 4 0 1 2 Źródło: Raport wstępny z badania: Komplementarność działań realizowanych w ramach Regionalnego Programu Operacyjnego Województwa Śląskiego na lata 2007-2013 34 Dziękuję za uwagę! 35 6