Onderzoek naar aard en aanpak van de IOB-evaluatie van het Nederlands Afrikabeleid Bilateraal 1998-2006
Bijlage
Nummer: 2008D10707, datum: 2008-10-18, bijgewerkt: 2024-02-19 10:56, versie: 1
Directe link naar document (.doc), link naar pagina op de Tweede Kamer site.
Bijlage bij: Onderzoek naar de aard en aanpak van de in februari 2008 verschenen Afrika-evaluatie van IOB (2008D10706)
Preview document (đ origineel)
VAN OVERKANT TOT OVERKANT Onderzoek naar aard en aanpak van de IOB-evaluatie van het Nederlands Afrikabeleid Bilateraal 1998-2006 Prof. Dr. Mr. Bas de Gaay Fortman en Prof. Dr. Arie de Ruijter VAN OVERKANT TOT OVERKANT Onderzoek naar aard en aanpak van de IOB-evaluatie van het Nederlands Afrikabeleid Bilateraal 1998-2006 Those engaged in decision-making and policy formulation increasingly face situations where assumptions about the way the world works, such as about cause-effect, rational choice and intentional actions, are not valid, yet their tools and procedures assume their assumptions hold true. 1: Inleiding 1. De Afrika evaluatie wordt door de Inspectie Ontwikkelingssamenwerking en Beleidsevaluatie (IOB) beschouwd als âvlaggenschipâ van een overheidsdienst, een vlaggenschip dat uitmunt in grondigheid, zorgvuldige onderbouwing en representativiteit van de bevindingen. De neerslag van deze mega-evaluatie werd dan ook âmet enige trotsâ aan het publiek voorgelegd. Niet verwonderlijk is dat een met zoveel verve gepresenteerd stuk ook kritiek uitlokt. De evaluatie die wij op verzoek van de Directeur Generaal Internationale Samenwerking van het Ministerie van Buitenlandse Zaken hebben verricht, heeft de kritiekpunten vanzelfsprekend nagegaan. In dit verband mag niet worden vergeten dat de Afrika evaluatie van IOB ook veel lof heeft geoogst. Bovendien is deze zeker geslaagd in het op gang brengen van discussie. Daarmee heeft IOB de betrokkenheid bij het Nederlandse bilaterale beleid in Afrika vergroot. 2. Kritiek is geuit van binnen en van buiten het departement. Een terugkerend element in de externe kritiek op de evaluatie is dat het beleid zelf nogal instrumentalistisch is (zie in dit verband het motto boven dit rapport). Doordat IOB vanuit dat beleid naar de werkelijkheid pleegt te gaan -en dus niet omgekeerd: van werkelijkheid naar beleid - krijgt ook de IOB methodologie een instrumentalistisch uitgangspunt. 3. De Afrika evaluatie is aanleiding geweest tot een eerste verzoek van DGIS om een IOB evaluatie extern te doen evalueren. Vanzelfsprekend confronteerde deze opdracht ons met de wijze van evalueren door IOB in het algemeen. Veelal moet het navolgende commentaar op de Afrika evaluatie dan ook in een breder kader worden verstaan. Dit klemt temeer nu in de Afrika evaluatie van vele eerdere IOB studies gebruik is gemaakt. 4. Onze opdracht was vanzelfsprekend niet de IOB Afrika evaluatie âin hoger beroepâ te nemen maar deze uitsluitend te beoordelen op methodologie en organisatie met het doel hiervan te leren door het verschaffen van inzicht in de aard en de aanpak van de IOB-evaluatie. 5. Bij IOB troffen wij een buitengewoon evaluatievriendelijke omgeving. Alle gesprekspartners waren open, gingen geen enkele vraag uit de weg en toonden zich uitermate behulpzaam in het opsporen en ter beschikking stellen van welk document dan ook. Wij hebben deze blijken van grote professionaliteit zeer gewaardeerd. 6. Wat ons bij bestudering van de documentatie bovenal treft, bij zowel politici als beleidsmakers en als reflectie daarvan ook bij de âaan de overkantâ zetelende IOB, is inderdaad een geloof in het kunnen kennen, sturen, ontwerpen en âmakenâ van uiterst complexe verschijnselen, processen en structuren. Hierbij lijkt er een voorkeur te bestaan voor grand design, c.q. grand strategy denken: beleid is een samenhangend geĂ«xpliciteerd stelsel van uitgangspunten, overwegingen, maatregelen, procedures en praktijken; vandaar de nadruk op integratie en coherentie. De werkelijkheid daarentegen is weerbarstig, gefragmenteerd, turbulent, met onbedoelde, onverwachte en ongewenste effecten bij gepland ingrijpen, hetgeen in plaats van bescheidenheid voortdurend leidt tot nieuwe ingrepen: afnemende beleidseffectiviteit gaat gepaard met toenemende beleidsinspanningen. Het is nog maar de vraag of een omvattend, geĂ«xpliciteerd, geĂŻntegreerd, coherent model -te definiĂ«ren als een geformaliseerde calculus met het daarbij behorende grand design/grand strategy denken en handelen- te verkiezen valt boven het garbage can model dat uitgaat van een moeilijk te organiseren chaotische werkelijkheid. Moet het beleid niet meevibreren met die turbulentie? Moet het beleid niet altijd meer opportunity snatching zijn vanuit een beperkt aantal doelstellingen met op de concrete situatie toegesneden werkwijzen en daarbij behorende overdracht van uitvoeringsbevoegdheden naar de lokale context (discretionaire ruimte van de basis)? Vanuit een dergelijke optiek wordt veel meer de politieke, de momentane, de contextuele dimensie van beleidsvorming en beleidsuitvoering erkend (âPolicy is embedded in politicsâ, Joseph Schumpeter) dan in het meer bureacratisch-technocratische beleidsdenken en een daarop gebaseerde evaluatiemethodologie. Een meer discretionaire beleidsopvatting gebaseerd op normatieve uitgangspunten en processen van globale aard in plaats van minutieus uitgewerkte doelstellingen en gedragsregels sluit dan ook goed aan bij de wens van elk nieuw kabinet een eigen stempel op beleid te drukken. Bovendien verhoudt zich dit beter tot de partnership/ownership ideologie. Een vanzelfsprekend bezwaar is dat een dergelijk perspectief transparantie, verantwoording en meetbaarheid van effecten sterk bemoeilijkt en niet goed past in een sfeer van âgeorganiseerd wantrouwenâ . 7. Vanuit een instrumentalistische visie op beleid is ook een monitoring- en evaluatiemethodologie ontwikkeld, de zgn. evidence-oriented evaluation. Dit heeft direct implicaties voor de wijze waarop IOB de totstandkoming van beleid benadert. IOB maakt een rationele reconstructie van dit proces en gaat daarna het gerealiseerde beleid in de uitvoering evalueren. Een consequentie hiervan is dat kritische reflectie op de gemaakte beleidskeuzen beperkt blijft. IOB heeft in feite via logframe analyse een interventielogica gereconstrueerd (reconstructed logic). Vanuit deze reconstructie komt men tot het definiĂ«ren van het materiaal dat nodig is voor opstellen van de Terms of Reference (ToR). Men zoekt vervolgens een wijze van monitoring die is gebaseerd op een lineaire logica in termen van oorzaak-gevolg ketens, al dan niet in de vorm van stochastische processen en pad-analyses. Maar doet een dergelijke monitoring- en evaluatiemethodologie wel recht aan de complexiteit van ontwikkelingsprocessen met messy partnerships, strategische allianties, uitdijende netwerken en coalities met wisselende knooppunten? Kan vanuit het logframe denken wel voldoende aandacht worden besteed aan opkomende en wisselende machtsverhoudingen? Wordt hiermee wel een adequate basis geleverd voor zich ontwikkelende (beleids)dialogen (i.p.v. simpele monoloog) en daarmee gepaard gaand ownership in het ontvangende land? 8. Bij zowel IOB als de beleidsafdelingen confronteerde het onderzoek ons met vooroordelen aangaande âde overkantâ. In dat licht rijst de vraag of bij de huisvesting van IOB in een apart gebouw het âoverkantâ aspect wel is meegewogen. Hoe dat ook zij, de positionering van IOB als onafhankelijke dienst binnen Buitenlandse Zaken maakt een geĂŻntegreerde beleving van de bedrijfscultuur gewenst, zo niet noodzakelijk. 2: Aanzet, aanpak en uitvoering 2.1 De Terms of Reference (ToR) 9.  Inzake de Afrika evaluatie heerst het misverstand dat deze voortkwam uit een verzoek van de Tweede Kamer. De Afrika evaluatie stond echter al in de zogeheten voortrollende programmering van 2000-2001; toen werd er gesproken over âGeĂŻntegreerd Afrikabeleidâ. In de IOB programmering 2003-2007 kwam âonder invloed van de eerdere coherentie brieven van minister Herfkensâ de term coherentie naar voren (âCoherentie Afrikabeleidâ). Met deze reeds bestaande programmering als uitgangspunt is door de Kamer gevraagd om een prioritering van dit onderdeel van het werkprogramma. Uit het verslag van het Algemeen Overleg waarin dit aan de orde kwam, blijkt dat de Kamer doelde op een evaluatie van âhet coherente Afrikabeleidâ. Hierbij had men in het bijzonder het oog op de effecten van integratie van de sectoren Ontwikkelingssamenwerking (OS) en Buitenlandse Zaken algemeen (BZ), zoals beoogd in de herijkingsoperatie en op de coherentie met beleid gevoerd vanuit andere departementen zoals Landbouw, Economische Zaken en FinanciĂ«n. Op 8 december 2004 zegde de minister voor ontwikkelingssamenwerking toe in 2005 de nodige voorbereidingen te treffen âom in 2006 de uitvoering daadwerkelijk ter hand te nemen.â 10. Uit het verslag van het Algemeen Overleg van 8 december 2004 blijkt dat de Kamer vooral benieuwd was naar een beoordeling van de veranderingen in de organisatie van de beleidsuitvoering, allereerst intradepartementaal, maar daarnaast ook interdepartementaal. IOB heeft vervolgens deze vraag uitgebreid naar het beleid als zodanig en toegespitst op het bilaterale kanaal met zeer grote nadruk op de OS sector. In de loop van het proces van verder beperken van wat in empirisch opzicht als een immense opdracht werd gezien heeft het âdoorsnijdend thematischâ perspectief van âcoherent beleidâ sterk aan betekenis verloren. 11. Een Afrikabeleid in de zin van een op Sub Sahara Afrika gerichte contextuele analyse van belemmeringen en mogelijkheden voor armoedebestrijding, vrede en veiligheid en duurzame ontwikkeling, gevolgd door een daarop gebaseerde keuze van doelstellingen en beleidsinstrumenten was er overigens niet. Het Afrikabeleid als zodanig evalueren is dan ook ondoenlijk. Zonder thematisch perspectief moest wel worden afgebakend. Dat bleek moeilijk vanwege de geografische en financiĂ«le omvattendheid van het object van onderzoek, de geringe sturing van bovenaf en de eigen dynamiek van het ministerie. Zo was er in de te onderzoeken periode een overgang gemaakt van project- en programmahulp naar algemene begrotingssteun (ABS) waarvoor echter geen op Afrika gerichte beleidskaders bestonden. Op wezenlijke punten ontbrak het bovendien aan een eenduidig beleid, hetwelk âparadoxaalâ blijkt uit het feit dat er 84 beleidsnotaâs in de evaluatieperiode zijn verschenen. Kortom, weinig concrete noties en weinig sturing. 12. Er is dan ook al vrij snel besloten een âcapita selectaâ indeling te kiezen. Hierbij is niet primair de ministeriele organisatiestructuur maar de toewijzing van gelden als criterium gehanteerd (âfollow the moneyâ). Hiernaast is deels ook de concrete uitvoering onderzocht. Beleid bestaat immers niet alleen uit notities, maar ook uit praktijken. Er valt wellicht te concluderen dat juist de capita selecta benadering het ultieme bewijs vormt dat er geen eenduidig coherent beleid was. Bij de capita selecta aanpak is men in belangrijke mate gebonden aan reeds afgeronde IOB studies. Zo loopt men noodgedwongen -gegeven randvoorwaarden van tijd en geldâ tegen eigen beperkingen aan. 13. In dit verband valt nog op te merken dat in het cruciale proces van totstandkoming van de ToR de betrokkenheid vanuit DGIS niet optimaal is geweest en dat de referentiegroep pas ging vergaderen nadat de ToR waren vastgesteld. In de IOB praktijk is dat laatste ongebruikelijk. 14. In de ToR worden drie hoofdonderwerpen geformuleerd: beleidsontwikkeling, beleidsuitvoering en beleidsresultaten. Ter zake van een evaluatie van de uitvoering van beleid blijkt het om vier kernvragen te gaan: (1) is beleid daadwerkelijk uitgevoerd, blijkend onder meer uit bestedingen? (2) had de beleidsimplementatie een integraal karakter? (3) speelden beleid en wensen van het ontvangende land een rol? (4) zijn aantoonbaar maatregelen getroffen om coherentie te bevorderen? 15. Noodgedwongen heeft IOB zich bij de selectie van onderwerpen vooral moeten laten leiden door de beschikbaarheid van bestaand materiaal. Slechts in beperkte mate was het mogelijk nieuwe evaluaties uit te voeren. 16. Uiteindelijk blijkt de evaluatie vooral in te gaan op het uitgavenpatroon. Uiteraard heeft dit consequenties voor de mate waarin gangbare IOB criteria (te weten: relevantie, doeltreffendheid en doelmatigheid) kunnen worden gehanteerd. Het beantwoorden van de vraag hoe OS-gelden zijn uitgegeven is uiteraard wat anders dan de vraag naar een evaluatie van het Afrikabeleid. Wel moet worden opgemerkt dat in een aantal hoofdstukken de outcome in kaart wordt gebracht, zoals bij algemene begrotingssteun, humanitaire hulp, onderwijs en water. Tot op zekere hoogte is dit ook het geval bij stedelijke armoedebestrijding en bevordering van de rechtstaat. Bij HIV/Aids is hiertoe ook een poging ondernomen, maar dat was moeilijker omdat Nederland qua beleid een bescheidener donor is. 17. Bij vaststelling van de ToR is meermalen gependeld tussen de vraag naar consistentie en die naar coherentie van beleid, maar dan bezien door Nederlandse bril. Ook in de evaluatie context is nauwelijks sprake van ownership en/of partnership met de objecten van evaluatie: de Afrikaanse actoren. De ToR zijn vastgesteld binnen âHaagseâ kaders door âHaagseâ partijen. Een typerend gevolg daarvan is dat bij deze evaluatie Afrikaanse consultants nauwelijks waren betrokken. 18. Het vaststellen van de ToR heeft meer dan een vol jaar in beslag genomen (dec. 2004 - maart 2006). In de Tweede Kamer was de lange âincubatieperiodeâ door de minister voor ontwikkelingssamenwerking reeds aangekondigd. De redenen daartoe zijn niet geheel duidelijk; de Kamer ging er niet op in. 19. De afbakening is totstandgekomen via interne en externe brainstormsessies. De lange periode die deze fase in beslag nam kan wellicht ten dele verklaard worden uit het verzoenen van (a) wensen en verwachtingen van de Tweede Kamer met (b) opvattingen en belangen van de diverse beleidsafdelingen op het ministerie, alsmede (c) reĂ«le uitvoeringsmogelijkheden. Hierbij moesten vele beleidsnotities geanalyseerd worden, cijfers worden verzameld en mogelijke keuzes worden besproken in het licht van praktische beperkingen van tijd en geld. Gezien de opdracht coherentie een plaats te geven moesten ook andere ministeries erbij worden betrokken. Uiteindelijk is gekozen voor een focus op heel Sub Sahara Afrika en het grotendeels baseren van de evaluatie op bestaand (evaluatie)materiaal. Hier komt nog een specifieke reden bij: de overgang naar de sectorale wijze van werken. De complementariteitstheorie is hiermee verbonden. De NGOÂŽs en SNV zitten in het veld, en de leden van de ambassade zitten achter hun bureaus, onderhouden contacten en voeren dialogen met de ambtenaren van het ontvangende land en politici. Mede op grond van deze overwegingen werd besloten de evaluatie te beperken tot bilaterale samenwerkingsrelaties en de multi- en civilaterale kanalen buiten beschouwing te laten, een beperking die de representativiteit van de evaluatie in termen van het leereffect negatief heeft beĂŻnvloed. 20. Het âafstemmingsprocesâ heeft begin 2006 geleid tot een concept ToR. Hierop had DAF op vijf punten commentaar (zie verslagen gesprekken IOB-DAF en e-mail correspondentie). IOB heeft vier daarvan overgenomen. Ook de Coherentie-eenheid had commentaar (zie e-mail correspondentie) met als resultaat dat suiker is vervangen door snijbloemen. Het resultaat van deze langdurige consultatie is vervolgens aan beide ministers (M, R) via de secretaris generaal (S) op 7 maart 2006 aangeboden. Mede op basis van een gesprek tussen S en IOB (in aanwezigheid van DGIS, DAF en BSG) is een enigszins bijgestelde ToR op 30 maart 2006 toegezonden aan directeuren en DGâs, alsmede aangeboden aan beide ministers. Op 25 april tenslotte is de definitieve ToR â identiek aan de 30 maart versie - vastgesteld door waarnemend directeur IOB. 21. Later zijn overigens wel, mede onder druk van de externe referentiegroep, onderwerpen toegevoegd die niet in de ToR waren aangegeven. Zo stond schuldverlichting aanvankelijk niet in de ToR, maar is dit later toegevoegd omdat het qua omvang de eerste hulpcategorie bleek te zijn. Hiervoor heeft de eerdere studie uit 2003 als basis gediend. Bij de presentatie op de Ambassadeursconferentie in 2006 werd duidelijk dat plattelandsontwikkeling van groot belang werd geacht, een onderwerp dat niet alleen in termen van coherentie (internationale handel) aan de orde gesteld kon worden. Dit heeft IOB in een overleg met de externe referentiegroep op 21 juni 2007 doen besluiten een apart hoofdstuk hieraan te wijden. Onderwijs is ook in een later stadium -midden 2007- aan de evaluatie toegevoegd, in samenspraak met de referentie groep en de desbetreffende afdelingen van het ministerie. 22. Kortom, er is een zekere mate van discrepantie tussen de definitieve ToR en de uiteindelijke uitvoering. Daarbij is sprake van zowel versmalling als verbreding. Onderwerpen zijn toegevoegd, de coherentie vraag werd niet de centrale focus en de vraag naar geĂŻntegreerd werken waartoe in elk geval ook de intradepartementale samenwerking behoort, komt slechts beperkt aan bod. 23. In de uitvoering van het onderzoek zijn ten opzichte van de ToR enkele inconsistenties waar te nemen: (1) Alhoewel coherentie oorspronkelijk een kernoverweging vormde is het uiteindelijk vooral een OS evaluatie geworden. Weliswaar zijn handel en investeringen alsmede de politieke veiligheidskant enigszins aan bod gekomen, maar niet culturele samenwerking, niet universitaire samenwerking. (2) Wat beleidsontwikkeling betreft heeft de evaluatie zich beperkt tot het bilaterale kanaal (ook al is het Nederlands beleid natuurlijk beĂŻnvloed door internationale ontwikkelingen), maar in de uitvoering zijn ook multilaterale activiteiten onderwerp van evaluatie. Er wordt veel geld gegeven via multilaterale kanalen die echter via het bilaterale kanaal worden geboekt (zoals humanitaire hulp). Dit geldt ook voor het deel van de sectorsteun dat multilateraal wordt uitgevoerd. (3) Het aanvangsjaar van de evaluatie is 1998, het jaar waarin de âherijkingsoperatieâ werd voltooid en men bij BZ geĂŻntegreerd ging werken. De werking van de als gevolg daarvan gecreĂ«erde âmatrixstructuurâ is evenwel buiten de ToR gehouden. IOB stelt dat er nu eenmaal keuzes moesten worden gemaakt uit de vele relevante onderwerpen. Al bij eerste aftasting bleek dit een ingewikkelde, netelige kwestie (dit punt was wel opgenomen in de concept ToR). Vervolgens heeft men dit onderwerp âeigenlijk het gehele vraagstuk van beheerâ laten vallen; er is dus niet nagegaan of de matrixstructuur in de praktijk goed werkt. Alhoewel wij begrip hebben voor het niet behandelen van dit onderwerp valt dit wel te betreuren, gegeven het belang dat gehecht wordt aan integratie en coherentie. Navraag onzerzijds leerde dat naar de âsubjectieveâ mening van informanten de werking van deze matrixstructuur suboptimaal is. 2.2 Representativiteit 24. De representativiteit verschilt uiteraard van deelstudie tot deelstudie. Bij algemene begrotingssteun en schuldverlichting is deze verreweg het grootst; bij andere onderdelen is deze echter beperkt. Uit raadpleging van de stukken ontstaat de indruk dat IOB pas tijdens het proces inzicht kreeg in het totale uitgavenplaatje van acht jaar bilaterale betrekkingen met Afrika. Dit had aan keuzes vooraf moeten gaan, hetgeen overigens gemakkelijker is gezegd dan gedaan! Er zouden wellicht andere keuzes zijn gemaakt âbijvoorbeeld inzake het coherentiedossier- als er van tevoren een duidelijk statistisch overzicht was geweest en daarover eerst een goed categoriseringsgesprek tussen IOB en de referentiegroep (inclusief externe referenten) zou zijn gevoerd. 25. Zoals al opgemerkt is noodgedwongen gebruik gemaakt van reeds bestaande evaluaties, daar de tijdspanne kort was. Er is expliciet afgesproken dat er zo veel mogelijk geput zou worden uit de courante kennis en activiteiten van IOB. Hier passen enkele kanttekeningen: (1) Wellicht heeft IOB onvoldoende aandacht gegeven aan politiek geĂŻnitieerd beleid, zoals de kwestie van entry/exit themaâs en landen alsmede ad hoc beleidsontwikkelingen (kwestie Soedan). Het gaat hier veelal om politieke profilering van de bewindspersonen en om ad hoc beleid voortvloeiend uit onverwachte actuele situaties. De effecten van zulke beleidskeuzes zijn moeilijk te meten. Het is methodologisch eenvoudiger aan de hand van het reeds vastgestelde âformeleâ beleid na te gaan of de âreguliereâ miljarden die jaarlijks worden besteed leiden tot het halen van de MDGâs. (2) Er is bij drie dossiers sprake van recycling: humanitaire hulp, sectorsteun en schuldverlichting. Als zodanig brengen deze geen nieuws (alhoewel ze wel zijn aangevuld met recente data). Recycling op zich kan geen twistpunt zijn. Het betreft hier belangrijke dossiers, niet in de laatste plaats omdat het daarbij vooral gaat om algemeen OS beleid en niet zozeer specifiek Afrikabeleid met daarbij behorend specifiek Afrika instrumentarium. Bovendien gaat het er om of de evaluaties de toets der kritiek kunnen doorstaan, of deze nog actueel zijn en of er wat met de evaluaties is gedaan. In dit verband missen we het systematisch mee in de evaluatie betrekken van de beleidsreacties op de uitgevoerde evaluaties en de vraag of die al dan niet tot veranderingen hebben geleid. 26. Pas op een laat moment is besloten schuldverlichting toe te voegen. De argumentatie van IOB is dat met de evaluatie inzake schuldkwijtschelding nooit eerder iets is gedaan, terwijl het om de grootste uitgavenpost gaat. Een analoge redenering kan worden gegeven voor de evaluatie inzake sectorsteun. Hiervoor geldt trouwens dat het Ă©Ă©n van de beste IOB evaluaties is, dat het een nog steeds actueel onderwerp behelst dat verstrekkende invloed heeft gehad voor de hulp aan Afrika en dat het een aantal regelrecht te gebruiken casussen bevat, waarvan alleen de cijfers enige actualisering behoefden. 3. Opzet en uitvoering van het onderzoek 27. Inzake de opzet en uitvoering van het onderzoek vallen drie dimensies te onderscheiden: de contextualisering, de conceptualisering en de methodologie. 3.1 Contextualisering 28. Wat de contextuele dimensie betreft kan allereerst worden verwezen naar wat hierboven al werd gesteld over het ontbreken van een daadwerkelijk Nederlands Afrikabeleid. Juist de loskoppeling van coherentie als centraal thema in combinatie met de focus op heel Sub Sahara Afrika bilateraal maakte de evaluatie tot een âMission Impossibleâ. Ook de drie eigenlijke Afrika notities van 1998, 1999 en 2003 gingen uit van een algemeen ontwikkelingsbeleid gebaseerd op âbenaderingenâ zoals de sectorale aanpak en themaâs zoals âcoherentieâ en âgoed bestuurâ. De meest expliciete daarvan is overigens de laatste, âSterke mensen, zwakke statenâ geheten. Opvallend is wel dat van de vijf daarin vermelde prioriteiten Pro Poor Growth nauwelijks en Milieu in het geheel niet aan de orde komt in de IOB Afrika evaluatie. De prioriteit Goed Bestuur komt wel expliciet tot uitdrukking. Zo lezen we onder de Bevindingen in 3.4.3: âHet thema goed bestuur kreeg een bredere inkleuring in het beleid (goed bestuur als doel en als middel) en kwam in vele beleidsstukken terug. Niettemin is voor goed bestuur geen duidelijk beleid geformuleerd.â Hierbij valt aan te tekenen dat âGood Governanceâ met name vanuit de multilaterale hoek op de agenda werd gezet. 29. Wat gezien de nadruk op beleidsthemaâs dan ook wordt gemist is een analyse hoe internationale thematrends (GG, PRSPâs, MDGâs etc.) zich vertalen in Nederlands âbeleidâ. Algemeen beleid inzake ontwikkelingssamenwerking is niet zozeer Nederlands als wel internationaal: Nederland loopt mee (maar verkeert wel in de kopgroep), bijvoorbeeld in de concentratie op een beperkt aantal sectoren en in de verschuiving van project- naar programmasteun of nog liever macro-economische ondersteuning om vertrouwen te tonen en een gelijkwaardige relatie te bevorderen (ownership). 30. Dat er alleen kan worden gesproken van een op Afrika toegepast OS instrumentarium en niet van een authentiek Afrikabeleid is een niet onbelangrijk punt want Afrika zou juist bij uitstek kans op integraal en samenhangend beleid bieden. Op dit continent vloeien immers alle vraagstukken samen, waardoor politieke, economische en ontwikkelingsinstrumenten in samenhang kunnen worden bekeken. Uit opmerkingen vanuit de referentiegroep blijkt overigens dat de beschouwing van Sub Sahara Afrika als een werkelijkheid met bepaalde gemeenschappelijke kenmerken als een aanvechtbare aanname wordt gezien. Er is inderdaad grote verscheidenheid en van daaruit bezien veel meer kans op variĂ«teit dan op eenvormigheid, tenzij men achter de verscheidenheid zou gaan zoeken naar onderliggende structurele kenmerken. Juist die onderliggende factoren kunnen niet goed tot hun recht komen bij de evaluatiepraktijk van IOB aangezien die het beleid zelf tot uitgangspunt van de analyse maakt. Zo ontbreekt een centrale vraag naar de kernkenmerken van de Afrikaanse staat zoals die heeft vorm gekregen in het postkolonisatie proces. Van het inleidende hoofdstuk 2 âFeiten en achtergronden voor het Nederlandse Afrikabeleidâ mocht een schets worden verwacht van de politieke, economische en culturele context waarin het Nederlandse Afrikabeleid gedurende de geĂ«valueerde periode heeft geopereerd. 31. IOB merkt in dit verband op dat een veel uitgebreider conceptrapport van de evaluatie (augustus/september 2007) is besproken met de ambassadeurs tijdens de conferentie van 7 september; hierin speelde de context een veel belangrijker rol. Hoofdstuk 2 bestond in het conceptrapport uit 4 hoofdstukken en die bevatten veel meer contextuele analyse. Er moest evenwel een keuze worden gemaakt: het boek werd te omvangrijk; nu zijn het al 600 paginaâs. Bovendien worden de toespitsingen van de beleidsanalyse op bepaalde landen steeds vooraf gegaan door opmerkingen over de context aldaar. In de slotconclusies komen bovendien bepaalde trends naar voren. 32. Blijft staan dat onderliggende structurele factoren en âtrendsâ in het aan de beleidsanalyse voorafgaande Afrika hoofdstuk node worden gemist. Wij achten het geenszins uitgesloten dat de âbeleidsomgevingâ in Sub Sahara Afrika getypeerd kan worden door een aantal betrekkelijke constanten. Zo vermeldt een recente âPower and Change Analysisâ met betrekking tot Zambia (uitgevoerd in opdracht van de ambassade) zestien politieke en drie economische ontwikkelingsremmende factoren die ongetwijfeld ook in de evaluatieperiode speelden en voorlopig nog wel in vele landen in Sub Sahara Afrika relevant zullen blijven. Samenvattend komt dit neer op een slecht functionerende staat, zowel in de âadministration of justiceâ als in de levering van collectieve goederen en diensten (om van voorzieningen voor sociale bescherming van de burger maar te zwijgen), een uiterst gebrekkig âsociaal contractâ (verhouding tussen staat en burger inclusief institutionele en culturele worteling van democratie) en een hoogst inadequate basis voor gezonde overheidsfinanciĂ«n en publiek financieel management. 33. Vanuit zulke âmajor issuesâ zou men veranderingsprocessen in Afrika kunnen analyseren om vervolgens te bezien welke factoren (interne en externe) van belang zijn geweest bij de veranderingen ten goede en ten kwade om van daaruit te evalueren welke rol het Nederlandse beleid mogelijk heeft gespeeld (zowel in positieve als mogelijk ook in negatieve zin). Kortom, beleidsvorming vereist allereerst een holistisch âwerkelijkheidsperspectiefâ om van daaruit strategische keuzen te maken en datzelfde geldt voor beleidsevaluatie als reflectie hiervan. Dit brengt ons op de conceptualisering van de Afrika evaluatie. 3.2. Conceptualisering 34. Geconstateerd is reeds dat vanuit het beleid naar de werkelijkheid wordt gekeken. Principieel te verkiezen zou zijn vanuit de werkelijkheid de beleidsevaluatievragen te formuleren. Wat is er in de periode in kwestie in de desbetreffende regio (c.q. land) veranderd, wat was in termen van armoedebestrijding, vrede en veiligheid en duurzame ontwikkeling positief en wat negatief en hoe moet in het licht hiervan het Nederlandse beleid en de uitvoering daarvan worden beoordeeld, mede gezien de eisen voortvloeiende uit harmonisatie en alignment? Daarna kon een voor de regio gemaakte analyse worden gespecificeerd per gekozen land. Tenslotte zou de vraag aan de orde komen hoe het coherente beleid en het geĂŻntegreerde apparaat hierop hebben willen inspelen, voor welke concrete activiteiten met bijbehorende uitgaven werd gekozen en hoe dit alles heeft uitgepakt. Zo zou bijvoorbeeld ook de vraag aan de orde komen in hoeverre kon worden bijgedragen aan behoud van politieke en economische stabiliteit in plaats van louter na te gaan hoe op crises werd gereageerd. Door zich naast ontwikkelingssamenwerking en algemeen buitenlands beleid ook te richten op landbouw, defensie, handel en investeringen zou de vraag naar coherentie als daadwerkelijk âdoorsnijdend themaâ in kaart kunnen worden gebracht. Omdat in deze opzet een evaluatie gericht op heel Sub Sahara Afrika niet wel mogelijk was, had men kunnen besluiten deze te richten op twee regioâs, bijvoorbeeld zuidelijk Afrika en het grote meren gebied (vanwege de actuele problematiek op het terrein van vrede en veiligheid). Vanzelfsprekend ware het dan aan te bevelen geweest de Kamer tussentijds hierover in te lichten ââheel Sub Sahara Afrika is onmogelijkâ- en zich open te stellen voor inspraak met betrekking tot de regiokeuze. Hierbij moet wel worden aangetekend dat men in deze opzet met een groot meetprobleem zou blijven zitten, te weten de aggregatie- en attributieproblematiek: ook dan âen wellicht zelfs in sterkere mate- zal het uitermate problematisch zijn de relatieve effecten te meten van (ingrepen op) processen (c.q. variabelen). Daartegenover staat wel de vergroting van het leereffect. 35. Tegenover het virtuele alternatief van een geografische selectiviteit biedt de door IOB gekozen aanpak het voordeel dat zowel naar de uitgaven- als naar de landenkant een hoge mate van representativiteit kan worden bereikt. Dit past bij de relatieve nadruk op verantwoorden in verhouding tot leren, de twee hoofddoelen van elke evaluatie die overigens tot elkaar in een permanente spanningsverhouding staan. Het bezwaar van de door IOB gekozen aanpak is evenwel dat de werkelijkheid slechts wordt bezien vanuit de rood-wit-blauwe beleidsbril met vervolgens een nadruk op de uitgaven (follow the money). Het leerelement wordt dan sterk ondergeschikt. Typerend is dat IOB in de Afrika evaluatie niet kon toespitsen op de drie maatstaven uit de eigen richtlijnen -relevantie, effectiviteit en doelmatigheid- omdat dit een mer Ă boire zou zijn geworden. Maar vooral door het wegvallen van ârelevantieâ is het locale leereffect nogal beperkt gebleven. 36. Overigens achten wij het sterk de vraag of het kader waarbinnen IOB moest opereren wel geschikt is voor een dergelijk zeer omvattend geheel van activiteiten. Het gaat om een uiterst gecompliceerde aangelegenheid. Landen, regioâs en beleidsterreinen zijn open âsystemenâ die in voortdurende wisselwerking met hun âomgevingenâ verkeren. Mede als gevolg daarvan zijn zij dynamisch en complex waardoor gegevens die het mogelijk maken effectiviteit eenduidig te meten, altijd gebrekkig zijn: âAny cause map is an oversimplification of situationsâ of, zoals Hedley Bull het eens stelde: âThe world is infinitely more complex than our argumentsâ. 37. Hier komt bij dat het Afrika evaluatierapport is gebouwd op verschillende soorten bronnen: vooral zijn bestaande evaluaties benut, daarnaast bureaustudies, bureaustudies aangevuld met veldstudies en tenslotte complete veldstudies met impactmeting. De benadering waartoe dit alles leidde, is die van de al aangeduide âcapita selectaâ met steeds een toespitsing op de vraag naar uitgaven/bestedingen. Maar is er zo nog wel voldoende zicht op de effecten van de bestedingen in de locale context? Terecht zegt IOB ook zelf dat het rapport niet representatief is voor het geheel van inspanningen en resultaten, doch slechts indicatief en illustratief. Terwijl IOB zelf zich zeer bewust blijkt te zijn van de beperkingen, worden die nuancering en relativering met name in commentaren in de media nogal eens vergeten. Van belang blijft overigens dat juist de beleidsonderdelen waarop veel kritiek komt -schuldverlichting (70% dekking), algemene begrotingssteun (85% dekking)- het meest representatief zijn. 38. IOB stelt zich op het standpunt dat een alternatieve optiek niet aan de orde was gezien de vraag om deze evaluatie vanuit de Kamer (hetgeen, zoals opgemerkt, niet geheel correct is). Het ging er immers niet om wat goed is voor een land als Zambia, maar wat gezegd kan worden over beleidsontwikkeling, beleidsimplementatie en beleidseffecten van het Nederlandse bilaterale beleid. IOB kon in deze context slechts als startpunt nemen dat er 84 rapporten waren, dat veel mensen die met uitvoering van het beleid zijn belast niet op de hoogte zijn van het bestaan van die rapporten, dat een volstrekt willekeurig deel van de rapporten naar de Tweede Kamer wordt gestuurd en een ander deel niet en dat er op een aantal punten geen beleid was. Vanuit die positionering komt IOB tot de conclusies dat er op sommige punten te veel beleid is, op andere punten te weinig en dat op weer andere punten niets met beleid is gedaan (geen implementatie). Op zich is deze benadering volstrekt legitiem, maar er resteert dan een descriptieve en analytische benadering, waarbij een kritisch reflexieve kijk op beleid en de uitvoering daarvan niet tot wasdom kan komen. 39. Wie van âbeleidâ spreekt, zegt daarmee ook âconsistentieâ. Deze maatstaf ontbreekt niet alleen in het IOB Afrika rapport maar ook in het IOB werkdocument âRichtlijnen voor IOB evaluatiesâ van mei 2003. Wat Nederland via bilaterale overheidsinterventies in Afrika tussen 1998 en 2006 deed, wordt dan ook niet op consistentie doorgelicht. Zo ontbreekt, zoals hierboven al aangeduid, een beschouwing over het van minister op minister wisselende landenbeleid. Kaap VerdiĂ« bijvoorbeeld werd van concentratieland milieuland, toen milieu-plus-partnerland en wordt nu weer partnerland af. Een andere vraag ten aanzien van de geĂ«valueerde periode is hoe de beleidsverandering in kwestie op zichzelf te beoordelen viel. Zo werd, om slechts Ă©Ă©n voorbeeld te noemen, in 1998 Guinee Bissau als partnerland geschrapt. Met niet meer dan vijf miljoen euro per jaar was Nederland daar de voornaamste donor. Zouden in een beleidsevaluatie over een bepaalde periode zulke veranderingen van beleid niet mede op consistentie moeten worden doorgelicht? 40. De opzet en organisatie van de evaluatie kon dus niet logisch voortvloeien uit consistent beleid. Bovendien was er de tijdsbeperking. Onder die omstandigheden is gekozen voor de al vermelde aansluiting bij bestaande studies met toevoeging van enkele nieuwe. De hoofdstukindeling waartoe dit heeft geleid volgt niet een beleidsmethodologie gericht op Afrika maar beleid zoals op Buitenlandse Zaken vorm gegeven. Het draait om politiek en beleid in Nederland, niet om de Afrikaanse werkelijkheid. De categorieĂ«n waartoe dit leidt zijn al methodologisch en organisatorisch verschillend. Zo volgen ze enerzijds specifieke beleidsterreinen zoals HIV/Aids-bestrijding, onderwijs en plattelandsontwikkeling en anderzijds vormen van interveniĂ«ren zoals de sectorbenadering en algemene begrotingssteun. Daarnaast zijn er de zogeheten âdoorsnijdende themaâsâ zoals coherentie en goed bestuur. 41. Het ware beter geweest de evaluatie te ordenen via (a) axiomaâs/doelstellingen die aan beleid ten grondslag liggen (zoals structurele armoedebestrijding, eventueel Millennium Development Goals); (b) interventiestrategieĂ«n en -instrumenten zoals sectorsteun, programmasteun, algemene begrotingssteun, schuldkwijtschelding; (c) overkoepelende, doorsnijdende â zogeheten transversale - themaâs zoals coherentie, goed bestuur; (d) specifieke themaâs c.q. beleidsterreinen zoals HIV/Aids bestrijding, onderwijs en dergelijke. 42. In de onderhavige evaluatie zijn nauwelijks Afrikaanse consultants ingeschakeld. Gegeven de noodzaak terug te grijpen op bestaande deel evaluaties en de nadruk op beleidsreconstructie is dat begrijpelijk, maar het onderstreept nog eens het rood-wit-blauwe karakter van evaluaties die vanuit het Nederlandse beleid naar de werkelijkheid gaan in plaats van omgekeerd. 3.3 Methodologie 43. Gegeven de conceptualisering van het onderwerp van de evaluatie en de mogelijkheden binnen het beperkte tijdsbestek van ruim een jaar heeft IOB een goede balans gevonden tussen verschillende methoden van dataverzameling en analyse. Terecht wijzen de auteurs van de studie zelf op het grote probleem van de counterfactuals bij impactstudies waardoor de attributievraag niet goed beantwoord kan worden. Effectmetingen, met andere woorden, blijven zeer problematisch. 44. Uiteindelijk gaat het om evidence based policies en de daaraan gerelateerde âevidence-oriented evaluationâ, maar effecten van beleid zijn moeilijk vast te stellen in een dynamische, open, gelaagde, multi-actor context opgebouwd uit vele netwerken waarbij ketenanalyse in een netwerkmodel onontbeerlijk is: hoe immers valt het effect van een maatregel te bepalen in een dergelijke vloeiende werkelijkheid met alle attributieâ en aggregatie problemen vandien? 45. Naar onze indruk is maar in beperkte mate een ketenanalyse toegepast; uiteindelijk ging het alleen om Nederlandse hulp en niet om de samenwerking met andere donoren (waarmee netwerken worden gevormd) en evenmin om de multi- en civilaterale kanalen die toch ongeveer de helft van het totale budget uitmaakten. Bovendien lag de nadruk op deskstudies. 46. Het geringe gebruik van ketenanalyse in deze evaluatie valt wel te betreuren omdat een dergelijke analyse juist goed past bij de ommezwaai die de laatste tien jaar heeft plaatsgevonden in het denken over de bilaterale hulp. Er is consensus gegroeid over een nieuwe interventietheorie: van project naar sector. Dit is een internationaal gangbare consistente benadering. Overigens trekt IOB â op basis van onderzoek vanuit deze interventietheorie wel enkele, scherp geformuleerde, conclusies, met name inzake het vraagstuk van ownership. 47. De kwaliteit is in negatieve zin beĂŻnvloed door het feit dat het hoofdzakelijk ging om een meta-onderzoek. Hierin is men afhankelijk van het basismateriaal. Dat materiaal is vaak niet goed genoeg, het is te veel op organisatie en te weinig op impact gericht en het heeft onvoldoende aandacht voor lange termijnontwikkelingen en het geheel van externe invloeden. Daar waar er sprake was van aanvullende dataverzameling en analyse was IOB afhankelijk van de kwaliteit van de onderaannemers. Zoals een ieder uit ervaring weet verschilt die kwaliteit aanzienlijk. Ook als men delen van het onderzoek opnieuw laat uitvoeren, blijven die verschillen. Dan gaan trouwens ook elementen als tijd hun tol eisen. Voorts is er bij een dergelijke mammoetoperatie aan het einde van het proces veel informatieverlies doordat dikke rapporten moeten worden samengevat in hoofdstukken voor het eindrapport. 48. Uiteraard zijn er kwaliteitsverschillen tussen de verschillende hoofdstukken. Dit hangt samen met de inschakeling van externe consultants en de gebruikmaking van beschikbaar materiaal. Wie opdrachten uitbesteedt, kan vanuit de eigen IOB professionaliteit zulke verschillen nooit geheel ondervangen. 49. Een indicatie van kwaliteit is uiteraard de mate waarin conclusies zijn onderbouwd. Dit is des te belangrijker daar verschillende conclusies van IOB scherp zijn geformuleerd. Op basis van een analyse van reacties op de IOB evaluatie concluderen wij dat er een zevental posities is ingenomen: (a) conclusie is juist, voldoende onderbouwd, en actueel; (b) conclusie is op zich juist, voldoende onderbouwd, maar gedateerd; (c) conclusie is ten dele juist, ten dele onjuist; (d) conclusie is onvoldoende onderbouwd; (e) conclusie is onjuist; (f) conclusie is op zich wellicht juist, maar onuitvoerbaar; (g) conclusie is onterecht niet getrokken. 50. Al met al worden veruit de meeste bevindingen en de daarop gebaseerde conclusies onderschreven. Hierbij wordt opgemerkt dat de aanbevelingen of reeds onderdeel van (recent) beleid zijn of dat er voorbereidingen zijn dan wel worden getroffen om deze daarvan onderdeel te maken (zie met name de beleidsreactie). 51. De grootste meningsverschillen hebben de conclusies en aanbevelingen op de terreinen van schuldkwijtschelding en algemene begrotingssteun opgeroepen. Deels worden hierbij door m.n. de betrokken beleidsafdelingen DEK en DVF de bevindingen en aanbevelingen aangevochten op grond van âonjuiste argumentatieâ, deels ook op grond van âeenzijdige en oppervlakkige bewijsvoeringâ. Het voert te ver hier een samenvatting te geven van de -meermalen in uiterst krachtige bewoordingen gesteldeâ correspondentie. Wij zijn bovendien niet in de gelegenheid de aan de controverses ten grondslag liggende opvattingen te toetsen aan de hand van opgedane ervaringen en schriftelijke bronnen. Wij wijzen er met nadruk op dat het hier veelal gaat om meningsverschillen tussen ter zake deskundigen. 52. Let wel: de beide betwiste kwesties raken kernperspectieven op ontwikkelingssamenwerking. Op grond van dit gegeven verdenkt een aantal van onze respondenten IOB ervan het politieke debat nadrukkelijk te hebben willen âstimulerenâ in plaats van zich te beperken tot de twee kerndoelen van de evaluatie: het afleggen van verantwoording en het bevorderen van leren. Deze respondenten wijzen in dit verband op uitspraken als âownership blijkt zelfs bij algemene begrotingssteun en sectorale steun een wassen neus te zijnâ. Mocht de bevordering van nationaal en internationaal politiek debat over de Nederlandse ontwikkelingssamenwerking inderdaad van bijproduct tot nevendoelstelling van evaluaties zijn verklaard, dan had daaraan een bewuste argumentatie inzake voor- en nadelen vooraf moeten gaan. 53. Het verdient aanbeveling in controversiĂ«le kwesties als de bovengenoemde âin elk geval voor toekomstige evaluaties- een andere werkwijze te volgen. IOB zou naast de presentatie van de eigen selectie en weging van verzamelde gegevens er verstandig aan doen in het evaluatierapport de argumentatie pro en contra vanuit verschillende visies en posities weer te geven, daar waar meningsverschillen over kernzaken blijven bestaan. Hiernaast âof in plaats hiervan- zou IOB in een bijlage de resultaten van het hoor en wederhoor proces bij blijvende onenigheid over feiten en conclusies kunnen presenteren. In elk geval zou een dergelijke werkwijze meer mogelijkheden geven voor zelfstandige oordeelsvorming en voorkomen dat binnendepartementale kritiek zich een uitweg zoekt via de beleidsreactie van de bewindspersonen of anderszins. 54. Wij merken in dit verband nog op dat niet alleen enkele conclusies aanvechtbaar worden geacht door de betreffende beleidsafdelingen van het ministerie, maar ook dat o.i. sommige conclusies niet worden getrokken. Zo is meermalen bepaald beleid niet expliciet geĂ«valueerd, zoals dat betreffende exit/entry landen en themaâs. Ter zake van schuldkwijtschelding had IOB kunnen wijzen op de discrepantie in handelwijze tussen Economische zaken die nieuwe leningen verstrekte, terwijl FinanciĂ«n schuldverlichting gaf. 55. Ook enkele essentiĂ«le vraagstukken zijn buiten beschouwing gelaten. Wij wijzen nogmaals op het gebrek aan aandacht voor beheer en management, in het bijzonder op de nieuw ingevoerde matrixstructuur, een kwestie die in het kader van de integratie bij Buitenlandse Zaken van belang is. Ook het coherentievraagstuk had beter uitgediept kunnen worden. In dit verband valt op te merken dat het thema âontwikkeling en armoedebestrijdingâ 253 bladzijden (hoofdstukken 5 t/m 13) beslaat, terwijl het thema âvrede en veiligheidâ in slechts twee hoofdstukken aan bod komt (14 en 15, met in totaal 63 bladzijden tekst) en het thema âhandel en coherentieâ in maar Ă©Ă©n hoofdstuk (16, met 30 bladzijden) wordt afgedaan, waarbij recente evaluatie-uitkomsten vanuit de civiele sector overigens nauwelijks zijn meegenomen. Kortom, het âcoherentie vraagstukâ, waarbij de BZ-EZ connectie centraal staat, krijgt slechts geringe aandacht, terwijl uit het Verslag van het Tweede Kamer AO van 8 december 2004 blijkt dat juist die coherentie vraag verondersteld werd een belangrijke rol te spelen in de Afrika evaluatie. 4: Organisatie van het onderzoek (tijdsplanning, inschakeling betrokkenen/experts, kosten) 4.1. Tijdsplanning 56. Elk (evaluatie)onderzoek heeft de neiging uit te dijen. Vrijwel ieder antwoord op een gestelde vraag roept immers nieuwe vragen op. Dat geldt a fortiori voor een zo veelomvattende evaluatie als het Afrikabeleid waarbij verschillende regioâs, deelterreinen, beleidsinstrumenten en uitvoeringsmodaliteiten over een periode van acht jaar op elkaar betrokken moesten worden. Gezien de complexiteit kan zonder meer worden geconcludeerd dat IOB er grosso modo in is geslaagd vertraging bij de oplevering van het evaluatie rapport binnen de perken te houden. Wel heeft vertraging op een enkel onderdeel nadelige effecten gesorteerd voor het - tussentijds â gebruik van evaluatie uitkomsten. 57. Uit analyse van de financiĂ«le dossiers blijkt dat de oorspronkelijke begroting van 545.100,-. Euro is gegroeid naar 934.296,15 Euro (excl. BTW). De redenen hiervoor zijn uitbreiding van het aantal onderwerpen t.o.v. de ToR (82.261,15 Euro, okt. 2006), de latere oplevering van het rapport in 2007 waardoor de externe hoofdconsultant zoân acht maanden langer werkzaamheden heeft verricht (292.035,-. Euro, juli 2007), en extra kosten van de publicatie (50.000,-. Euro, april 2008). Voor de goede orde merken wij hierbij op dat deze evaluatie in verhouding tot het totaal aan onderzochte bilatere uitgaven (5,8 miljard Euro) goedkoop genoemd mag worden. Het gaat om minder dan een half pro mille, zelfs als men hierbij alleen het onderzochte deel van de uitgaven meetelt (ruim 3 miljard Euro). 4.2 Betrokkenheid belanghebbenden 58. In het kader van kwaliteitszorg is uiteraard de organisatie van inbreng van betrokkenen, belanghebbenden en experts, van groot belang. Een belangrijk onderdeel bij het organiseren van een evaluatie onderzoek is dan ook het inschakelen van belanghebbenden en deskundigen via peer reviews. Wat ons allereerst opviel is dat Nederlanders de kern vormden: vooral de âveldpostenâ en beleidsdirecties zijn als belanghebbenden gezien, niet degenen die object van ontwikkelingssamenwerking zijn. Afrikanen zijn nauwelijks bij de evaluatie betrokken. Dat was echter in deze opzet ook niet goed mogelijk. Door de nadruk op beleidsdoorlichting zit men vooral vast aan ambtelijke Afrikaanse reacties. Verder is het evident dat de nieuwe opzet (sector en budgetsupport) sterk afhankelijk is van het oordeelsvermogen op ambassades. Afrikanen zijn eigenlijk alleen als informatie en correctiebron gebruikt; zij zijn niet betrokken geweest bij het vaststellen van de ToR, en niet of nauwelijks bij het verzamelen van materiaal, het trekken van conclusies en het doen van aanbevelingen. Een uitzondering vormen water en onderwijs âmaar daar was sprake van impactstudies- waar wel degelijk betrokkenheid van Zambiaanse en Oegandese stakeholders aantoonbaar is. 59. In het algemeen is er sprake geweest van raadpleging van Nederlandse betrokkenen in alle fasen van het evaluatieonderzoek: via brainstormsessies, via meelezen, via becommentariĂ«ren van deelstudies en daarop gebaseerde concepthoofdstukken door medewerk(st)ers van IOB, betrokken directies van het ministerie en externen. Hiernaast fungeerden als kritisch forum een in concrete samenstelling en omvang wisselende interne referentiegroep en een kleine externe referentiegroep. Deze laatste bestond uit slechts drie personen, waarbij diepgaande expertise op het terrein van vrede en veiligheid en op Afrika gerichte coherentievragen ontbrak. In het licht van de omvattendheid van deze evaluatie ware het te verkiezen geweest naast deze kleine kern een grotere en meer divers samengestelde pool van externen in te schakelen. Ons valt hierbij wel op dat DAF de Afrika evaluatie geen evidente prioriteit heeft gegeven; er waren slechts enkele personen bij betrokken. 60. Gebleken is dat de afdelingen DVF en DEK ingrijpende kritiek hebben op de mate waarin hun commentaar is verwerkt, een kritiek die niet door IOB wordt gedeeld en die door ons niet goed âobjectiefâ valt vast te stellen aan de hand van de beschikbare bronnen. Hier is duidelijk sprake van verschil in perceptie. Wanneer de Inspecteur in kwestie meent dat men is uitgediscussieerd en de Directeur IOB vanuit eigen verantwoordelijkheid vervolgens de eindtekst vaststelt, verdient het op cruciale punten toch aanbeveling het onoverbrugbare verschil in inzicht een eigen ruimte te geven. 61. Van belang zijn de commentaren van de Nederlandse ambassadeurs in Sub Sahara Afrika. Dezen hebben individueel en collectief verschillende reacties gegeven op verschillende onderdelen van het conceptrapport van begin september 2007. Volgens de uit die kringen ontvangen informatie is met dat commentaar goed omgegaan. 5: Bruikbaarheid van bevindingen en conclusies voor beleid (Leren en Verantwoorden) 62. Via evaluaties kan verantwoording worden afgelegd over gevoerd beleid en verrichte activiteiten. Daarnaast kan worden geleerd van de hierin geanalyseerde activiteiten. Deze twee doelen verhouden zich overigens niet probleemloos tot elkaar; zo verschilt de evaluatie methodologie. Bij leren gaat het veeleer om het hanteren van een open participatieve optiek met als doel te komen tot concrete voorstellen tot verbetering. In dit verband is van belang dat de Tweede Kamer een motie heeft aangenomen met daarin de eis aan te geven wat met de aanbevelingen van IOB concreet wordt gedaan. Bij verantwoorden gaat het daarentegen om het zo goed mogelijk eenduidig vastleggen van resultaten in verhouding tot middeleninzet en gevoerd beleid. 63. Natuurlijk speelt bij evaluaties verantwoorden een kernrol: hoe men het wendt of keert er blijft een primaire verantwoordingsplicht, namelijk of het belastinggeld wel goed is uitgegeven. Toch moeten wij ook hier wijzen op bepaalde beperkingen: er is een goed beeld geschetst van de uitgaven maar in veel gevallen blijft onduidelijk wat de outcome of impact en daarmee de relevantie is geweest van deze uitgaven. De resultaten zijn beoordeeld op basis van uitgangspunten van het beleid maar we weten maar al te goed dat er doorgaans een kloof gaapt tussen intenties en effecten. 64. In het evaluatierapport zijn verschillende leermomenten te onderkennen. Met name van de onderdelen waarbij impactstudies zijn gebruikt valt te leren, zoals in het geval van water en onderwijs. In meer algemene termen kan worden gesteld dat leren mogelijk wordt door (a) te analyseren wat het beleid heeft opgeleverd zonder dit in technisch jargon te gieten, (b) betrokkenen een spiegel voor te houden via het aanreiken van vergelijkingsmateriaal en (c) kernbegrippen kritisch te bespreken. 65. Weliswaar begrijpelijk maar ook omstreden is bijvoorbeeld het etiketteren en vervolgens evalueren van algemene begrotingssteun als een politiek instrument, inclusief de rol van het begrip track record hierin. 66. Leren is verbonden met lezen. Als de studie niet wordt gelezen, dan zal er ook geen leereffect optreden. De omvang van deze evaluatie is hierbij wel een probleem, ook al is er een handzame samenvatting verschenen (waarin vanzelfsprekend veel minder ruimte is voor wat vanuit leeroogpunt van belang is). Zitten posten in een land niet veel meer te wachten op korte, snelle, operationele informatie; beschikbaar op slechts enkele A-4tjes met aanbevelingen op punten die voor hen tellen? Met een meer analytisch of geografisch brandpunt zou er eveneens gemakkelijker en sneller meer informatie uit te halen zijn. Bovendien is in deze de âtoonâ van belang. Een aantal scherpe formuleringen heeft interne spanningen en irritatie opgeroepen. Dat is geen goede voedingsbodem voor leren. Dit klemt te meer daar wij geen overtuigende aanwijzingen gevonden hebben dat er op het ministerie een cultuur is gevormd die gericht is op leren van het verleden. 67. Inderdaad vragen wij ons af of er op het ministerie een op leren georiĂ«nteerd instrumentarium en mentaliteit bestaan. Aanbevelingen van IOB, welke expliciet waren gericht op het vergroten van de leerfunctie, zijn na S/DG beraad van begin maart 2007, niet overgenomen met als argumentatie âte bureaucratischâ. Het bedenken van minder bureaucratische alternatieven duurt intussen al 13 maanden (start hiervan 2 maart 2007). De feitelijke insteek ontbreekt en ook de mentaliteit om dit als een urgent probleem te zien. 68. Alhoewel de regie over de follow-up niet bij IOB ligt, laat dit onverlet dat ook IOB zijn best moet doen voor een optimaal Haags leereffect. Dit leereffect is negatief beinvloed door de omvang, timing, toespitsing en inhoud van het rapport (opzet en indeling, waarbij tricks and tips in de vorm van concrete actiepunten ontbreken). Overigens spelen buitenstaanders (Kamer, publieke opinie) een belangrijke rol. Een Afrika congres volgend op een dergelijk belangrijk rapport is natuurlijk prima maar zegt nog niets over wat beleidsmatig gaat gebeuren met de aanbevelingen. 69. Kortom, op basis van antwoorden van onze respondenten hebben wij de indruk gekregen dat er op het ministerie weinig tot niets met deze evaluatie wordt gedaan. Vanuit de kring der ambassadeurs krijgen we te horen dat deze evaluatie slechts een klein lezerspubliek zal kennen. Wel zullen bepaalde onderdelen besproken worden. Zo blijkt aan de hand van notities dat ambtenaren in Maputo uitgebreid intern over de onderwijsevaluatie hebben gediscussieerd; daarbij speelt natuurlijk mee dat het hier om een impact studie gaat. 70. Leren wordt gevoed via terugkoppeling, disseminatie en follow-up. Wij constateren dat los van de vraag of IOB zich de gevoeligheid van dit rapport volledig heeft gerealiseerd, IOB alle mogelijkheden heeft benut om het rapport besproken te krijgen. Zo heeft IOB twee keer een presentatie in DGIS/staf georganiseerd, een presentatie over deze evaluatie gegeven op de ambassadeursconferentie van 2006, een discussiedag gehouden tijdens de ambassadeursconferentie van 2007, alsmede met DAF het Afrika-congres georganiseerd. De meningen op het ministerie verschillen echter over de vraag of dit het oogmerk had van leren of van stimuleren van het politieke debat. 71. Het ministerie blijkt verantwoordelijk voor voorlichting. Het opstellen van persberichten âevenals voor follow-up activiteiten, inclusief uitbrengen van beleidsreacties- valt onder verantwoordelijkheid van DVL. Ons is hierbij opgevallen dat het ministerie een terughoudend beleid heeft gevoerd ter zake van publiciteit, in tegenstelling tot IOB. Een actief persbeleid is door het ministerie niet gevoerd. In dit verband is van belang dat het niet als taak van IOB wordt gezien om iets aan de uitvoering van de aanbevelingen te doen. 72. IOB zou wel âbinnenshuisâ meer werk kunnen maken van disseminatie en follow-up; deze dienst heeft immers wel tot taak te zorgen dat de bevindingen breed bekend zijn. Een door IOB opgevoerd punt in deze is dat zij in haar beleving toch afhankelijk is van een aantal voor IOB externe beslissingen. 6: Aanbevelingen 73. Breng een discussie op gang inzake het evalueren vanuit de werkelijkheid naar het beleid in plaats van omgekeerd. 74. Bevorder een serieuze attitude van de beleidsafdelingen van het departement inzake de ontwikkeling en vaststelling van Terms of Reference op hun beleidsterrein. 75. Herzie in het licht van nieuwe inzichten de âRichtlijnen voor IOB evaluatiesâ van mei 2003. Voeg in elk geval aan de gangbare evaluatiecriteria consistentie van beleid toe. 76. Geef daar waar tussen belanghebbenden en evaluatoren onoverbrugbare meningsverschillen over bevindingen en de daaruit te trekken conclusies blijven bestaan, de gehanteerde argumenten pro en contra weer, hetzij in de hoofdtekst, hetzij in voetnoten of bijlagen. 77. Overweeg of het bewust op gang brengen van politiek debat over (aspecten) van ontwikkelingssamenwerking een doel van IOB evaluaties moet zijn. 78. Bevorder binnen het departement en op de posten een cultuur van leren, onder meer door het ontwikkelen van een leerinstrumentarium. 79. Doorbreek het âoverkantâ denken, zowel tussen Den Haag en de posten als tussen IOB en de beleidsafdelingen.Bijlage 1. Sleutelinformanten Evaluatie van de IOB-Afrikaevaluatie Datum Naam / Contact Dept/Organisatie en Expertise Type gesprek 12-3-08 F. v/d Kraaij, M. Koper IOB Inspecteur Afrika evaluatie, DAF lid Interne Referentiegroep Achtergrond 12-3-08 B. van Ojik IOB Directeur Achtergrond 12-3-08 R. Treffers DGIS Achtergrond 17-3-08 E. Middeldorp Cdp Lusaka Kerngesprek 20-3-08 B. van Ojik IOB Directeur Achtergrond 20-3-08 F. v/d Kraaij IOB Inspecteur Afrika evaluatie Achtergrond 25-3-08 E. Kamphuis ETC Foundation Hoofdconsultant Afrika evaluatie Kerngesprek 27-3-08 T. Kliest, H. Jorritsma IOB Inspecteur, IOB Inspecteur Kerngesprek April Ph. de Heer Voormalig Secretaris Generaal Kerncorrespondentie April L. van den Assum Cdp Nairobi Achtergrondcorrespondentie April A.R. Dietz UvA lid Externe Referentiegroep Kerncorrespondentie 2-4-08 B. van Ojik, N. van Niekerk, F. v/d Kraaij IOB Directeur, IOB Inspecteur, IOB Inspecteur Afrika evaluatie Kerngesprek 2-4-08 H. Slot IOB Inspecteur Kerngesprek 2-4-08 F. Maschini, H. Peters DVL, DVL Kerngesprek 4-4-08 F. Bieckmann Hoofdredacteur The Broker Achtergrond 4-4-08 B. van Ojik IOB Directeur Follow up 4-4-08 D. v/d Hoek IOB Inspecteur Achtergrond 9-4-08 J. Rooimans FEZ Kerngesprek 9-4-08 F. Haver Droeze DGIS/CE Kerngesprek 9-4-08 E. Middeldorp Cdp Lusaka Follow up 9-4-08 L. de la Rive Box Rector ISS Achtergrond 14-4-08 C. van Dullemen World Granny/ lid Externe Referentiegroep Kerngesprek 15-4-08 W. Kingma, M. Koper DAFDirecteur, DAFlid Interne Referentiegroep Kerngesprek 15-4-08 B. van Ojik IOB Directeur Follow up 16-4-08 M. Brouwer, P. Zwetsloot DEK Directeur, DEK Kerngesprek 16-4-08 F. v/d/ Kraaij IOB Inspecteur Afrika evaluatie Follow up 16-4-08 R. v/d Veen WRA Achtergrond 16-4-08 A. de Kemp IOB Inspecteur Kerngesprek 16-4-08 F. v/d Kraaij IOB Inspecteur Afrika evaluatie Follow up 17-4-08 B. Koenders Minister voor OS Achtergrond 17-4-08 B. van Ojik IOB Directeur Follow up 17-4-08 R. Feddes IOB Onderzoeksmedewerker Kerngesprek 22-4-08 H. de Voogd DVF Telefonisch kerngesprek Wij zijn Drs.Tessa Verhallen MSc en Dr Selma van Londen zeer erkentelijk voor hun grote inzet bij de ondersteuning van deze evaluatie. Onze dank gaat ook uit naar al onze gesprekspartners die tijd hebben vrijgemaakt om op onze vragen in te gaan (zie bijlage). Kurtz and Snowden 2003, The New Dynamics of Strategy: Sense-making in a Complex and Complicated World, in IBM Systems Journal 42 (3): 462-483. Zo verwijst het voorwoord van IOB directeur Bram van Ojik ânaar de meer dan vijfhonderd (!) geraadpleegde personenâ. Ibid. Zie The Broker, issue 6, February 2008, pp. 9-20. Op de vraag of het stimuleren van politiek debat uitdrukkelijk moet worden beoogd komen wij nog terug. Ook geuit door de Nederlandse ambassadeur bij de OESO Joan Boer. De term instrumentalisme wordt wel gebruikt in verband met ârecht en ontwikkelingâ en duidt daar op geloof in recht als instrument van maatschappelijke verandering. Wij gebruiken dit adjectief hier voor de vaste overtuiging dat beleid het instrument is waarmee de beoogde ontwikkeling tot stand wordt gebracht (in termen van oorzaak en gevolg). Zie in dit verband de opmerkingen van Joan Boer zoals voorgelegd aan The Broker: âWhen will IOB change its way of analysis is the first question that comes to mind. And if IOB has evidence of what works in African circumstances they should make the case rather than indirectly referring to paradise! (âitâ doesnât focus on the root causes). Do we have replicable good practices that make an impact?` Uitgangspunt daarbij vormen de Richtlijnen van 2003. De vooronderstelling dat de werkelijkheid gekend wordt, ofwel gekend kan worden, is aanvechtbaar, zoals onder meer door H. R. van Gunsteren in De Ongekende Samenleving wordt betoogd. Zie in dit verband onder meer Alan Fowler, Connecting the Dots, in The Broker, issue 7, april 2008, pp.10-15. Een dergelijke sfeer komt natuurlijk niet uit de lucht komt vallen; er zijn veel goede redenen te geven voor dit wantrouwen en dan hoeft men echt niet alleen aan diepgewortelde corruptie en fragiele staten te denken. Zie voor nadere uitwerking: A. Clarke, Evaluation Research. An Introduction to Principles, Methods and Practice. London, Sage, 1999 De drie hoofdvragen van het IOB onderzoek waren: Op welke wijze heeft het Nederlandse Afrikabeleid vorm gekregen? In hoeverre en hoe is het Nederlandse Afrikabeleid uitgevoerd? Welke resultaten zijn er met het Nederlandse Afrikabeleid geboekt? Alhoewel beperkt van aard is er op verschillende plaatsen wel degelijk sprake van kritische reflectie. Te wijzen valt op kritiek inzake de selectiviteit bij landenkeuze (zie hoofdstukken 7 en 14), het beleid inzake kwijtschelding van exportkredietschulden (zie hoofdstuk 5) algemene begrotingssteun (zie hoofdstuk 6), plattelandsontwikkeling/ productieve sectoren (zie hoofdstukken 9 en 16) alsmede ownership (zie m.n. hoofdstuk 17). Vergelijk onze opmerkingen over open dynamische netwerken onder punt 3. We zien dat meer en meer de âevidence-oriented evaluationâ wordt geconfronteerd met ârealistic evaluationâ (zie met name R. Pawson and N. Tilley, Realistic Evaluation, London, Sage, 1997) en recentelijk met âcomplexity evaluationâ waarin de erkenning dat ontwikkelingssamenwerking wordt gekarakteriseerd door âwicked problemsâ en âcross-cutting issuesâ een belangrijke rol speelt (zie met name M. Barnes et al. âEvidence, Understanding and Complexity. Evaluation in Non-Linear Systemsâ, Evaluation 9 (3), pp. 265-284 en P.J. Rogers âUsing Programme Theory to Evaluate Complicated and Complex Aspects of Interventionsâ, Evaluation 14 (1), pp. 29-48. Zie hierover onder meer I. Guijt, âSeeking Surprise. Rethinking Monitoring for Collective Learning in Rural Resource Managementâ, Wageningen: Wageningen Academic Publishers, 2008. Dit misverstand bleek te leven bij alle betrokkenen. Zelfs de Beleidsreactie van Minister Koenders stelt dat de Kamer vroeg om een evaluatie van geĂŻntegreerd Afrikabeleid. Tweede Kamer der Staten-Generaal, vergaderjaar 2004-2005, 29800 V, Nr. 74 (Algemeen Overleg van 8 december van 2004 en Nr. 65 (motie Szabo); en TK 37-2519, 21 december 2004 (verwerping van de motie). In geen van de drie Afrika notities (1998,1999 en 2003) was er expliciete aandacht voor Algemene Begrotingssteun, terwijl het in die acht jaar toch gaat over een bedrag van ongeveer 800 miljoen Euro. Weliswaar zijn de Secretaris-Generaal, de Directie Afrika (DAF: geintegreerde directie DGIS/DGPZ) en de Coherentie-eenheid bij de vaststelling van de Terms of Reference betrokken geweest (begin 2006), maar de mate waarin zij daadwerkelijk in discussies hierover hebben geparticipeerd is niet duidelijk. Niet onvermeld mag blijven dat er later aanpassingen in de ToR zijn aangebracht als gevolg van een consultatieproces waarbij de referentiegroep een belangrijke rol speelde. Bij water lijkt overigens het verrichten van impact studies minder urgent dan het onderzoeken van de oorzaken van het ontbreken van die noodzakelijke voorzieningen. De ToR zijn slechts in geringe mate gericht op het leereffect voor Afrika, wellicht doordat DAF als regionale directie bij de totstandkoming van daarvan de kwestie van de afbakening niet serieus genoeg heeft genomen. Zou dat wel zijn gebeurd, dan was er waarschijnlijk een meer politiek ingekleurde evaluatie geweest, waarbij vraagstukken van consistentie en criteria voor beleid betreffende entry/exit landen en themaâs meer aan bod zouden zijn gekomen. De eerste brainstorm vond plaats op 31 maart 2005, de vierde en laatste op 1 maart 2006. Afspraak was dat IOB in 2005 de evaluatie zou voorbereiden en in 2006 uitvoeren, zodat in de loop van 2007 het evaluatierapport kon worden opgeleverd. Met het oog op tijdige beschikbaarheid van bevindingen, conclusies en lessen van deze evaluatie is besloten deze primair het karakter te geven van een beleidsdoorlichting. Uit doelmatigheidsoverwegingen is verder besloten om voor deze evaluatie zoveel mogelijk gebruik te maken van relevante recent afgeronde en lopende evaluaties, met daarnaast de aantekening dat waar mogelijk in de IOB programmering 2005-2009 geplande evaluaties versneld zullen worden uitgevoerd. Bij de invoering van de âmatrixâ organisatie werden de beleidsafdelingen verantwoordelijk voor de uitgaven, terwijl DAF tot taak kreeg het beleid betreffende de verschillende Afrikaanse landen te coördineren. Binnen de organisatie spelen verschillende (tegenstrijdige) belangen. De belangen van themadirecties kunnen lijnrecht tegenover die van regiodirecties staan. Eerst fungeerden de oude landendesks als hĂšt aanspreekpunt, ook op thematisch terrein. Nu is er DAF (dat geen geld heeft) en zijn er de themadirecties. DAF is zelf een echt geĂŻntegreerde M/R beleidsafdeling. Maar het antwoord op de vraag of er ook geĂŻntegreerd gewerkt wordt hangt af van de invloed die DAF heeft op zoiets als de ABS (=DEK) of dat dit eigenlijk puur door de OS kant wordt aangestuurd, zij het dat er dan misschien nog wel coherentie is met wat vanuit Financien en Economische Zaken wordt ingebracht en aangestuurd. Zie in dit verband met name de opmerkingen van Hoebink in The Broker van februari 2008; in datzelfde nummer uit Boer soortgelijke kritiek. Oliver Saasa and Neo Simutanyi, Zambia. Power and Change Analysis: Underlying Factors Explaining Governance Issues and Implications for Policy Change. Lusaka: Commissioned by the Embassy of the Kingdom of the Netherlands, October 2007. In navolging van L. de Haan in The Broker stellen wij dat men de onderliggende factoren die de rol van de staat in het ontwikkelingsproces beĂŻnvloeden beter in ogenschouw moet nemen. Deze herijking van de Afrikaanse staat geldt ook de fragiele staat. De fragiele staat heeft een beperkte capaciteit om hulp te absorberen. Er is een grote kans dat deze het patronage systeem gaande houdt. De fragiele staat kan niet worden vertrouwd, maar de staat kan evenmin worden omzeild. Donorgeld kan het patronage systeem gaande houden, maar âgeen geldâ verzwakt de positie van de elite en versterkt politieke instabiliteit. Hierbij is het van het grootste belang uit te gaan van lokale percepties. Hoe zien de lokale mensen de staat? Dan wordt ook duidelijk dat corruptie niet Ă©Ă©ndimensionaal is. Zie in dit verband ook de bijdrage van Martin Koper in Vice Versa (april 2008): Corruptiebestrijding: Mag het effectiever? George B.N. Ayitti (American University, Washington) trekt op deze gronden het Nederlandse ontwikkelingsbeleid in twijfel. Er is geen evaluatie van de uitgangspunten van het Nederlandse Afrika beleid. Men gaat impliciet uit van de notie van een âoverheidâ in de gebieden van de sub Sahara die omkijkt naar de mensen en hun belangen behartigt, zodat middels een âpartnershipâ met deze regering de armoede bestreden kan worden. Geen van beide overheden weet echter waar de âarmenâ zijn. Marian Tupy (Cato institute, Washington) onderschrijft dit met de woorden âThe sickness that plagues Africa â poor institutions and bad policies â will only be cured if political elites in African countries âabandon their predatory habitsâ. Dit geldt volgens Ayitti ook de rurale sector. Het leeuwendeel van de hulp gaat naar de moderne sector vanwege de wens Afrika te industrialiseren. In Ivoorkust bijvoorbeeld is 80% van de ontwikkeling geconcentreerd rond Abidjan. De informele sector en het rurale gebied, waar de meeste Afrikanen leven, worden veronachtzaamd. Tegenwoordig spendeert Afrika ongeveer US $ 20 miljard per jaar aan de invoer van voedsel â een som geld gelijk aan het bedrag dat Afrika aan buitenlandse hulp ontvangt. Een nieuwe benadering is dringend gewenst. De notie âpoverty-reductionâ zou moeten worden vervangen door âwealth creationâ (zie The Broker februari 2008) Een uitzondering vormen de drie impact studies maar Ă©Ă©n daarvan was al verricht âwater in Tanzania- en de twee onderwijsevaluaties (Zambia en Oeganda) stonden reeds in de eigen IOB programmering. In de woorden van Frans Bieckman en Ton Dietz: âHoe kun je (de hulp aan) tientallen totaal verschillende landen, in verschillende stadia van ontwikkeling, sommige in (burger)oorlog of juist opkrabbelend, andere met honger of juist voorzichtig aan het groeien, op een hoop gooien en daar algemene conclusies uit trekken?â (reactie op de bijdrage van het Tweede Kamerlid Boekestijn in De Volkskrant). Karl E. Weick, The Social Psychology of Organizing, New York: Addison-Wesley, 1979, p. 261. Die gelden werden onder meer besteed aan ontmijning en goed bestuur. Alhoewel Gender en Milieu wel genoemd worden in de Afrika notities die betrekking hebben op de geĂ«valueerde periode krijgen ze geen expliciete uitgebreide aandacht in het IOB rapport. Zie onze verwijzing naar met name âcomplexity evaluationâ (noot 17). Hier wreekt zich de zwakke rapportagecultuur: het is heel moeilijk om snel inzicht te krijgen in de details van een dossier over een langere termijn. Wat via open source internet archivering al lang had kunnen zijn geregeld is er in veel gevallen nog steeds niet. Zie in dit verband de beleidsreactie op de IOB conclusie dat kennis van veranderingsprocessen in Afrika afneemt. Terecht wordt daarin gesteld dat kennis van en inzicht in bestuurlijke en politieke processen op nationaal niveau in partnerlanden juist is toegenomen door overgang naar sectorale en macrosteun, waarbij tegelijkertijd erkend wordt dat de kennis van de armoedesituatie op lokaal niveau is afgenomen, terwijl deze kennis wel degelijk onontbeerlijk blijft voor een zinvol beleid. Ook inzake goed bestuur spreekt de beleidsreactie van een conclusie die nogal kort door de bocht is geformuleerd, doordat IOB zich in zeer beperkte mate rekenschap geeft van de veranderende (inter)nationale context, terwijl tegelijkertijd wordt aangegeven dat de desbetreffende aanbeveling (nr. 10 in de beleidsreactie van het ministerie) reeds in uitvoering is genomen. Illustratief hiervoor is de discussie inzake incidentele algemene begrotingssteun en de rol die de track record als instrument hierbij wel of niet zou spelen. In de interne discussie over het hoofdstuk Schuldkwijtschelding staat centraal de kritiek dat hierin politieke vragen in discussie worden gebracht, terwijl daarentegen volgens DVF verzuimd wordt een gemotiveerd oordeel te geven over wat er feitelijk met schuldkwijtschelding is bereikt en hoe vanuit zoân assessment voor- en nadelen van deze vorm van ontwikkelingsinterventie moeten worden bezien. Wij verwijzen naar de beleidsreactie waarin met erkenning van de problemen bij ownership afstand wordt genomen van deze stellingname. Bij de âronde tafelâ van de Tweede Kamercommissie over IOB van 17 april 2008 werd door Ă©Ă©n der uitgenodigde deskundigen terecht opgemerkt dat de Beleidsreactie uitsluitend bedoeld is om aan te geven of conclusies en aanbevelingen al of niet worden aanvaard en hoe hierop vanuit het beleid wordt gereageerd. Een discussie over methodologie en organisatie van de evaluatie ligt niet op dit terrein. Sommige landen kregen in hetzelfde jaar zowel nieuwe leningen âvia ORET- als schuldkwijtscheldingen via een onder FinanciĂ«n vallende faciliteit. In een commentaar stelt IOB dat men de stof ook nog anders kan indelen, te weten: geĂŻntegreerd beleid (144 blz.), coherentie (42 blz.) en pure OS (118 blz.) GeĂŻntegreerd beleid (M en R sector) betreft dan de onderwerpen: algemene begrotingssteun, hiv/aids, instrumenten voor goed bestuur, versterking van de rechtsstaat, conflicten en humanitaire hulp. Coherentie slaat op schuldverlichting (coherentie met beleid van Min. van FinanciĂ«n) alsmede handel en coherentie (coherentie met beleid van LNV en EZ) terwijl âpure OSâgaat over: sectorsteun, onderwijs, plattelandsontwikkeling en stedelijke armoedebestrijding. Alhoewel er geen specifieke opleveringsdatum is genoemd in de Terms of Reference, was het voornemen medio 2007 de evaluatie gepubliceerd te hebben. Overigens zijn bij gebruikte afgeronde deelstudies wel Afrikaanse belanghebbenden betrokken geweest (zie hiervoor de verschillende onderliggende IOB-rapporten). Zoals reeds vermeld is de externe referentiegroep pas in een relatief laat stadium bij de evaluatie betrokken. Dit geldt ook voor de directie DVF. Hierbij moet wel worden opgemerkt dat schuldverlichting niet in de Terms of Reference was opgenomen. IOB stelt dat de externe referentiegroepleden zijn geselecteerd op grond van hun deskundigheid op het terrein van de problematiek van ontwikkelingslanden in ruime zin, hun ervaring en disciplinaire achtergrond, hun complementariteit ten opzichte van elkaar en het evaluatieteam, alsmede hun onafhankelijkheid. Zie hierboven punt 53. Een kernvraag betreft de analyse van de vertaling van good governance in een track record: in al die âoperationalisatie stapjesâ zitten politieke keuzes, deze zouden geĂ«xpliciteerd moeten worden in het kader van een leerproces. Wellicht is onze indruk voorbarig. De Tweede Kamer heeft inmiddels schriftelijk gereageerd. Hierop moeten de bewindslieden nog reageren. Daarnaast is er voor 2 juli een drie uur durend AO voorzien. PAGE PAGE 22