26.9.2017 | Svátek má Andrea


VĚDA: Projekty, posudky a peníze

10.7.2017

Přidejme na vědu, ale naučme se ji nejprve efektivně hodnotit – a začněme u GAČR

V jedné z výročních zpráv se Grantová agentura České republiky (GAČR) chlubí vydobytou objektivitou, když bylo dosaženo stoprocentní pokrytí posuzování grantů zahraničními posuzovateli, a to pro celkový několika-tisícový počet posudků. Nevíme, jestli máme nad tímto počtem vyjádřit uspokojení nebo si spíše zanaříkat, uvážíme-li, že o výběru rozhoduje přes šest tisíc různorodých názorů vzájemně mnohdy těžko srovnatelných! Nebylo by vhodnější mít jenom desetinu posuzovatelů, poskytnout jim zázemí mnoha miliónů utrácených dnes (zbytečně) za mnohonásobné posudky tak, aby mohli vytvořit ujednocený názor na opravdu zobjektizovaný způsob posuzování? Navíc udělování prostředků GAČR jen pro malou část přijatých projektů je často mařením financí a zejména bezútěšným mrháním kvalifikované práce pro zbylou agendu těch neúspěšných. Právě tato majoritní část planých projektů by zasloužila dodatečné (separátní) zhodnocení, které by možná pomohlo vykořenit nedůstojné podbízení se do „turnaje“ o finance, který někdy připomíná spíše loterijní než seriózní rivalitu.

Jak bylo řečeno v předchozích vstupech, je cílem základního výzkumu poznat něco nového o přírodě, vyřešit určitou záhadu, a to často bez ohledu na bezprostřední využití takových objevů. Konkrétním výstupem jsou pak především odborné publikace, v nichž vědci expertní veřejnosti sdělují, co a jakým způsobem objevili. Důležité je jejich další ohodnocení vědeckou komunitou, tj. jak se tyto práce následně citují v pracích jiných autorů, což přináší určitý způsob zobjektizovaného ohodnocování, jak před šedesáti lety nastínil článek E. Garfielda. Tento nový rozměr v dokumentaci pomocí asociace a provázanosti idejí je dnes už běžný na internetu a umožňuje evaluaci časopisů na základě jejich faktoru dopadu či ohlasu (IF – impact factor). Tak vznikly nejrůznější komise a rady hledající optimální způsob ohodnocování, kde mimo zvykového subjektivního hledání kvality sdělení zatím nic objektivnějšího než citační odezvu nenašly.

Finance do základního výzkumu významně obhospodařuje GAČR, která by měla mít co nejpropracovanější a nejprůhlednější způsob ohodnocování obdržených projektů. Zde je nezbytné si uvědomit, že pro zajištění akceptovatelnosti projektu je nutné už předem vynaložit nemalou práci, a to nejen na jeho odborné kvalitě, ale zejména na jeho formální připravenosti a průchodnosti dokumentu v relaci správného vyplnění všech požadovaných náležitostí (kolonek). To vše s vidinou předem nezjistitelné a téměř zanedbatelné úspěšnosti. Tím se vlastní náplň bádání začala oddělovat od jeho formální projektové prezentace se snahou získat pozitivní ohodnocování často bez ohledu na podstatu problému. Zrodila se tak často matoucí hra na vědu, kde převládající procesy prezentace a posuzování se staly především součástí zosobnění nejrůznějších kritérií, jejich přizpůsobování podle vlivu resortů, osobností, oborů, disciplin atd.

Přelévání finančních zdrojů a jejich doslovné cezení přes lidské ruce je bohužel stálým zdrojem pokušení ušetřit něco pro sebe, majíc odstrašující příklad politiků a financování jejich stran. Stačí se podívat na evropské fondy, které přerozdělují námi dodané finance do společného měšce, následně často zneužívané na cíle, ke kterým nebyly určeny. To povzbuzuje všechny ty, kteří se cítí ukřivděni, že si nic „neurvali“ pro sebe, nebo ty, co hrají nepoctivě. K tomuto názoru jsou vedeni právě stavem alibismu projektů ukazujícím, že pokud se vše řádně odůvodní (kolonky vyplní), může se „páchat“ cokoliv ve smyslu vědy jako podnikání bez potřebné zavazující účasti vlastní zodpovědnosti. Dokonce i na VŠ už vedeme studenty k tomuto schématu - místo aby ovládli požadovanou tématiku, chceme, aby vyplňovali kolonky a označovali při zkoušce jen správnou odpověď. To vychovává k tomu, že testy se mobilem ofotí a rozešlou internetem a každý student pak nacvičuje, jak zaškrtnout správnou odpověď (kolonku), aniž by se snažil naučit požadovanou látku. Bohužel, korektní vyplňování těch správných kolonek se tak stává rozhodujícím momentem vědního pokroku.

Současný způsob grantového hodnocení projektů a jejich předkladatelů se především zakládá na formální čistotě návrhů a správném vyplnění požadovaných kolonek, a pokud vyhovují, hodnotí se dále přes soustavu parciálních posuzovatelů (recenzentů). Ti současně píší posudek na odbornou způsobilost a vědeckou hodnotu, přičemž oceňují, zda předkladatel splňuje určité podmínky zasloužilosti (vědeckého uznání). Tak vzniká nadmíru ošemetný úkol, který nelze jednoduše určit prostým seřazením určitých kritérií jako počtu publikací, citační odezvy, renomé autora, významnosti práce atd. Existují sice mezinárodně uznávané databáze výsledků a citační odezvy jako např. obecně dostupný WOS - Web of Science, který současně poskytuje i koeficient zvaný H-index (badatelé s vysokým H-faktorem pravděpodobně přispívají podstatnější mírou k rozvoji určité disciplíny). Bohužel zatím nic lepšího na trhu evaluace není, i když některé kolektivní obory, kde se publikují odborné články s desítkami spoluautorů, mohou indexově těžit ze své provázanosti.

Procento úspěšnosti podaných grantových přihlášek se během pěti let zvedlo z cca 17 % na dnešních zhruba 30 %, přičemž ze statistiky lze vyvodit, že jestliže procento úspěšnosti výběru určitého statistického souboru nepřesáhne 1/3, je objektivnější tento soubor losovat než oponentně zhodnotit. V takovém případě by se selekce provedla naprosto nepředpojatě, čímž by se odstranila jakákoliv možná osobní zainteresovanost na přednostní přijetí určitých projektů, protože lze vždy najít nezanedbatelnou korelaci mezi týmy hodnotitelů a předkladatelů. Tomu se zhodnocovací kriteria brání právě nalosováním oponentů, což zapříčiňuje jistou chaotičnost v instalaci nedostatečně odborně fundovaných posuzovatelů. Také by se zamezilo intervencím v panelu hodnotitelů přidělováním preferenčních bodů a tím následné kritice.

Vedení GAČR je bohorovně klidné a nepřipouští jakoukoliv diskuzi o věrohodnosti svých postupů, kde jsou posudky ze zákona nezpochybnitelné a recenzenti anonymní, což znemožňuje zpětné ověření jejich věrohodnosti. Rád posloužím příkladem nekorektního rozhodování GAČRu, když můj projekt v roce 2015 byl posouzen pozitivně a hned v následujícím 2016 v identické formě zamítnut. Návrh obsahoval podklad dokončení odborných kapitol zásadní knihy Thermal Physics and Thermal Analysis, která už v současnosti byla opublikovaná a přes svoji krátkou existenci vysoce oceněna.

Kniha se stala součástí trilogie, doplňujíc tak mé předchozí dvě knihy, které světoznámé nakladatelství Springer zařadilo mezi svých dvacet nejlepších knih (Glassy, Amorphous and Nano-Crystalline Materials a Thermal analysis of Micro, Nano- and Non-Crystalline Materials).

Knihy a jejich recenzované autorské kapitoly byly součástí i mých předchozích zamítnutých projektů, a tak se naskýtá se otázka, jestli takovýto mezinárodně významný výsledek, který zřejmě nemá v české vědecké literatuře obdoby, byl v rámci GAČR oprávněně hodnocen jako nekvalitní a nepřiměřený k financování. Nádavkem součásti projektu byla i stať o třistaleté ignoranci Newtonova ochlazovacího zákona v termofyzice tepelných procesů, opomíjený v řadě softwarů, což by mohlo poškodit pověst právě masivně prodávaných přístrojů, o což prodejci (a možná i recenzenti) nemají zájem.

Asi není náhodou, že po řadě mých předchozích projektů, které skončily s výborným oceněním, najednou žádný grant nedostávám, což se jeví jako akt jisté diskriminace. Může to být důsledek mých kritických esejí na vrub GAČRu, které vedly dokonce k rezignaci tehdejšího předsedy. Můj apel k předsedkyni kontrolní komise, prof. Márii Režňákové, se setkal s následující odpovědí: „...dovoluji zdůraznit, že GAČR se nemůže vyjadřovat k odborné stránce projektu - v tomto směru se spoléhá na řádně jmenované poradní expertní orgány předsednictva GAČRu, čímž považuji tuto záležitost za uzavřenou...“. Ptám se, k čemu tedy slouží kontrolní práce GAČRu, když jen zjišťuje, jestli je formálnost projektu správně splněna a kolonky řádně vyplněny, a nezajímá se o jeho badatelskou podstatu, což by mělo být právě preferenčním zájmem GAČRu. Neměli by se představitelé zajímat i o výsledky těch nedoporučených projektů, které mohou a často přinášejí závažné výsledky? Teplé místečko předsedkyně jistě není zadarmo, a tak je nejjednodušší tvrdit, že je vše v pořádku, jen aby se mohlo v klidu přežít další funkční období.

Vraťme se k Zemanovu výroku z roku 1989: „Nemůžeme přiznat jakékoli skupině řídících pracovníků, tím méně v socialismu, právo na neomylnost a nekontrolovatelnost. Nemůžeme vidět ani budoucnost socialistické vize jako bezrozpornou a bezkonfliktní, má-li to být vize živá a skutečně strhující.“ Stačí si odmyslet slůvko socialistický a hned jsem v současnosti – opravdu jsme v hodnocení vědy neomylní!?

Literatura:
E. Garfield: Citation indexes for science: a new dimension in documentation through association of ideas. Science, 122, 108, 1955
V. Hořejší: Scientometrie aneb můžeme měřit kvalitu vědecké práce? Vesmír 79, 83, 2000/2
E. Kejnovský: Aby se kamínky nevydrolily – poznámka k dnešnímu stylu vědecké práce. Vesmír, 94, 197, 2015/4
F. Dostál: Někde mezi rychlou a pomalou vědou. Vesmír 96, 52, 2017/1
J. Šesták: Alibismus na prvním místě aneb Degradace vědy na hodnocení a administrativu. Neviditelný pes,
21.3. 2014
J. Šesták: Podporuje GAČR vědu, nebo ji někdy i sabotuje? Neviditelný pes, 23.5.2016
J. Šesták, J. Fiala, K. Gavrichev: Evaluation of the professional worth of scientific papers, their citation responding and the publication authority. J Thermal Anal Calor. 2017, DOI 10.1007/s10973-017-6178-7
J. Fiala, J.J. Mareš, J. Šesták: Reflections on how to evaluate the professional worth of scientific papers and their corresponding citations. Scientometrics 2017, DOI 10.1007/s11192-017-2334-x
M. Zeman: Prognostika a přestavba, Technický magazín, srpen 1989

Emeritus, dr.h.c. a čestný občan Prahy 5



Diskuse


P. Vaňura
22:40
10.7.2017

počet příspěvků: 1, poslední 10.7.2017 10:40









 Neviditelný pes
Toto je DENÍK: do sítě jde obvykle nejpozději do 8.00 hod. aktuálního dne. Pokud zaspím, opiji se, zešílím nebo se zastřelím, patřičně na to upozorním - neboť jen v takovém případě vyjde Pes jindy, eventuálně nikdy.
Šéfredaktor Ondřej Neff (nickname Aston), příspěvky laskavě posílejte na adresu redakce Jiřímu Wagnerovi, redaktorovi NP (nickname JAG). Rubriku Zvířetník vede Lika.