úterý 11. prosince 2018

Objektivnější než soudci? Pošťouchnutí a možná úskalí automatizovaných systémů

Před několika dny byl vydán nález Ústavního soudu, který velmi detailně rozebírá problémy podmíněného propuštění. Současnou úpravu označuje jako systémově problematickou, jelikož pojmy použité v zákoně jsou velmi obecné, nikdo je řádně nespecifikuje a soudy tak rozhodují rozdílně a nezohledňují dostatečně, zda se odsouzení polepšili či nikoli. Jako obiter dictum se pak Ústavní soud vyjádřil, že předpověď páchání další trestné činnosti, by neměla záležet jen na subjektivním názoru soudce, ale měla by být podpořena analyticky systémem, který by byl objektivní (resp. objektivnější) než soudce.

Ústavní soud se tak domnívá, že „stát by měl v souladu s doporučením Výboru ministrů Rady Evropy Rec (2003) 22, o podmíněném propuštění, zavést systém analyzující a předpovídající rizika konkrétních odsouzených, který by soudci mohli používat jako objektivní pomůcku při stanovování předpovědi vedení řádného života (viz bod 37 přílohy k doporučení). V současnosti soudcům nezbývá než činit předpověď o tom, zda bude odsouzený znovu páchat trestnou činnost či nikoli, pouze na základě své profesní a životní zkušenosti, což i přes snahu soudců může vést k dojmu, že jejich rozhodování je spíše subjektivního než objektivního rázu. Pokud zákon ukládá předpovídat riziko páchání trestné činnosti, bylo by namístě, aby subjektivní rozhodnutí soudu bylo podpořeno objektivně odborně zpracovanou předpovědí. Vzhledem k tomu, že stát nevytvořil takový nástroj nabízející spolehlivou předpověď trestní budoucnosti odsouzeného, dnes k rozhodování dochází jen na základě omezených údajů, které mají soudci k dispozici.“ (bod 39).

Uvidíme, (zda) a jak na to stát zareaguje. Minimálně takovéto pošťouchnutí může pomoci při získávání financování od TA ČR, do jejíhož programu Eta by takový projekt přímo spadal.

Oblast systému předpovídajících recidivu je relativně problematická z hlediska dostupnosti dat, vytvoření takového algoritmu, který nediskriminuje (či alespoň diskriminuje méně než současný systém) i interpretovatelnosti výsledků; přeci jen očekávání vedení řádného života je jen jednou z podmínek pro podmíněné propuštění (a navíc je k ní nabízena i alternativa přijetí záruky za dovršení nápravy odsouzeného).

Aktuálnost tohoto tématu si uvědomuje i Rada Evropy, která vydala Etická pravidla pro využití automatizovaných systému v soudních systémech. V akademickém prostředí z poslední doby lze doporučit třeba knihu Big Data, Crime and Social Control od slovinských kriminologů. A už se zbývá jen těšit na zajímavé diplomové práce zabývající se touto otázkou.

Nález Ústavního soudu sp. zn. II. ÚS 482/18 je ke stažení zde.

Disclaimer (19. 12.): Autor tohoto postu se podílel na sepsání tohoto nálezu.

4 komentáře:

Libor Dusek řekl(a)...

Ale stát již takový nástroj má, SARPO, tj. prediktivní nástroj na hodncení rizik, který provozuje Vězeňská služba (https://www.vscr.cz/o-nas/sarpo/co-je-sarpo/). Dnes už myslím je i natolik propojen s informačním systémem vězeňské služby, že by snad měl být běžně použitelný. Nebo je ještě nějaký zásadní technický zádrhel, co jeho používání brání?

Asi potřebuje ještě dotáhnout na míru potřebám soudů pro rozhodování o podmíněném propuštění, ale jeho používání už dnes by bylo zlepšení ve srovnání s dnešním rozhodováním postaveným na osobních dojmech. A kdyby se začal používat hned, tak by se rozsekl bludný kruh "nástroj se nepoužívá, protože není hotový, na dokončení se nepracuje, protože ho nikdo nepoužívá".

Nález ÚS existenci tohoto nástroji (nebo dobré příklady z jiných zemí) nezmiňuje.

Jakub Drapal řekl(a)...

Pokud se nemýlím, tak dlouhodobě je SARPO využívané jen pro potřebu VS ČR a ta jej nechce využívat pro podmíněné propuštění, jelikož analýzy dělají jen na začátku výkonu a nebylo by spravedlivé z toho vyvozovat něco o podmíněném propuštění. Předpokládám, že by museli doplnit různá vyšetření i v průběhu výkonu a ten systém upravit.

Ten nález se nezabývá obecně, zda podobné systémy jsou, či zda jsou systémy, které by mohly být k tomu uzpůsobeny. Jen říká, že teď ten nástroj tady není a že by tu měl být. Zda se k tomu dopracuje stát skrze rozšíření SARPO či skrze jiný systém, je trochu vedlejší. Jinak tohle je obiter dictum (odstavec začíná takto: "Jako obiter dictum"), tam se moc do detailu jít nedá - už to je to zmíněno nad rámec předmětu řízení. Takže nějaký rozbor dobrých příkladů ze zahraničí tam moc není možný... Popřípadě by to mohlo vypadat zvláštně.

Robert Zbíral řekl(a)...

Kubo nález jsem prolétl a považuji jej za velmi dobrý, stejně tak nemám nic ani proti uvedenému obíčku. V zájmu objektivity by ale myslím bylo u podobných postů vhodné uvádět, že svůj komentář nepíšeš jako nezávislý akademik, ale jako (minimálně potenciální, byť je z obsahu jasné, že reálný :-) ) spolutvůrce nálezu. To by mělo platit obecně.

Konkrétně se trochu děsím tvé poznámky ohledně financování z TA ČR a doufám, že se nedočkáme předložení návrhu, ve kterém by nález ÚS napsaný osobou X sloužil jako argument pro realizaci projektu, na kterém se osoba X podílí :-) Ne že by se neděly v českém akademicko-soudním prostředí horší věci (např. tzv. uzavřená tvorba legislativy od návrhu až po konečnou aplikaci), ale měli bychom mířit na lepší standardy...

Jakub Drapal řekl(a)...

Přemýšlel jsem, zda jej komentovat či ne - řekl jsem si, že by nebylo ono komentovat dílo, na kterém jsem se podílel, tak jsem vypíchl spíše jednu právní větu a k ní napsal krátký komentář. Ale máš pravdu, že jsem měl napsat, že jsem se na tom podílel - už to tam přidávám.

Tebou zmiňovaný scénář by mne též děsil :) Tož alespoň ujišťuji, že nemám povědomí o tom, že by jakákoli osoba X, která se podílela na nálezu ÚS, plánovala použít tento nález jako argument pro realizaci projektu, na kterém by se osoba X podílela. Zároveň ale osobu X napadlo, že by naprosto neurčitá osoba Y, která nemá nic společného s osobou X a o které osoba X nemá ani zdání, mohla toto použít jako argument pro získání podpory pro projekt od TA ČR. A osobě X to přišlo zajímavé, tak to napsala. A osoba Z (unintended pun) správně zmínila, že osoba X by neměla využít argumentaci, na jejíž vytvoření se podílela; na tom se osoba X, Z a nejspíše i třeba CH shodnou :)