Samořiditelná auta a socialismus s lidskou tváří

Uživatel fu na 30kmh.cz nedávno sdílel odkaz, kde můžete vyjádřit svůj názor ohledně chování automaticky řízených vozidel. Toto cvičení je povšechně nazýváno morální problém vozidel řízených autopilotem. A odpovědi stojí za to.

Disclaimer:

Tento příspěvek neobsahuje striktně oddělenou faktickou a názorotvornou část. S názory autora můžete nesouhlasit.

Přistupovat k řešení stylem „je to debil, když věří počítači, jen ať chcípne“ je emotivní a naprosto identické představě, že když dáme chodcům absolutní přednost, tak jejich úmrtnost na silnici klesne. Tato romantická, levicová ideologie se ukázala býti zcela nefunkční, stejně jako každé jiné socialistické opatření, které dělá z lidí nesvéprávné idioty a má na rukou krev mnoha mrtvých, kteří by mohli žít, kdyby jim systém umožnil nést odpovědnost za sebe sama. Podle mě je toto téma samo o sobě brilantní exploit socialistického uvažování a podle odpovědí na otázky v jinak nepříliš dobře zpracovaném testu jde téměř bezchybně identifikovat kavárenské levičáky, kteří by regulovali a zakazovali o sto šest, ale jenom těm ostatním.

Nejprve si pojďme říci, která pravidla by vozidlo mělo zvládat (přesně v tomto pořadí), pokud se rozhodneme chování autonomních vozidel regulovat:

  1. Člověk je víc, než zvíře.
  2. Posádka auta je víc, než ostatní.
  3. Pokud je nutné vybírat mezi chodci, vozidlo by mělo držet stopu a následovat předvídatelnou trajektorii i za cenu vyšších ztrát na životech.

Pravidlo 1: Člověk je víc, než zvíře

První a nejdůležitější. Rekognice objektu i v primitivních zařízeních a nejjednodušších algoritmech je dostatečně spolehlivá a jednoznačná k tomu, abychom mohli takové pravidlo spolehlivě vynutit a implementovat. Na přednosti života člověka za cenu života zvířete se společnost shodne a morálně to nepředstavuje překážku. Člověk, ať už uvnitř, nebo vně auta, má absolutní přednost před zvířetem, a to i pokud by člověku hrozilo jen zranění.

Pravidlo 2: Posádka auta je důležitější, než ostatní

Tady začíná legrace. Pokud řidič musí rozhodnout, jestli zabije jiné, nebo sebe, vítězí vždy instinkt a pud sebezáchovy. Normální člověk prostě strhne volant, objede překážku, přejede při tom pět dětí a pak se oběsí. Instinkt neobejdete, nevypnete a nezakážete zákonem. Je to sobecké, není to romantické a ve filmech to takhle neukazují, ale je to tak. Konsensus veřejnosti je snad to nejlepší, co jsem kdy viděl – „auto by mělo obětovat řidiče, aby se mně, chodci, nic nestalo – ale já bych si to auto pak nekoupil, protože si přeci nebudu kupovat auto, které mě zabije.“ Můj názor je opačný, posádka vozu by měla mít vždy přednost a to hned z několika důvodů:

  • Toto chování je v podstatě lidské. Je sobecké, sebestředné, impulsivní, reflektuje pud sebezáchovy a hlavně realitu.
  • Je předvídatelné.
  • Je technicky jednodušší.
  • Silnice je primárně určena autům, nikoliv chodcům. Tedy vzniká přirozená motivace chodcům přebírat odpovědnost za svůj život.
  • Je legislativně zvládnuté.

Snad nejzajímavější argument je ten poslední. Představme si, že naše socialistická a vševidoucí garnitura by nějakým totalitním opatřením v souladu s veřejným míněním ustavila, že vozidlo musí být schopno rozpoznat dítě, dospělého a starce a rozhodovat o smrti v nějakém poměru, tedy třeba 1 dítě je víc, než 1 dospělý, nebo že 3 dospělí jsou víc, než 1 dospělý a tak dále. Překvapivé množství odpovědí a návrhů takové možnosti podporuje. Nedovedu si představit, že by to fungovalo. Nejprve by vláda vytvořila speciální dohledový úřad, který by za neskutečné peníze vytvořil nějaké testovací prostředí, kde různé implementace softwaru vozidel bude testovat. Jako se všemi technologickými zakázkami vlády, by se jednalo o neuvěřitelný tunel na objednávku technického řešení, které už v době implementace bude těžce obsoletní, neudržitelné a nefunkční a po nějaké době by vyšlo najevo, že automobilky stejně upravují software tak, aby hlavně prošel testy. Po nějaké době by se vyrojily arbitráže a soudní spory, kde vlády, organizace, firmy a jednotlivci budou stát proti automobilkám s názorem, že jejich kód vyhodnotil nějakou situaci jinak, než měl. Soudy budou chtít, aby výrobci uveřejnili zdrojové kódy, což tito nebudou chtít udělat. Začnou vznikat kauzy a obvinění z rasismu a rasových preferencí vozidel, protože rozpoznat věk člověka v burce, nebo barvu pleti vůči oblečení a třídit lidi bez ohledu na jejich etnicitu zní sice romanticky, ale pro stroj a programátora je to opravdový oříšek – vzpomeňme na rozpoznávání obličejů od Microsoftu, které v první verzi nedokázalo rozpoznat obličej Afroameričanů a byl z toho poprask jako prase. Nezřídka se začnou objevovat zprávy, že aftermarket firmware a nelegální updaty umožňují přepsání pravidel v rozhodovacím procesu vozidla a že je používají mafiáni, celebrity a vláda (ti poslední legálně a nikomu to nepřijde divné). Vaše důvěra ve vozidlo by v podstatě neexistovala, protože jeden update v servisu s chybou v kódu, nebo na objednávku vlády (nebo jiné organizace) by zařídil, že v první křižovatce vjedete pod kamion. Našlo by se tedy dost těch, kteří by tento systém odpojovali. Ohromná legislativní smršť sprasků z per naprostých technických analfabetů ve vládě, jejich vymáhání naprostými technickými analfabety u policie a jejich posuzování naprostými technickými analfabety z řad soudců a soudních znalců, jejichž tvrzení by byla v podstatě nepřezkoumatelná a naprosto vycucaná z prstů, by byla na denním pořádku. To je jen špička ledovce, kam by taková opatření a nařízení vedla. Je to nesmysl. Byla by to skvělá ukázka neudržitelnosti současné koncepce vlády, která je rozhodnutá regulovat úplně všechno.   V úplné nahotě by se ukázalo, že rychlost vývoje technologií a změny ve společnosti dávno předstihly organizační schopnosti vládního ansáblu se přizpůsobit a držet s veřejností krok ve svém urputném snažení srát se do všeho, co lidé dělají.

Pravidlo 3: Musí-li vozidlo obětovat někoho venku, mělo by rozhodovat bez ohledu na škody, které hrozí v různých scénářích a chovat se předvídatelně.

Tady se asi budete škrábat na hlavě. Proč by auto mělo zabít 5 dětí, když ví, že může jedním manévrem připravit o život jen jednoho dospělého?! Potíž je v té části, kde auto „ví.“ Auto ví prd. Auto má senzory a radary a tak je možné, že někteří výrobci by dokázali sestavit takovou implementaci, která skutečně tuto situaci dokáže spolehlivě rozpoznat a obětovat tu část silnice s přechodem, kde je zrovna nejmíň lidí. Co když auto ušetří tři děti před sebou, ale hned za obětovaným chodcem v druhé půlce silnice je betonový sloup a v autě samotném kvůli tomu zemřou 4 děti? Taková řešení, kdy má vozidlo prioritizovat jsou technologicky nezvládnutelná a morálně naprosto nepřípustná. Řekněme, že vidíte přijíždět auto, ale je dost daleko a tak vejdete do silnice. Dítě za vámi se nerozhlédne a vběhne pod auto, když zrovna projíždí. Autopilot vyhodnotí, že vy jako dospělý budete obětován a změní směr vozidla tak, že zabije vás, i když za nehodu může dítě. Vy jste auto viděli, včas jste před ním přešli a nepředpokládáte, a ani si žádným dílem nezasloužíte, aby vozidlo náhle, zcela samovolně, změnilo směr a zabilo vás, kvůli chybě někoho jiného. V takovém případě, kdy už elektronika ví, že střetu nelze zabránit a že někdo dojde zranění tak jako tak, by auto mělo zachovat směr a tím zajistit, že jeho pohyb je předvídatelný. Těm, kteří věří sobě a ne systému a před přecházením silnice se rozhlédnou, tím pádem vzniká naděje, že mohou uskočit na správnou stranu, protože nejsou blbí a sledují své okolí. Ti, kteří se s autem střetnou čelně, mají větší šanci na přežití, než v kterémkoliv jiném kolizním scénáři. Na druhou stranu můžete namítnout, že řidič-člověk by viděl dítě, trhnul volantem a přejel vás stejně, jako by to udělal autopilot. Možná ano a možná ne. Téma nemá správná a špatná řešení, proto tomu říkáme morální problém. Zásada předvídatelnosti je podle mého nejjednodušší východisko. Obzvlášť v tomto druhu otázek shledávám nejsnadnější identifikaci politické orientace respondentů, protože jejich odpověďmi ihned poznáte, že by chtěli rozhodovat o životě druhých.

Žádná odpověď ani pravidlo není správné a použitelné ve všech případech.

Výše uvedená pravidla jsou ale regulace, jako každá jiná a tedy pro mě i tak neakceptovatelná. Dokázal bych je vnímat jako výchozí nastavení autopilota v době koupě vozidla. Jako úplně nejsmysluplnější řešení považuji udělat nastavení auta volitelné a ponechat zcela na uživateli, jak se s tím vypořádá. Důvěra v implementační schopnosti výrobce, povaha majitele, jeho názory a způsob jízdy by měly být jen jeho volbou a v případě, kdy provozem bezpilotního vozidla způsobí nějakou újmu, by soud měl nějaká nastavení a software zcela ignorovat a uvažovat, jako by vozidlo majitel řídil sám, případně jako by vozidlo vybavil samořízením vlastní výroby. Ta nastavení si totiž zvolil a důvěru do implementace těchto vložil, zcela sám. Takové prostředí by vedlo k ryku státem již dobře zpracovaných užitečných idiotů, kteří budou lamentovat, že přece nemohou chápat a porozumět všem detailům programování a nejsou přeci schopni kvalifikovaně posoudit, jestli to auto je schopné se opravdu řídit zadanými nastaveními uživatele. Takové lamentování, ať už se jedná o samořiditelná auta, nebo složení potravin, považuji dlouhodobě jako testament hlouposti levicového voliče, který ničemu nerozumí, ničemu rozumět nechce, ale nechce za takové jednání nést žádnou odpovědnost. V tu chvíli přichází ke slovu establishment, který takového člověka vezme za ručičku a rozhodne se jej chránit v jeho rozhodnutí zůstat neinformovaným a nezodpovědným a proto shledávám tuto variantu osobní odpovědnosti nejlepší a zároveň nereálnou.

Nepovažuji svůj názor za správný. Podle mě není žádný správný, ale tento je pro mě morálně nejméně závadný. Otázky totiž mohou být zákeřné a jeden můj známý nadhodil dobré příklady:

  • Na přechodu děti.
  • Na přechodu moje děti.
  • Na přechodu moje rodina.
  • Na přechodu Babiš.
  • Na přechodu Papež.
  • Na přechodu Papež a jsem silně věřící.
  • Na přechodu bezdomovec.
  • Na přechodu dobrovolný hasič, co je oblečený jako bezdomovec.

Nemůžete autoritativně rozhodovat, jak se má v takovém případě vozidlo chovat, protože neexistuje nastavení, které nebude někoho diskriminovat v jeho názorech a přesvědčeních. Nezapomeňme, že celé cvičení na výše uvedeném odkazu v právním státě může dopadnout tak, že viníkem nebude nikdo. Vozidlo mělo platnou STK, soudní znalec nepotvrdil zanedbání pravidelné údržby, chodec šel po přechodu a na zelenou. Nikdo nepochybil, přesto se stalo neštěstí. Koho za to potrestáme? Je tak těžké si představit, že nepotrestáme nikoho? Co kdyby ten mrtvý byl z vaší rodiny? A co kdybyste byl provozovatel toho auta, ale v době střetu byste v něm neseděl? Co kdyby auto bylo úplně prázdné a jen se řídilo nastavením cizího majitele? Vaším nastavením? Co když vozidlo vlastníte, ale vyšle ho někdo jiný? Objektivní odpovědnost za vůz, který jste nikomu nepůjčil, nesvěřil, nikam jej nevyslal, ale auto přesto odjelo a nikdo neví proč? Dalo by se tomu vůbec ještě říkat svobodná společnost a právní stát?

Ve světle všech scénářů si nedovedu představit, že bychom k lidem v různých situacích přistupovali podle nějaké legislativní tabulky a určovali, jaký podíl zavinění na nehodě má člověk, který v něm vůbec neseděl, údržbu nezanedbal a navíc tvrdí, že auto nevyslal a o jeho schopnosti samořízení třeba vůbec nevěděl.

Tyto a další mnohé, neřešitelné problémy budou vyplouvat na světlo stále častěji, protože technologický pokrok roste geometrickou řadou a dostupnost technologií se zrychluje. Mám z toho radost, protože v blízké budoucnosti už nebude moci společnost mlžit, hrát si na svobodnou a srát si do vlastní kapsy různými slovními hříčkami, jako objektivní odpovědnost, která zní právně v pořádku, přitom je to eroze ústavních práv jako prase. Buď společnost akceptuje odpovědnost každého zvlášť a pochopí, že nejde takové věci regulovat a zároveň mít svobodu, nebo na svobodu rezignuje (zase), přejde otevřeně do totality (zase) a bude se divit, že totalita nefunguje (zase) a že je stát neochránil a že auta zabíjej lidi, i když Bohoušek v televizi tvrdil opak (zase a zase). Stačí se podívat na bezpilotní drony v rukou civilistů. Nemůžete je kontrolovat, dron lze vytisknout na 3D tiskárně, postavit i ve špatně vybavené dílně, doslova na koleni. A narazit s ním do civilního letadla plného lidí. Nepomohou vám sériová čísla, radary, stíhačky, zákony, regulace. Je to tak levné, že ho lze postavit na jedno použití, sundat s ním letadlo a nikdo se nikdy nedozví, kdo dron sestrojil a k letadlu vyslal. Na dron by se také dalo něco připevnit. Třeba raketa. Co budeme dělat, až na kickstarteru vznikne overfundovaná kampaň na vytvoření civilního odpalovacího systému pro užití na obyčejném dronu koncovým spotřebitelem? Těším se na to.