Historie úprav
anonym
Odpověděl/a – 15.červenec 15:44
Toto je samozřejmě velmi zajímavá otázka a vůbec celé téma v rámci technologie autonomního řízení. Existuje obrovské množství scénářů, kdy chybu neudělá auto samo ale chodci, ostatní řidiči, kteří se z ničeho nic zachovají nepředvídatelně a najednou se autonomní vůz ocitá v situaci kdy se skutečně musí rozhodovat zda a jak do řízení zasáhnout aby to vedlo k záchraně vlastní posádky vozu, nebo záchraně chodců kteří najednou vběhli na přechod. Autopilot vozu má na každé rozhodnutí téměř celou věčnost. I milisekundy jsou pro autopilota věčnost a může v nich rozhodnout o zásahu do řízení který zahájí už v další milisekundě, takže můžeme autopilota klidně v rámci jistého zjednodušení chápat jako řidiče, který má schopnost kdykoliv zastavit čas a libovolně dlouho nad situací přemýšlet a rozmýšlet. To je komfort který lidský řidič pochopitelně nemá, takže i zcela nové problémy k řešení.
Má autopilot v situaci kdy nemůže ze situace vybruslit žádným způsobem aniž by se někdo zranil, rozhodovat o tom kdo prvotně nehodu zavinil a upřednostnit záchranu těch co se v situaci ocitli nevinně ? taková analíza dopravní situace je ale velmi náročný oříšek že ? Mají se vývojáři vůbec zabývat tím aby autopilot takto uvažoval nebo si má prostě jen hodit kostkou nebo jen v panice pustit volant jak by to udělal liský řidič a zírat do blba ? Težko říct …
Ukažme si typickou situaci která k této otázce vede. Do ulice kde najednou vběhnou dvě děti a peláší přes silnici, stane se to tak rychle že autopilot ví, že už nestihne přibrzdit tak aby ji nesrazil. Vypočítá si ale že může ostře zahnout vpravo kde ale bohužel seniora, který se prochází po chodníku nebo zahnout ostře volevo kde dojde k čelnímu střetu s dodávkou a patrně zahyne samotná posádka autonomního vozu ? Je to velmi nepříjemné rozhodování že ? Lidský pilot by na něj neměl vůbec čas a tak by to neřešil, prostě by náhodně udělal jedno, druhé nebo třetí a nepřemýšlel nad tím. Autopilot ale jak jsme si řekli má na vše moře času a může podumat, může vytvořit nějká hodnotící kritéria, je život dvou dětí cennější než život seniora ? Sakra ošemetná otázka, dva je více než jedna to je jisté, ALE lze to vůbec poměřovat ? Měl by autopilot do rozhodování zahrnout i skutečnost že senior neporušil dopravní předpisy ale děti ano ? Měl by primárně hájit život své posádky ať už je viníkem kdokoliv ? Tohle vůbec není jednoduchý problém a bude jistě v příštích dekádách rozvoje autonomního řízení nějakou dobu na stole.
Legislativa nic takového nenařizuje, takže se podle mne vývojáři autopilotů tím vůbec zavýbat z počátku nebudou a nechají to na náhodě, nebo prostě zbrkle předají řízení do rukou lidského pilota a ten se v krátkém čase nestihne rozhodnout vůbec nijak (ale už to bude na něm) …
anonym
Odpověděl/a – 15.červenec 15:49
Toto je samozřejmě velmi zajímavá otázka a vůbec celé téma v rámci technologie autonomního řízení. Existuje obrovské množství scénářů, kdy chybu neudělá auto samo ale chodci, ostatní řidiči, kteří se z ničeho nic zachovají nepředvídatelně a najednou se autonomní vůz ocitá v situaci kdy se skutečně musí rozhodovat zda a jak do řízení zasáhnout aby to vedlo k záchraně vlastní posádky vozu, nebo záchraně chodců kteří najednou vběhli na přechod. Autopilot vozu má na každé rozhodnutí téměř celou věčnost. I milisekundy jsou pro autopilota věčnost a může v nich rozhodnout o zásahu do řízení který zahájí už v další milisekundě, takže můžeme autopilota klidně v rámci jistého zjednodušení chápat jako řidiče, který má schopnost kdykoliv zastavit čas a libovolně dlouho nad situací přemýšlet a rozmýšlet. To je komfort který lidský řidič pochopitelně nemá, takže i zcela nové problémy k řešení.
Má autopilot v situaci kdy nemůže ze situace vybruslit žádným způsobem aniž by se někdo zranil, rozhodovat o tom kdo prvotně nehodu zavinil a upřednostnit záchranu těch co se v situaci ocitli nevinně ? taková analíza dopravní situace je ale velmi náročný oříšek že ? Mají se vývojáři vůbec zabývat tím aby autopilot takto uvažoval nebo si má prostě jen hodit kostkou nebo jen v panice pustit volant jak by to udělal liský řidič a zírat do blba ? Težko říct …
Ukažme si typickou situaci která k této otázce vede. Do ulice kde najednou vběhnou dvě děti a peláší přes silnici, stane se to tak rychle že autopilot ví, že už nestihne přibrzdit tak aby ji nesrazil. Vypočítá si ale že může ostře zahnout vpravo kde ale bohužel seniora, který se prochází po chodníku nebo zahnout ostře volevo kde dojde k čelnímu střetu s dodávkou a patrně zahyne samotná posádka autonomního vozu ? Je to velmi nepříjemné rozhodování že ? Lidský pilot by na něj neměl vůbec čas a tak by to neřešil, prostě by náhodně udělal jedno, druhé nebo třetí a nepřemýšlel nad tím. Autopilot ale jak jsme si řekli má na vše moře času a může podumat, může vytvořit nějká hodnotící kritéria, je život dvou dětí cennější než život seniora ? Sakra ošemetná otázka, dva je více než jedna to je jisté, ALE lze to vůbec poměřovat ? Měl by autopilot do rozhodování zahrnout i skutečnost že senior neporušil dopravní předpisy ale děti ano ? Měl by primárně hájit život své posádky ať už je viníkem kdokoliv ? Tohle vůbec není jednoduchý problém a bude jistě v příštích dekádách rozvoje autonomního řízení nějakou dobu na stole.
Legislativa nic takového nenařizuje, takže se podle mne vývojáři autopilotů tím vůbec zavýbat z počátku nebudou a nechají to na náhodě, nebo prostě zbrkle předají řízení do rukou lidského pilota a ten se v krátkém čase nestihne rozhodnout vůbec nijak (ale už to bude na něm) …
více viz MORAL MACHINE, například tento článek https://www.zive.cz/clanky/moral-machine-uz-vime-zdali-je-lepsi-zabit-psy-sebe-nebo-matky-na-prechodu/sc-3-a-195728/default.aspx nebo https://www.nature.com/articles/d41586-018-07135-0
Každopádně jisté je, že tyto morální volby nejsou univerzální, mohlo by se v konkrétním případě zdát určité rozhodnutí správnější než jiné ale vsorec kterým jste k němu dospěli nemusí mít žádnou váhu či platnost v jiné situaci.