Začiatkokm júla médiá oznámili, že federálne úrady v USA začali vyšetrovanie tragickej havárie Tesly Model S. Havária sa stala 7. mája vo Willistone, Florida. Pri nehode zahynul vodič. Teslu, v momente havárie, riadil autopilot. Ani vodič, ani autopilot nezareagovali na traktor s prívesom, ktorý nečakane odbočil doľava a skrížil im cestu. Podľa Tesly oslepujúce slnko v protismere zabránilo senzorom i vodičovi spozorovať, že traktor sa rozhodol odbočiť...
Na túto správu okamžite zareagovali všetky médiá: “Čo to znamená pre budúcnosť autonómnych áut?”
Tesla na svojom blogu uviedla, že sa to stalo po prvý-krát za 130 mil. km, ktoré absolvovali Tesly s aktivovaným autopilotom. Štatistika za vybrané typy autonómne riadených áut (Tesla, General Motors, Google) hovorí, že autonómne riadené autá majú vyššiu frekvenciu havárií na milión kilometrov ako ľuďmi riadené autá. Doteraz však nikdy neboli príčinou. Tak prečo sú častejšie účastníkmi havárií? Moja hypotéza: “preto, lebo nevedia riskantne jazdiť”.
Keby tá Tesla urobila nejaký šialený manéver na poslednú chvíľu…. Možno…
Zvláštne, však? Riskantný spôsob jazdy, je nežiadúci spôsob riadenia, však? Alebo nie tak celkom? V istých situáciách nám môže zachrániť život... Možno…
Naučíme teda umelú inteligenciu riskantnej jazde len preto, že veríme, že v určitých momentoch nás nejakým zázrakom zachráni?.. Možno zachráni…
Akceptujeme pritom, že celkovo, nám riskantná jazda spôsobí viac problémov ako úžitku? Vytvoríme v každom aute virtuálneho gaunera, ktorý sa aktivuje vždy keď pôjde o život?
Ale v súvislosti s haváriou Tesly sa vynárajú i ďalšie etické otázky: “Ktoré životy bude autopilot prednostne zachraňovať?” Ako bude zvažovať ktorý život má vyššiu hodnotu? Bude sa spoliehať na štatistický výpočet minimálneho množstva mŕtvych resp. zranených osôb? Môže sa teda za určitých okolností rozhodnúť zabiť svoju posádku, len aby zabránil väčším stratám na životoch ľudí na chodníku? Kto také auto kúpi?
To všetko sú samozrejme veľmi zložité otázky, ale nejaké svetielko na konci tunela sa predsa len ukazuje. Americké federálne úrady sa rozhodli vyšetrovať túto haváriu podobne, ako sa vyšetrujú letecké havárie. A súčasťou vyšetrovania každej havárie sú i nápravné opatrenia a odporúčania pre výrobcov. Takže algoritmus riešenia kritických situácií nebude len záležitosťou jednotlivých výrobcov, ale nariadením štátneho orgánu. Táto na prvý-pohľad triviálna metóda je geniálne riešenie, ktoré definitívne rozviaže ruky vývojárom autonómnych áut. Ak auto splní požiadavky štátneho dozoru na bezpečnosť, vrátane riešenia havarijných situácií, výrobca je mimo obliga. Nikto ho nemôže zažalovať a ani nebude môcť šíriť spochybňujúce reči, typu: keby ste pri vývoji mysleli na to, alebo na ono, nemuselo k havárii prísť. Ocení niekto, že to čo práve riešia v USA, ušetrí v budúcnosti veľké množstvo životov? Ja áno.
Na túto správu okamžite zareagovali všetky médiá: “Čo to znamená pre budúcnosť autonómnych áut?”
Tesla na svojom blogu uviedla, že sa to stalo po prvý-krát za 130 mil. km, ktoré absolvovali Tesly s aktivovaným autopilotom. Štatistika za vybrané typy autonómne riadených áut (Tesla, General Motors, Google) hovorí, že autonómne riadené autá majú vyššiu frekvenciu havárií na milión kilometrov ako ľuďmi riadené autá. Doteraz však nikdy neboli príčinou. Tak prečo sú častejšie účastníkmi havárií? Moja hypotéza: “preto, lebo nevedia riskantne jazdiť”.
Keby tá Tesla urobila nejaký šialený manéver na poslednú chvíľu…. Možno…
Zvláštne, však? Riskantný spôsob jazdy, je nežiadúci spôsob riadenia, však? Alebo nie tak celkom? V istých situáciách nám môže zachrániť život... Možno…
Naučíme teda umelú inteligenciu riskantnej jazde len preto, že veríme, že v určitých momentoch nás nejakým zázrakom zachráni?.. Možno zachráni…
Akceptujeme pritom, že celkovo, nám riskantná jazda spôsobí viac problémov ako úžitku? Vytvoríme v každom aute virtuálneho gaunera, ktorý sa aktivuje vždy keď pôjde o život?
Ale v súvislosti s haváriou Tesly sa vynárajú i ďalšie etické otázky: “Ktoré životy bude autopilot prednostne zachraňovať?” Ako bude zvažovať ktorý život má vyššiu hodnotu? Bude sa spoliehať na štatistický výpočet minimálneho množstva mŕtvych resp. zranených osôb? Môže sa teda za určitých okolností rozhodnúť zabiť svoju posádku, len aby zabránil väčším stratám na životoch ľudí na chodníku? Kto také auto kúpi?
To všetko sú samozrejme veľmi zložité otázky, ale nejaké svetielko na konci tunela sa predsa len ukazuje. Americké federálne úrady sa rozhodli vyšetrovať túto haváriu podobne, ako sa vyšetrujú letecké havárie. A súčasťou vyšetrovania každej havárie sú i nápravné opatrenia a odporúčania pre výrobcov. Takže algoritmus riešenia kritických situácií nebude len záležitosťou jednotlivých výrobcov, ale nariadením štátneho orgánu. Táto na prvý-pohľad triviálna metóda je geniálne riešenie, ktoré definitívne rozviaže ruky vývojárom autonómnych áut. Ak auto splní požiadavky štátneho dozoru na bezpečnosť, vrátane riešenia havarijných situácií, výrobca je mimo obliga. Nikto ho nemôže zažalovať a ani nebude môcť šíriť spochybňujúce reči, typu: keby ste pri vývoji mysleli na to, alebo na ono, nemuselo k havárii prísť. Ocení niekto, že to čo práve riešia v USA, ušetrí v budúcnosti veľké množstvo životov? Ja áno.
