autonomiczne samochody i ich etyka

[do.ki]

Póki co autonomiczne samochody (czyli samochody bez kierowcy) nie są idealne, tzn mają wypadki częściej niż samochody prowadzone przez człowieka (autonomiczne samochody Googla miały 3 wypadki przy przebiegu 225000 km, podczas gdy statystyczny amerykański kierowca ma wypadek co średnio 530000 km. W dodatku coasmhody Googla jeździły w monitorowanym, testowym otoczeniu, a nie w takim całkiem zwykłym ruchu). To oczywiście argument za tym, że przestrzeganie przepisów nie chroni przed wypadkami (komputery trzymają się przepisów konsekwentnie), ale nie o tym chciałem. Wiadomo już, że w komputerach kierujących pojazdami trzeba będzie jakoś zaprogramować etykę. Jak bowiem powinien zachować się autonomiczny samochód w sytuacji, gdy kolizja z możliwymi ofiarami śmiertelnymi będzie nie do uniknięcia? Np: przed autonomiczny samochód nagle wybiega dziecko. Komputer ma wybór:
1) jechać dalej i "poświęcić" dziecko
2) pójść na czołowe z samochodem jadącym z przeciwka
3) skręcić w bok i uderzyć w drzewo/mur, aby uniknąć rozjechania dziecka, "poświęcając" własnych pasażerów

Pytanie- ankieta: jaką zasadą powinien kierować się komputer:
1) algorytm solidarny, czyli rozłożenie obrażeń na wszystkie osoby tak, aby zminimalizować ryzyko ofiar śmiertelnych
2) algorytm humanistyczny, czyli nacisk na ochronę zdrowia i życia pieszych i innych niż właśni pasażerowie uczestników ruchu
3) algorytm protekcyjny, czyli ochrona zdrowia i życia własnych pasażerów ma priorytet
4) algorytm finansowy czyli ograniczenie kosztów odszkodowań
5) inny: jaki?

Ciekawe pytanie... (w końcu jakieś)

[qqbek]

Myślę, że proponowałbym algorytm solidarny, czyli próbę rozłożenia obrażeń tak, by zminimalizować ryzyko ofiar śmiertelnych przy zderzeniu z "miękkimi" i zbiorkomem.

Przyjmuje przy tym dwie przesłanki:
1. indywidualny ruch drogowy jest złem koniecznym i z racji tego ma rolę drugorzędną w stosunku do niezmotoryzowanych/zbiorowych form komunikacji.
2. założyliśmy uprzednio, że nie zawinił pojazd autonomiczny (poruszający się zawsze przepisowo) tylko inny (miękki lub prowadzący pojazd komunikacji zbiorowej) uczestnik ruchu.

W wypadku kolizji z indywidualnym pojazdem silnikowym, prowadzonym przez człowieka (kolizję dwóch pojazdów zautomatyzowanych wykluczam) obrałbym strategię minimalizacji szkód pośród przewożonych pasażerów (czyli algorytm 3, protekcyjny w Twoim scenariuszu). Przesłanką ku temu jest zawsze przepisowa jazda pojazdu autonomicznego (z czego wynika, że nieprzepisowym zachowaniem popisał się kierujący drugim pojazdem).

Jedyny problem w przyjęciu tak "adaptacyjnej" etyki to kwestia nadmiernej ochrony pasażerów zbiorkomu, jako konsekwencja przyjęcia uprzywilejowanej roli takiego rodzaju komunikacji... z drugiej zaś strony chyba najłatwiej oczekiwać, że to akurat pojazdy komunikacji miejskiej/międzymiastowej zostaną zautomatyzowane.

[po_matador]

Auto powinno działać wg. algorytmu 3 czyli dążyć do maksymalnej ochrony pasażerów auta.
Dlaczego? Przede wszystkim dlatego, że w dotychczasowej praktyce konstrukcji aut ochrona pasażerów miała priorytet i dopiero od relatywnie niedawna wraca się uwagę na skutki incydentów z udziałem ludzi poza pojazdem, choć jak wiadomo nie ma fizycznej możliwości aby auto chroniło ludzi na zewnątrz tak jak tych w środku. Drugi powód jest taki, że nie są znane przypadku programowania maszyn w taki sposób aby dać im autonomiczne prawo zabicia ich operatorów.

Zwracam też uwagę, że inne środki lokomocji nie mają podobnych dylematów.
-pociąg w przypadku awarii/wypadku nie jest w stanie zrealizować żadnego z algorytmów ochronnych w związku z brakiem możliwości autonomicznego manewru (kanalizują go tory),
co ciekawe świadomość że pociąg "nie ma etyki" skutecznie odstrasza od wchodzenia w interakcje z nim.
-w przypadku samolotów wybierany jest algorytm 2 - jeśli tylko samolot jest sterowalny piloci minimalizują skutki katastrofy na ziemi. Istota incydentów lotniczych, ich gwałtowność uniemożliwia dystrybucję szkody czy zapewnienie ochrony pasażerów kosztem otoczenia, ale na odwrót tak i są znane rozliczne przykłady takiego postępowania.

A to na co zwracasz uwagę ogólnie nosi nazwę "trolley problem" i jest przedmiotem rozlicznych badań interdyscyplinarnych.

[nazimno]

Ta problematyka jest dyskutowana
od lat jako aspekt sztucznej
inteligencji: artificial intelligence.


Ponadto masa publikacji znaleziona
byc moze chocby googlem:


/ ethical issue surrounding autonomous vehicles/

To temat na habilitacje.

[bimota]

WALIC W DZIECKO OCZYWISCIE... ALE TO MUSIAL BY JESZCZE ROZPOZNAWAC WIEK I SZACOWAC RYZYKO SMIERCI CZY OBRAZEN W DANEJ SYTUACJI...

DRZEWO I MUR TO NIE TO SAMO...

[engine8]

Kilka dni temu "natknalem" sie na takiego "Googla" i troche za nim pojechalem - bylem z zona i ta miala wieksze priorytety niz jazde za Googlem no i jak uslyszala ze chce "delikatnie przetestowac reaguje " to mnie bardzo szybko wykierowala w inna strone...
No wiec te auta jak na razie jezdza gorzej jak 90 letnie dziadki w Maluchu. Nie wiem czy to analiza sytuacji czy oprogramowanie zajmuje im 3x dluzej niz kazdemu innemu zeby sie np wlaczyc do ruchu czy zmienic pas. Podjechalem mu na swiatlach blisko z tylu (wiedzac ze ta obrotowa kamera mnie nagrywa) i Toto ruszylo do przodu jakies 5 sek po zapaleniu sie swiatel zielonych.... no wiec nie ma sie co wlec za takim, a potem jak robil skret w prawo to stal i stal wirujac kamerami az nie bylo auta na jego planowanym pasie w odlegosci na pewno ponad 100 m...

[engine8]

No wiec podejrzewam iz tego typu samochodu jeszcze bardza dlugo beda jedynie testowane poniewaz sa i beda bardzo mulowate i "ostrozne" w poruszaniu sie az do momentu kiedy wiekszosc aut bedzie posiadac mozliwosc komunikownia sie wzajemnie i kontroli "poplulacji samochodow" w okolicy zamiast prob dynamicznego dopasownia sie do instniejacych warunkow.
Ruch drogowy wymaga tak szybkich decyzji na kazdym kroku ze czlowiek w wiekszosci reaguje i prawie zawsze zaklada jakis tam poziom ryzyka przy wiekszosci manewrow - nie ocenia warunkow poniewaz nie ma na to czasu a "robot" tego nie bedzie mogl robic poniewaz nawet kiedy stwierdzi zagrozenie to prawdopodobnie nie zrobi nic zanim nie zaanalizuje calej sytuacji dookola a ta sie ciagle zmienia ..a jesli bedzie przyczyna wypadku to cala firma pojdzie do sadu za problem w oprogramowaniu?

Jeszcze dodatek.. Kiedy tak jechalem za tym Googlem to zona mowi "ty sie nie zblizaj bo on Tobie zrobi to co Ty robisz innym jak sie wloka Ci na ogonie" - tzn wlaczy spryskiwacz przedniej szyby. hehehehe.. w sumie nie tak trudno by bylo - tylko komu to nabluzgac czy pokazac palca jak nie bedzie kierowcy?