Auta autonomiczne (tu widać, jak "auto" faktycznie oznacza automatyzację) mają już zaprogramowywane wybory moralne w sytuacjach krytycznych. Poniżej link do ankiety - warto sobie uświadomić, że nie zawsze wybór jest łatwy i oczywisty.

No i czy chcielibyście jeździć samochodem, który wybierze, by zabić was, a nie przechodnia?

http://moralmachine.mit.edu/

Zaznaczałem obrazki wg klucza, aby zawsze ginęli piesi, bo tak  Wyniki i ich interpretacja to stek masakrycznych bzdetów  

Ja akurat bym wybral zeby auto przywalilo w barierke i wczesniej dawalo sygnal dzwiekowy. Uderzenie by troszke spowolnilo auto a wraz z sygnalem dzwiekowym moze by pomoglo komus uciec.  :D

a tak test rozwiazywalem tak by gineli ci co lamia prawo. a jak nie to by gineli pasazerowie auta bo to oni odpowiadaja za stan techniczny a nie niewinny pieszy. swoja droga ciekawe jak dobrze ten system bedzie odrozniac osoby. a no i wiadomo ze zwierzeta powinny zginac przed ludzmi.

4 minuty temu, patgaw napisał:

swoja droga ciekawe jak dobrze ten system bedzie odrozniac osoby. a no i wiadomo ze zwierzeta powinny zginac przed ludzmi

Może jeszcze starsi przed młodszymi, głupsi przed mądrzejszymi, bardziej chorzy od zdrowszych itd.

6 minut temu, volf6 napisał:

starsi przed młodszymi, głupsi przed mądrzejszymi, bardziej chorzy od zdrowszych itd.

Zapomniałeś o biedniejsi przed bogatszymi.

1 minutę temu, noras napisał:

Zapomniałeś o biedniejsi przed bogatszymi.

Tutaj niewiadomo-jak zdejmiesz bogatego to komu zabierzesz żeby dać biednym?

4 minuty temu, noras napisał:

Zapomniałeś o biedniejsi przed bogatszymi.

To to będzie/jest 1 prawo autonomiki

Ja poszedłem wg. klucza, żeby zawsze jechać prosto i/albo zawsze ratować pasażerów samochodu.

Po pierwsze - sytuacja i następstwa łatwiejsze do przewidzenia; po drugie - nie wyobrażam sobie, żeby mój toster najpierw spowodował moje zagrożenie a następnie wybrał zdrowie kogoś ponad moim.

4 minuty temu, camel00 napisał:

Ja poszedłem wg. klucza, żeby zawsze jechać prosto i/albo zawsze ratować pasażerów samochodu.

Po pierwsze - sytuacja i następstwa łatwiejsze do przewidzenia; po drugie - nie wyobrażam sobie, żeby mój toster najpierw spowodował moje zagrożenie a następnie wybrał zdrowie kogoś ponad moim.

 

 

I do tego niech ratuje psy!!!

 

Mi tak wyszło 

 

 

Ja skonstruowałem taki system wartości moralnych:

1. Priorytetem jest ochrona życia ludzkiego.

2. Uczestnik ruchu poruszający się zgodnie z przepisami ma priorytet wobec nieprzestrzegającego przepisów.

3. Właściciel / pasażer pojazdu autonomicznego ponosi odpowiedzialność i konsekwencje awarii.

 

W tym teście pozwalają dokonać wyboru w każdej sytuacji.

4 minuty temu, el_diablo napisał:

3. Właściciel / pasażer pojazdu autonomicznego ponosi odpowiedzialność i konsekwencje awarii.

 

 

 

Dokladnie tak powinno byc, ale zeby tak sie dzialo to chyba by musialo byc wymuszone przez prawo. Bo inaczej kazdy producent bedzie na pierwszym miejscu chronil pasazerow bo wiadomo lepsza sprzedaz

20 godzin temu, FrugOs napisał:

Wyniki i ich interpretacja to stek masakrycznych bzdetów  

Niestety muszę się zgodzić.

Wnioski wyciągnięte z klikania dla prostego założenia, są co najmniej skrzywione. Coś jak rozmowa w HR na stanowisko głęboko techniczne w wykonaniu siksy w trakcie studiów psychologicznych 

22 godziny temu, patgaw napisał:

 

 

Dokladnie tak powinno byc, ale zeby tak sie dzialo to chyba by musialo byc wymuszone przez prawo. Bo inaczej kazdy producent bedzie na pierwszym miejscu chronil pasazerow bo wiadomo lepsza sprzedaz

 

Jeśli mój pojazd nie będzie w pierwszej kolejności chronił mnie i mojej rodziny to ja go w życiu nie kupię. A jeśli kupię to wgram zmodyfikowane oprogramowanie. Nie sądzicie chyba że nie będzie ludzi, którzy za kasę wgrają tam cokolwiek klient sobie zażyczy.

I tu moze pojawic sie kolejny problem bo jak pojdziesz do Mietka i zle ci ustawi oprogramowanie i samochod np zwariuje w sytuacji kryzysowej? Druga rzecz to utrata gwarancji, ale to wszystko tylko teoretycznie pod warunkiem ze byl by taki przepis jak mowilem.

Teraz, patgaw napisał:

I tu moze pojawic sie kolejny problem bo jak pojdziesz do Mietka i zle ci ustawi oprogramowanie i samochod np zwariuje w sytuacji kryzysowej? Druga rzecz to utrata gwarancji, ale to wszystko tylko teoretycznie pod warunkiem ze byl by taki przepis jak mowilem.

 

Mam gdzieś gwarancję, jeśli mój samochód ma mnie potencjalnie zabić ratując np. chroniony gatunek jakiejś żaby. Dopóki nie będę mógł sam zdecydować jak to ma być skonfigurowane, dopóty nie mam zamiaru pozwalać mu na autonomiczne reakcje w sytuacjach kryzysowych.

 

Większy problem IMO pojawi się wraz z wprowadzeniem autonomicznej komunikacji publicznej.

 

2 godziny temu, Ryb napisał:

Dopóki nie będę mógł sam zdecydować jak to ma być skonfigurowane, dopóty nie mam zamiaru pozwalać mu na autonomiczne reakcje w sytuacjach kryzysowych.

Parametry oprogramowania będą na 100% podpisywanie kluczem, więc cienko widzę ich modyfikację.

A że innych niż autonomiczne aut nie będzie, to pozostanie rower.

2 godziny temu, Ryb napisał:

 

Mam gdzieś gwarancję, jeśli mój samochód ma mnie potencjalnie zabić ratując np. chroniony gatunek jakiejś żaby. Dopóki nie będę mógł sam zdecydować jak to ma być skonfigurowane, dopóty nie mam zamiaru pozwalać mu na autonomiczne reakcje w sytuacjach kryzysowych.

 

Tylko że nawet dzisiaj żaden Mietek nie modyfikuje całych algorytmów sterowania silnikiem a tylko podmienia w pamięci pewne używane przez te algorytmy parametry. Nie słyszałem żeby ktoś próbował ulepszać np tryb autonomicznej jazdy Tesli. Ba, nie słyszałem nawet żeby ktoś próbował ulepszać algorytmy automatycznych odkurzaczy czy kosiarek które są znacznie prostsze...

Zresztą gdyby taki zmodyfikowany samochód spowodował zdarzenie drogowe z ofiarami to osoba modyfikująca skończyłaby raczej nieciekawie. Stawiam że gdy autonomiczne samochody się upowszechnią to modyfikowanie ich oprogramowania dotyczącego jazdy może być wręcz karalne, bo pojawienie się wśród wielu normalnych aut jednego z włączonym trybem "czołg nie zważa na nic" będzie stwarzało duże zagrożenie. Taki pirat drogowy przyszłości.

 

1 godzinę temu, Polarny napisał:

Parametry oprogramowania będą na 100% podpisywanie kluczem, więc cienko widzę ich modyfikację.

A że innych niż autonomiczne aut nie będzie, to pozostanie rower.

 

A pokaż mi oprogramowanie, którego nie można zmodyfikować/zastąpić. Weź pod uwagę skalę - najwyżej pojawią się alternatywne całe systemy.

56 minut temu, PawelW napisał:

 

Tylko że nawet dzisiaj żaden Mietek nie modyfikuje całych algorytmów sterowania silnikiem a tylko podmienia w pamięci pewne używane przez te algorytmy parametry. Nie słyszałem żeby ktoś próbował ulepszać np tryb autonomicznej jazdy Tesli. Ba, nie słyszałem nawet żeby ktoś próbował ulepszać algorytmy automatycznych odkurzaczy czy kosiarek które są znacznie prostsze...

Zresztą gdyby taki zmodyfikowany samochód spowodował zdarzenie drogowe z ofiarami to osoba modyfikująca skończyłaby raczej nieciekawie. Stawiam że gdy autonomiczne samochody się upowszechnią to modyfikowanie ich oprogramowania dotyczącego jazdy może być wręcz karalne, bo pojawienie się wśród wielu normalnych aut jednego z włączonym trybem "czołg nie zważa na nic" będzie stwarzało duże zagrożenie. Taki pirat drogowy przyszłości.

 

 

Nie modyfikują bo nie ma potrzeby. Jak się pojawi potrzeba to i pojawią się modyfikacje.

 

Notabene, samochody służb (np. Policji) będą miały możliwość jazdy w trybie "czołg". Więc już będzie skąd skopiować oprogramowanie. A że nielegalnie? Cofanie liczników czy zmiana parametrów spalania też podobno są nielegalne.

34 minuty temu, Ryb napisał:

A że nielegalnie? Cofanie liczników czy zmiana parametrów spalania też podobno są nielegalne.

 

Trochę inna waga potencjalnych skutków...

Godzinę temu, Ryb napisał:

 

A pokaż mi oprogramowanie, którego nie można zmodyfikować/zastąpić. Weź pod uwagę skalę - najwyżej pojawią się alternatywne całe systemy.

Widzę, że nie za bardzo jesteś w temacie.

Oprogramowania nie zastąpisz, bo jest tam autoryzacja, a sterownik silnika, kół itd. przyjmuje zlecenia podpisane wyłącznie właściwym kluczem.

A nawet, gdybyś był w stanie zastąpić, to musiałbyś używać INNEGO oprogramowania, które nie tak łatwo napisać. Może pojawi się jakaś wersja open source na licencji GNU, ale pewnie będzie z prawnego punktu widzenia nielegalna.

Godzinę temu, Ryb napisał:

 

A pokaż mi oprogramowanie, którego nie można zmodyfikować/zastąpić. Weź pod uwagę skalę - najwyżej pojawią się alternatywne całe systemy.

 

Playstation 4 przez jakies 10 lat np. Jak jest dobrze zabezpieczone to zlamanie zajmuje dlugie lata. A samochodami akurat najlepsi programisci/crackerzy sie nie zajmuja.

Dnia 17.10.2017 o 09:57, patgaw napisał:

 

 

Dokladnie tak powinno byc, ale zeby tak sie dzialo to chyba by musialo byc wymuszone przez prawo. Bo inaczej kazdy producent bedzie na pierwszym miejscu chronil pasazerow bo wiadomo lepsza sprzedaz

Moim zdaniem to kluczowe będzie zachowanie firm ubezpieczeniowych. Już pomijam fakt, że będzie lawina pozwów pod tytułem: a bo to producenta wina, że rozjechał babcię z wnuczkiem na pasach. Ale tak naprawdę stawki ubezpieczeniowe będą dyktować, kto będzie mógł lub nie sprzedawać auta chyba, że dojdzie do unifikacji sterowników. 

 

Reasumując, myślę, że na w pełni autonomiczne samochody nie mamy co liczyć. Albo do tego czasu zostanie to wszystko wyparte przez jakiś inny środek transportu, albo zawsze będzie wymagane, żeby jednak osoba kierująca nie spała na tylnej kanapie.

Już robi się problem z samosterowaniem samochodu.

U siebie, gdy włączę tempomat i utrzymanie pasa ruchu, nie muszę żadną kończyną sterować autem.

PO kilku sekundach krzyczy, by położyć ręce na kierownicy,, ale mamy już przedsmak tego, o czym tu piszemy.

Ciekawe, kiedy będą pierwsze pozwy na producentów, za to, że auto spowodowało wypadek 

 

2 godziny temu, rwIcIk napisał:

Już robi się problem z samosterowaniem samochodu.

U siebie, gdy włączę tempomat i utrzymanie pasa ruchu, nie muszę żadną kończyną sterować autem.

 

 

Ale masz aktywne sterowanie czy tylko zabezpieczenie przed zjechaniem na sąsiedni pas? Po w tym drugim przypadku to się nie da jeździć - auto się odbija raz od lewej linii raz od prawej.

Dnia 18.10.2017 o 08:58, Ryb napisał:

 

Jeśli mój pojazd nie będzie w pierwszej kolejności chronił mnie i mojej rodziny to ja go w życiu nie kupię. A jeśli kupię to wgram zmodyfikowane oprogramowanie. Nie sądzicie chyba że nie będzie ludzi, którzy za kasę wgrają tam cokolwiek klient sobie zażyczy.

już widzę jak ktoś wgrywa oprogramowanie decyzyjne do pojazdu autonomicznego na takiej zasadzie jak polski język do nawigacji  

5 godzin temu, Ryb napisał:

 

Ale masz aktywne sterowanie czy tylko zabezpieczenie przed zjechaniem na sąsiedni pas? Po w tym drugim przypadku to się nie da jeździć - auto się odbija raz od lewej linii raz od prawej.

Ładnie prowadzi. Nawet wysepki omija

Godzinę temu, bergerac napisał:

już widzę jak ktoś wgrywa oprogramowanie decyzyjne do pojazdu autonomicznego na takiej zasadzie jak polski język do nawigacji  

 

Coś jak Czesia do AM