Jak ogłupić AI

[vogon.jeltz]

Z linka przy artykule o inteligentnych progach wrzuconym przez nazimno:

businessinsider.com.pl/technologie/nowe-technologie/autonomiczne-samochody-moga-miec-problem-z-rozpoznaniem-znakow/4wv2zrr
A to były tylko naklejki mające testowo ogłupić AI i spowodować, że nie będzie mogła odczytać znaków. Co w przypadku, gdy ktoś celowo zaklei znak innym, podobnym do prawdziwego, ale o innej treści?

Taak, zobaczymy autonomiczne samochody jak świnia gwiazdy...

[nazimno]

"Autonomiczne" to tylko sciema.

Wg niektorych opinii - wpuszcza sie przemysl motoryzacyjny (maja duzy szmal) w te maliny,
aby militarni otrzymali rozwiazanie problemow praktycznie za friko.

A czy tym go...m jezdzic bedzie krasnoludek czy cos np. takiego:

gry.onet.pl/artykuly/narzedzia-wojny-100-strzalow-na-sekunde-czyli-armaty-wielolufowe/0zqvk

to sie okaze potem.

[samspade]

Trochę mylne jest zestawianie określenia AI z samochodami autonomicznymi.
A czy będziemy widzieli takie samochody na naszych ulicach? Zobaczymy. Na razie tego nie widzę.
Ale coraz większa ilość rozwiązań technicznych będzie trafiać pod strzechy.

[vogon.jeltz]

> Trochę mylne jest zestawianie określenia AI z samochodami autonomicznymi.

Czemu? Przecież autonomiczne pojazdy wykorzystują algorytmy zaliczane do sztucznej inteligencji.

> A czy będziemy widzieli takie samochody na naszych ulicach? Zobaczymy. Na razie tego nie widzę.

Ja też jestem mocno sceptyczny. Nie tylko przez takie głupie problemy, jak opisany w artykule, ale przede wszystkim przez elementarny i póki co nierozwiązywalny problem prawny - kto będzie ponosił odpowiedzialność za funkcjonowanie takiego pojazdu i ewentualne spowodowane przez niego szkody.

[bimota]

JAKI PROBLEM PRAWNY ? WSYTARCZY, ZE PRODUCENT ZASTRZEZE, ZE NIE BIERZE ODPOWIEDZIALNOSCI ZA WYPADKI.. NO TAK.. ALE MY NIE ZYJEMY W NORMLANYM SWIECIE...

[galtomone]

bimota napisał:

> JAKI PROBLEM PRAWNY ? WSYTARCZY, ZE PRODUCENT ZASTRZEZE, ZE NIE BIERZE ODPOWIED
> ZIALNOSCI ZA WYPADKI..

To akurat zaden problem. Tyle, ze to zadne rozwiazanie, przynajmniej producentowi nie wiele daje...

> NO TAK.. ALE MY NIE ZYJEMY W NORMLANYM SWIECIE...

Bo ty oczywiscie jako wlasciciel takiego auta zdecydowal by sie ponosci odpowiedzialnosc za wszekie ewnetaulanie powstale szkody - choc nie masz zielonego pojecia co np. blad w oprogramowaniu moze zrobic?

Jesli tak to spoko, tyle ze jakos chyba zbyt wielu chetnych na taka odpowiedzialnosc nie bedzie.

[bimota]

JESLI SIE UMAWIAM Z PRODUCENTEM, ZE BIORE OSPWOEIDZIALNOSC, NO TO BIORE....

CHETNI BEDA, TYLKO POTEM BEDA CWANIAKOWAC, ZE DZIALALI W NIESWIADOMOSCI, A WLADZA PRZECIEZ MUSI DBAC O TAKICH DEBILI - WYBORCOW...

[galtomone]

bimota napisał:

> JESLI SIE UMAWIAM Z PRODUCENTEM, ZE BIORE OSPWOEIDZIALNOSC, NO TO BIORE....

Super... juz widze te kolejki w salonach po auta...

> CHETNI BEDA, TYLKO POTEM BEDA CWANIAKOWAC, ZE DZIALALI W NIESWIADOMOSCI,

A masz pewnosc np. ze w kodzie nie bedzie zaszyta instrukacja pt. "przy sprzyjajacych warunkach, w wieku lat 5 symuluj wypadek nie ze swojej winy".
Dzieki temu bedziesz mial powod zeby isc i znow "umowic" sie z producentem... Co prawda juz na tanszy model, bo bedziesz (zgodnie z umowa) placic za rehabilitacje ofiar pprzedniej fury, ale co tam.

Poza tym dzis dosc latwo okreslic czy wina byly hamulce, kierowca czy co innego.

Jak dojdzie do wypadku z autem AI to wine bedzie auto (programista/producent" zarzadca drogi ze np. znak wyplowial, pogoda, sytuacja, piorun? Jest sporo niewiadomych a potencjalne koszty odszkodowan bardzo wysokie.

Ubezpieczalnie tez nie beda sie pchac do ubezpieczania tych aut nie majac pwnosci, ze zarobia.
Stad (nie tylko prawnie) problem wcale nie jest prosty i oczywisty.

Bo co komu po twojej umowie z producentem jak nie bedziesz mial z czego odszkdowania wyplacic?

> A WLAD
> ZA PRZECIEZ MUSI DBAC O TAKICH DEBILI - WYBORCOW...

Jeslipiszesz o tych co uwazaja, ze wystarczy sie umowc z producentem to masz racje. Takich nalezy chronic przed wlasna glupota, bo potem beda pretensje jak w sprawie np. Amber Gold.

[bimota]

A masz pewnosc np. ze w kodzie nie bedzie zaszyta instrukacja pt. "przy sprzyjajacych warunkach, w wieku lat 5 symuluj wypadek nie ze swojej winy".

NIE MAM, ALE GDYBY ZA COS TAKIEGO GROZILA SENSOWNA KARA, TO RACZEJ MALA SZANSA...

Ubezpieczalnie tez nie beda sie pchac do ubezpieczania tych aut nie majac pwnosci, ze zarobia.

ZNOW FANTAZJUJESZ... PRZECIEZ DO TEJ PORI PODOBNO CALY CZAS TRACILI... :p

Jeslipiszesz o tych co uwazaja, ze wystarczy sie umowc z producentem to masz racje. Takich nalezy chronic przed wlasna glupota, bo potem beda pretensje jak w sprawie np. Amber Gold.

PRETENSJE SA WLASNIE DLATEGO, ZE SIE TAKICH CHRONI. CHOC AKURAT W AMBER CZESCIOWO PRETENSJE SLUSZNE, BO WLADZA MACZALA W TYM PALCE.

[vogon.jeltz]

> NIE MAM, ALE GDYBY ZA COS TAKIEGO GROZILA SENSOWNA KARA, TO RACZEJ MALA SZANSA.

Ty to chyba słabo znasz historię, motoryzacji w szczególności. No ale to nie dziwi specjalnie - ignorancja to fundament korwinizmu.

[bimota]

NO TO PRZEDSTAW TA HISTORIE, ZAMIAST BREDZIC...

[galtomone]

bimota napisał:

> A masz pewnosc np. ze w kodzie nie bedzie zaszyta instrukacja pt. "przy sprzyja
> jacych warunkach, w wieku lat 5 symuluj wypadek nie ze swojej winy".
>
> NIE MAM, ALE GDYBY ZA COS TAKIEGO GROZILA SENSOWNA KARA, TO RACZEJ MALA SZANSA.

A jakbys to sprawdzil i wyegzekowal????

Kod to nie ksiazka telefoniczna.

> Ubezpieczalnie tez nie beda sie pchac do ubezpieczania tych aut nie majac pwnos
> ci, ze zarobia.
>
> ZNOW FANTAZJUJESZ... PRZECIEZ DO TEJ PORI PODOBNO CALY CZAS TRACILI... :p

A podobno nie jestes palikanem co lyka takie bzdury...

> PRETENSJE SA WLASNIE DLATEGO, ZE SIE TAKICH CHRONI. CHOC AKURAT W AMBER CZESCIO
> WO PRETENSJE SLUSZNE, BO WLADZA MACZALA W TYM PALCE.

No raczej wszyscy maja pretensje ze ich nie ochroniono.

[bimota]

A jakbys to sprawdzil i wyegzekowal????

Kod to nie ksiazka telefoniczna.

TO JUZ SPRAWY NIE NA TWOJ ROzUMEK...

No raczej wszyscy maja pretensje ze ich nie ochroniono.

BO MAMY SYSTEM, KTORY NIBY CHRONI... ILE MOZNA POWTARZAC...

[galtomone]

bimota napisał:

> A jakbys to sprawdzil i wyegzekowal????
>
> Kod to nie ksiazka telefoniczna.
>
> TO JUZ SPRAWY NIE NA TWOJ ROzUMEK...

Jak widac po precyzyjnej odpowiedzi przed wszystkim nie na twoj.
Jak zwykle zreszta gdy dopytac o szczegoly .

[bimota]

A JAK DOSZLI ZE VW WALKI ROBI ZE SPALANIEM ?

[galtomone]

A co ma sklad spalin do sprawdzenia kodu, ktorego sie nie da sprawdzic ot tak...
W przypadku spalin sprawdzano jednak spaliny i posrednio doszli do tego, ze to oprogramowanie za roznice odpowiada.

Juz widze jak w razie "W" sobie edytujesz kod w domu by wiedziec czy akurat twoj wypadek to przypadek, blad w kodzie czy celowy zapis.

Good luck!

[bimota]

NO TO W PRZYPADKU KODU TEZ "DOJDA POSREDNIO" :)

A OPROGRAMOWANIE TO COS INNEGO NIZ KOD ? :p

[galtomone]

Jasne - ale spoko - kup sobie taka fure a najlepiej jeszcze fabryke otworz, zrzecz sie odpowiedzialnosci i opedzaj sie od milionow ktorzy beda w celu zakupu walic drzwiami i oknami.

Mnie przeciez ot twego niewatpliwego sukcesu nie ubedzie, wiec dlaczego mialbym ci zle zyczyc.

[vogon.jeltz]

Nawet korwinoidzi twierdzą (co skądinąd nie jest prawdą oczywiście, jak wszystkie inne twierdzenia korwinoidów), że ludzie podejmują decyzje świadomie i racjonalnie. Aby jednak taką decyzję podjąć, należy dysponować w miarę pełną informacją - w tym przypadku na temat zasad działania, ewentualnych wyjątków i ich skutków. W przypadku samochodów autonomicznych takiej informacji mieć nie będziesz. I nawet nie, że tajemnica handlowa korporacji, po prostu algorytmy AI działają tak, że nie da się do końca przewidzieć ich wyników, poza tym i tak nic byś z tego nie zrozumiał, nawet gdyby opisać ci to jak krowie na miedzy. Dlatego każdy, nawet najbardziej korwinistyczny sąd przyklepie tłumaczenie w postaci działania w nieświadomości.

[bimota]

BZDURA. NABYWCA MA SWIADOMOSC, ZE TOWAR MOZE BYC NIEPRZEWIDYWALNY.

[vogon.jeltz]

Bredzisz. AI to zupełnie nowa klasa "nieprzewidywalności", z którą do tej pory nie mieliśmy do czynienia. Żadne urządzenia nie podejmują np. decyzji kogo zabić w sytuacji konfliktowej, gdy niemożliwe jest uniknięcie śmierci przynajmniej jednego człowieka. A z takimi właśnie sytuacjami będą miały do czynienia algorytmy decyzyjne w pojazdach autonomicznych.

[bimota]

JAK ZWYKLE LEWACCY MYSLICIELE NADAJA NOWE ZNACZENIA PROSTYM SLOWOM... ODWROTNE DO PIERWOTNYCH...

TWE FANTAZJE NIE MAJA ZADNEGO ZNACZENIA W DYSKUSJI...

[vogon.jeltz]

> JAK ZWYKLE LEWACCY MYSLICIELE NADAJA NOWE ZNACZENIA PROSTYM SLOWOM.

O jakie słowo ci chodzi, prawicowy przygłupie?

[vogon.jeltz]

> JAKI PROBLEM PRAWNY ? WSYTARCZY, ZE PRODUCENT ZASTRZEZE,
> ZE NIE BIERZE ODPOWIEDZIALNOSCI ZA WYPADKI..

No i właśnie na tym polega cały problem prawny, korwinoidalny kretynie. To kto będzie brał odpowiedzialność za wypadki? Właściciel urządzenia, które działa poza jego kontrolą i on nie ma na to działanie żadnego wpływu? A w ogóle kto powiedział, że użytkownik samochodu będzie jego właścicielem - może pojazdy będą tylko wypożyczane albo "licencjonowane"?

A z drugiej strony - producent xuja se zastrzeże, jeśli będzie uchwalona odpowiednia legislacja, która tę odpowiedzialność za stworzone przez niego urządzenia mu narzuci. Ale wiadomo, że to też nie takie proste, bo to będzie wywrócenie do góry nogami dotychczasowego modelu, gdzie producent software'u za nic nie odpowiada i połączone lobby automotive plus IT będą stawiać bardzo silny opór.

A to są tylko niektóre problemy, jakie trzeba będzie rozwiązać PRZED wypuszczeniem autonomicznych samochodów na publiczne drogi. Ale jak zawsze, korwinoidalni kretyni, jak ten ślepy koń startujący w Wielkiej Pardubickiej, żadnych przeszkód nie dostrzegają i dla nich wszystko jest proste...

[bimota]

A KTO TO URZADZENIE WLACZYL ? KRASNOLUDKI, PANIE SENSOWNY ? A JAK SPUSZCZE WIADRO FEKALIOW NA TWOJ SENSOWNY CZERREP, TO TEZ MOGE POWIEDZIEC, ZE BYLY POZA MOJA KONTROLA ?

[vogon.jeltz]

> A KTO TO URZADZENIE WLACZYL ?

Znaczy, będziesz odpowiedzialny za urządzenie, na którego działanie nie masz żadnego wpływu, mogące spowodować śmierć wielu ludzi i szkody liczone w milionach - tylko dlatego, że je włączyłeś? Oczywiście, ty jesteś kretynem, więc może i zdecydujesz się na coś takiego i autonomiczny samochód kupisz. Ale już widzę te tłumy normalnych klientów ustawiających się w kolejkach...

> A JAK SPUSZCZE WIADRO FEKALIOW

Cały czas nic innego nie robisz na tym forum.

[bimota]

NO TO JAK SIE NIE BEDA USTAWIAC, TO W CZYM PROBLEM ?

[vogon.jeltz]

Na szczęście nie będą się ustawiać nie dlatego, że "wolny rynek, hare hare", tylko dlatego, że w dającej się przewidzieć przyszłości nikt tego autonomicznego barachła nie dopuści do sprzedaży i poruszania się po drogach publicznych.

[galtomone]

Przynajomniej do czasu az auta AI nie zaczna jezdzic w calkiem wyizolowanych korytarzach... - bez pieszych, rowerzystow, krolikow, innych aut z ludzkim kierowca, itd...


Moze beda specjalne wyizolowne (betonowymi barierami) pasy na autostradach - gdzie bedzie sie w pelni autonomicznie jezdzic...
Pytanie kto za te "modernizacje zaplaci" i co dadza...

[nazimno]

Bardzo dobra, skrotowa i syntetyczna opinia z niewielkim dystansem:

www.edn.com/electronics-blogs/test-voices/4458704/Can-we-accept-autonomous-vehicles-with-autonomous-bugs-

[samspade]

vogon.jeltz napisał:

> > Trochę mylne jest zestawianie określenia AI z samochodami autonomicznymi.
>
> Czemu? Przecież autonomiczne pojazdy wykorzystują algorytmy zaliczane do sztucz
> nej inteligencji.

Ale samochody autonomiczne są maszynami które działają w granicach zakreślonych przez twórców. Co to za sztuczna inteligencja, która nie stwierdzi że w danym miejscu można złamać przepis x.

[bimota]

MOZE ZACZNIJMY OD TEGO... KTORY PRZEPIS ZABRANIA PORUSZANIEM SIE AUTEM AUTONOMICZNYM ?

[vogon.jeltz]

W Polsce - oczywiście ustawa prawo o ruchu drogowym wraz z rozporządzeniami wykonawczymi. Rzecz jasna nie znajdziesz tam wprost zakazu poruszania się autem autonomicznym, ale taki pojazd nie spełni np. wymagań homologacyjnych dopuszczających go do ruchu. Nie, nie chce mi się szukać szczegółowo, który paragraf za to odpowiada. Szczególnie dla takiego przygłupa jak ty. Jak jesteś serio zainteresowany, to znajdź prawnika, zapłać mu, i on ci wszystko w szczegółach wyjaśni.

[bimota]

NIE CHCE, BO ZWYCZAJNIE NIE UMIESZ...

Krytyczny wyjatek, cegla...

[galtomone]

Biorac pod uwage, ze nie specjalnie lubilem BSOD w Windows...
Pamietam czasy (nadal sie to zreszta zdarza), ze aktualizacja softu potrafi zje..ac wiele rzeczy czy wrecz zabic urzadzenie.

I tak sobie mysle, ze jednak wolabym ilosc elektroniki w aucie ograniczyc. Tzn. obecny poziom to juz chyba maks czego wymagam i czemu ufam.

- Aktywny tempomat, ABS, ESP, TC (w stosunku do AI proste jak cep) ostrzezenie o zmianie pasa ruchu... - z rzeczy dotyczacych tego jak auto wyrecza kierowce to ja juz chyba wiecej nie chce i nie potrzebuje.

[mika_p]

Moim zdaniem,to pojdzie nie w odczytywanie przez samochód znaków obecnych fizycznie na drodze, tylko w informację cyfrową, gdzie jaki znak stoi. Już teraz różne janosiki czy inne nawigacje "wiedzą", gdzie jakie ograniczenie prędkości, to taki soft samochodowy też może. Aby ułatwić aktualizacje, wszelkie zmiany znaków na drogach gminnych, powiatowych, będą wchodzić w jeden dzień dla wszystkich, żeby system samochodu nie aktualizował się co chwilę.
A ustawiane w razie nagłej dziury w jezdni znaki będą miały specjalny status "emergency", żeby auto w taką dziurę nie wjechało

[mika_p]

Moim zdaniem,to pojdzie nie w odczytywanie przez samochód znaków obecnych fizycznie na drodze, tylko w informację cyfrową, gdzie jaki znak stoi. Już teraz różne janosiki czy inne nawigacje "wiedzą", gdzie jakie ograniczenie prędkości, to taki soft samochodowy też może. Aby ułatwić aktualizacje, wszelkie zmiany znaków na drogach gminnych, powiatowych, będą wchodzić w jeden dzień dla wszystkich, żeby system samochodu nie aktualizował się co chwilę.
A ustawiane w razie nagłej dziury w jezdni znaki będą miały specjalny status "emergency", żeby auto w taką dziurę nie wjechało