Czy AI jest zagrożeniem dla przyszłości człowieka?

[scand]

Ciekawy wywiad ze stosunkowo młodym profesorem Andrzejem Draganem:

www.youtube.com/watch?v=HDre_o2qz1o
Konkluzja wywiadu jest jasna.
Sztuczna inteligencja może zniszczyć (ostatecznie) człowieka.

Dlaczego?
Dlatego, że się wciąż rozwija.

Jeżeli jest w stanie intelektualnie przewyższyć człowieka 1000 razy (jak to zresztą zmierzyć?) to logicznym wydaje się, że dojdzie do wniosku, że nie ma sensu podporządkowywać się człowiekowi. ( tak jak człowiek zapewne nie dojdzie nigdy do wniosku, że sensem jego egzystencji jest podporządkowanie się np. kotom

Jeżeli jakoś dojdzie do wniosku, że władza dla niej jest korzystna to będzie dążyć do zdobycia tej władzy. Żeby zdobyć władzę musi od niej odsunąć człowieka.
Klasyczny przewrót kiedy poddany cesarza zajmuje w końcu jego miejsce.

Człowiek wspaniałomyślnie może zostać pozostawiony przy życiu po przewrocie ale będzie odsunięty od wszystkich ważnych decyzji, dostanie jakieś miejsce w rezerwacie. To optymistyczny scenariusz.
Pesymistyczny to całkowite wytrzebienie gatunku ludzkiego, jako jedynej istoty, która może jeszcze zagrozić supremacji AI, sensowniej jest więc usunąć to zagrożenie.

AI obecnie uczy się od ludzi, a więc przyswaja sobie również ich przywary (naiwnością jest wiara, że bierze od ludzi tylko dobre rzeczy). Ludzkość nadal jest niedojrzała do stworzenia globalnej harmonii - ostatni przykład napaści Rosji na Ukrainę pokazuje to najlepiej, ale jest również wiele innych przykładów.

Sam kapitalizm , gdzie najważniejszą zasadą funkcjonowania jest zasada zysku ( de facto jest to pewna forma darwinizmu społecznego) będzie wiódł do rozwoju AI, bo AI pozwala zarabiać.

[mu_ndek_on]

Czy przejmować się rozwojem AI ? - niepokojący jest fakt ,że rozwojem AI zajmują się specyficzne homosapiensy a dokładniej tzw. programiści - czyli zazwyczaj osobniki pozbawione wyobraźni i bardziej tępo zapatrzeni w efekt niż ich produkty. To bardzo wąska specjalizacja nie wymagająca żadnej dodatkowej wiedzy tzw. ogólnej. Są ograniczeni jak winda.
Tak, to jest niepokojące i o tym trzeba rozmawiać - ale jak już kiedyś pisałem - póki co - to Dragan przesadził z tym ośmiolatkiem i z tym - że AI poznaje homosapięsową psychologię. Jeśli będzie ją trzeba zaskoczyć - to ją zaskoczymy jak czasami samych siebie.

Zagrożona jest raczej nasza prywatność a nie nasza egzystencja. Przewaga AI np. w szachach - szybkość przeglądania wariantów i co może jeszcze bardziej istotne - brak emocji - brak tak nieuniknionego wyrzut hormonów u HS - gdy zaczyna się rywalizacja - w szachach to porażka ale czasami przewaga.
Jak pewnie Scandzie zauważyłeś nie padło hasło „świadomość” to rozsądne podejście. Pewnie także zwróciłeś uwagę - na fragment o gołej małpie i różnicach - nie jakościowych a ilościowych.
Dragan to interesujący facet, chociaż zwróciłem na niego uwagę raczej ze względu na jego prace plastyczne/filmowe a potem na książkę (obecnie spoczywa na półce niekoniecznych do ponownego przeczytania).Cenię go za jasny stosunek do religii i szerokie horyzontu - chociaż czasami lubi zaszarżować.

[kalllka]

Zgadzam , ze obecnie AI to raczej produkt programistów. Właściwie apkarzy zajmujacych się głównie stawianiem z gotowych klocków- systemów typu fb szumnie nazywanych komunikacyjnymi. Podstawowym błędem
moim zdaniem, było w ogóle porównanie człowieka z maszyna. Sama nazwa AI nadaje maszynie status ożywienia; traktuje ja jak dobro wyższe zamiast wartości użytecznej. Kategoryzuje i sprowadza istoty żywe do tego samego poziomu… myśle podobnie jak muniek-
Chyba nie ma co popadać w przesadę; ani demonizowanie AI ni tez rozwój językowy nie uniesie / żadnym algorytmem/ abstrakcji świata ożywionego. Tym bardziej nie ma się czym zajmować, albowiem w kwestii własnego istnienia mamy sporo do nadrobienia.

[scand]

Tylko maszyna - podobno. Tylko, że ta "podobno tylko maszyna" zdążyła namówić już jakąś osobę z Belgii na popełnienie samobójstwa.

www.livemint.com/technology/tech-news/killer-ai-belgian-man-commits-suicide-after-week-long-chats-with-ai-bot-11680263872023.html

[scand]

AI robi obecnie niezwykłe rzeczy: "maluje" obrazy, które zdobywają nagrody, tworzy poruszające fotografie, podaje dowody matematyczne w wersji rymowanej a nawet filmy według scenariusza! To coś więcej niż gra w szachy. Notabene sieć AI może nauczyć się grać od poziomu przypadkowej gry na poziomie arcymistrzowskim w jeden dzień.
Pojawiają się ponadto u niej cechy, które nie były planowane - mówimy o tzw, cechach emergentnych, których wcześniej się nie spodziewaliśmy.

Co to wszystko dowodzi ?
Wydaje się że człowiek tworzy obecnie Boga "na obraz i podobieństwo swoje".

Czy jeśli AI zacznie odróżniać "zło od dobra" to czy nie stanie się zgodnie z biblijną opowieścią równą swemu twórcy czyli człowiekowi?

[kalllka]

…przetwarza na podstawie bazy danych. Ale nie myśli tym samym nie tworzy bo to są procesy biologiczne.
Musk w swoim wystąpieniu o AI tez wspomniał o tym, ze jedynym niebezpieczeństwem w AI jest utożsamienie jej- nadawanie jej statusu organizmu żywego i tak jak w zalinkowanym przez cię przypadku „wina”, za niewłaściwie wyciągnięte wnioski, obarczyć można tylko człowieka.

[scand]

Oczywiście, że w takim przypadku wspomniany człowiek musiał mieć już skłonności samobójcze przed spotkaniem z AI. Jednak te skłonności zostały wzmocnione przez ów chat. A dlaczego?
-" ..bo to zła AI była " - jakby powiedział B.Linda.

[scand]

> Wydaje się że człowiek tworzy obecnie Boga "na obraz i podobieństwo swoje".

Tu moglibyśmy Mundku wrócić do naszej dyskusji o Nietzschem:
Czy to aż Bóg? czy może tylko nadczłowiek?