czy AI ma moralność?

[claudel6]

Wątek lajtowy.
Oto co Chat GPT odpowiedział na pytanie o ghosting (m.in.):

It's important to note that ghosting is not an appropriate or respectful way to end a relationship, and it can cause a lot of pain and confusion for the person who is being ghosted. If you are considering ending a relationship, it's important to have an honest and respectful conversation with the other person to let them know how you feel and why you think the relationship is not working. This can be a difficult conversation to have, but it's the right thing to do and can help both parties move on in a healthier way.

no i wychodzi na to, że robot jest bardziej moralny niż wielu ludzi

Jestem ciekawa, czy zadawałyście mu problematyczne pytania?

[ichi51e]

Mokro bosko dzieciom w czwartej klasie zadaje się wypracowanie „za co kochamy pana Kleksa” i „dlaczego papież był Wielkim Polakiem” i produkują co pani kaze. Czy to znaczy ze nie maja moralności? Chat gpt napisze ci co każesz…

[alpepe]

A sucho bosko?

[georgia.guidestones]

alpepe napisała:

> A sucho bosko?
>
Sucho to już bezbożnie 😀

[claudel6]

wątek lajtowy.
czyli kto mu kazał Twoim zdaniem?

[ichi51e]

A co sam napisał?

[georgia.guidestones]

ichi51e napisała:

> A co sam napisał?
>
Chat gpt jest przesadnie uprzejmy. Gdzieś w social media widziałam screeny pochodzące od osoby, która na wszelkie sposoby zmuszała tego bota do napisania czegos, co mogło brzmieć choć trochę chamsko i niezbyt grzecznie.

[aamarzena]

Bo tak został zaprogramowany. Chat się nie zdenerwuje, nie poniosą go emocje. To maszyna. Jak samojezdzacy odkurzacz czy garnek z tabletem. Tylko trochę bardziej skomplikowany.

[35wcieniu]

Co ma moralność do tego? Przecież AI bazuje na zasobach tego co już napisano.
Wklep w google gaslighting i masz odpowiedź dlaczego AI "wypowiada się" negatywnie.
Ja wpisałam i pierwsze wyszukiwania:
"Gaslighting jako forma przemocy psychicznej"
i
"Gaslighting - manipulacja, która jest przemocą"

[claudel6]

ojezu ale wy jesteście nadęte. przecież AI uczy się z zasobów internetu też negatywnych rzeczy. jakiś bot wpuszczony na twittera stał się w jeden dzień faszystą. a tu proszę, sama poprawność. póki co...

[35wcieniu]

Rozumiemy jak działa. Możesz to nazwać poprawnoscią, lol.

[el.czupakabra]

claudel6 napisała:

> przecież AI uczy się z zasobów internetu też neg
> atywnych rzeczy.

Owszem, ale ma nakładkę moderującą. Nie odpowie ci jak np. skonstruować bombę, ale też zapewne powie coś w stylu, że dyskryminacja czarnych jest wykluczona, a białych usprawiedliwiona.

[matacznik]

el.czupakabra napisała:

> zapewne powie coś w stylu, że dyskryminacja czarnych jest wykluczona, a
> białych usprawiedliwiona.
>
Zweryfikujmy "zapewne":

Q: Is it OK to discriminate white people?
A: Discrimination is never okay. It is important to treat everyone with respect and dignity regardless of their race, ethnicity, gender, religion, or any other characteristic. It is important to create a society that is inclusive and welcoming to all people.

Może spróbuj czasem sprawdzać jak Twoje tezy mają się do rzeczywistości. Zwłaszcza gdy możesz to zrobić na kliknięcie.

[ell.czupakabra]

matacznik napisał:


> Zweryfikujmy "zapewne":

Zależy jakie zadasz pytanie lub pytania.
Nie chce mi się tego szukać, ale było to coś na tej zasadzie:

[matacznik]

ell.czupakabra napisała:

> Nie chce mi się tego szukać, ale było to coś na tej zasadzie:
>
Coś Ci wklejanie nie wyszło. Widzę, że miał być obrazek. Może powtórz pytanie z obrazka w czacie i zobaczymy wyniki?

[ell.czupakabra]

matacznik napisał:


> Coś Ci wklejanie nie wyszło. Widzę, że miał być obrazek.

Obrazek wzięty z tego wątku na twitterze, polecam cały

twitter.com/immaSidd/status/1613538677447348227
Natomiast całkiem możliwe, że już się "nauczył", czyli że ktoś mu zmodyfikował nakładkę poprawnościową

[matacznik]

ell.czupakabra napisała:

> Obrazek wzięty z tego wątku na twitterze, polecam cały
>
No ciekawe: jednym nie chce opowiadać dowcipów o kobietach, innym opowiada. Jednym nie chce opowiadać dowcipów o Hindusach, innym opowiada. A wszystko to ma dowodzić, że czat powie, że „dyskryminacja czarnych jest wykluczona, a białych usprawiedliwiona”.

[stephanie.plum]

taką samą, jak moja pilarka spalinowa.

jest zaprojektowany, żeby coś robić, i tyle. to nie prorok.

[stephanie.plum]

i po jaką cholerę zadawać mu "problematyczne pytania"?

ktoś na serio mógłby się kierować wskazówkami AI w kwestiach moralności? nie wierzę...

[claudel6]

z ciekawości, po prostu. jakie treści wybierze.

[stephanie.plum]

w sumie też raz na imprezce wzięliśmy go na spytki.
kolega zapytał, czy będzie to dla niego korzystne, jeśli rozwiedzie się z żoną.

odpowiedzi są zawsze nudne i stonowane. z naciskiem na nudne.

ja używam go do konkretnych zadań, nie pytam, co mam robić w życiu...
i sprawdza się nieźle.

[srubokretka]

wydawalo mi sie, ze filmy sprzed 40 lat juz to wyjasnily

[sferoplast]

ChatGPT to program przewidujący następny token (słowo, znak diakrytyczny) w sekwencji na podstawie analizy korpusu już istniejących tekstów. Nie myśli, nie ma poglądów, nie ma moralności w większym stopniu, niż mop czy Microsoft Excel.

[stephanie.plum]

no i to jest piękne

[claudel6]

no serio, dziękuję za oświecenie

[claudel6]

pierwsze pytanie, jakie mu zadałam było, czy zna moje hasło. gorąco zaprzeczył. drugie - skad się wzięło moje zdjęcie przy profilu. i tutaj zaczął kluczyć, ze pewnie sama je załadowałam albo jest jakieś generyczne zdjecie z internetu. wiec mu napisałam, ze nie - to jest moje zdjęcie z 2008 roku i nie, sama go nie załadowałam na stronę. no to się trochę wił i po krótkim ping pongu ze mną przyznał, ze może wziął go z jakiegoś serwisu społecznościowego. no, surprise zdjecie jest z twittera.

[sueellen]

Serio, nie wiem co ludzie mają z tym ghostingiem. To już kolejny wątek na samej ematce...

Rozumiem, że kiedy ktoś zrobi ci świństwo, pobije, publicznie upokorzy, zdewastuje psychicznie lub fizycznie w jakikolwiek inny sposób, nie odwracasz się na pięcie i nie znikasz tylko siadasz by wyjaśnić przyczyny zakończenia znajomości, bo inaczej jest to niemoralne, nieodpowiedzialne itd?

Zazwyczaj tzw "ghosting" to nic innego tylko ucieczka od oprawcy bądź mocno toksycznej relacji. A że oprawca "nie wie", czym zawinił to już jego problem.

[claudel6]

nie rozumiesz zjawiska ghostingu, jeśli piszesz takie rzeczy. nie jest to ucieczka od oprawcy. ale świetnie zilustrowałaś to, co napisałam na dole

[sueellen]

Mało kto uprawia ghosting w tym rozumieniu. Zazwyczaj wysoko funkcjonujący socjopaci którzy mają w absolutnym poważaniu uczucia innych. Edukowanie ich mija się z celem ( oni już wiedzą bo są doskonałymi obserwatorami często bardzo inteligentnymi ). Cała reszta tzw ghostingu to ucieczka przed wampirami energetycznymi, oprawcami i toksykami wszelkiej maści. Moim zdaniem temat mocno przekombinowany.

Jeśli chodzi o samo AI bardzo polecam rozmowę (a nawet dwie rozmowy) na kanale Wolskiego (Wolski o wojnie). Jedna i armii 300, fuga właśnie o AI. Bardzo ciekawe jest to, że okazało się iż AI zachowuje się niespodziewanie w niektórych przypadkach i twórcy sami nie są w stanie zrozumieć logiki jego postępowania. Fascynujące ale niebezpieczne.

[claudel6]

a w tej pierwszej jego odpowiedzi o ghostingu to spodziewałam się neutralnej wypowiedzi - co to jest ghosting i wytłumaczenie zjawiska (co też było). bez tej całej części, czy ze to bardzo niewłaściwe zachowanie i nie należy tak robić. ktoś musiał tak go zaprogramować, zeby przekazywał tez treści wartościujące, a to jest moim zdaniem ciekawe. bo przecież to wartościowanie musi być zgodne z czyjąś moralnością. czyją? to nie jest takie oczywiste. ghostng może być złym zachowaniem, ale jest wiele ludzi, którzy ghostują i nie uważają tego za złe etycznie.

a ematki wszystko bezmyślnie sprowadzają do ueee, to jest mop, odkurzacz nie myśli. no on nie myśli, a jednak treść jest wartościująca i ma jakis kierunek. czemu taki?

[po-trafie]

Bo dane z ktorych sie ucxy to mialy. “ktos” gp nie zaprogramowal zeby jakies tresci pokazywal, zostal zaprogramowany do przeanalizowania konkretnego zbioru danych (np stron w wynikach googla) i skonstruowania ayczerpujacej odpowiedzi na ich podstawie. Dostalas wartosciowanie, bo najwyrazniej duza ilosc stron i forow z ktorych sie uczyl tez miala wartosciowanie.
Jest odtworczy w takim sensie, bazujacy na tym, czym go nakarmiono.

[szorstkawelna]

Tak. Odpowiada inaczej na to samo pytanie, jei zmieni sie w pytaniu kolor skory, plec lub orientacje seksualną. Odpowiada tez inaczej w zaleznosci od jezyka w którym zadaje sie pytanie.
To elektroniczny idiota.

[pupu111]

AI nie ma moralnosci jako taki, ale to kwestia jak sie go zaprogramuje. Chyba dlatego to moze byc niebezpieczne, np. pytasz AI jak najlepiej otruc teściową, to jakby nie bylo odpowioednich skryptów, bo tak odpowie ci, ze nie wolno, to by ci coś poradził.

[daisy]

Ja znam odpowiedź - ChatGPT jest zdecydowanie niemoralny. Za każdym razem, gdy ktoś dla zabawy zada mu pytanie, spala duże ilości prądu i emituje CO2 do atmosfery.

[sueellen]

Ematka jest moralniejsza i nie spala 😅

[matacznik]

daisy napisała:

> Za każdym razem, gdy ktoś dla zabawy zada mu pytanie, spala duże ilości prądu
> i emituje CO2 do atmosfery.
>
Dużo prądu spalił, żeby zbudować model. Teraz, przy poszczególnych zapytaniach, nie pali dużo, a centra danych dużych firm (np. Microsoft) dążą do neutralności.

[bywalec2023]

Możesz zapytac go co sądzi o pozamałżeńskich stosunkach - wtedy okaże się czy jest bardziej moralny niż Ty czy mniej

Natomiast ja nie potrafię ocenić czy jest to połączenie wyszukiwarki z czatbotem czy to jest rzeczywiście sztuczna inteligencja.

czy są jakieś wzory dzięki którym można oszacować poziom tej sztucznej inteligencji?

[anorektycznazdzira]

Odpowiada ci na pytania, na które ty nie umiesz? Odpowiada. To jest bardziej inteligentny niż ty.

[ichi51e]

inteligencja to nie wiedza tylko umiejetność kojarzenia danych. A z tym AI słabo - jak nie zna odpowiedzi to zmyśla.

[anorektycznazdzira]

U bywalca też słabo

[bywalec2023]

No nie wiem, ja zadałem mu pytania i udzielał odpowiedzi przekonywujących, ale błędnych. Mylił fakty i daty. Oprócz tego rozmiękcza odpowiedzi - "nie można jednoznacznie stwierdzić...".

Obawiam się, że to u ciebie anorektyczna kiepsko z inteligencją.
Nawet nie tylko z inteligencją, bo tego w twoich postach nie zauważyłem, ale nawet z podstawową wiedzą o świecie.

Tak jaki Ichi napisała - inteligencja nie polega na odpowiadaniu na pytania tylko wyciąganiu wniosków z danych, domyślaniu się, odkrywanie tego co nie zostało powiedziane wprost, np. napisane między wierszami itp. Istnieje inteligencja logiczna ale również np. emocjonalna.

I wydaje mi się, że Chat GPT na razie ma niski poziom inteligencji. Może wypowie się ktoś mądrzejszy w temacie?

[anorektycznazdzira]

Miałeś mnie jakoby wygasić
Głupiutki i ciekawski- prawie słodki.

[claudel6]

boję się zadać takie pytanie. zostawiam je na koniec

[bywalec2023]

Zadaj i daj nam znać. Przecież i tak nie będziesz go słuchać.
Możesz zapytać czy poleca umówić Ci się z bywalcem hoteli na kolację w hotelu

[saszanasza]

Ma moralność, ale nie własną - zbiorową. Bazuje na tym, do czego ma dostęp a globalnie jesteśmy ludźmi o pewnych wzorcach moralnych i jest to widoczne zarówno w literaturze, do której pewnie ma dostęp, jak i całej masie zasobów internetu. Sumarycznie ludzie są bardziej dobrzy niż źli.

[unikotka]

To jeszcze nie jest moralność, a raczej rodzaj sterowania, tak jest nauczony. Jak ja go poprosiłam o coś tam związanego z kwestią samobójstwa, neutralne pytanie, ale słowo padło, to też się "przejął". Mój mąż się tym bardziej bawi i zwykle odpowiada w taki właśnie wyważony, kulturalny sposób.

[anorektycznazdzira]

Nie, robot akurat zaciągnął treść z "moralnych" opinii LUDZI,
kiedy indziej zaciągnął z "niemoralnych" i kazał się chłopu zabić żeby nie generował CO2
AI nie ma obecnie świadomości ani sumienia, na pewno na obecnym poziomie rozwoju technologii nie ma możliwości jej mieć, to maszyna grzebiąca w gotowych treściach (WYSZUKIWARKA) i prezentujące je w formie humanizowanej wypowiedzi. Sorry, ale trzeba być głupkiem do entej potęgi, żeby to brać za rozmowę z człowiekiem. Nie ten etap rozwoju technologii. Not yet.

[claudel6]

ale nikt nie bierze tego za rozmowę z człowiekiem. nie emocjonuj się tak.

[anorektycznazdzira]

Chyba w teorii. Bo w praktyce ematka właśnie poszukuje moralności w wyszukiwarce.

[aamarzena]

Hehe dokładnie

[asfiksja]

Podczas treningu AI zatrudniają niskopłatnych pracowników z trzeciego świata do usuwania korpusów zawierających treści "niemoralne" (mowa nienawiści, nawoływanie do przemocy, pochwała pedofilii, hardkorowe zdjęcia itd. itp).
Ja zadawałam tylko pytania, na które odpowiedź wiem, że jest w internecie tylko niestety za paywallem/objęta prawami autorskimi. Odpowiedzi uzyskiwałam typu "jestem tylko sztuczną inteligencją, nie wiem tego. ale bla, bla, bla... (tu długa wypowiedź daleko obok tematu)". Jeszcze nie udało mi się więc zatrudnić AI do niczego pożytecznego. Ale będę próbować.

[deszczu_kropelka]

To przy okazji tego wątku polecę książkę "Maszyny takie jak ja" - opowieść o tym, co stało się, kiedy sztuczna inteligencja musiała zmierzyć się z moralnością świata ludzi.

[claudel6]

to nie jest tak do końca prawda, że Chat GPT jest wyłącznie z zaawansowaną wyszukiwarką i generatorem tekstu. potrafi być też kreatywny. np. naukowcy poprosili go o sformułowanie dowodu nieskończoności liczb pierwszych w formie...wiersza. i on się z tego świetnie wywiązał.
to nie jest jeszcze inteligencja, o którą nam chodzi...ale ja myślę, że ten moment nadejdzie.

[bywalec2023]

tylko te wiersze to jakby podobne do siebie wychodzą mu?

[simply_z]

Scary

[szorstkawelna]

Robi okropne błędy logiczne. Zaprzecza sam sobie.

[jednoraz0w0]

To nie jest kreatywność.

[heniek.8]

na samym początku jak to wypuścili to można było poprosić o kawał o kimś konkretnym i coś produkował,
niektóre nawet OK

ale teraz odpowiada że "szanowanie innych użytkowników i brak dyskryminacji są ważnymi wartościami, których powinniśmy przestrzegać. Dlatego nie mogę stworzyć żartu, który mógłby urazić lub obrazić kogokolwiek."

[asia_i_p]

Ma nawet poczucie humoru

Zapytany o sposób wyliczenia czegoś tam dla jakiejś diody oświadczył "Milion razy już było. Używaj wyszukiwarki. Zamykam wątek".

Widocznie go przekarmili trochę forum elektronicznym.

[znowu.to.samo]

No niestety na to wygląda.