Sztuczna Ćwierćinteligencja

[kumoter40]

skoro interaktywny internet pozwolił na publikację wszystkiego przez wszystkich, nawet największych głupot, a SI uczy się na tych zasobach, to może z tego powodu dojść do zidiocenia ludzkości ?

[majka_monacka]

Już doszło.
Algorytmy tworzą bańki głupoty i nie ma sił, które by je rozbijały.
To działa jak epidemia superwirusa. Większość ulega zakażeniu. Małe bąbelki mądrości będą izolowane przez algorytmy, a ponieważ nie są one dochodowe, to będą ignorowane, aż zanikną.
Dopiero jak to wpłynie na ewolucję biologiczną, to być może nastąpi odrodzenie..., albo i nie....

[al.1]

Pewnikem z za Oceanu nadejdzie normalność. Zawsze stamtąd leciały na świat wszelkie pomysły - i te dobre, i te "najchorsze".

--
db

[neuroleptyk]

kumoter40 napisał:

> skoro interaktywny internet pozwolił na publikację wszystkiego przez wszystkich
> , nawet największych głupot, a SI uczy się na tych zasobach, to może z tego pow
> odu dojść do zidiocenia ludzkości ?

AI należy "karmić" wartościowymi informacjami, wiemy np., że należy unikać uczenia się na syntetycznych danych treningowych. Można zadać sobie pytanie, czy AI na pewnym etapie rozwoju nie powinna być zdolna do samodzielniego filtrowania informacji. Człowiek na pewnym etapie rozwoju ma taki potencjał, ale nie każdy ten potencjał wykorzystuje lub mógł go rozwinąć. Myślę, że trzeba mieć jakieś minimum wiedzy, by taki proces mógł mieć miejsce. Innymi słowy w tym pytaniu martwisz się, że AI nie będzie zbyt inteligentna. Bardziej martwi to, że technologię można wykorzystać do złych celów, do celowej dezinformacji, nie martwi nas oczywista głupota, ale ekstremalnie inteligentny manipulator, którego argumenty będą pozornie waterthight.

arxiv.org/abs/2305.17493v2

[neuroleptyk]

www.nature.com/articles/s41586-024-07566-y

[d25]

Trzeba podejść systematycznie:
1) w przypadku AI (dzisiaj utożsamianej z sieciami neuronowymi) nie ma mowy w ogóle o "informacji" - można mówić jedynie o danych
2) rozwiązania takie jak ChatGPT jedynie żonglują słowami, a nie przekazują/generują treści
3) AI to narzędzie i jak każde narzędzie może być różnie użyte - i na to najczęściej nie mamy wpływu

A co do samodzielnego filtrowania - aby filtrować trzeba "poznać", a to oznacza że tekst zostanie "przeprocesowany" i "oceniony", ale dla AI tekst jest zbiorem słów (a nawet dokładniej "termów"), więc co ma być oceniane?

[tbernard]

Większość ludzi wykształconych w naukach nie ścisłych, to w istocie trochę bardziej wprawni żonglerzy słowami w porównaniu do tych mniej wykształconych. AI może teraz tworzyć teksty coraz mniej rozróżnialne od większości takich żonglerów słownych.
W matematyce jest trochę inaczej. Poprosiłem raz o dowód jakiegoś twierdzenia i wprawdzie podał go poprawnie lecz tu wiadomo z góry, że sam go nie wymyślił. Ale nie słyszałem o przypadku, żeby maszyna wpadła na dowód czegoś czego ludzkość wcześniej nie znała. Pomijam przypadki takie, gdzie rozstrzygnięcie polega na rozpatrzeniu ogromnego zbioru, który przerasta możliwości człowieka a dla maszyny nie jest to problemem. Chodzi raczej o kreatywny ciąg rozumowy prowadzący do rozstrzygnięcia.

[kumoter40]

W moim innym poście napomknąłem, że amerykańscy naukowcy mogliby czytać forum gazeta w celu zaoszczędzenia kasy na niepotrzebnych badaniach, ale oni chyba po prostu to forum czytają. Heh : www.komputerswiat.pl/aktualnosci/nauka-i-technika/chatgpt-czyni-ludzi-glupszymi-naukowcy-mit-zastawili-pulapki-na-ai/cq6cw8m?utm_campaign=cb

[al.1]

Choć SI kojarzy się z Międzynarodowym Układem Jednostek Miar, a AI z miłością po japońsku, to wolę używać to pierwsze :) SI jest nie do pokonania przez człowieka, gdzie reguły działania są ściśle zdefiniowane, np. w grze w szachy. Obecnie nie ma takiego zawodnika, który by z nią wygrał, bo jest napompowana wszystkimi wariantami. Natomiast w pewnych przypadkach idzie ją jeszcze zwyciężyć w obszarach jej niedouczenia. Takim przykładem jest pokonanie jej przez Przemysława Dębiaka, który zdobył mistrzostwo świata w programowaniu. Niemniej będzie to coraz trudniejsze wyzwanie.