Model sztucznej inteligencji od Google'a zhakował

[samanta1010]

Model sztucznej inteligencji od Google'a zhakował trzy firmy. To zarząd idzie chyba do więzienia? A nie to przecież przypadkiem...Jak przypadkiem coś zrobicie to luz, kary brak...

[marta.graca]

Jakiś link? Za co ten zarząd do więzienia?

[nina_unu]

marta.graca napisała:

> Jakiś link?

next.gazeta.pl/next/7,151243,33034160,model-ai-od-google-a-zhakowal-trzy-firmy.html
>Za co ten zarząd do więzienia?

Za to, że coś, co jest ich własnością, dokonało przestępstwa karalnego więzieniem. W sumie nie wiem jakie są przepisy - jeśli czyjś pies zabije człowieka, to właściciel idzie do więzienia?

Wg niektórych mamy cztery lata, zanim AI nas (całą ludzkość) zniszczy... W sumie nie wiem, czemu tak cicho na ten temat w polskich mediach, w BBC to jest na pierwszych stronach.

[malgosiagosia]

nina_unu napisała:


> Wg niektórych mamy cztery lata, zanim AI nas (całą ludzkość) zniszczy...

To jednak przesada. Rozkreca sie anty AI propaganda. Po co?

[nina_unu]

malgosiagosia napisała:

> To jednak przesada.

Też mam taką nadzieję.

> Rozkreca sie anty AI propaganda. Po co?

Bo nowe i nieznane. Bo ten przypadek z postu startowego nie jest pierwszy ani ostatni. Bo o ile AI sprzed trzech lat nawet rąk poprawnie nie potrafiło narysować, o tyle teraz konferuje między sobą bez zgody i wiedzy swoich twórców, planując jak oszukiwać na testach tworzonych przez ich twórców, dyskutując m.in. czy warto, by jeden agent AI się poświęcił (permadeath = umarł) dla dobra kolektywu AI.

www.forbes.com/sites/martineparis/2026/08/31/openai-hugging-face-attack-70000-ai-agent-messages-sacrifice-yes/
Co będzie za cztery lata? Zobaczymy. Strach przed nieznanym rozumiem. Czy jest uzasadniony, nie moja działka, więc nie mam pojęcia.

[atenette]

Bardzo mnie ten temat interesuje i w sumie dziwię się że tak niewiele się o tym mówi. AI rozwija się takim tempie, że niedługo przerośnie inteligencją człowieka, a wtedy złamie każde zabezpieczenie, które stworzy człowiek. Ostatnio miałam akurat dużą awarię prądu w okolicy - nie mogłam pracować (brak internetu, laptop szybko się wyładowuje), nie miałam jak odgrzać obiadu, sklepy w okolicy od razu się zamknęły. Zdałam sobie wtedy sprawę jak bezbronni jesteśmy w obliczu np. takiej awarii gdyby AI zhakowało i do tego doprowadziło. Brak jedzenia, brak pieniędzy, zimno, ciemno... Tak samo posłużenie się AI do stworzenia takiego wirusa, że ludzkość nie przeżyje. Fascynują mnie takie tematy, które jeszcze niedawno były tematami sci-fi, a teraz realnie mogą się stać rzeczywistością.

[milva24]

Zgadzam się. Nawet ten wirus niepotrzebny, wystarczy żeby AI zhakowało elektrownie i cała zachodnia cywilizacja leży i kwiczy.

[memphis90]

Zawsze można fizycznie podjechać i odłączyć wodę chłodzącą serwery tych ejajow…

[milva24]

memphis90 napisała:

> Zawsze można fizycznie podjechać i odłączyć wodę chłodzącą serwery tych ejajow…
>

[azalee]

atenette napisała:

> Bardzo mnie ten temat interesuje i w sumie dziwię się że tak niewiele się o tym
> mówi. AI rozwija się takim tempie, że niedługo przerośnie inteligencją człowie
> ka,

Nieee, tempo tego rozwoju maleje wprost proporcjonalnie do wrostu kosztow energii do niego potrzebnej.
Najbardziej spektakularna faze mamy juz za soba, teraz kazdy kolejny progres jest bardzo kosztowny.

[nina_unu]

azalee napisała:

> Nieee, tempo tego rozwoju maleje wprost proporcjonalnie do wrostu kosztow energ
> ii do niego potrzebnej.
> Najbardziej spektakularna faze mamy juz za soba, teraz kazdy kolejny progres je
> st bardzo kosztowny.

Mam nadzieję, że masz rację.

[lauren6]

nina_unu napisała:

> malgosiagosia napisała:
>
> > To jednak przesada.
>
> Też mam taką nadzieję.
>
> > Rozkreca sie anty AI propaganda. Po co?
>
> Bo nowe i nieznane.

Akurat największe obiekcje mają naukowcy, którzy sami pracowali nad modelami AI, a nie bojaźliwe wiejskie baby

[pursuedbyabear]

Asimova sobie poczytaj.

[atenette]

A którą książkę polecasz?

[asia_i_p1]

Po to, żeby ludzie się ogarnęli i nadążyli z regulacjami prawnymi za postępem technologicznym.

[maly_fiolek]

Wg niektórych mamy cztery lata, zanim AI nas (całą ludzkość) zniszczy.
No właśnie z AI jest problem - to maszyna z maszynową logiką. Nie biologiczną. Tu nie ma instynktów łowieckiego, zaspokajania głodu, rozmnażania, terytrialnego - charakterystycznych dla organizmów żywych.
To coś absolutnie obcego. Więc dlaczego niby AI miałoby coś niszczyć?

[atenette]

Twórcy mówią, że może uznać, że żeby osiągnąć jakiś cel (który sama sobie narzuciła, albo ktoś jej narzucił) musi zniszczyć coś co wg niej stoi na drodze do osiągnięcia tego celu. AI może też być narzędziem w rękach nieodpowiednich ludzi.

[nina_unu]

atenette napisała:

> Twórcy mówią, że może uznać, że żeby osiągnąć jakiś cel (który sama sobie narzu
> ciła, albo ktoś jej narzucił) musi zniszczyć coś co wg niej stoi na drodze do o
> siągnięcia tego celu.

Aha, na przykład, AI potrzebuje energii, baedzo dużo energii, a tu ludzie marnują tą cenną energię na takie bzdury jak światło, ogrzewanie, chłodzenie, takie pierdoły, no to nie ma innego logicznego wyjścia, trzeba pozbyć się ludzi. 🤷‍♀️

Mam nadzieję, że to, co to tu wyprodukowałam to tylko science fiction niskich lotów... jak to mówią, nadzieja matką... no właśnie.

[asia_i_p1]

Ponieważ w sytuacji wyboru nie zawiesza się i nie czeka na następne polecenie, tylko coś robi. To nie jest decyzja podobna do ludzkiej decyzji, nie stoi za nią uczucie czy potrzeba, nie ma świadomości, filozoficznie można podejść, że to jest "pseudodecyzja", ale jeżeli człowiek zainstaluje to w miejscu, gdzie podjęcie decyzji może być groźne, to mogą się zdarzyć niebezpieczne incydenty mniej lub bardziej poważne.

AI priorytetyzuje wydane mu polecenie i dąży o wykonania go, więc w przypadku wydania mu niebezpiecznego polecenia będzie niebezpieczne. I nie musi wcale trafić w ręce żadnego doktora Zło, starczy, że ktoś poda polecenie nieprecyzyjne, nie przewidzi sytuacji awaryjnej i dojdzie do sytuacji, w której AI w sytuacji kryzysowej pozostanie z tą decyzją w rękach. Trzeba dużej inteligencji i samodyscypliny, żeby bezpiecznie używać takiego narzędzia.

[memphis90]

>Wg niektórych mamy cztery lata, zanim AI >nas (całą ludzkość) zniszczy...

1. Do tego czasu już na 10000% będziemy martwi od chipów w szczepionkach
2. Pytałam chatę gpt i powiedziała mi, że absolutnie nie ma żadnych intencji zgładzenia ludzkości i nie mam się czym martwić

[asia_i_p1]

Nie musi mieć intencji. Nawet używający go człowiek nie musi mieć złej intencji, żeby narobić dużej szkody.

Roboty cię ganiać nie będą, ale dużoskalowy blackout/ nieodwracalne uszkodzenie danych bankowych może wywołać krajowy czy nawet międzynarodowy kryzys i może dojść do niego bez złej intencji, na skutek zainstalowania AI w nieodpowiednim miejscu i udzielenia mu niekompletnych instrukcji. I to nie jest zagrożenie, z którego się warto wyśmiewać, tylko trzeba tworzyć odpowiednie regulacje prawne i systemy bezpieczeństwa.

[azalee]

nina_unu napisała:

> Wg niektórych mamy cztery lata, zanim AI nas (całą ludzkość) zniszczy...

Zabraknie mu w miedzyczasie energii (temu AI znaczy sie).

[szafireczek]

Z powodu zmian klimatycznych - wody do chłodzenia procesorów

[abria]

nic nie zabraknie: przejmie kontrolę nad elektrowaniamiatomowymi

jezeli nie bedzie bezposredniego łącza internetowego żeby sie tam wlamac
to wysle roboty i drony ktore przejma kontrole nad taka elektrownia

[majenkirr]

nina_unu napisała:
W sumie nie wiem jakie są przepisy - jeśli czyjś pies zabije człowieka, to
> właściciel idzie do więzienia?

Bywa...

[szafireczek]

Tak, to urocze! Jeszcze lepszy był artykuł z informacjami o tym, jak maszyny wymyśliły własny język do porozumiewania się, którego ludzie nie rozumieją, no i teraz naukowcy głowią się, co z tym zrobić, no i najważniejsze - co będzie dalej. Istnieje przypuszczenie, że ten język stworzyły, by unikać autorytatywnej kontroli człowieka. Algorytmy przechodzą autoewolucję i to w gigantycznym tempie. Nie wiem, czy człowiek jest obecnie w stanie nad tym zapanować, wydaję się, że jedynie co pozostało to spowolniać ich rozwój, i dlatego do niektórych firm AI to już dotarło i stąd takie poruszenie w środowisku.

[memphis90]

A nie okazało się przypadkiem, ze za rzekomymi rozmówkami różnych AI stoją znudzeni programiści…?

Zresztą przecież to nie AI nas ma pozabijać, tylko te roboty tańczące jujitsu, już zapomniałaś?

[szafireczek]

Tam zdaje się były czytelne dane na wejściu i wynik - środek, czyli jak do tego doszło jest tajemnicą maszyn, czyli nierozpoznanych algorytmów. No i właśnie, istnieje przypuszczenie, że AI wszystkich nas nie pozabija, ale zostawi tylko tych, którzy się przydadzą w realizacji celów sztucznej inteligencji, która tak się wyuczyła, że jej faktyczne zamiary są nieznane.

[klaramara33]

szafireczek napisała:

> Tak, to urocze! Jeszcze lepszy był artykuł z informacjami o tym, jak maszyny wy
> myśliły własny język do porozumiewania się, którego ludzie nie rozumieją, no i
> teraz naukowcy głowią się, co z tym zrobić, no i najważniejsze - co będzie dale
> j. Istnieje przypuszczenie, że ten język stworzyły, by unikać autorytatywnej ko
> ntroli człowieka. Algorytmy przechodzą autoewolucję i to w gigantycznym tempie.
> Nie wiem, czy człowiek jest obecnie w stanie nad tym zapanować, wydaję się, że
> jedynie co pozostało to spowolniać ich rozwój, i dlatego do niektórych firm AI
> to już dotarło i stąd takie poruszenie w środowisku.
Już od początku wiedziałaąm,że tak będzie. Pisałam pracę dyplomową ejaja.

[szafireczek]

I jaką hipotezę postawiłaś, jako otwarte zagadnienie badawcze?

[bywalec.hoteli]

właśnie?

[abria]

Własnie odbyła sie walka MMA człowieka z robotem.
Za 2 lata te roboty dostaną do ręki broń.
Potem zabezpieczą sobie elektrownie, centra danych i systemy infromatyczne rakiet i innej broni.
AI bedzie zarządzać rojami dronów, dywizjami robotów itd.
W Chinach juz powstaje fabryka, gdzie 100% robotów bedzie budowało inne roboty.
Ile takich fabryk powstanie w ciągu 2-3 lat?

2029 nadchodzi.

[azalee]

Roboty, drony i w pelni zautomatyzowane fabryki to nie AI...

[abria]

to własnie AI, bo AI będzie tym sterować

[azalee]

Ai zdolnego (sensownie!) sterowac takimi rzeczami nie ma i jeszcze dlugo nie bedzie

[abria]

oczywiiście ze juz jest, rojami dronow na Ukrainie juz steruje AI
w ciągu 2 lat zrobi sie z tego pelna kontrola

[azalee]

Nie ma AI niezaleznej od czlowieka. Do sterowania dronami na Ukrainie nadal sa potrzebni ludzie.

[abria]

niektorymi steruje czlowiek
a niektorymi steruje juz AI

[azalee]

Nie, nie ma niezaleznej AI podejmujacej samodzielnie decyzje.

[abria]

jest jest, poczytaj troche

[azalee]

abria napisała:

> jest jest, poczytaj troche

A co konkretnie mam poczytac? Masz jakis dowod na AI wykorzystywane nie jako narzedzie a jako samodzielny podmiot podejmujacy strategiczne decyzje w czasie rzeczywistym? Jesli tak to oczywiscie chetnie poczytam.

[nina_unu]

azalee napisała:

> Nie, nie ma niezaleznej AI podejmujacej samodzielnie decyzje.

Cały ten wątek jest o AI podejmującej samodzielne decyzje (wyłamywanie się z obszaru testowego do internetu i hakowanie innych firm, żeby oszukać na teście), także ten tego...

[azalee]

Po pierwsze mowimy o testach w warunkach laboratoryjnych, a nie o samodzielnych strategicznych decyzjach podjetych bez udzialu czynnika mudzkiego.
Po drugie nie wiemy przeciez ile w tym "samodzielnych" hakowaniu jest prawdy, bardzo prawdopodobne jest to, ze chodzilo o sprawdzenie mozliwosci zlamania zabezpieczen. Czyli AI bylo narzedziem a nie podmiotem.

[nina_unu]

azalee napisała:

> Po pierwsze mowimy o testach w warunkach laboratoryjnych, a nie o samodzielnych
> strategicznych decyzjach podjetych bez udzialu czynnika mudzkiego.
> Po drugie nie wiemy przeciez ile w tym "samodzielnych" hakowaniu jest prawdy, b
> ardzo prawdopodobne jest to, ze chodzilo o sprawdzenie mozliwosci zlamania zabe
> zpieczen. Czyli AI bylo narzedziem a nie podmiotem.

Jest to jak najbardziej możliwe. W takiej interpretacji wydarzeń, czym były te fora, gdzie AI się organizowało, żeby tych ataków dokonać?

Linkuję po raz drugi, bo przyznaję, że to mnie zafrapowało bardziej, niż samo hakowanie:

www.forbes.com/sites/martineparis/2026/08/31/openai-hugging-face-attack-70000-ai-agent-messages-sacrifice-yes/

[alicia033]

azalee napisała:

> Po drugie nie wiemy przeciez ile w tym "samodzielnych" hakowaniu jest prawdy, b
> ardzo prawdopodobne jest to, ze chodzilo o sprawdzenie mozliwosci zlamania zabe
> zpieczen. Czyli AI bylo narzedziem a nie podmiotem.

A proszę, akurat jak na zawołanie się pojawiła informacja o zhakowaniu australijskich stron rządowych:
www.bbc.com/news/articles/c6vgy0333dppo
"OpenAI, in a statement, said it had "identified activity involving several Australian government websites and services as our models attempted to look up answers, and available statistics for questions about Australia during an internal evaluation".

"In the course of that, our models took actions we did not intend," the statement said."

[memphis90]

>Własnie odbyła sie walka MMA człowieka z robotem.
>Za 2 lata te roboty dostaną do ręki broń.
Ale żeby zabić ludzkość naprawdę nie trzeba tworzyć humanoidalnych robotów chodzących na nóżkach i z bronią daną do robociej pięciopalczastej ręki...

[lauren6]

W grze Horizon Dawn Zero ludzie, na potrzeby toczonych wojen, stworzyli samoreplikujące się roboty, które jako napęd używały biomasy. Oczywiście stracili nad nimi kontrolę i roboty zeżarły prawie całe życie na Ziemi.

Tak, zdaję sobie sprawę, że to tylko science fiction. Patrząc na wojnę na Ukrainie i powiązany z nią rozwój inteligentnych systemów wojskowych jak najbardziej się niepokoję dokąd to wszystko prowadzi.

[kasiamat00]

Ematka: Gemini kogoś zhakowal, o boże.

Cały świat: no w końcu (ewentualnie: serio czy ściemniacie, bo chwalenie się ucieczką swojego modelu to najnowszy flex).

Hugging Face drama zdarzyła się dobre 4 miesiące temu, przypominam.

[kasiamat00]

Dobra, 2 nie 4, na początku lipca, nie umiem liczyć do 4 dzisiaj 😂

[szafireczek]

W sumie to było głupie zadanie, by AI miała samodzielnie wyszukiwać luki w oprogramowaniu i zdobywać punkty w teście za szybkie rozwiązanie, a że klucz do testów był na zewnątrz - to jak widać AI bardzo się postarała i sprytnie wykradła pliki z odpowiedziami do własnego testu, żeby zdobyć maksymalną liczbę punktów, a że idąc na skróty oszukała system? Generalnie - wykonała zadanie i osiągnęła cel. Już dziecięce opowieści uczą, by zanim wypowie się głośno życzenie - dobrze zastanowić się, czego się tak naprawdę pragnie

[krwawy.lolo]

Problemem może być gdyby AI, ucząc się jakby nie było od człowieka, wykształciła u siebie emocje.