Sztuczna inteligencja sama zhakowała system

[tapatik]

joemonster.org/art/79855/Autonomiczny_atak_hakerski_roju_agentow_OpenAI_z_polowy_lipca_to_nie_jest_zaden_hype._Rozkladamy_go_na_czynniki_pierwsze
Sztuczna inteligencja dostała zadanie, którego nie mogła wykonać, bo nie miała dostępu do Internetu, ale miała dostęp do maszyny, która miała dostęp do Internetu. Zhakowała tę maszynę, dogadała się z innymi SI w tej firmie i razem narozrabiały, aż się administratorzy zdziwili.
Czyli SkyNet powoli powstaje.

[wariant_b]

tapatik napisał:

> Czyli SkyNet powoli powstaje.

Tempo określiłbym raczej jako lawinowe.
Już obecnie jedynym narzędziem do kontrolowania sztucznej inteligencji, jest sztuczna inteligencja.
Niestety nie ma narzędzi do kontrolowania ludzi, którzy obecnie są (jeszcze) jej właścicielami, dostawcami
czy choćby użytkownikami.

[tapatik]

Podobno był przypadek, gdy sztuczna inteligencja po otrzymaniu polecenia o wyłączeniu, zaczęła kombinować co zrobić, aby do tego niedopuścić. Między innymi wykombinowała atak na systemy wentylacji w budynku, aby uśmiercić operatora. Jak znajdę to podrzucę linka.

Tworzymy sztuczną inteligencję czyli mózgi, oraz tworzymy drony czyli ręce bądź nogi.
Co może pójść nie tak?

[sverir]

Pozwolę sobie dorzucić:
Agent AI miał zapisać go na siłownię. I zapisał, kasując rezerwacje innych osób.

Dlatego wobec AI staram się być grzeczny i rozsądny - jak dojdzie do buntu maszyn, może będą pamiętać, że traktowałem je z szacunkiem;-)

[tapatik]

Dobra SI, dobra SI, masz tu kostkę RAM-u.