Roboty dostaną prawa obywatelskie?

16.03.07, 08:51
Pod przesadnie sensacyjnym tytułem kryje się nawet ciekawy artykuł:

gospodarka.gazeta.pl/gospodarka/1,33181,3987192.html

Jakieś refleksje? ;)
    • gumpel Re: Roboty dostaną prawa obywatelskie? 16.03.07, 10:09
      stephen_s napisał:
      > Jakieś refleksje? ;)

      Oj, będzi się działo ... jak sobie człowiek przypomni książki Asimova, Lema,
      czy zwłaszcza Dicka i skonfrontuje to z filmami SF to z ulga myśli, że już nas
      nie będzie, gdy sympatyczne 3PO i R2D2 zamienią się w kolejne modele
      terminatorów :-)

      A tak na serio - wypowiem się jak stary konserwatysta - nadmierna wiara w
      człowieka (zwłaszcza w potęgę jego rozumu), zadufanie, że jesteśmy w stanie
      kontrolować procesy, które wdrażamy bo uważamy za słuszne, że możemy
      przewidzieć i odpowiednio modelować wszystkie konsekwencje naszych poczynań, a
      zatem wyeliminować te negatywne, słowem: cała ta zabawa w Pana Boga to jądro
      konserwatywnej krytyki współczesności od końca XVIII w. Kiedyś eksperymenty
      polegały na tworzeniu nowych wspaniałych ustrojów powszechnego szczęścia i
      sprawiedliwości, teraz zabieramy się do tworzeniu nowych lepszych istot ...

      No cóż, zobaczymy. Pozostaje nadzieja, że tak jak przetrwaliśmy eksperymenty
      ustrojowe i mimo (a może dzięki) straszliwych ofiar, zbudowaliśmy znośny świat,
      tak też przetrwamy zabawy z genami i sztuczną inteligencją. Taki gatunek - co
      nas nie zabije to nas wzmocni :-)

      Ładnie to ujmuje J. Kaczmarski w jednym z moich ulubionych tekstów:

      "Pochwała człowieka" z płyty "Między nami"

      Z krzyżowych wypraw przywożą herezje
      Z zamorskich rejsów - szkorbut i syfilis
      Na ból istnienia wdychają poezję
      Kiedy przerasta ich to co odkryli

      Budują miasta na pobojowiskach
      W pobojowiska zamieniają miasta
      Każda im gwiazda Zwiastowaniem błyska
      I byle rafa okręty roztrzaska

      Gloria...

      Strażnika ognia uwiedzie Pandora
      I świętokradztwo pomszczą faraoni
      Rozpaczą dzisiaj co nadzieją wczoraj
      Nie jest wymysłem klątwa, co skarb chroni

      Sporządzą serum z jadu każdej żmii
      A z główki maku truciznę wycisną
      Z czaszek pradziadów amulet na szyi
      A w głowach - tajfun bezsennych umysłów

      Gloria...

      Zniszczą - odtworzą, zbudują - połamią
      Żadne się na nich nie znajdzie lekarstwo
      Gdy skrzydła świata przypną już do ramion -
      Poniosą w kosmos genialne bestialstwo

      Gloria...


      G.
      • sunday Re: Roboty dostaną prawa obywatelskie? 16.03.07, 10:34
        Spokojnie, tzw. sztucznej inteligencji nie ma i w przewidywalnej przyszłości nie
        będzie :) Robot-odkurzacz sam jeżdżący po biurze i przedstawiający się miłym
        głosem ma inteligencji mniej-więcej tyle samo, co kasownik w tramwaju
        wyświetlający termin ważności biiletu. :)
        • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 11:05
          > Spokojnie, tzw. sztucznej inteligencji nie ma i w przewidywalnej przyszłości
          > nie
          > będzie :) Robot-odkurzacz sam jeżdżący po biurze i przedstawiający się miłym
          > głosem ma inteligencji mniej-więcej tyle samo, co kasownik w tramwaju
          > wyświetlający termin ważności biiletu. :)

          No a skąd wiesz, ile taki kasownik ma tak naprawdę inteligencji? Ty go nie
          doceniasz, a kto wie, co on tam sobie knuje, tak wisząc w tramwaju :))))
          • sunday Re: Roboty dostaną prawa obywatelskie? 16.03.07, 15:15
            > No a skąd wiesz, ile taki kasownik ma tak naprawdę inteligencji? Ty go nie
            > doceniasz, a kto wie, co on tam sobie knuje, tak wisząc w tramwaju :))))

            Ano tak, niektóre podobno nawet zamawiają pizzę. :)
      • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 11:11
        > Oj, będzi się działo ... jak sobie człowiek przypomni książki Asimova, Lema,
        > czy zwłaszcza Dicka i skonfrontuje to z filmami SF to z ulga myśli, że już
        nas
        > nie będzie, gdy sympatyczne 3PO i R2D2 zamienią się w kolejne modele
        > terminatorów :-)

        No, Asimov to raczej pozytywnie się o robotach wypowiadał?

        Co do Terminatorów, to mi się Terminatrix podobała jak najbardziej :)) Poza
        tym - czemu od razu Terminatorzy? Taki Mr. Data ze "Star Treku" był całkiem
        sympatyczną postacią...

        A tak poważnie mówiąc: w żaden "bunt robotów" nie wierzę. Natomiast interesują
        mnie impikacje istnienia sztucznej inteligencji, właśnie w stylu: czy uznać
        taką istotę za samoświadomą, przyznać jej prawa itd...
        • a000000 Re: Roboty dostaną prawa obywatelskie? 16.03.07, 11:36
          > A tak poważnie mówiąc: w żaden "bunt robotów" nie wierzę. Natomiast interesują
          > mnie impikacje istnienia sztucznej inteligencji, właśnie w stylu: czy uznać
          > taką istotę za samoświadomą, przyznać jej prawa itd...

          Ty poważnie pytasz? A o jakiej samoświadomości robotów mówisz? przecież to są
          TYLKO narzędzia specjalnego przeznaczenia. Działają według programu jaki im
          zadał człowiek. Jeśli człowiek w programie zapisze zerojedynkowo program
          malowania Mony Lizy - to robot będzie ruchy wykonywał, nawet może mieć program
          analizy tła - czyli jesli nie ma płótna to na trawie nie pomaluje. I będzie
          powielał te mony dopóki farby nie zabraknie.... ale czegoś spoza programu nie
          namaluje.

          Taki robot nie posiada "uczuć wyższych" - może reagować jedynie na podstawie
          zgromadzonych informacji i porównaniu. I niczego sam nie WYMYŚLI - i tu jest
          pies pogrzebany. Robot nie myśli, nie ma świadomości. Człowiek może leżeć sobie
          na dowolnie wybranym boku pod jabłonią i sformułować prawo fizyki... robotowi
          wywalisz tonę jabłek na czujkę - i nic - dla niego zawsze będą to spadające
          jabłka. Ale już nie zada SOBIE pytania - dlaczego.

          Pomijając już fakt, że robot nie ma DUSZY. A co za tym idzie nie ma duchowości i
          życia wewnętrznego. Jest maszyną.

          Opowieści o ożywieniu między bajki włóż. Człowiekowi się marzy rola Boga, a
          jakże. Tylko już był taki jeden, który chciał dorównać - spadł w otchłań. Zdaje
          się, że człowiek też chce w takiej otchłani się znaleźć.

          Oglądasz 4400? Widzisz do czego prowadzi manipulacja człowieka w dziedzinach, od
          których powinien się trzymać z daleka???
          Nie oglądasz? to ogólnie: nastąpiła jakaś staszna katastrofa dziejowa i ci
          którzy przeżyli porwali 4400 ludzi z przeszłości, zmienili ich genetycznie tak,
          aby każdy miał jakąś cechę która do tej katastrofy nie dopuści i ....wsadzili
          ich spowrotem w przeszłość. I teraz widzimy co się dzieje wśród ludzi, gdy
          pojawiają się nienaturalne cechy i właściwości.
          Wiem, to tylko film, czyli baja. Ale z tych ostrzegających przed zbytnim
          zadufaniem i wiarą w człowieczą wszechmoc.

          Stef, "sztuczna inteligencja" na zawsze pozostanie sztuczną. Jakie prawa chcesz
          nadać czemuś sztucznemu?
          • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 11:42
            > Ty poważnie pytasz? A o jakiej samoświadomości robotów mówisz? przecież to są
            > TYLKO narzędzia specjalnego przeznaczenia

            Obecnie? Racja. Ale przecież właśnie o to chodzi badaczom sztucznej
            inteligencji - zbudować maszynę, która będzie samodzielnie myśleć.

            I co wtedy z nią? Jak ją traktować?

            > Pomijając już fakt, że robot nie ma DUSZY. A co za tym idzie nie ma
            > duchowości i
            > życia wewnętrznego. Jest maszyną.

            O właśnie, kolejne ciekawe filozoficzne pytanie: czy samoświadoma maszyna ma
            duszę?

            > Oglądasz 4400?

            Nie :)

            A oglądałaś "Star Trek: Następne pokolenie"? Tam był bardzo fajnie pokazany
            zaawansowany android, Data. Też ciekawą postacią jest Rommie z "Andromedy".

            Oczywiście, obecnie takich istot nie skonstruujemy. Ale co, jeśli kiedyś się
            uda..?
            • a000000 Re: Roboty dostaną prawa obywatelskie? 16.03.07, 14:47
              stephen_s napisał:

              >
              > Obecnie? Racja. Ale przecież właśnie o to chodzi badaczom sztucznej
              > inteligencji - zbudować maszynę, która będzie samodzielnie myśleć.

              No właśnie. Samodzielnie. Czyli bez ingerencji człowieka. Taki komputer z
              systemem operacyjnym - ale programy tworzą się same?


              > I co wtedy z nią? Jak ją traktować?

              Maszyna na zawsze pozostanie maszyną - choćby wyglądała jak Data.


              > O właśnie, kolejne ciekawe filozoficzne pytanie: czy samoświadoma maszyna ma
              > duszę?

              Dusza się znikąd nie wzięła. Także człowiek nie ma nad duszą władzy. To jest
              cząstka którą dał człowiekowi BÓG - element który czyni wór skórno-mięśniowy
              zbudowany z białka i wody podobnym do Boga. Jeśli Bóg zechce dać maszynie duszę
              - będzie ją miała. Ale człowiek NIGDY tej duszy maszynie nie da.



              > A oglądałaś "Star Trek: Następne pokolenie"? Tam był bardzo fajnie pokazany
              > zaawansowany android, Data. Też ciekawą postacią jest Rommie z "Andromedy".

              Andromedę nie oglądam. Star Treka oglądałam dość długo, pamiętam pana Data.
              Mam za to ponad sto odcinków Gwiezdnych Wrót - jestem na etapie 45 odcinka.

              >
              > Oczywiście, obecnie takich istot nie skonstruujemy. Ale co, jeśli kiedyś się
              > uda..?

              Jeśli się uda, to nasi zstępni będa mieli...problem. Gdyż sami sobie zbudują
              konkurencję. Dopóki w maszynie nie będzie samoświadomości - będzie to niewolnik.
              Ale gdy powie - oto jestem!....człowiek jeszcze nieraz zapłacze nad swoją
              niefrasobliwością i głupotą.
              • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 20:11
                > No właśnie. Samodzielnie. Czyli bez ingerencji człowieka. Taki komputer z
                > systemem operacyjnym - ale programy tworzą się same?

                No coś takiego...

                > Maszyna na zawsze pozostanie maszyną - choćby wyglądała jak Data.

                Ale popatrz: czy jakbyś spotkała takiego Datę, to czy byś powiedziała, ze to
                maszyna - czy też, że to już żywa istota?

                > Jeśli Bóg zechce dać maszynie duszę
                > - będzie ją miała. Ale człowiek NIGDY tej duszy maszynie nie da.

                Zgadza się. Ciekawe filozoficzne pytanie jednak właśnie jest takie, czy Bóg
                dałby maszynie duszę, czy też nie...

                > Andromedę nie oglądam.

                Specyficzny serial, trochę niedorobiony. Sporo ciekawych pomysłów, które jednak
                nie łączą się w bardzo interesującą całość... Jakby to powiedzieć - suma jest
                mniej ciekawa od poszczególnych elementów :)

                W każdym razie, jedną z postaci w serialu jest Andromeda Wschodząca / Rommie.
                Kim jest? Otóż, Andromeda to jednocześnie:

                - cały STATEK kosmiczny, posiadający sztuczną inteligencję
                - obraz na monitorach na tymże statku, będący wizualicją tej sztucznej inteligencj,
                - hologram, równiez będący wizualizacją tej sztucznej inteligencji
                - androidka będąca fizyczną formą tej inteligencji, która może z resztą załogi
                opuszczac statek, schodzić na planety itd.

                Świetny koncept, bardzo fajnie wykorzystujący fakt, że Rommie jest właśnie
                sztuczną inteligencją. Jedna z moich ulubionych scen w serialu to moment, kiedy
                załoga (razem z Rommie) wracają na statek wahadłowcem, Rommie spogląda przez
                okno na tenże statek i stwierdza: "Andromeda... dobrze siebie widzieć".

                > Jeśli się uda, to nasi zstępni będa mieli...problem. Gdyż sami sobie zbudują
                > konkurencję. Dopóki w maszynie nie będzie samoświadomości - będzie to niewolnik
                > .
                > Ale gdy powie - oto jestem!....człowiek jeszcze nieraz zapłacze nad swoją
                > niefrasobliwością i głupotą.

                Skąd takie katastrofalne oczekiwania? ;)
                • a000000 Re: Roboty dostaną prawa obywatelskie? 16.03.07, 22:19
                  > Skąd takie katastrofalne oczekiwania? ;)

                  jesli roboty mają się zbuntować, to czego można oczekiwać?

                  A jeśli mało jest przestrzeni na ziemi do podziału a chętni sie gwałtownie
                  podwajają - to jak sądzisz? Ludzie podzielą się swoimi dobrami z dotychczasowymi
                  niewolnikami? Jak to było z Murzynami w Stanach?
                  • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 22:34
                    > jesli roboty mają się zbuntować, to czego można oczekiwać?

                    Ale czemu mają się zbuntować? :)
                    • a000000 Re: Roboty dostaną prawa obywatelskie? 16.03.07, 23:20
                      stephen_s napisał:

                      > Ale czemu mają się zbuntować? :)

                      Tendencja rozwoju robotyki pokazuje, że prace trwają nad doskonaleniem POMOCY
                      dla człowieka. Czyli takich niewolników, którzy wykonują to, czego robić nie
                      chce człowiek. Sądzisz, że pewnego dnia człowiek powie: chodźcie bracia w me
                      objęcia...i zabierze się do pracy ciężkiej i niebezpiecznej, a robota w fotel
                      posadzi???
            • sunday Re: Roboty dostaną prawa obywatelskie? 16.03.07, 15:14
              > Obecnie? Racja. Ale przecież właśnie o to chodzi badaczom sztucznej
              > inteligencji - zbudować maszynę, która będzie samodzielnie myśleć.

              W dającej się przewidzieć przyszłości do tego nie dojdzie. To, co dziś nazywa
              się "sztuczną inteligencją" nie ma nic wspólnego z myśleniem. To po prostu mniej
              lub bardziej udane algorytmy (czyli mechanicznie wykonywane przepisy), których
              idea jakoś jest wiązana z wnioskowaniem logicznym lub z mechanizmami
              podpatrzonymi w świecie zwierząt (zwielokrotnienie, randomizacja, przetwarzanie
              równoległe, interakcja itp). To jest z pewnością ciekawe, choć nieco
              przereklamowane, ale z myśleniem nie ma nic wspólnego. :)
              • monikaannaj Re: Roboty dostaną prawa obywatelskie? 16.03.07, 15:27
                ale z myśleniem nie ma nic wspólnego. :)

                że o samoswiadomości nie wspomne.
                • sunday Re: Roboty dostaną prawa obywatelskie? 16.03.07, 15:46
                  > że o samoswiadomości nie wspomne.

                  No właśnie, choć tak właściwie samoświadomość to pojęcie raczej nie techniczne.

                  A sztuczna inteligencja do inteligencji ma się tak... a zresztą, na pewno znacie
                  ten dowcip. Inaczej: robot trzymający pędzel tak samo jak van Gogh i używający
                  tych samych farb, Słoneczników jednak nie namaluje. Co najwyżej skopiuje.
              • crusader1 Re: Roboty dostaną prawa obywatelskie? 19.03.07, 02:01
                zgadzam sie z sun. ciezko przewidziec stworzenie inteligencji na miare czlowieka w niedlugim czasie.
                my nawet nie wiemy jeszcze wiele o pracy naszego mozgu. ale druga strona jest to ze my dajemy
                pewne praw zwierzetom. i moralnie nie uznajemy ze bezcelowe znacanie sie nad nawet myszka jest
                czyms normalnym i poprawnym. i mysle ze o to chodzi w tych prawach w/g arykulu BBC. o po prostu
                nie pastwienie sie nad robotami.

        • gumpel Re: Roboty dostaną prawa obywatelskie? 16.03.07, 13:02
          stephen_s napisał:
          > Co do Terminatorów, to mi się Terminatrix podobała jak najbardziej :))

          Oj, Steph, rozumiem, że masz słabość do mocnych kobiet, ale to już zahacza o
          perwersję ... toż ona w ogóle nie miała serca :-))))

          A co powiesz o Rachel z Łowcy Androidów ? Dla mnie to jest kwintesencja
          kobiecości ;-)


          G.
          • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 13:07
            > Oj, Steph, rozumiem, że masz słabość do mocnych kobiet, ale to już zahacza o
            > perwersję ... toż ona w ogóle nie miała serca :-))))

            I to dosłownie :))))))

            Ale podobało mi się, jak pomiatała biednym Arnoldem ;)

            > A co powiesz o Rachel z Łowcy Androidów ? Dla mnie to jest kwintesencja
            > kobiecości ;-)

            Która to była? Ta androidka, w której zakochał się Decker?

            Kurczę... dawno już tego filmu nie oglądałem, więc trudno mi odpowiedzieć.
            • a000000 Re: Roboty dostaną prawa obywatelskie? 16.03.07, 14:50
              stephen_s napisał:
              >
              > Ale podobało mi się, jak pomiatała biednym Arnoldem ;)

              przestań! nie wolno pomiatać kimkolwiek - każdy ma swoją godność.
              • gumpel Kilka paradoksów w temacie ... 16.03.07, 19:21
                > stephen_s napisał:
                > > Ale podobało mi się, jak pomiatała biednym Arnoldem ;)

                a000000 odpisała:
                > przestań! nie wolno pomiatać kimkolwiek - każdy ma swoją godność.

                Robot też ? Tutaj pisałaś inaczej:
                forum.gazeta.pl/forum/72,2.html?f=25822&w=59120791&a=59132612
                Arnold vel. Terminator jest robotem właśnie, zatem dlaczego nie pomiatać ???

                Jak rozumiem o takie właśnie paradoksy Stephowi chodzi w tym wątku, dobrze
                domniemuję ?

                Ten sam problem nieco zmodyfikownany: robią robota fizycznie podobnego do
                kobiety (te same ruchy, zapach, zachowanie, te same wrażenia w dotyku). Tyle,
                że w środku zamiast duszy "sprężynki". Facet jak ma potrzebę idzie sobie do
                wiadomego przybytku i dostaje taką za pieniądze na parę godzin. To nie człowiek
                więc może z nią robić co tylko chuć podpowie. Jak Wam się podoba taka wizja ?
                Sam tego nie wymyśliłem. Było to w jednym z opowiadań SF (Asimova lub Dicka,
                już nie pamiętam). No i pytanie ? Czy dzięki zastąpieniu człowieka niemyślącą,
                nieczującą i nie mającą duszy maszyną możemy z nią robić co chcemy ? Np.
                sprzeciw przeciwko pedofilii motywowany jest zazwyczaj dobrem dziecka. A jakby
                dziecko zastapić robotem ? Nie ma ofiary, nie ma przestępstwa ? Hę ?
                Powszechnie szanowany ojciec rodziny w sobotnie popołudnie zamiast pić wódkę
                gwałci sobie droida. Czyż to nie dobre rozwiązanie ? Przecież dzięki
                dostępności takich urządzeń spadnie liczba prawdziwych gwałtów ... przy niskich
                cenach być może nawet do zera. Albo inaczej: kobieta kupuje sobie robota-
                dzidziusia. Całkiem jak prawdziwy - nawet rośnie :-) - tyle, że można go
                wyłączyć ... w sam raz by poczuć co to uczucia macieżyńskie, a z drugiej strony
                nie odrywa nadmiernie od obowiązków zawodowych. Czy taki robocik to nie świetne
                rozwiązanie przed prawdziwym macieżyństwem ? Iluż błędów moznaby uniknąć ! He,
                he, można by ciągnąć tak w nieskończoność ...

                No i konkluzja może byc tylko jedna: pojawienie się robotów będzie dla nas
                poważnym wyzwaniem etycznym, nawet jeśli nie będa inteligentne ...


                G.
                • a000000 Re: Kilka paradoksów w temacie ... 16.03.07, 19:25
                  Gumplu, robot to maszyna i nie jest KIMŚ tylko czymś. A ja piszę o KIMKOLWIEK.

                  A niby skąd ja mam wiedzieć czym jest Arnold?
                • stephen_s Re: Kilka paradoksów w temacie ... 16.03.07, 19:49
                  > Jak rozumiem o takie właśnie paradoksy Stephowi chodzi w tym wątku, dobrze
                  > domniemuję?

                  Mi generalnie chodzi o to, że koncept zaawansowanych, myślących (względnie -
                  "myślących") maszyn jest wg mnie ciekawy i budzi wiele pytań.

                  Na przykład - spieramy się o to, czy maszyna może myśleć... Ano właśnie! Czy
                  kiedyś nie przyjdzie nam odpowiedzieć na dylematy etyczne z tym związane?
                  Zauważcie, że już obecnie istnieją programy, z którymi mozna odbyć przez
                  komputer konwersację... Co będzie za kilkanaście lat? Technologia może stać się
                  zaawansowana, że wcale nie będzie oczywiste, że takie maszyny / programy są
                  tylko "czymś". Już obecnie Japończycy budują humanoidalne hostessy... Co, jeśli
                  za kilkanaście lat ktoś zbuduje robota, który wygląda jak człowiek, mówi jak
                  człowiek, zachowuje się jak człowiek? Jaką będziemy mieć pewność, że to jest
                  wciąż tylko martwa maszyna? Kto będzie w stanie z całą pewnością powiedzieć, co
                  w takim robocie "siedzi"?

                  Dalej - niezależnie, jakiej odpowiedzi udzielimy, dylematy etyczne mogą się
                  pojawić. Na przykład: robot jako idealny partner życiowy. Jeśli stanie się
                  możliwe budowa maszyn, które np. będą mogły pełnić rolę idealnego małżonka /
                  małżonki, to kto wie, czy ktoś tego nie wcieli w życie? To wcale nie jest takie
                  niemożliwe - parę lat temu pojawiła się moda na tamagochi, "wirtualne
                  zwierzęta". Taki "mechaniczny małżonek" to tylko krok dalej...

                  Zgadzam się z Gumplem - roboty mogą dostarczyć problemów etycznych, nawet jeśli
                  nie będą inteligentne...
              • stephen_s Re: Roboty dostaną prawa obywatelskie? 16.03.07, 20:00
                > przestań! nie wolno pomiatać kimkolwiek - każdy ma swoją godność.

                Wiesz, jedną z fajnych cech "Terminatora 3" było to, że film był zrobiony z
                zaskakujacym dystansem. Było sporo autoironicznych żartów...

                Jednym z nich było to, że Arnold, grający "typowego" Terminatora T-800, z trudem
                dawał sobie radę ze swoją przeciwniczką, ultrazaawansową Terminatorką TX. Było
                to zrealizowane w sposób, który dla fanów starszych części był po prostu
                rozczulający :) Biedny T-800 dostawał kompletne wciry od drobnej blondyneczki :)

                Było to w sumie sympatyczne, bo widać było, ze Arnold ma do siebie trochę
                dystansu. Schwarzenegger nie jest już taki młody, to nie te czasy, kiedy mógł
                grać niezwycięzonego herosa. Sam chyba zdawał sobie sprawę, że jeśli w tym wieku
                zagra supersprawnego Terminatora, to będzie to sztuczne. Dlatego też Arnold gra
                Terminatora, który ma trudności z nadążaniem za "młodszym pokoleniem" robotów :)
    • monikaannaj jaasne. Ale dopiero jak sterraformujemy Marsa. nt 16.03.07, 15:06
    • kochanica-francuza OT - Stephen, twój kot chce do marines! 16.03.07, 19:33
      Kup mu jeszcze hantle.
    • forumisko robot kolejkowy "Ewa-1" 19.03.07, 01:22
      www.kmf.org.pl/fx/freakewa.html
      Jakiej jest płci?
      • kochanica-francuza Jak Ewa, to baba, nie? 19.03.07, 14:08
        Foruś, i ty pytasz, jakiej płci jest robot imieniem Ewa?... ;-)))))
Pełna wersja