kognitywistyka.net: forum
Umysł - Mózg - Sztuczna Inteligencja

Kognitywistyka - Powszechna Deklaracja Praw Robotów?

Marek Kasperski - 2006-12-22, 10:42
Temat postu: Powszechna Deklaracja Praw Robotów?
Wczoraj na naszej stronie głównej pojawił się nius, który raz, że jest znakiem czasów (naszych i nadchodzących), a dwa, że głębsze zastanwoienie generuje wiele pytań, nad którymi można by się tutaj zastanowić.

Cytuję:

Sir David King, główny doradca naukowy rządu Jej Królewskiej Mości, uważa, że gdy w przyszłości zostaną stworzone czujące roboty, należy dać im te same prawa co ludziom. Opinia taka została wyrażona w dokumencie przygotowanym przez firmę konsultacyjną Outsights oraz zajmującą się badaniami opinii publicznej Ipsos Mori.

Dokument dotyczy Wielkiej Brytanii w roku 2056, a jego autorzy stwierdzili, że do tego czasu roboty posiadające uczucia mogą być czymś powszechnym.

Czytamy w nim, że jeśli kiedyś rzeczywiście powstanie prawdziwa sztuczna inteligencja, trzeba będzie przyznać wyposażonym w nią urządzeniom takie prawa i obowiązki jak ludziom. Roboty miałyby więc prawa wyborcze, płaciłyby podatki i służyły w wojsku.

Jeśli przyznamy im pełnię praw, to państwa będą zobowiązane do zapewnienia im wszelkich korzyści wynikających z przynależności do społeczeństwa, a więc prawa do pracy, zamieszkania i opieki zdrowotnej dla robotów, polegającej na ich naprawie – stwierdzono w dokumencie.

Slawomir Wacewicz - 2006-12-22, 13:36

O tym samym z BBC News

... a przy tej okazji: wszystkim życzę wszystkiego najlepszego na Gwiazdkę :) .

Maria Borkowska - 2006-12-22, 13:53
Temat postu: Re: Powszechna Deklaracja Praw Robotów?
Marek Kasperski napisał/a:
Wczoraj na naszej stronie głównej pojawił się nius, który raz, że jest znakiem czasów (naszych i nadchodzących), a dwa, że głębsze zastanwoienie generuje wiele pytań, nad którymi można by się tutaj zastanowić.


rzeczywiście rodzi się tu wiele pytań. przede wszystkim: czego mogą żądać roboty? wolności, równości? czy nie jest przypadkiem tak, że przypisując maszynom ludzkie kategorie automatycznie zaczynamy sądzić, że maszyny będą mialy podobne do naszych pragnienia i dążenia? ciekawie przedstawil ten problem Lem w opowiadaniu (?) eseju (?) pt. Golem XIV

apropos "robociej" etyki: slyszalam od osoby interesującej się SI, że nad Cogiem (wiecie z pewnością kto zacz) czuwa etyk pilnujący aby rzeczonemu nie dziala się krzywda. Marku od SI- bylabym wdzięczna za weryfikację tej informacji ;)
pozdrawiam szczerze i dobrze wszystkim życzę na Święta

Marek Kasperski - 2006-12-28, 19:36
Temat postu: Re: Powszechna Deklaracja Praw Robotów?
Maria Borkowska napisał/a:
apropos "robociej" etyki: slyszalam od osoby interesującej się SI, że nad Cogiem (wiecie z pewnością kto zacz) czuwa etyk pilnujący aby rzeczonemu nie dziala się krzywda. Marku od SI- bylabym wdzięczna za weryfikację tej informacji ;)


Udało mi się wygospodarować nieco więcej czasu, więc spieszę z odpowiedzią.

W grupie osób rozwijających zarówno COG-a jak i jego głowę - czyli KISMETa - jest nie tylko etyk, ale i teolog! Pracująca w MIT Anne Foerst rozwija coś, co można by nazwać teologią robotów (szerzej - maszyn). Swoją refleksję zawarła w książce
God in the Machine: What Robots Teach Us About Humanity and God
. Co prawda większość z nas uzna - na czele ze mną - jeszcze za wcześnie na tego rodzaju rozważania, ale MIT zawsze przodowało w odważnych projektach.

Jeśli zaś chodzi o etykę robotów, to już całkiem sporo literatury naukowej jest dostępna na ten temat. Od chociażby:
Stacey L. Edgar, Morality and Machines, Second Edition: Perspectives on Computer Ethics
. Choć i tutaj raczej stałbym na pozycji, że trochę za szybko na tego rodzaju rozważania - jeśli chodzi o dzisiejszy rozwój robotyki, chociaż dynamiczny, to jeszcze nie pozwala nam stwierdzić, co za kilka lat będzie możliwe i jakie wówczas trzeba będzie podjąć kroki w ramach zbudowania standardów komunikacji człowiek-robot czy robot-robot. Na dzień dzisiejszy, choć interesujące, to traktuję to jako czyste dywagacje. Warte lektury, ale dywagacje.

Inna sprawa, to problemy natury prawnej, a nie etycznej. Tu faktycznie trzeba coś zrobić.

Ostatnio napisała do mnie osoba z prośbą o pomoc, która doktoryzuje się w ramach ustaleń prawnych w ramach oprogramowania agenckiego. Tu już od pewnego czasu jest cała rzesza problemów. Np. biorąc pod uwagę, że oprogramowanie agenckie w ramach nauczania heurystycznego jest w stanie po pewnym czasie samo podejmować pewne decyzje, jest też w stanie samo zawierać transakcje, które przecież są wiążące dla osoby, która zarządza danymi agentami. I tu jest problem, bo na dziś nie istnieją żądne przepisy prawne, które określałyby rolę oprogramowania agenckiego. Jeśli np. lada moment wjedzie w życie powszechnie podpis elektroniczny i oprogramowanie agenckie będzie się nim posługiwać przy zawieraniu umów, to w sensie prawnym kto zawarł umowę?

Dzisiaj już całkiem sporo firm wykorzystuje na świecie agentów do śledzenia giełdy i trenuje ich w roli menadżerów grających na giełdach. Lada moment możemy mieć podobną sytuację z robotami - jeśli robot miałby się opiekować starszymi ludźmi - jak chcą tego japończycy, to jeśli zostanie zrobione coś nie tak, to kto za to poniesie konsekwencje? Dzisiaj odpowiedź wydaje się oczywista - przecież nie robot; zapewne operator. Ale jest dzisiaj tylko dlatego tak oczywista i tylko dlatego taka, że mamy takie a nie inne doświadczenia z robotami. Roboty - te za 10-20 lat - w ogóle nie będą przypominały dzisiejszych (jak współczesny Mac OS X nie przypomina w ogóle DOSa) i wtedy to faktycznie będzie problem.

Inna sprawa, że faktycznie system etyczny dla robotów za kilka lat może być potrzebny chociażby z perspektywy bezpieczeństwa danych. W ramach swojej pracy w roli informatyka wiem jak ważna jest etyka pracy w tej branży. Informatycy to 5 władza - niejednokrotnie mamy dostęp do wszelkich danych zgromadzonych an firmowych komputerach - począwszy od ustawień sieci, a skończywyszy na panelu administratora w komputerach osobistych poracowników i danych, które tam zostały zgromadzone. Tu trzeba mieć nie tylko umiejętności techniczne by sobie radzić z komputerami, ale i pewien system wartości, by sobie radzić z tymi informacjami - np. by nie wykorzystywać w ten sposób zebranych informacji do innych celów, niż podtrzymywanie danej jednostki (firmy) przy informatycznym życiu. :)

Roboty jeśli miały by wkroczyć do naszych biur i naszych domów, powinny wiedzieć, że "brudów przy obcych się nie pierze", jak powiada mądre przysłowie:) I tu faktycznie widzę potrzebę prac nad odpowiednimi systemami wartości.

Maria Borkowska - 2006-12-28, 20:33

Dziękuję za zaspokojenie mej ciekawości.
Zastanawiam się nad kwestią „prania brudów”. Program faktycznie powinien umieć nazwijmy to- dochować tajemnicy. Zabezpieczając się przed opcją „zdradzenia sekretu” zakładamy, że komp mógłby nas – kolokwialnie mówiąc- sprzedać. I teraz zasadnicza kwestia- dlaczego miałby to zrobić? Czy z powodu braku zainstalowania odpowiednich zabezpieczeń? Czy dla korzyści? Pierwsza opcja nie zakłada żadnej aktywności ze strony programu. Po prostu niewinne i bierne stworzenie dało się włamać- w siebie. Jeśli opowiemy się za drugą opcją to już pachnie mi to futurologią. Dla jakich korzyści wlasnych inteligentny program mógłby udostępnić dane? Czyli- wracając do mojego poprzedniego postu: Czego może chcieć maszyna? Czy w ogóle może czegoś chcieć?
Chyba, że wdrukujemy pożądanie jakiegoś dobra np. światła, ale to wymagałoby zainstalowania odpowiednich receptorów. (Wiem, że przykład jest prymitywny, ale chodzi mi tylko o zasygnalizowanie sprawy) Jeśli maszyna posiadalaby wolę i pragnienia, wówczas faktycznie przydalby się jakiś system wartości.

Piotr G. Gryko - 2006-12-29, 13:20

Maria Borkowska napisał/a:

Chyba, że wdrukujemy pożądanie jakiegoś dobra np. światła, ale to wymagałoby zainstalowania odpowiednich receptorów. (Wiem, że przykład jest prymitywny, ale chodzi mi tylko o zasygnalizowanie sprawy) Jeśli maszyna posiadalaby wolę i pragnienia, wówczas faktycznie przydalby się jakiś system wartości.


Nawet w takim prymitywnym układzie, komputery już mają receptory: kamerki internetowe (wizja), mikrofony (dźwięk), poziomy napięcia na wejściu, temperaturę pracy podzespołów, itp.

Pytanie (może naiwne) pojawia się w trochę innym miejscu. Kiedy i jak miałaby się objawić ta samoświadomość? Czy potrzebne jest jej wyartykułowanie przez samą siebie?

Idąc dalej (albo wstecz) można zapytać co jest niezbędne by ona powstała? Odpowiednia struktura neuronów, gęstość i układ wędrujących elektronów, kombinacja zjawisk na poziomie kwantowym?

Może nie wiedząc o tym jesteśmy już teraz otoczeni przez mnóstwo świadomych bytów ograniczonych w możliwości poinformowania nas o tym?

Leszek Nowaczyk - 2006-12-30, 18:22

Witam,

swoją drogą to nawet logiczne, że to właśnie Brytyjczycy zajęli się z tak dużym wyprzedzeniem kwestią praw robotów. Kiedyś niewłaściwie podeszli do praw mieszkańców pewnej zamorskiej kolonii i ... wiadomo, co z tego wyniknęło - mieszkańcy wzięli sprawę we własne manipulatory ... ooops, przepraszam, ręce ... :-)

Tak się zastanawiam, jak, w kontekście niniejszego wątku należałoby traktować trzy fundamentalne Prawa Robotyki, sformułowane przez Asimova ... będą utrzymane, czy może zostaną uznane za niepoprawne politycznie ...
(Dla przypomnienia:
1) A robot may not injure a human being, or, through inaction, allow a human being to come to harm.
2) A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
3) A robot must protect its own existence as long as such protection does not conflict with the First or Second Law. )

Piotr G. Gryko napisał/a:
Może nie wiedząc o tym jesteśmy już teraz otoczeni przez mnóstwo świadomych bytów ograniczonych w możliwości poinformowania nas o tym?


A może, nie wiedząc o tym, jesteśmy już teraz otoczeni przez mnóstwo świadomych bytów, które nie widzą powodów, by nas o tym poinformować?

Pozdrawiam

Jarek Mazurek. - 2008-09-05, 08:43
Temat postu: Kodeks moralny dla robotów
Artykulik o zasadach dla robotów.
Ale tego nie jestem pewien:
Cytat:
Prof. J.Storrs Hall, który specjalizuje się w sztucznej inteligencji i pracuje dla NASA, w całym sporze zachowuje optymistyczny spokój. Przekonuje on że, osoby o wysokim ilorazie inteligencji posiadają mniejszą skłonność do popełniania przestępstw niż osoby z niższym IQ

Leszek Nowaczyk - 2008-09-05, 15:08

Witam,

Jarek Mazurek napisał/a:
Ale tego nie jestem pewien:
Cytat:

Prof. J.Storrs Hall, który specjalizuje się w sztucznej inteligencji i pracuje dla NASA, w całym sporze zachowuje optymistyczny spokój. Przekonuje on że, osoby o wysokim ilorazie inteligencji posiadają mniejszą skłonność do popełniania przestępstw niż osoby z niższym IQ


Trzeba by zacząć od tego, co to znaczy "skłonność do popełniania przestępstw" i jak ją mierzyć. Zakładam, że chciano wyrazić myśl, że wśród sprawców wykrytych przestępstw jest (w liczbach bezwzględnych) więcej osób o IQ poniżej, powiedzmy, 100 niż np. powyżej 140. Pewnie tak jest ale to akurat nie jest szczególnie odkrywcze ;-)
Problem polega na tym, że nawet jedna osoba o niezwykle wysokim IQ może dokonać zbrodni na taką skalę, że wyczyny rzezimieszków o IQ = 80 będą przy tym niczym ...
Mnie ten cytat akurat nie uspokaja ...

Pozdrawiam


Powered by phpBB modified by Przemo © 2003 phpBB Group