Świadomość tworów sztucznych: odwrócony argument

  • Published on
    12-Feb-2016

  • View
    41

  • Download
    0

Embed Size (px)

DESCRIPTION

wiadomo tworw sztucznych: odwrcony argument. Wodzisaw Duch Uniwersytet Mikoaja Kopernika , Toru Nanyang Technological University, Singapur WWW: Goo g le Duch. III Forum Filozoficzne, Lublin, maj 2004. Odwrcony argument. Jakie s prospekty stworzenia wiadomych maszyn? . - PowerPoint PPT Presentation

Transcript

  • wiadomo tworw sztucznych:odwrcony argument

    Wodzisaw Duch

    Uniwersytet Mikoaja Kopernika, ToruNanyang Technological University, SingapurWWW: Google DuchIII Forum Filozoficzne, Lublin, maj 2004

  • Odwrcony argumentJakie s prospekty stworzenia wiadomych maszyn? Jak mona stworzy co, czego nie potrafimy zdefiniowa? Liczne eksperymenty mylowe pokazuj nieuchwytno pojcia wiadomoci. Moemy najwyej zaprogramowa komputer tak, by udawa, e jest wiadomy, ale nie bdzie nigdy wiadomy w ludzkim sensie.Ze pytanie prowadzi do niekoczcych si sporw. Zaplanujmy mzgopodobny system; pokamy, e z powodu swojej konstrukcji musi twierdzi, e jest wiadomy zachodzcych w nim procesw; sprbujmy podway jego przekonania.

  • PlanUdawanie wiadomoci: Boty, linguboty, Turing i Loebner.Roboty i awatary w wirtualnych rodowiskach. Dokd to prowadzi? Mzgopodobna architektura. Jak si to zachowa? Filozoficzne obiekcje. Miadca krytyka dyskutantw ...

  • AwataryAwatary i mwice gowy: poziom pre-kognitywny, gwnie grafika 3D, morfing, synteza mowy, synchronizacja ruchu ust, prozodia i syntetyczne emocje. Przykad: Haptek Virtual CharactersAnanova, czyta wiadomoci, firma telefoniczna Orange daa za ni 95M wkrtce w telefonach komrkowych? Andrea Catherwood, czyli Vandrea, czyta wiadomoci programu BT5.

    Simon czyta wiadomoci w jzyku migowym. Technologia Veeper przykad z Harvardu.

    Z dwch zdj mona zrobi swojego awatara i rozsya wkoo.

  • Turing i LoebnerTest Turinga (1950): czy jeste programem czy komputerem?Od 1994 r Medal i Nagroda Loebnera przyznawana jest programowi, ktry przejdzie Test Turinga. Nagroda gwna 100 K$, co roku 2000 $.Sdziowie maj >15 min na rozmow z botem lub czowiekiem.2001: Alice dosta 14 punktw, ludzie 19-242002: Ellaz, http://www.ellaz.com/ 2003: Jabberwock opowiada dowcipy, podaje pogod, czyta na gos ksiki, interpretuje I-Ching, gra w karty, uczy si ...Boty prbuj przej inicjatyw w czasie konwersacji, ale filozof od razu odrni je od czowieka. Wirtualny asystent Hapteka czy co takiego bdzie wiadome?

  • Przykad konwersacjiZ zawodw LoebneraTalk-Bot #3 by Chris Cowart

    User: Can you love?Talk-Bot: I've seen people do it.. it doesn't seem hard!

  • RobotyRoboty, ucielenione boty: sterowanie w czasie rzeczy- wistym, rozpoznawanie obiektw, ludzi, planowanie ... Zabawki pieski AIBO, okres penego rozwoju wynosi 6 tygodni, dua sprawno ruchowa, same szukaj prdu, rozpoznaj gos i twarze.

    Najbardziej zaawansowane roboty humanoidalne: Honda P3 1.60m, 130 kg; Honda Asimo 1.20 m, 43 kg. Sony Qrio 0.6 m, 7 kg. Dynamiczna kontrola ruchu, potrafi taczy, gra w golfa, dyrygowa. Rozpoznaje kilkadziesit tysicy sw, gos, twarze, pamita rozmowy; wykonuje wiele zoonych ruchw po zrozumieniu polece gosowych.

    Wzrok, such, rozpoznawanie obiektw ... => moe dziaa autonomicznie. Procesy mylowe, rozumowanie, planowanie ... powoli nadchodz.

  • Roboty + umysAgent, bot, robot maszyny bez rozumu?Wysze czynnoci poznawcze robotyka kognitywna da im moliwo rozumowania o celach, spostrzeeniach, dziaaniach, stanach mentalnych innych agentw.

    Allan Newell, SOAR uniwersalne teorie poznania + modelowanie kognitywne + analiza jzyka => NL-SOAR, oparty na reguach. John Anderson, ACT-R, architektura i teoria poznawcza.

    Intencje, instynkty, napdy: czemu nie?

    Gerald Edelman, roboty Nomad/Darwin maj oglne instynkty, np. poszukuj silniejszych wrae, co prowadzi do zoonych form zachowa, wodzenia kamer za owietlonymi poruszajcymi si obiektami, zblienia si i zbadania tych obiektw.

    Nomad, DB, Cog, Kismet, Hal ... rozwj od podstaw, jak dziecko.

  • Dokd to prowadzi? Czy proces modelowania zbiegnie si do czego autentycznego, czy tylko do sprytnego kalkulatora?

    Jak si ma symulacja mylenia do mylenia prawdziwego? Czy z cyfrowej chmury spadnie deszcz? Czy przyszy AIBO bdzie mia psi umys, a przyszy Kismet jak David z filmu AI?

    Niemoliwe? Czego wic brakuje?

    Allan Turing: wiadomo to le zdefiniowana koncepcja; wystarczy dostatecznie dobrze imitowa umys by nim by!

    Czy taka imitacja bdzie czym wiadoma swojego wewntrznego wiata, czy bdzie zombi, wykonujcym swj program?

    Wielu filozofw umysu (Jackson, Nagel, Searle, Chalmers ... ) prbowao wykaza, e jest tu jaki magiczny czynnik ...

  • Zoono mzguProste neuropodobne modele maj wiele cech podobnych do naszej pamici skojarzeniowej:Pami jest rozproszona, wiele neuronw uczestniczy w kodowaniu tego samego ladu pamici.Uszkodzenia sieci neuronw prowadza do agodnego spadku jakoci a nie zapominania konkretnych faktw.Pami epizodu odtwarza si z fragmentw. Czas przypominania nie zaley do liczby zapamitanych faktw.Interferencja (bdy) i skojarzenia zale od podobiestwa pamitanych wzorcw.Prby zapamitania zbyt wielu rzeczy zbyt szybko kocz si chaosem ....

    Wikszo neuropsychologicznych syndromw i chorb psychicznych ma ju nieze modele.Mzgo-podobne obliczanie prowadzi do umyso-podobnych funkcji. => Zoono mzgu nie musi by istotna, jak szybko to si zbiega?

  • Mzgopodobne systemyStany mzgu to czaso-przestrzenne, fizyczne pobudzenia neuronw. Widz, sysz, czuj .. stany swojego mzgu! Np: lepota zmian.Procesy kognitywne dziaaj na mocno przetworzonych perceptach.Czerwie, sodycz, swdzenie, bl ... to stany fizyczne mzgu. W odrnieniu od rejestrw komputera stany mzgu s dynamiczne, zawieraj w sobie potencjalne relacje i skojarzenia.

    wiat wewntrzny jest rzeczywisty! Stany umysu to relacje pomidzy stanami mzgu, pamici roboczej.

    Komputery i roboty nie maj podobnych stanw.

  • Czy da si to zrobi?Tak! np. Pentti Haikonen (Nokia) robi symulacje modeli pamici roboczej w ktrych informacja sensoryczna (oparta o konkurencyjny algorytm dostpu do pamici) przesyana jest do obszarw skojarzeniowych. Waciwe pytanie:jak szczegowy powinien by model by odtwarza istotne cechy dziaania umysu? Jeli podsystem jzykowy bdzie komentowa stan pamici roboczej, to jak bdzie wyglda cig jego komentarzy?Strumie wiadomoci: liczny kolor, cakiem jak morza na Capri ...

  • Chiski pokjSystemy ktre przejd test Turinga nadal nic nie rozumiej !Czowiek w rodku postpuje zgodnie z reguami (jak program) ale nic nie rozumie relacje syntaktyczne nie daj semantyki (J. Searl 1980).

    Na temat tego eksperymentu napisano setki artykuw i ksiek.

  • Chiski pokj: R.I.P.To jest puapka! Traktuj j serio a dasz si usidli.To nie jest test wynik jest zawsze negatywny! W Twojej gowie te nie ma adnego rozumienia. Warunki przy ktrych ludzki obserwator mgby dostrzec rozumienie nie zostay tu przedstawione potrzebny jest rezonans umysw. Poczucie rozumiem zostao tu pomylone z prawdziwym operacyjnym rozumieniem. Iluzja zrozumienia wszystkiego moliwa jest dziki narkotykom; czsto chocia nie czujemy, e rozumiemy, odpowiadamy prawidowo, i odwrotnie: rozumienie to nie odczucie.

    Searl niesusznie konkluduje: wiemy, e ludzie rozumiej, a wic ich neurony maj moce przyczynowe, ktrych nie ma elektronika. Nic podobnego: test Turinga jest wany, chiski pokj nie.

  • Trudny problem wiadomociStary problem psychofizyczny w nowych szatach, Journal of Consciousness Studies z 1995, ksika Chalmers D.J, The Conscious Mind: In Search of a Fundamental Theory, OUP 1996 (ponad > 50 recenzji!) atwe problemy: skupianie uwagi, rozpoznawanie, komentowanie ...

    Trudny problem: jakociowy charakter przeywanych dowiadcze czyli qualia dlaczego nie jestemy zombi ?

    Teoretycznie przetwarzanie informacji mogoby si oby bez jakoci sodkoci czekolady czy czerwieni zachodu soca.

    Qualia = |wiadoma percepcja przetwarzanie informacji| Roboty mog dziaa bez wewntrznego dowiadczenia, ktrego nie da si wyrazi sowami.. Jak zaprogramowa co, co nie robi adnej rnicy przy przetwarzaniu informacji?

  • Rozwizanie TPWiele nonsensw napisano o qualiach.Rne rozwizania: qualia to zudzenie; nie da si zrozumie; dwa aspekty przetwarzania informacji, fizyczny i fenomenalny; kwantowa wiadomo, panpsychism; protofenomeny ... Dyskusja od 1996 roku doprowadzia do zamieszania.

    Dobry pocztek zrobi Thomas Reid (1785), oraz Indyjscy filozofowie 2000 lat przed nim, wprowadzajc wyrane rozrnienie poczucia (feeling) i percepcji opartej na osdzie (judgment, discrimination).

    Ja czuj bl: stwarza wraenie, e podmiot Ja' ma przedmiot bl'. Reifikacja procesu w objekt stwarza tu faszywy problem.Mamy bl', wraenie, proces, dziaanie, reakcj systemow organizmu.

    Czerwony kolor ma specyficzny charakter, wraenie: oczywicie! Odpowiadaj mu rzeczywiste, specyficzne stany i dynamiczne procesy w mzgu, odmienne od stanw zwizanych z percepcj innych wrae.

  • Dlaczego istniej qualia?Wyobramy sobie szczura wchajcego jedzenie. W uamku sekundy musi zdecydowa: je czy plu? Wszy i ostronie podgryza. Kora smakowa wysya RFC, prob o komentarze. Pami jest rozproszona, skojarzenia szukane s w caym mzgu. RFC pojawia si w pamici roboczej (WM) na poziomie globalnej dynamiki mzgu. WM jest niewielka, mieci tylko kilka wzorcw (72 u ludzi). Powstaj stany rezonansowe aktywujc lady pamici. Najsilniejszy dominuje: ze skojarzenia! trucizna! plu! Zaczyna si silna reakcja fizjologiczna postrzeganie suy dziaaniu Stan epizodyczny WM jest zapamitywany w pamici dugotrwaej. Szczur ma rne odczucia dla rnych smakw, lubi by askotany. Gdyby szczur mia zdolno mwienia, jak by opisa ten epizod?Rezultaty procesw niesymbolicznych, cigych, np. rozrniania smakw, s pamitane i kojarzone z reakcjami organizmu: qualia!

  • Jeszcze o wraeniachPami trwaa (LTM) jest ogromna, rzdu 1014 synaps. Pami robocza (WM) jest aktualizacj kilku stanw LTM, zjawiskiem dynamicznym. Adaptacyjny rezonans: wstpujce (zmysy=>koncepcje) i zstpujce (koncepcje=>zmysy) strumienie informacji tworz samouzgodnione rewerberacje, chwilowo istniejce stany mzgu/umysu. Stany rezonansowe s ubrane: zawieraj w sobie skojarzenia, lady pamici, dziaania, zawarte w jednym stanie cakiem odmiennie ni w przypadku abstrakcyjnych stanw rejestrw maszyny Turinga.

  • Automatyzacja dziaaUczenie si: pocztkowo wiadome dziaania angauj cay mzg, w kocu dziaania automatyczne, podwiadome, zlokalizowane.Formowanie si nowych kwazistabilnych stanw mzgu w czasie uczenia si => modele neuronowe.

    Uczenie si wymaga wzmacniania zachowa podanych, obserwacji i oceny zoonych stanw mzgu.

    Powizanie obecnego dziaania z zapamitanymi skutkami podobnych dziaa wymaga ocen i porwna, a nastpnie reakcji emocjonalnych, ktre wyzwol neurotransmitery (dopamin) jako sygna wzmacniajcy, zwikszajcy szybko uczenia moduw neuronowych Pami robocza w tak zoonym procesie jest niezbdna. Bdy naley zapamita, zwaszcza gorzki smak poraki.

    Nie ma adnego transferu od wiadomego do niewiadomego! Jest tylko (wiadomy) proces oceny potrzebny do wzmocnienia.

  • Kiedy system ma qualiaKady system do oceny swoich stanw pamici roboczej musi twierdzi, e ma wraenia i jest ich wiadomy wystarcz do tego asocjacje. Minimalne wymagania do zbudowania takiego systemu to: Pami Robocza (WM), oparta na dynamicznym modelu rekurencyjnej sieci neuronowej, powinna zawiera informacj pozwalajc na odtworzenie stanu wszystkich podsystemw. Pami trwaa, pozwalajca na odtworzenie stanw pamici roboczej Zdolno do rozrnienia pomidzy rnymi typami zmieniajcych si w cigy sposb stanw WM; rozrnienie" oznacza skojarzenie z rnego rodzaju dziaaniami, symbolami, komentarzami. Mechanizm aktywacji skojarze zapamitanych w strukturze trwaej pamici, oraz dodawania takiej informacji do stanw WM. Moliwo aktywnego komentowania stanw WM: sowa, dziaania. Odrnienie ja i reszta, kategoryzacja wartoci stanw WM z punktu widzenia celw (przeycia) systemu. Instynkty i napdy nadajce ogln orientacj systemowi.

  • Dlaczego czujemy si wanie tak?Qualia musza istnie w mzgopodobnych strukturach:

    Ich istnienie zaley od mechanizmw poznawczych; habituacja lub intensywna koncentracja usunie qualia. Qualia wymagaj odpowiedniej interpretacji, np: segmentacji sceny wzrokowej; bez interpretacji nie ma wrae.Za interpretacj odpowiedzialna jest wtrna kora zmysowa; lezje zmieniaj qualia, powstaje np. asymbolia czuciowa. Nie ma blu bez interpretacji sygnau blu.Wraenia wzrokowe: kolor to stan V4, uszkodzenia tego obszaru powoduj zanik wrae koloru, na jawie i w snach. Interpretacja poznawcza wymaga dostpu do pamici: qualia zmieniaj si pod wpywem rodkw wpywajcych na pami.Trening zmienia wszystkie wraenia zmysowe; zapamitanie nowych dwikw/smakw/obiektw zmienia qualia.Nowe qualia pojawia bd si rwnie w snach.Dlaczego wizanie sznurwek nie ma smaku? Tylko pami epizodyczna tworzy rezonanse, pami proceduralna nie. Przypadki zej interpretacji jednostronne zaniedbanie, dysmorfia ciaa, koczyny fantomatyczne kontrolowane przez lustrzane odbicia; lepowidzenie, synestezje, stany absorbcji ... wiele innych.

  • W stron wiadomych robotw Komputer nie jest dobr metafor by myle o umyle. wiadomo obecna u ssakw, ptakw, wystarczy prosty mzg lub mzgo-podobna organizacja przetwarzania informacji.Czy chcemy co takiego zbudowa? Niewiele jest konkretnych projektw, ale ich liczba bdzie rosa.

    Stan Franklin, "Conscious" Software Research Group, Institute of Intelligent Systems, University of Memphis, projekt CMattie: prba zaprojektowania i zaimplementowania agenta programowego w oparciu o teori Global Workspace Theory (Bernard Baars).

    Owen Holland, University of Essex: wzrastajca zoono inteligentnych zachowa w robotach z modelami wewntrznymi rodowiska, zoony system kontroli zachowania, powinien da oznaki wiadomoci.

    Pentti Haikonen (Nokia, Helsinki), The cognitive approach to conscious machines (Imprint Academic 2003). Symulacje i nowe mikroczipy do budowy takich maszyn.

  • KonkluzjeRoboty i awatary bd wykazywa coraz bardziej wyrafinowane czeko-podobne zachowania grafika komputerowa zaczynaa tak Sztuczne umysy mzgopodobnych systemw bd miay qualia; qualia w sztucznych systemach nie bd odmienne od naszych. Nie ma dobrych argumentw przeciwko zbieganiu si procesw modelowania mzgu do wiadomych artefaktw. Osignicie kompetencji na poziomie ludzkim w wielu dziedzinach (jzyk, rozwizywanie problemw) moe zaj wicej czasu ni wiadomo i qualia.Stworzenie wiadomych artilektw (artikonw?) otworzy puszk Pandory.Jaki bdzie ich status? Czy doprowadzi to do degradacji godnoci ludzkiej? Czy wyczenie wiadomej maszyny to morderstwo?Czy nie zwrc si przeciwko nam ... a moe gubernator Kalifornii ju jest jednym z nich?

  • ???Notatki do tego referatu: WWW (Google Duch) => PL => referaty po polsku

    Linki do botw i awatarw: WWW => Sztuczna Inteligencja i uczenie maszynowe

    Praca: Brain-inspired conscious computing architecture.WWW => Archiwum publikacji => Cognitive subjects