Uniwersytet Warszawski - Centralny System UwierzytelnianiaNie jesteś zalogowany | zaloguj się
katalog przedmiotów - pomoc

Teoria Informacji

Informacje ogólne

Kod przedmiotu: 2500-KOG-PL-M2Z-1 Kod Erasmus / ISCED: 14.4 / (0313) Psychologia
Nazwa przedmiotu: Teoria Informacji
Jednostka: Wydział Psychologii
Grupy: Kognitywistyka 2
Punkty ECTS i inne: (brak)
zobacz reguły punktacji
Język prowadzenia: polski
Założenia (opisowo):

K_W01 Zna podstawową terminologię używaną w kognitywistyce i rozumie jej źródła oraz zastosowania w pokrewnych dyscyplinach naukowych.

K_W02 Rozumie czym jest teoria naukowa i jaka jest jej rola w wyjaśnianiu zjawisk i ich przewidywaniu.

K_U05 Potrafi wyabstrahować elementy argumentacyjne z wypowiedzi lub tekstu pisanego zanalizować go metodami formalnymi i nieformalnymi oraz rozpoznać jego ewentualną niepoprawność.


Skrócony opis:

Tematem zajęć jest zarys teorii informacji oraz jej zastosowań praktycznych w różnych dziedzinach nauki. Celem jest przekazanie nie tylko samej teorii, ale, przede wszystkim, pokazanie jej przydatności w innych dziedzinach nauki (biologia, lingwistyka, nauki społeczne). Drugą część zajęć poświęcimy dyskusji nad możliwymi ograniczeniami teorii informacji. Przedstawimy współczesne prace rozważające ten problem.

Pełny opis:

Tematem zajęć jest zarys teorii informacji oraz jej zastosowań praktycznych w różnych dziedzinach nauki. Celem jest przekazanie nie tylko samej teorii, ale, przede wszystkim, pokazanie jej przydatności w obszarach od niej odległych oraz pokazanie zakresu jej zastosowania, w tym także jej ograniczeń.

W pierwszej części zajęć planujemy prezentację: a) historii teorii informacji oraz jej źródeł (Hartley, Shannon); b) podstawowych pojęć teorii (entropia, miara informacji, kodowanie i kompresja informacji, pojemność kanałów przesyłających informację), na podstawie ujęć podręcznikowych (np. Cover i Thomas); c) zastosowań w fizyce na podstawie prac Maxwella, Boltzmanna, Gibbsa, Nyquista i Szilarda; d) zastosowań w biologii, teorii ewolucji i teorii systemów otwartych (np. Schroedinger „Czym jest życie” , Bertalanffy “Ogólna teoria systemów. Podstawy, rozwój, zastosowania”), e) zastosowań w lingwistyce (prawa Zipfa, analiza tekstów, np. Brillouin “Science and Information Theory”, “Scientific Uncertainty and Information” oraz współczesne prace oryginalne, np. Gildea & Jeager), f) zastosowań w naukach społecznych i psychologii (np. Wiener „Cybernetyka i społeczeństwo”, Ross Ashby, współczesne prace oryginalne).

Drugą część zajęć poświęcimy dyskusji nad ograniczeniami teorii informacji, wynikającymi z jej sformułowania jako miary ilości informacji i nie odnoszącej się do treści przekazywanej wiadomości, czy jej funkcji kontrolnej. Przedstawimy współczesne prace rozważające ten problem (np., Deacon, Collier).

Literatura:

Ashby, W. Ross (1956): “An Introduction to Cybernetics”. London: Chapman & Hall.

Brillouin, L. (1962) “Science and Information Theory”. New York: Academic Press.

Collier, J. (2012). “Information, causation and computation. Information and Computation: Essays on Scientific and Philosophical Understanding of Foundations of Information and Computation”, Ed. by Gordana Dodig Crnkovic and Mark Burgin, World Scientific.

Cover, T. M., Thomas, J. A. (1991). “Elements of Information Theory”, New York: Wiley.

Deacon, T. (2007). “Shannon-Boltzmann-Darwin: redefining information. Part 1”, Cognitive Semiotics 1, 123-148.

Deacon, T. (2008). “Shannon-Boltzmann-Darwin: redefining information. Part 2”, Cognitive Semiotics 2, 167-194.

Gleick, J. (2012). “Informacja: Bit, Wszechświat, Rewolucja”. Przekład Grzegorz Siwek. Kraków: Znak.

Gildea, D. and Jaeger, T. F. “Human languages order information efficiently”.

Hartley, R. V. (1928). „Transmission of information”, Bell System Technical Journal 7, 535–563.

Kolmogorov, A. N. (1965). “Three approaches to the quantitative definition of information”, Probl. Inf. Transm., 1, 1–7.

Odum, H. T. (1988) “Self-Organization, Transformity, and Information”, Science, vol. 242, 1132–1139.

Oyama, S. (2000). “The Ontogeny of Information”, 2nd edition. Durham, NC: Duke University Press. (fragm.)

Pattee, H. H. (1969). “How does a molecule become a message?” Developmental Biology Supplement 3, 1–16.

Pattee, H. H. (1987). “Instabilities and Information in Biological Self-Organization”. In F. E. Yates (ed.) “Self-organizing Systems. The Emergence of Order”, New York: Plenum, 325-338.

Polanyi, M. (1968). “Life's irreducible structure”, Science 160, 1308-1312.

Schrödinger, E. (1944/1998). „Czym jest życie?”, Warszawa: Prószyński i s-ka, Warszawa. (fragm.)

Shannon, C. (July and October 1948). "A mathematical theory

of communication" Bell System Technical Journal 27: 379–423, 623–656.

Shannon, C. E. & Weaver, W. (1949). “The Mathematical Theory of Communication”. Urbana, IL: University of Illinois Press. (fragm.)

Szillard, L. (1929) “On the Decrease of Entropy in a Thermodynamic System by the Intervention of Intelligent Beings”, in The Collected Works of Leo Szilard: Scientific Papers (MIT Press, 1972), pp. 120‐129.

Waddington, C. H. (1968). “Towards a theoretical biology.” Nature 218: 525–27.

Wiener, N. (1961/1950). Cybernetyka i społeczeństwo. Przekład Wojtasiewicz Olgierd. Wyd. 2 popr., Warszawa: KiW. (fragm.)

Zipf, G. K. (1949). „Human Behavior and the Principle of Least Effort”. Cambridge, Mass: Addison-Wesley. (fragm.)

Efekty uczenia się:

Studenci po ukończeniu zajęć będą znali historię pojęcia informacji i historię prób jego sformalizowania. Będą umieli wymienić najważniejsze postaci tworzące tę historię. Będą umieli zdefiniować podstawowe pojęcia teorii (entropia miara informacji, kodowanie i kompresja informacji, pojemność kanałów przesyłających) oraz zastosować odpowiednie wzory do obliczeń tych wielkości. Studenci będą w stanie wskazać obszary zastosowań i ograniczenia zastosowań miar informacji w odniesieniu do procesów poznawczych. Będą umieli prowadzić i brać udział w dyskusji złożonych problemów z zakresu teorii informacji. Poniżej bardziej szczegółowy opis i odniesienie do konkretnych efektów kierunkowych:

Wiedza:

Ma pogłębioną wiedzę o miejscu i znaczeniu teorii informacji w kognitywistyce i pokrewnych dyscyplinach naukowych

(filozofia, psychologia, biologia, fizyka, językoznawstwo, informatyka, sztuczna inteligencja, zarządzanie informacją). Zna specjalistyczną terminologię z zakresu teorii informacji (K_W01, K_W02, K_W05, K_W06)

Umiejętności:

Potrafi wykorzystywać zaawansowaną wiedzę teoretyczną z zakresu teorii informacji w celu analizowania oraz interpretowania złożonych zagadnień związanych z umysłem i procesami poznawczymi. Potrafi przedstawić problem, wyszukać literaturę z zakresu teorii informacji i jej zastosowań w różnych dziedzinach, potrafi stosować właściwą terminologię (K_U01, K_U02, K_U03, K_U05, K_U10).

Kompetencje społeczne:

Samodzielnie wyznacza kierunki rozwoju własnej wiedzy na temat zagadnień związanych z teorią informacji (K_K02),

potrafi dyskutować złożone problemy teoretyczne w grupie uczestników reprezentujących różne zainteresowania i dziedziny (K_K03).

Przedmiot nie jest oferowany w żadnym z aktualnych cykli dydaktycznych.
Opisy przedmiotów w USOS i USOSweb są chronione prawem autorskim.
Właścicielem praw autorskich jest Uniwersytet Warszawski.