Pamięć i znaczenie - od człowieka kultury oralnej do sztucznej inteligencji

fakultatywne

Dla ludzkiego umysłu umiejętnością niejako naturalną jest wytwarzanie znaczenia ze składników przechowywanych w pamięci. Czy tak samo wygląda to w przypadku Sztucznej Inteligencji (SI)? Czy SI korzysta z zasobów pamięciowych tak jak ludzki umysł? Czy pod wpływem rozwijania SI zmieniają się rola pamięci i pojęcie znaczenia?

Celem zajęć jest rozważenie powyższych problemów w świetle dawnej i współczesnej literatury oraz sformułowanie przez studentów koncepcji badań dotykających tej problematyki.

Zajęcia obejmą 3 moduły:

1) „pamięć i znaczenie – koncepcje” (dawne i współczesne zagadnienia dot. pamięci i znaczenia),

2) crash course „wprowadzenie do idei machine learning”,

3) „pamięć i znaczenie w kontekście SI”.

W ramach modułu (1) rozpatrywana będzie w szczególności historia „mediów pamięci zewnętrznej” (z kulturą oralną jako punktem wyjścia) i wpływu pamięci zewnętrznej na ludzkie procesy poznawcze, analiza samych tych procesów z punktu widzenia wytwarzania znaczenia (ze szczególnym uwzględnieniem, do czego potrzebna jest w nich pamięć) i stąd, próba wskazania, czego (prawdopodobnie) brakuje tzw. sztucznej inteligencji, by mogła być inteligencją niekwalifikowaną ani przez określenie „tak zwana” ani nawet „sztuczna” (o ile to określenie traktujemy ocennie).

Moduł (2) obejmie podstawowe informacje dot. założeń i aktualnego stanu SI.

Celem modułu (3) będzie rozważenie kilku zagadnień zw. z problematyką zajęć w odniesieniu do aktualnego stanu SI na podstawie najświeższych publikacji naukowych, a także podjęcie przez studentów próby samodzielnego stworzenia koncepcji badań w ramach omawianej problematyki.

Wymaganie minimalne: od każdego uczestnika będzie się oczekiwać przeczytania na zajęcia przygotowanych przez prowadzących fragmentów tekstów (do 14 stron na każde zajęcia) oraz udziału w dyskusjach. Prowadzący będą jednak zachęcali uczestników do prezentowania wyników analiz dokonanych na podstawie szerszej literatury. Dokładna formuła pracy zostanie ustalona z uczestnikami na pierwszych zajęciach.

W ramach kursu podjęte zostaną następujące zagadnienia (powiązane z podaną proponowaną literaturą):

1. Wstęp – ludzka pamięć (z punktu widzenia pisma):

- św. Augustyn, Wyznania, ks. X (a także kilka fragmentów z innych dzieł tego autora oraz fragmentów dotyczących tradycji zw. ze sztuką zapamiętywania).

2. Media pamięci zewnętrznej:

- W. J. Ong, Oralność i piśmienność. Słowo poddane technologii, przeł. J. Japola, Warszawa 20112;

- N. Carr, Płytki umysł. Jak Internet wpływa na nasz mózg, przeł. K. Rojek, Gliwice 20212 [lektura również przydatna w punkcie 4];

- M. McLuhan, Zrozumieć media. Przedłużenia człowieka, przeł. N. Szczucka, Warszawa 2004;

- J. Dukaj, Po piśmie, Kraków 2019.

3. Problem znaczenia:

- D. Davidson, Eseje o prawdzie, języku i umyśle, przeł. B. Stanosz, Warszawa 1992;

- M. Tomasello, Kulturowe źródła ludzkiego poznawania, przeł. J. Rączaszek, Warszawa 2002;

- G. Fauconnier, M. Turner, Jak myślimy. Mieszaniny pojęciowe i ukryta złożoność umysłu, przeł. I. Michalska, Warszawa 2019.

4. Porównanie inteligencji ludzkiej i sztucznej – koncepcje:

- J. Weizenbaum, Computer Power and Human Reason. From Judgment to Calculation, New York 1976;

- G. B. Dyson, Darwin wśród maszyn: rzecz o ewolucji inteligencji, przeł. Robert Piotrowski, Warszawa 2005.

5. CRASH COURSE: Wprowadzenie do idei machine learning:

- T. B. Brown et al., Language Models are Few-Shot Learners, arXiv:2005.14165v4 [cs.CL] 22 Jul 2020 (fragmenty);

uzupełnienie:

- A. Banino et al. Vector-based navigation using grid-like representations in artificial agents. “Nature” 2018, nr 557, ss. 429–433, https://doi.org/10.1038/s41586-018-0102-6;

- Yu Sun et al., ERNIE 2.0: A Continual Pre-Training Framework for Language Understanding, arXiv:1907.12412v2, opublikowano: 21.11.2019;

- N. Slonim et al., An autonomous debating system, “Nature” 2021, nr 591, ss. 379–384, https://doi.org/10.1038/s41586-021-03215-w;

aktualna literatura popularnonaukowa:

- M. Brenner, Memory and Generalization in Artificial Intelligence, https://towardsdatascience.com/memory-and-generalization-in-artificial-intelligence-35e006ca0a9a, opublikowano: 9.11.2022;

- M. Ruby, How ChatGPT Works: The Model Behind The Bot, https://towardsdatascience.com/how-chatgpt-works-the-models-behind-the-bot-1ce5fca96286, opublikowano: 30.01.2023;

- A. Hughes, ChatGPT: Everything you need to know about OpenAI's GPT-3 tool, https://www.sciencefocus.com/future-technology/gpt-3, opublikowano: 14.03.2023.

6. Pamięć ludzka, pamięć sztuczna:

- A. Nematzadeh, S. Ruder, D. Yogatama, On Memory in Human and Artificial Language Processing Systems, w: Bridging AI and Cognitive Science, ICLR 2020.

7. Naśladowanie ludzkiej pamięci:

- J.R. Reser, Artificial Intelligence Software Structured to Simulate Human Working Memory, Mental Imagery, and Mental Continuity (pre-print), https://www.academia.edu/89350542, Opublikowano: 2022.

8. Prawo do zapamiętywania – wpływ technologii i SI na procesy zapamiętywania:

- F. Farinella, Artificial Intelligence and the right to memory (pre-print), https://www.researchgate.net/publication/367272237, Opublikowano: styczeń 2023

Student:

- przedstawia koncepcje związane z pamięcią i zapamiętywaniem,

- przedstawia różne koncepcje znaczenia,

- przedstawia związki między pamięcią i znaczeniem,

- porównuje działanie pamięci ludzkiej i pamięci sztucznej,

- stosuje podstawową terminologię dotyczącą sztucznej inteligencji,

- przedstawia problemy dotyczące pamięci i znaczenia w kontekście sztucznej inteligencji,

- formułuje argumenty w dyskusji dotyczącej pamięci i znaczenia w kontekście sztucznej inteligencji.