Thread by @neuron_mArcIn

🧵
Czy SZTUCZNA INTELIGENCJA jest szkodliwa?

Pod względem językowym - NA PEWNO!

Czy termin “sztuczna inteligencja” faktycznie oddaje to co robi:
- uczenie maszynowe
- sieci neuronowe
- deep learning?

#ai #etyka #język #filozofia #ChatGPT #LLMs #sztuczna #inteligencja
1/40+👇

2/ CO AUTOR MIAŁ NA MYŚLI

Termin “sztuczna inteligencja” powstał w 1956 podczas konferencji w Darmouth - założycielskiego zlotu dla tej gałęzi nauki. Autorem był John McCarthy, wówczas 29-letni wykładowca.

3/ Już w trakcie konferencji pojawił się pierwszy sprzeciw.

Dwóch uczestników, A.Newell i H.Simon uważali, że bardziej precyzyjne będzie określenie "systemy złożonego przetwarzania informacji" (complex information processing).

Wygrała “sztuczna inteligencja”

4/ Według przytoczonego wstępu AI opiera się na założeniu, że “każdy aspekt uczenia się lub jakakolwiek inna cecha inteligencji może w gruncie rzeczy być tak dokładnie opisana, że można stworzyć maszynę, która będzie ją symulować.”

5/Jaki był nadrzędny cel twórców AI?

By maszyny używały języka, pojęć i abstrakcji do rozwiązywania problemów, z którymi radzą sobie tylko ludzie. Miały też “uczyć się” na swoich działań.

Przecież dokładnie to robią, więc w czym problem?

6/ W absurdalnie szerokim zakresie założenia leżącego u samej podstawy⚠

WSZYSTKIE CECHY INTELIGENCJI i KAŻDY ASPEKT UCZENIA to worek bez dna i ma to wymierne, opłakane skutki. Do ich pokazania posłużymy się teorematem Teslera (ależ to mądrze brzmi 🤣)

7/ Oto wielki teoremat: “AI jest wszystkim, co jeszcze nie zostało zrobione.”

Często nazywa się go też “efektem AI”.

Najprościej wyjaśnić go na przykładzie Deep Blue - programu, który ograł w szachy arcymistrza Kasparova w 1997 roku.

8/ Do tego czasu umiejętność gry w szachy była przykładem szczytowych możliwości ludzkiego intelektu. Komputer wygrywający z człowiekiem w świadomości masowej wydawał się czymś zupełnie nierealnym.

Wiecie, jak jawił się w ludzkiej wyobraźni?

9/ Jeśli nie otwórzcie pierwszy lepszy news związany z AI. To zawsze ten sam lśniący robo-humanoid 🤖

10/ Dopóki komputer czegoś nie potrafi, ludzie uważają to za oznakę inteligencji. Kiedy algorytm zaczyna sobie z czymś radzić - okazuje się, że to jednak nic specjalnego. Granica przesuwa się coraz dalej, a AI, zamiast nazwą dziedziny nauki, staje się synonimem UTOPII.

11/ I to już jest bardzo groźne. Jak bardzo, pokazuje przykład pewnej firmy, która oferowała “zaawansowaną sztuczną inteligencję” do sprawdzania kandydatek na opiekunki do dzieci.

Ta firma to Predictim.

12/ Jeden raport kosztował 25 $.

Za co płacili rodzice, którzy zaufali AI na tyle, że byli gotowi kierować się jej wskazówkami w zapewnieniu BEZPIECZEŃSTWA swoim dzieciom? Za analizę postów i zdjęć przyszłych opiekunek na ich portalach społecznościowych. Był rok 2018.

13/ Cofając się o 5 lat, trudno nazwać “zaawansowaną AI” ówczesne modele NLP i sieci neuronowe rozpoznające obrazy. Swego czasu równie “zaawansowany” był aeroplan braci Wright, albo dyskietki. To kolejna pułapka językowa.

Innowacyjna, zaawansowana technologia lotnicza z 1903:

14/ ChatGPT robi błędy, halucynuje, ma ograniczoną wiedzę, problemy z kontekstem i ironią, a i tak wyprzedza technologię z 2018 o kilka długości!

Modele z 2017 trenowane do wykrywania nagości na zdjęciach oznaczają fotografie wydm na pustyni…
t.ly/qc-o

15/ Nie ujmując niczego wcześniejszym ani obecnym modelom językowym, osobiście nie chciałbym, żeby ktokolwiek OCENIAŁ MÓJ CHARAKTER na podstawie NIEDOSKONAŁEJ ANALIZY OGRANICZONEJ BAZY DANYCH złożonej z postów, które wrzucałem na wakacjach 10 lat temu…

16/ Te modele po prostu nie od tego są. Jedyna “sztuczna inteligencja”, jaką mamy, to różne odmiany “wąskiej AI”.

Programy wyspecjalizowane w symulowaniu pojedynczych czynności. Mimo całego hype’u wciąż nie ma żadnej pewności, że zbliżamy się do stworzenia lśniących roboludzi.

17/ Nie umiem nie porównywać obecnego boom’u AI z optymizmem, który bił z relacji ludzi śledzących początki programów kosmicznych. Plany kolonizacji Marsa z książki W. von Brauna z 1948. Stała baza na Księżycu do końca lat 70. po lądowaniu Apollo 11. 🌙🚀

18/ Jeśli ktoś nie jest w temacie - nie ma ani jednego, ani drugiego. Różnica jest taka, że przy lotach kosmicznych wiemy, że idziemy w dobrym kierunku.

W budowaniu AGI - pełnej AI - maszyny ze świadomością i inteligencją w ludzkim rozumieniu, NIE MAMY TAKIEJ PEWNOŚCI.

19/ Jeśli ktoś się nie zgadza, rozumiem. Dlatego teraz przytoczę problem “emergencji świadomości” znany z filozofii umysłu. Póki co wystarczy prosta definicja: emergencja to powstawanie nowych właściwości w konstrukcji, której części składowe takich właściwości nie mają.

20/ Pojedyncze neurony nie mają świadomości… wiecie, do czego zmierzam 😉
Może bardziej technicznie: na zderzaku nigdzie nie pojedziecie, na kierownicy też, ale całym autem już jak najbardziej.

Od razu dodaję: TO TYLKO TEORIA. Precyzyjniej - to koncepcja filozoficzna.

21/ Właśnie dlatego nie wiemy, czy poszczególne programy “wąskiej AI” uda się połączyć w całość. Nawet jeżeli - nie ma żadnej pewności, że pojawią się “emergentne” właściwości - ŚWIADOMOŚĆ.

22/ Istnieje też szereg innych koncepcji, które próbują wyjaśniać fenomen ludzkiego umysłu. Rozwój neuronauki i metod obrazowania daje nadzieję na postępy w tej kwestii, ale na ten moment nie mamy właściwie żadnych jednoznacznych odpowiedzi.

KONIEC FILOZOFII...

23/ HIPOTEZA SAPIRA-WHORFA

Czas na lingwistykę, a dokładniej - PRAWO DETERMINIZMU JĘZYKOWEGO. Mówi ono, że język, którym się posługujemy, wpływa na sposób naszego myślenia.
Mój ulubiony przykład z książki Lisy Barrett, “Jak powstają emocje”, wyjaśni to najlepiej:

24/ Jak to się ma do AI?

Mały eksperyment mentalny - co czujecie, zastanawiając się nad pytaniami:

❓Czy sztuczna inteligencja jest świadoma?
❓Czy sztuczna inteligencja przejmie kontrolę nad ludźmi?
❓Czy sztuczna inteligencja doprowadzi do zagłady cywilizacji?

25/ Nutka tajemniczości? Niepokój?
Czy w głowie rysuje się obraz obcej istoty (lśniącego robota?)

26/ W tym miejscu muszę podać jedną z alternatywnych nazw, którą zaproponował Stefano Quintarelli, włoski pisarz i informatyk. Dla zachowania sensu muszę podać ją w UK oryginale:

“Systemic Approaches to Learning Algorithms and Machine Inferences” - SALAMI.

27/ A teraz zastąpcie w pytaniach “sztuczną inteligencję” powyższym skrótem…

...zakładam, że Wasz niepokój trochę osłabł 😉

28/ Sposób, w jaki różne sformułowania i słowa wpływają na myślenie, a w konsekwencji zachowanie człowieka, jest od lat obiektem badań speców od marketingu i perswazji. Niektórzy uważają, że właśnie potencjałem marketingowym nazwy “AI” kierował się John McCarthy w 1956 roku.

29/ To tylko dywagacje nt. alternatywnej wersji historii, ale można podejrzewać, że “systemy złożonego przetwarzania informacji” Newella i Simona mogłyby utrudnić przebicie się tej dziedziny do mainstreamu.

Może nie skusiłaby części naukowców i spowolniła rozwój AI?

30/ Jest jeszcze jedno, ogromne zagrożenie, które bezpośrednio wynika z tego, jak podchodzimy do algorytmów uczenia maszynowego, kiedy nazywamy je “inteligentnymi”. Chodzi o ODPOWIEDZIALNOŚĆ.

31/ Nawet podświadome przypisywanie maszynom inteligencji w ludzkim rozumieniu sprawia, że zaczynami postrzegać je jako niezależne, samodzielne. To z kolei sprawia, że trudniej przychodzi nam obarczenie odpowiedzialnością ich twórców za BŁĘDY i za WYKORZYSTANIE tworzonych modelów

32/ Obecne boom na AI sprawiło, że wszyscy rzucili się jak poparzeni wprowadzać generatywną AI do swoich produktów. Google, Microsoft, Snapchat, Canva, Meta, ale też każdy sklep online, który dokłada wtyczkę z chatbotem, kieruje się strachem przed zostaniem w tyle za konkurencją.

33/ Tymczasem te modele są wciąż bardzo niedokładne, ograniczone i z całą pewnością NIE SĄ INTELIGENTNE w taki sposób jak człowiek.

34/ Ich pozorna prostota, logika, obiektywność są bardzo kuszące i ułatwiają przypisywanie AI niesamowitych zastosowań, które w praktyce okazują się raczkującym bublem reklamowanym jako INNOWACYJNA ZAAWANSOWANA, NAUKOWA technologia.

35/ CO DALEJ?

Zjawisko postępuje. Margaret Mitchell, etyk-informatyk, zwolniona przez Google za krytykę uprzedzeń w modelach AI mówi otwarcie, że jeszcze kilka lat temu w środowisku naukowym pracowano nad “uczeniem maszynowym”.

36/ W okolicach 2013 to się zmieniło, a AI stało się czymś, co trzeba mówić, żeby być zauważonym. Jej głos nie jest odosobniony.

37/ Myślę, że dobrym podsumowaniem tych przydługich rozważań będzie cytat ze Stevena Poole’a, autora książki “Unspeak”, dziennikarza i teoretyka gier video (to musi być ciekawe zajęcie 🤔)

38/ JAKIE MAMY ALTERNATYWY?

Na ten moment myślę, że nie ma szans na szybkie zastąpienie AI czymkolwiek innym. Kiedy zacząłem się nad tym zastanawiać, uznałem, że to w ogóle niewykonalne, ale patrząc na ewolucję języka (feminatywy, odejście od słowa na “M”) złagodziłem poglądy.

39/ W różnych dyskusjach pojawiło się już kilka ciekawych zamienników dla AI:
✔ automatyka kognitywna
✔ optymalizacja stosowana
✔ statystyki obliczeniowe
✔ automatyczne systemy podejmowania decyzji

40/ Inni twierdzą, że nie ma sensu wymyślać koła na nowo i najlepiej stosować termin “uczenie maszynowe:”. Jeżeli nie jesteśmy pewni, jakie określenie będzie właściwe, bezpiecznie można powiedzieć po prostu - oprogramowanie.

41/ Jeszcze kilka ciekawych pomysłów znajdziecie na screenie poniżej. Pochodzi on z genialnego, wyczerpującego, napisanego prostym językiem i bogatego w źródła opracowania na stronie AI Myths, które gorąco polecam wszystkim zainteresowanym!
t.ly/s1j7

42/ Nawet jeżeli “sztuczna inteligencja” zostanie w naszym słowniku, warto pamiętać, że SŁOWA MAJĄ ZNACZENIE.
To pomoże zachować trzeźwy osąd i uchroni przed sztuczkami reklamowych guru, pseudo-wizjonerów i wszelkiej maści cwaniaków i oszustów. Nie tylko w kontekście rozmów o AI.

43/ Mógłbym dopisać jeszcze 3x tyle i dalej nie wyczerpałbym tematu. O kilku kwestiach poruszonych w tym wątku planuję zrobić osobne nitki. Jeżeli coś jest niejasne, albo chciałbyś przeczytać o czymś więcej - napisz w komentarzu, postaram się zaspokoić ciekawość 🙂

44/ Jeżeli ta nitka Cię zainteresowała - zostaw lajka i podaj dalej pierwszy post w temacie. To dla mnie ogromna motywacja :)

Dziękuję, że dotarłaś/dotarłeś aż tutaj!

Miłego dnia! 🙋‍♂️

https://twitter.com/neuron_mArcIn/status/1651594274197086210