Thread by @TrajektoriaAI

🧵Sam Altman szef @OpenAI:
- silna/ogólna sztuczna inteligencja (AGI) może "zniszczyć" kapitalizm
- ma świadomość zagrożeń, z nią związanych
+ o przyszłości technologii, UBI, świadomości, przemianach społecznych i politycznych, parametrach

TLDR wypowiedzi u Lexa Fridmana
1/36👇

O GPT-4: "Będziemy patrzeć na GPT-4 tak, jak na wczesne komputery: pełne błędów, powolne, wymagające ulepszeń, ale mimo to stanowiące monumentalne osiągnięcie.”
2/36

"Możliwe, że GPT-4 jest najbardziej złożonym oprogramowaniem, jakie ludzkość dotychczas stworzyła, a za kilkadziesiąt lat będzie trywialne”
3/36

"Duże modele językowe (LLM) mają problemy z rzeczami, które wydają się być oczywiste i łatwe”
4/36

"Wiele uprzedzeń (bias), które można było zaobserwować w GPT-3.5 (ChatGpt) nie widać w GPT-4.”
5/36

“OpenAI nie do końca potrafi zrozumieć, dlaczego model GPT-4 wykonuje jedną rzecz, a nie inną”
6/36

O bezpieczeństwie LLM: ""Najlepiej byłoby, gdyby świat zebrał się, przedyskutował i uzgodnił, gdzie chce wyznaczyć granice (ramy) modelu GPT”
7/36

"Byłoby to coś na wzór Konwencji Konstytucyjnej (Filadelfijskiej z 1787r.) dla AI, gdzie debatuje się nad problemami i wysłuchuje różne punkty widzenia.”
8/36

"Następnie w wyniku demokratycznego procesu i wypracowanego konsensusu umożliwić państwom i instytucjom tworzenie w tych ramach różnych wersji szerszego (specyficznego) systemu”
9/36

O przyszłości: "Systemy sztucznej inteligencji spowodują, że wiele miejsc pracy zniknie, tak jak to się dzieje w przypadku każdej rewolucji technologicznej, ale także spowodują utworzenie wielu nowych zawodów, których nie możemy sobie jeszcze wyobrazić"
10/36

O UBI: Sam uważa "że bezwarunkowy dochód podstawowy (UBI) jest jednym z elementów, do którego należy dążyć, ale nie powinien być traktowany jako jedyne rozwiązanie"
11/36

O przemianach: "Transformacja ekonomiczna będzie napędzała większość transformacji politycznej, a nie odwrotnie."
12/36

"W ciągu najbliższych kilkudziesięciu lat dwie dominujące zmiany będą polegały na obniżeniu kosztów inteligencji i energii."
13/36

o AGI, czyli silnej/ogólnej sztucznej inteligencji. Definicja "inteligentne, dysponujące wszechstronną wiedzą i zdolnościami poznawczymi systemy, które potrafią samodzielnie myśleć i wykonywać zadania tak samo sprawnie, jak wykonałby je człowiek."
14/36

"Duże modele językowe LLM są częścią drogi do stworzenia AGI”
15/36

"System, który nie jest w stanie znacząco wzbogacić całkowitej wiedzy naukowej lub taki, który nie jest w stanie odkryć lub wymyśleć nowej nauki o charakterze fundamentalnym, nie jest superinteligencją"
16/36

Sam nie uważa, że GPT-4 jest AGI, ale rozumie, jak znaczące jest to, że debata w tej sprawie w ogóle się toczy
17/36

"Jestem podekscytowany światem, w którym AI jest przedłużeniem ludzkiej woli i "wzmacniaczem" ludzkich możliwości"
18/36

"Być może AGI nigdy nie zostanie zbudowana; może tylko wąska AI będzie służyła ludziom."
19/36

"Sztuczna inteligencja jest lepsza w szachach od człowieka, a jednak nigdy nie oglądamy dwóch AI grających w szachy[...] jesteśmy jakoś dużo bardziej zainteresowani tym, co robią ludzie."
20/36

"Wzrost jakości życia, jaki może zapewnić AI jest niezwykły[...]AI pomoże w leczeniu chorób[...] co nie oznacza, że ludzie przestaną pracować[...] Ludzie chcą być potrzebni, chcą budować swój status społeczny"
21/36

O zagrożeniach: “Istnieje pewne prawdopodobieństwo, że AGI może doprowadzić do unicestwienia ludzkości i ważne jest, aby przyjąć tą możliwość do wiadomości, ponieważ jeśli nie będziemy o niej rozmawiać i traktować jej jako potencjalnie możliwej do zrealizowania...
22/36

...to nie włożymy wystarczającego wysiłku w jej rozwiązywaniu[…] Będziemy musieli odkryć nowe metody/techniki rozwiązania tego problemu.”
23/36

"OpenAI ma możliwość odłączenia (z sieci) wypuszczonego przez siebie modelu"
24/36

"Z pewnością jestem skłonny uwierzyć, że świadomość jest w jakiś sposób "podstawowym substratem", a my wszyscy jesteśmy tylko we śnie lub symulacji [...] Coś bardzo dziwnego dzieje się (w procesie/stanie) świadomości.”
25/36

"Rozmawialiśmy z Ilya Sutskever (głównym naukowcem OpenAI) o tym, jak można stwierdzić czy model jest świadomy czy nie.
Ilya powiedział: jeśli wytrenowałbyś model na danych, które z wielką starannością, nie zawierałyby żadnych wzmianek o świadomości lub czymś zbliżonym..."
26/36

"a następnie zacząłbyś rozmawiać z tym modelem o pewnych rzeczach, które nie zostały wytrenowane, na które model odpowie "nie mam pojęcia, o czym mówisz." Ale wtedy zadasz pytanie, opiszesz subiektywne doświadczenie świadomości, a model natychmiast odpowie..."

27/36

"w przeciwieństwie do innych pytań, "tak, wiem dokładnie o czym mówisz" - to by mi w jakiś sposób dało do myślenia."

28/36

Obecne obawy Sama obejmują "problemy z dezinformacją lub wstrząsy ekonomiczne, które mogą zajść na poziomie znacznie przekraczającym to, na co jesteśmy przygotowani”

29/36

"Wkrótce pojawi się wiele efektywnych dużych modeli językowych LLM o otwartym kodzie źródłowym, z bardzo niewielką lub żadną kontrolą bezpieczeństwa"

30/36

O OpenAI: Już na wczesnym etapie Sam Altman i współzałożyciele OpenAI "zdali sobie sprawę, że będą potrzebowali znacznie więcej kapitału niż byli w stanie zebrać jako organizacja non-profit”

31/36

O Elonie: "Elon Musk i Sam Altman są zgodni co do skali potencjalnych negatywnych skutków AGI.”, "Zdecydowanie dorastałem z Elonem, jako moich bohaterem. Pomimo tego, że jest palantem na Twitterze, jestem szczczęśliwy, że jest na tym świecie"

32/36

Parametry i informacje o danych, są pominięte. Dane: z wielu róźnych źródeł, informacje typu open-source. Ironicznie też podchodzi do popularnego #fakenews o liczbie parametrów - dużo influencerów informowało, że GPT-4 ma ich 500 razy więcej !

33/36

"Myślę, że ludzie dali się wciągnąć w wyścig z ilością parametrów[...] Większośc ludzi nie zdaje sobie sprawy ile gigaherców ma procesor w naszym telefonie, tylko jakie funkcje (ten telefon) spełnia"

34/36

Wypowiedź z wywiadu dla @forbes: "Uważam, że kapitalizm jest wspaniały. Kocham kapitalizm[...] Ze wszystkich złych systemów, jakie ma świat, ten jest najlepszy - lub też najmniej zły, jaki do tej pory udało nam się wypracować. Mam nadzieję, że znajdziemy o wiele lepszy"

35/36

"Myślę, że jeśli AGI faktycznie naprawdę w pełni się wydarzy, mogę sobie wyobrazić te wszystkie sposoby, na jakie rozbije (break) kapitalizm."

36/36