Thread by @LeszBuk

1/ Wiele źródeł informuje, że w nadchodzącym tygodniu świat pozna nowy model od #OpenAI, czyli GPT-4 🚀 🚀 🚀
techmonitor.ai/technology/ai-…

2/ ChatGPT należał do rodziny modeli zbudowanych na bazie GPT-3, który swoją premierę miał w roku 2020. Na jego bazie OpenAI opracowało InstructGPT, który z kolei posłużył do opracowania ChatGPT.
openai.com/research/instr…

3/ Wszystkie to modele cechowała jednomodalność, czyli na wejściu konsumowały tekst i na wyjściu dawały nam tekst.

GPT-4 ma być modelem wielomodalnym (ang. multimodal). Wedle pogłosek ma radzić sobie z informacjami wideo i zapewne też foto.

4/ OpenAI już wcześniej pracowało nad modelami, które pozwalały na odbieranie zarówno informacji graficznej, jak i tekstowej. Taki był model CLIP z 2021.
CLIP jest jednym z modułów w modelu DALL-E, który pozwala generować obrazy z tekstu.

openai.com/research/clip

5/ A zatem prawdopodobnie z GPT-4 będziemy mogli porozmawiać o wideo i zdjęciach. Czy będzie umiał generować takie modalności? Możliwe.
Kilka dni temu #Microsoft opublikował artykuł nt. modelu Kosmos-1, z którym można pogadać o zdjęciach, a jak wiemy OpenAI 💓 Microsoft

Dzięki za przeczytanie 🧵 !
Jeżeli uważasz, że jest ciekawa, udostępnij!

Jeszcze jedna ważna uwaga, która mi umknęła w tym 🧵: GPT-4 to nie jest ChatGPT2!!!!
GPT-4 będzie stanowił bazę dla kolejnej rodziny modeli, ale zapewne nie jest jeszcze wychowany, o czym pisałem tutaj:

https://twitter.com/LeszBuk/status/1623734866998333445?s=20

Sytuacja dynamiczna --> #Microsoft opublikował kolejny artykuł o Visual ChatGPT. Taki model łączy modele obsługujące informacje foto z ChatGPT. Kolejna poszlaka, w jakim kierunku będzie zmierzał GPT-4.
arxiv.org/pdf/2303.04671…

Ciekawostka: artykuł został opublikowany przez Microsoft Research Asia, który ma swoją siedzibę w 🇨🇳.
Ten sam ośrodek kilka lat temu opublikował artykuł nt tzw. połączeniach resydualnych w sieciach neuronowych (ResNet). Dziś to element Transformerów.