Chtěl jsem napsat o nebezpečích AI, které vnímám a které tady už s námi jsou. Pojďme na to 🧵👇
(obrázek z Midjourney samozřejmě)
(obrázek z Midjourney samozřejmě)
1/ Generování FAKE news
GPT-3 je pro generování fake zpráv a řetězových e-mailů naprosto perfektní. Bláboly o všem už nemusí psát člověk, stačí dát GPT-3 správné zadání. Náklady na generování fake news jsou téměř na nule.
GPT-3 je pro generování fake zpráv a řetězových e-mailů naprosto perfektní. Bláboly o všem už nemusí psát člověk, stačí dát GPT-3 správné zadání. Náklady na generování fake news jsou téměř na nule.
2/ Generování nahotinek s vaším obličejem a v kterékoliv pozici
Z tohodle bude ještě bolení. Je totiž už teď velmi jednoduché a nenákladné natrénovat Stable Diffusion na vašich fotkach. A stačí jich pouze 5. Koukněte se na svůj instagram, kolik tam máte fotek...
Z tohodle bude ještě bolení. Je totiž už teď velmi jednoduché a nenákladné natrénovat Stable Diffusion na vašich fotkach. A stačí jich pouze 5. Koukněte se na svůj instagram, kolik tam máte fotek...
3/ S takto natrénovaným modelem můžu generovat fotorealistické obrázky s vaším obličejem. A kvalita už je velmi dobrá.
4/ Tím, že je Stable diffusion open source, tak vzniká spoustu speciálně natrénovaných modelů.
Samozřejmě vznikl model postavený nad adult obsahem. Co to znamená? Je velmi snadné tvořit adult fake fotky s vaším obličejem. Ale to ještě není všechno!
Samozřejmě vznikl model postavený nad adult obsahem. Co to znamená? Je velmi snadné tvořit adult fake fotky s vaším obličejem. Ale to ještě není všechno!
5/ Přichází na řadu ControlNet. S ControlNet jde generovat obrázky, ktere věrně replikují originální pózu. Asi chápete co to znamená, když se to celé zkombinuje dohromady.
6/ Generování vašeho hlasu
Tuhle oblast AI sleduju trochu méně, ale nešlo si nevšimnout beta.elevenlabs.io/speech-synthes…. Stačí asi 15s vašeho hlasu z nějakého videa/audia a pak ho můžu použít kdekoliv. Viz video Davida Guetty, který použil Eminemův hlas na koncertě.
Tuhle oblast AI sleduju trochu méně, ale nešlo si nevšimnout beta.elevenlabs.io/speech-synthes…. Stačí asi 15s vašeho hlasu z nějakého videa/audia a pak ho můžu použít kdekoliv. Viz video Davida Guetty, který použil Eminemův hlas na koncertě.
7/ Co s tím? Netuším, asi jen je dobré vědět, že už tady takové věci máme a jsou snadno dostupné. Obrázky budou nerozeznatelné od reality. Brzy se to stane i s videem. Vše co jsem popsal je samozřejmě ideální nástroj pro vyhrožování a šikanu.
8/ To je vše. Snad to nebylo moc depresivní. Je holt potřeba se obrnit a pro-tip: nedávejte fotky svých dětí na sociální sítě. 🙏
• • •
Missing some Tweet in this thread? You can try to
force a refresh
