Thread by @ishicorodayo

1) Netflixで「監視資本主義: デジタル社会がもたらす光と影」というドキュメンタリ映画が海外テックツイッタラーで話題になってたから週末に見たのだけど、想像の上をいく面白さ/興味深さだった。Fcebook, Google, Pinterestとか名だたる企業の人が出てきて、特にSNSの弊害について警鐘を鳴らす作品。

2) FacebookグロースチームのトップだったChamath氏が提唱した数々のグロースハック理論がシリコンバレーでは教科書となりUberなども採用。A/Bテストなど実験を繰り返しユーザーを望む方向へ誘導する最適解を見つける。ユーザーを操っている。ユーザーは広告を見させるための実験台でありゾンビである

3) Facebookは選挙期間中に、ユーザーの潜在意識に信号を送り、より多くの人に投票に行かせられるかを実験し、それが可能だと判明した。Facebookは、現実世界での行動と感情をユーザーに気づかれずに操れると結論づけた。ユーザーは一切気づかない。

4) FBグロースチームの元トップChamath氏「なるべく早く人間の心の操り方を把握して、ドーパミンを出させる。Facebookで大成功した。Instagram、Whatsapp、Snapchat、Twitter、みんなやった。」

5) 元Facebook社長ショーン・パーカー(ソーシャルネットワークの映画にも出てくるあの有名人)

「私のようなハッカーが思いつくことだ。人間の心の弱さを利用して金儲けをする。私たち発明家やクリエイターは、私とマーク、インスタのケビン、みんな分かっていながらやったんだ。」

6) イェール大学の統計学、コンピューターサイエンス教授Edward Tufte氏

「顧客をユーザーと呼ぶ業界は二つだけ。違法薬物とソフトウェアだ」

7) 薬物依存症病棟　医長

「SNSは麻薬。人は他の人と繋がりたいという生物学的な基本欲求がありそれはドーパミンの分泌に直結している。人類の数百万年の進化はその仕組みがもとにある。共同体の中で生活してパートナーを探して繁殖する。人をつなげることに最適化したSNSが中毒を招くのは当然」

8) Googleの元デザイン担当

「フィードを再読み込みすると新しい情報が出る。毎回そうなる。心理学では"正の断続的強化"とよぶ。」

9) Twitter元役員

「この結果が欲しいと設定しておくとコンピュータが方法を研究する。それが機械学習で、毎日、投稿の選定が上手になり利用時間を増やす。」

10) Google&Firefox元従業員

「私たちはサービスに対価を支払わない。広告主が払うんだ。広告主が顧客で、私たち(ユーザー)が商品だ。タダで商品を使っているなら君が商品だ。」

11) Google元デザイン担当

「我々はみんな技術が人間を圧倒する瞬間を待っていた。技術が人間を超え人間に代わる瞬間、シンギュラリティを。だが既に技術は人間の弱みを超えている」

12) 自分は情報発信もしているから反応が気になり、数十分おきにチェックしたりして気づかぬうちに中毒が加速していた。月曜日にTwitterのスマホアプリをアンインストールしたけどWeb経由でログインしてまたすぐに見ちゃう。なんの目的もないのに思考停止でTwitterやFacebookを開くことが当たり前に。

13) 1ユーザーとしては中毒から脱するために徐々にデジタルデトックスをしなければならないと思ったし、SNSを開発している身からしても、この辺の闇の部分とどうバランスを取っていくべきかとかすごく考えさせられた。グロースさせるためのあらゆる細工が、知らぬ間に人間や社会を蝕んでいく。

14) Netflixは広告モデルじゃないからGoogleやFacebookを批判できる立ち位置にいるとはいえ、デザインハックやレコメンドアルゴリズムを使っていかにユーザーの滞在時間を増やすかという文脈では同じだし、「映画が見たい！」って訳でもないのに思考停止でとりあえずNetflixを開く人も多いのでは。

15) 今まではテック業界を批判する人はテックに疎い人とか、時代についていけない人、テックに漠然とした不安を抱いている人たちだと思っていたけど、これだけテック企業の中の人がたくさん出てきて警鐘を鳴らしていくところに衝撃を受けた。Facebookに初期に投資した人とかも批判する側にまわっていて

16) 「その話題についての情報発信は慎重になった方がいい。例えば極端だけどそうゆう企業に転職できなくなるかもしれないリスクだってある」と知り合いにこの前言われたけど、その通りで、中の人はなかなか声を大して言いづらい問題なのかもしれない。映画に出てくる人も基本的に「元」従業員が多い。

17) 自分も警鐘を鳴らす動きに乗っかってスレッドを書いている最中も、そのツイートに対するRTや「いいね」を示す青い通知の数字がまるでキャンディーかのように感じてしまうし、ドーパミンが出てしまいTwitterの餌食に。。。マジで良くない。とりあえずPCのTwitterからログアウトする。

18) ログイン... SNS中毒に気づかない、あるいは気づいたとしても自分がダメ人間なんだ廃人だと思っちゃうかもしれないが、それは頭の良い人たちが心理学レベルで徹底的に研究をして実験を繰り返してそうさせているので、1ユーザーが罪悪感を抱く必要はなく、むしろ巧妙な仕掛けにはまらない方がすごい

19) Facebookのグロースの本には、人間の視線がどう動くかの研究まで細かくしてるって書いてある。心理学、動体視力、あらゆることを念頭に設計されている。

SNSとの距離を取りながら上手に利用できないユーザーがまるで能力が低いかのように語られがちだけど、プラットフォーム側にも責任がありそう

20) SNS企業は収益を増やし続ける必要があり、広告のビジネスモデルである以上、この力学はなかなか変えられないかもしれないけど、少なくともユーザー側はリテラシーをあげて、人生の中で知らぬ間に中毒になりエネルギーを奪われている、なんてことを減らしていくように努力しないといけないのかも。

21) 中毒よくないね〜って話にとどまらず、映画を見れば分かるのだけどSNSが若者の自殺増加と比例している説とか、究極的には文明の崩壊とか内戦に繋がる危険もはらんでるって言われている。後者については大げさに聞こえるかもしれないけど映画を見ればある程度腹落ちするはず。

22) 米中対立によるTikTok分断とか政治的な話はいったん置いといて、SNSというのは国が本気で規制しないといけないほどのモノになっているのかもしれないし、これから先10年のSNSは本当に逆風が吹くかもしれない。

23) ここまで反SNS、アンチSNS勢かのようなツイートを連発してしまったが... 僕はずっとSNSの素晴らしさについて発信してきて、個人でSNSも作っているし、これからもSNSを作ろうとしている人間だから「SNSダメ絶対！」という極端な批判がしたいわけでもない。ただ光だけでなく影を知ることも大事だなと