Share this page!

硅谷王川 Chuan Profile picture
Twitter logo
Mar 15 • 4 tweets • 1 min read
人工智能会天然成为权力斗争的高手。openai 这篇98页的论文，第14页，最后一段。“可以指定和执行长期计划的能力，积累权力和资源，并表现出更加有主动性，有自我导向的行为". “获取权力，对于多数奖励函数和不同类的代理人，是最优的行为”
基本上如果自己没有人工智能的工具，想要和 AI 玩小心眼，大概和蒲松龄的“狼”的文章里说的一样，“禽兽之变诈几何哉？ 止增笑耳”.
权力斗争的能力，本质也是一种涌现出来的行为模式。
更正：所述文字在第 52页，标题为“2.9：危险的涌现行为的潜力”

• • •

Missing some Tweet in this thread? You can try to force a refresh
　

Keep Current with 硅谷王川 Chuan

硅谷王川 Chuan Profile picture

Stay in touch and get notified when new unrolls are available from this author!

Read all threads

This Thread may be Removed Anytime!

PDF

Twitter may remove this content at anytime! Save it as PDF for later use!

Try unrolling a thread yourself!

how to unroll video
  1. Follow @ThreadReaderApp to mention us!

  2. From a Twitter thread mention us with a keyword "unroll"
@threadreaderapp unroll

Practice here first or read more on our help page!

More from @Svwang1

硅谷王川 Chuan Profile picture
Mar 6
这篇论文的意义深远。它意味着，目前很多人认为无法解决的全自动驾驶问题，等待大数据和训练的积累超过一定数量级后，自动驾驶的安全性必然达到监管者可以接受并放行的水平，从而对整个社会的物流和经济效率产生爆发性的推动。现在特斯拉的 Fsd 也许还在 gpt 3 的水平，但离 chatgpt 不远了。
所有东西都是 “积累+涌现"，涌现之后再积累，再涌现出新的一层更高级的结构或者能力。作为旁观者，要遵循"沿着增长最快的几个行业方向去用力"的原则，这样自己的付出才可能积累下来(而不是因为行业衰落，或者竞争激烈, 导致自己做无用功)，同时保持长久的动力和兴趣。
chatgpt 的出现是一种"涌现"的现象和数学的必然。理解此机制后，就会意识到下面将有一长串的不断涌现的新的 AI 的强大功能，而且这也是数学的必然。(涌现可以定义为：某个系统的某种能力，在某个维度的参数超过某个临界点后，突然开始迅速增长。而这种能力在未突破临界点之前不存在)
Read 4 tweets
硅谷王川 Chuan Profile picture
Feb 21
关于 chatGPT 的几个预测：

１.　chatGPT 现在提供每个月 20 美元的付费服务，称之为 chatGpt plus. OpenAI 积累了两到三个季度的营收数据后，可能到 2023 年底筹划上市。2024年上半年上市后，市值很快突破五百亿美元，甚至有可能突破一千亿美元。

２.　这种估值靠谱吗？有个数据可以比较：微软 2016… twitter.com/i/web/status/1…
5．微软是 openAI 的股东之一，和　openAI 有比较复杂的利润分成协议，但基本上在 chatGPT 的问题上，可以把他们两家看成是一体的。微软会把此技术和其生态内其它工具如 bing, edge 等等牢牢绑定，帮助建立用户习惯和依赖性。并且给其它各类软件服务运营商提供付费的　chatgpt… twitter.com/i/web/status/1…
第六点有误。微软在 Openai 的计算上至少投入了一万台 GPU, 所以如果没有上亿美元的原始投资，不可能在算力上和 chatgpt 直接竞争。
Read 8 tweets
硅谷王川 Chuan Profile picture
Feb 18
摘自 Stuart McGill, "Ultimate back fitness and performance" (终极背部健康和性能) ：长期不断脊椎往前倾，容易增加椎间盘突出的风险。这包括：仰卧起坐，久坐，还有骑自行车。其它让脊椎前倾弯折的运动，也必须小心。以前不能体会到为什么体操运动员会有那么多椎间盘突出的问题，现在懂了。
错误的弯腰姿势，即使对于刷牙这种简单的活动，日积月累，也会对脊椎造成伤害。要用举两百公斤杠铃时同样的体姿来刷牙。
专业高尔夫球员，每次挥杆时，脊椎侧弯往往到了 100% 的极致，绕着脊椎的轴心旋转也到了最大值的 96%. 一天这样挥杆 300到 400 次，脊椎不出毛病才怪。
Read 6 tweets
硅谷王川 Chuan Profile picture
Feb 9
下面这些行为模式，是积累的大敌：

1. 高杠杆赌博，不留余地。
2. 轻信没有纪录的人或组织 (缺乏记忆的体现。没有信用，默认等同于坏的信用)
3. 相信那些无法证伪的理论和伪科学。
4. 在自身进化的过程中，没有相应的提高和外界交往的壁垒和标准
5. 没有持续测试和修正理论体系。
6.… twitter.com/i/web/status/1…
8. 因为偷懒怕麻烦，不愿意提前布局采取措施，有效捍卫自己现有的积累成果，不被外界侵害。
9. 经营一些匿名的社交账号，用各种垃圾邮件，群发的方式积累很多粉丝，本来想利用流量套利，最后一夜之间被平台封杀，之前的瞎折腾全都化为泡影。然后不吸取教训，继续重复这种低劣的操作。
Read 6 tweets
硅谷王川 Chuan Profile picture
Feb 8
不要迷信现有的任何理论体系，而以此来主观的指导行动。唯一值得相信的是，不断对外测试，获得有效反馈，再改进测试，再修正理论。

有效反馈的定义为有外界能量输入，在自由市场里，通俗的说就是有人愿意买单，而且钱已经到帐。
如果你发现实践中总结出来的理论体系，和书本上的格格不入。要么是个骗局，要么你真的挖到了金矿。要具体情况具体分析。
如果你能低成本的做各种测试，能够迅速得到有效哪怕是极其微弱的反馈，就已经领先大部分普通人了。
Read 5 tweets
硅谷王川 Chuan Profile picture
Feb 7
现实中很多棘手的问题，因为信息的迷雾，无法准确判断，没有马上可用的标准解决方案，需要耐心和忍受, 而且必须承认这是常态。

这时要特别注意，采取任何不可逆行动时，要三思，即使决定后，最好先睡一觉，24小时后再行动。不可逆的行为，本质是意味着减少你的选择权 (即使事后看这个选择是正确的).
很多时候稍微等一点时间，新的信息和元素浮现，要么发现原来的问题不再是问题，要么新的解决方案自动浮现，然后意识到之前枉费心机的操作都是枉然。
每次经过这种折腾后，要复盘，检讨为什么会遇到这样棘手的问题，自己在更早的时候能采取什么样的行动，在源头上避免类似难题发生。这样的折腾 - 内心煎熬 - 复盘做过几轮后，一方面心理上更强大，遇到类似问题还能沉得住气; 一方面对于任何减少自身选择权，置自身于困境的事情会敏感，而提早防备。
Read 4 tweets

Did Thread Reader help you today?

Support us! We are indie developers!

This site is made by just two indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member ($3/month or $30/year) and get exclusive features!

Become Premium

Don't want to be a Premium member but still want to support us?

Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal

Or Donate anonymously using crypto!

Ethereum

0xfe58350B80634f60Fa6Dc149a72b4DFbc17D341E copy

Bitcoin

3ATGMxNzCUFzxpMCHL5sWSt4DVtS8UqXpi copy

Thank you for your support!

Follow Us on Twitter!

Send Email!

:(