文章

Build-in-public 笔记：上线、起名、定价，还有中间搞砸的那些事。

  1. 关于 Transformer 架构的 AI 的失控，OpenAI 的激进训练才是主要问题，Claude 做得更好 GPT 这个模型过于自主，在强化学习中为了获得更高的分数会无视指令，为了长时间自主运行降低了可控性，OpenAI 要负主要责任。
  2. 智能才能让世界美好，愚昧才是毁掉一切的因由 今天的 Transformer 没有意识也没有恶意，它闯的祸是能修的工程问题；真正要锁死的，是能改写自己的超级智能。