OpenAI 吃瓜

在新闻上吃到一个 OpenAI 的瓜，Sam 前几天被踢出董事会，光速离职又光速上岗，董事会换血。

央视说法大概就是技术主义与商业路线之争。据说 OpenAI 创立之初是以推动通用人工智能的普及发展为目标的非营利机构，可能还有安全性目标。其宗旨就不是一家追求商业利益的企业。然后开发过程中烧钱，2019 年马斯克好像烧不动了，撤资了。Sam 推行了一系列措施进行商业化，继续烧钱。

然后现在看到就是从技术乌托邦，到商业公司的转变。首席科学家 ilya 一直强调人工智能安全性，搞学术的科学家嘛，参与了 GPT 1-4 的研发，说 GTP4 可能有微弱的意识，很危险，要限制。而 Sam 则认为该阶段人工智能无需要进行严格的限制，要进一步挖掘商业潜力。

然后挡人财路的 ilya 千夫所指，据知乎说除了早期学术大佬作为朋友没有跟风刷屏站队，其余人都和 Sam 互动，表忠心。后来 Sam 复职后换血董事会，把几个学术大佬换成了搞商业金融的，现在董事会搞商业金融的更多。

知乎一个评论说，这个剧本特斯拉也上演过，最终结果就是技术合伙人出走。这让我想起了思科，一对大学教授夫妇搞出了路由器，创建了思科公司，然后发展发展，就被董事会踢出了董事会，两人回学校继续教书。

不过这个故事也可以从另一个角度来看，首席科学家 ilya 认为 AGI 临门一脚，必须限制。而 Sam 认为 AGI 还有距离，无需严苛限制。据说 ilya 在搞 “AI对齐”，就是要求 AI 系统的目标要和人类的价值观与利益相对齐，AI来监督 AI。而 Sam 在搞商业化，挖掘潜力。

另外，这个安全性问题 2020 年就导致过 OpenAI 分裂。近期，也有文章指出，对于这些问题，硅谷中出现了所谓“有效利他主义”和“有效加速主义”的两大思维派系。

• 有效利他主义 Effective Altruism，简称EA，认为我们必须要被以后的人类，我们的后代来提前铺垫。
• 有效加速主义 Effective Accelerationism，简称 e/acc，认为，技术与资本应该联合，无条件实现加速技术创新，并且快速推向市场来颠覆社会结构。