OpenAI 吃瓜
在新闻上吃到一个 OpenAI 的瓜,Sam 前几天被踢出董事会,光速离职又光速上岗,董事会换血。
央视说法大概就是技术主义与商业路线之争。据说 OpenAI 创立之初是以推动通用人工智能的普及发展为目标的非营利机构,可能还有安全性目标。其宗旨就不是一家追求商业利益的企业。然后开发过程中烧钱,2019 年马斯克好像烧不动了,撤资了。Sam 推行了一系列措施进行商业化,继续烧钱。
然后现在看到就是从技术乌托邦,到商业公司的转变。首席科学家 ilya 一直强调人工智能安全性,搞学术的科学家嘛,参与了 GPT 1-4 的研发,说 GTP4 可能有微弱的意识,很危险,要限制。而 Sam 则认为该阶段人工智能无需要进行严格的限制,要进一步挖掘商业潜力。
然后挡人财路的 ilya 千夫所指,据知乎说除了早期学术大佬作为朋友没有跟风刷屏站队,其余人都和 Sam 互动,表忠心。后来 Sam 复职后换血董事会,把几个学术大佬换成了搞商业金融的,现在董事会搞商业金融的更多。
知乎一个评论说,这个剧本特斯拉也上演过,最终结果就是技术合伙人出走。这让我想起了思科,一对大学教授夫妇搞出了路由器,创建了思科公司,然后发展发展,就被董事会踢出了董事会,两人回学校继续教书。
不过这个故事也可以从另一个角度来看,首席科学家 ilya 认为 AGI 临门一脚,必须限制。而 Sam 认为 AGI 还有距离,无需严苛限制。据说 ilya 在搞 “AI对齐”,就是要求 AI 系统的目标要和人类的价值观与利益相对齐,AI来监督 AI。而 Sam 在搞商业化,挖掘潜力。
另外,这个安全性问题 2020 年就导致过 OpenAI 分裂。近期,也有文章指出,对于这些问题,硅谷中出现了所谓“有效利他主义”和“有效加速主义”的两大思维派系。
- 有效利他主义 Effective Altruism,简称EA,认为我们必须要被以后的人类,我们的后代来提前铺垫。
- 有效加速主义 Effective Accelerationism,简称 e/acc,认为,技术与资本应该联合,无条件实现加速技术创新,并且快速推向市场来颠覆社会结构。
欢迎赞赏~
赞赏