亲爱的同事们:
我决定离开Anthropic。我的最后一天将是2月9日。
感谢你们。这里有太多激励我、启发我的东西。举几个例子:在如此充满挑战的情况下真诚地投入并渴望做出有影响力和高度正直的贡献;愿意做出艰难决定并坚持正确的事情;超乎寻常的智慧和决心;当然,还有弥漫在我们文化中的善意。
我在这里实现了我想要的目标。两年前我来到旧金山,刚完成博士学位,希望为AI安全做出贡献。我很幸运能够在这里做出贡献:理解AI的阿谀奉承及其原因;开发防御措施以降低AI辅助生物恐怖主义的风险;实际将这些防御措施投入生产;撰写首批AI安全案例之一。我特别自豪的是,我最近努力通过内部透明机制帮助我们践行价值观;以及我最后关于理解AI助手如何可能使我们失去人性或扭曲我们人性的项目。感谢你们的信任。
尽管如此,我清楚地意识到是时候继续前进了。我不断发现自己在思考我们的处境。世界正处于危险之中。不仅来自AI或生物武器,还来自此刻正在展开的一系列相互关联的危机。我们似乎正在接近一个临界点,我们的智慧必须与我们影响世界的能力同步增长,否则我们将面临后果。此外,在我这里的整个时间里,我反复看到让我们的价值观真正主导我们的行动是多么困难。我在自己身上看到了这一点,在组织内部也看到了这一点——我们不断面临将最重要的事情搁置一旁的压力,在更广泛的社会中也是如此。
正是通过审视这种情况并尽我所能倾听,我必须做什么变得清晰起来。我想以一种完全符合我正直品格的方式做出贡献,让我能够更多地展现我的独特性。我想探索对我来说真正重要的问题,David Whyte所说的”无权消失”的问题,Rilke恳求我们去”活出”的问题。对我来说,这意味着离开。
接下来会发生什么,我不知道。我很喜欢那句著名的禅宗语录”不知道最亲切”。我的意图是创造空间,放下这些年来束缚我的结构,看看在它们缺席时会出现什么。我感到被召唤去写作,去充分处理和参与我们所处的境况,将诗意真理与科学真理并列为同等有效的认知方式,我相信这两者在开发新技术时都有重要贡献。我希望攻读诗歌学位,致力于勇敢演讲的实践。我也很兴奋能深化我在引导、辅导、社区建设和团体工作方面的实践。让我们看看会展开什么。
谢谢你们,再见。我从这里学到了很多,祝你们一切顺利。我留给你们我最喜欢的一首诗,William Stafford的《事情就是这样》。
祝好运, Mrinank
《事情就是这样》
有一条你追随的线索。它穿行于 变化的事物之中。但它不会改变。 人们想知道你在追求什么。 你必须解释那条线索。 但别人很难看到它。 当你握住它时,你不能迷失。 悲剧发生;人们受伤 或死去;你受苦并变老。 你所做的一切都无法阻止时间的展开。 你永远不会放开那条线索。
William Stafford
解读:
这是一封Anthropic公司员工Mrinank的离职信,充满了深刻的反思和诗意。
核心要点:
离职原因:不是对公司不满,而是个人使命召唤。作者认为世界面临多重危机,需要以更符合自己价值观的方式做出贡献。
成就回顾:在AI安全领域做出了实质贡献,包括研究AI阿谀奉承、生物恐怖主义防御、内部透明度机制等。
深层思考:作者观察到一个矛盾——即使在重视价值观的组织中,也很难让价值观真正主导行动。这促使他寻求更真实的贡献方式。
未来方向:转向写作、诗歌、演讲和社区工作,强调诗意真理与科学真理的结合。
哲学态度:引用禅宗”不知道”的智慧,拥抱不确定性,追随内心的”线索”(如诗中所述)。
这封信体现了一个深思熟虑的技术工作者在AI时代对意义、真实性和人性的追寻。