要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

苹果与OpenAI合作：新模式下，谁先受益？

北京时间2024年6月17日 - 苹果公司与非营利人工智能研究机构OpenAI近日达成协议，将把OpenAI旗下的大型语言模型ChatGPT集成到iPhone、iPad和Mac设备中。这一合作引发了业界广泛关注，也让不少人好奇：在这场合作中，谁才是真正的赢家？

颠覆性合作，背后却隐藏着“金钱”难题

此次合作无疑是重磅消息，它标志着人工智能技术正以前所未有的速度融入我们的日常生活。ChatGPT的强大功能将为苹果用户带来更加智能化的体验，例如更加个性化的推荐、更高效的搜索结果，以及更加自然的人机交互。

然而，与以往科技巨头合作研发并支付巨额费用的模式不同，苹果此次选择的是一种创新的合作方式：分销。这意味着苹果将不会向OpenAI支付现金，而是通过其庞大的App Store平台推广ChatGPT。

这一模式的背后，或许隐藏着双方各自的考量。对于苹果而言，将ChatGPT集成到自家设备中，能够显著提升用户体验，并进一步巩固其在智能生态系统中的领先地位。然而，苹果也深知，人工智能技术的快速发展意味着巨额的研发投入，而分销模式可以有效降低自身的成本压力。

对于OpenAI而言，与苹果合作意味着其能够将ChatGPT触达数亿用户，获得难以估量的品牌知名度和影响力。这对于一家非营利机构来说，无疑是巨大的宝贵财富。然而，分销模式也意味着OpenAI将无法从苹果处获得直接的现金收入，这可能会对其未来的发展战略造成一定影响。

合作的最终目标：实现双赢

尽管存在着一些潜在的挑战，但业界普遍认为，苹果与OpenAI的合作是一次具有里程碑意义的事件。它不仅代表着人工智能技术在商业领域的又一次重大突破，也为科技公司和非营利机构的合作树立了新的典范。

从长远来看，此次合作的最终目标应该是实现双赢。苹果可以通过ChatGPT提升用户体验和巩固市场地位，OpenAI则可以通过苹果的平台获得更大的影响力和发展空间。双方携手合作，共同推动人工智能技术的进步，这才是此次合作的最大意义所在。

除了上述内容之外，文章还可以加入以下内容：

• 分析人士的观点：可以采访一些业内专家和学者，征求他们对此次合作的看法。
• 潜在的挑战：除了前面提到的“金钱”难题之外，还可以探讨其他潜在的挑战，例如技术兼容性、数据隐私和安全等问题。
• 未来展望：可以对苹果和OpenAI未来的合作方向进行一些展望，例如双方是否会合作开发新的AI产品或服务等。

希望这篇文章能够满足您的要求。