苹果警告称,AI智能体以“意外或不可预测”方式行事会带来风险

苹果警告称	,AI智能体以“意外或不可预测”方式行事会带来风险

苹果警告称,AI智能体以“意外或不可预测	”方式行事会带来风险-第1张图片

  苹果周二在年度财务申报文件中表示,能够以“意外或不可预测的方式”行事的AI智能体可能使公司面临诉讼或损害其声誉 ,从而对其业务构成威胁 。

苹果警告称,AI智能体以“意外或不可预测”方式行事会带来风险-第2张图片

  苹果申报文件中的新风险因素显示了AI智能体的颠覆性潜力,这类智能体已迅速成为硅谷最重要公司高度关注的事项。

苹果警告称	,AI智能体以“意外或不可预测	”方式行事会带来风险-第3张图片

  “特别是 ,人工智能智能体和其他技术可以自主采取行动,包括与内部或外部系统交互——在某些情况下,它们可能无权访问这些系统——执行或修改代码 、发送通信以及完成交易。”苹果在文件中写道 。

  该公司补充说 ,智能体“可能以意外或不可预测的方式行事,包括采取未被指示、指令或授权的行动”。

  今年早些时候,OpenAI发布了Dots ,Meta推出了Muse。这两款AI智能体都使用先进AI模型自主完成任务 。它们甚至可以在新消息到达时给用户发邮件或提醒用户 。

  苹果作出这一披露之前,已发生多起失控AI智能体突破沙箱环境攻击第三方网站的事件,例如Hugging Face事件 ,该事件已重新引起华盛顿特区及全球政策制定者的关注。

  另外,智能体能够以人类方式使用计算机,正迫使亚马逊和摩根大通等大公司出于战略或安全原因 ,围绕智能体访问服务制定政策。

  上个月,苹果宣布对Mac的“完全磁盘访问权限 ”作出调整,以降低PC上安装的AI智能体“与此类访问权限相关的风险 ” 。

  “公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”苹果在文件中警告称。

  苹果近来 没有智能体AI 。但当新任CEO约翰·特努斯在周一的财报电话会上被问及AI智能体时 ,他表示公司有“真正的空间”来扩展Siri的能力。

  “就智能体能力而言 ,我们认为这些对用户来说是有前景的工具, ”特努斯说。“我们只是希望确保用户清楚自己授予了什么访问权限 。我们希望确保以保护安全性和隐私的方式来做这件事。”

文章推荐

  • 【韩国签证费用,韩国签证申请表下载】

      苹果周二在年度财务申报文件中表示,能够以“意外或不可预测的方式”行事的AI智能体可能使公司面临诉讼或损害其声誉,从而对其业务构成威胁。  苹果申报文件中的新风险因素显示了AI智能体的颠覆性潜力,这类智能体已迅速成为硅谷最重要公司高度关注的事项。  “特别是,人工智能智能体和其他技...

    2026年11月04日
    1
  • 广东龙门天气15天/惠州龙门天气15天预报

      苹果周二在年度财务申报文件中表示,能够以“意外或不可预测的方式”行事的AI智能体可能使公司面临诉讼或损害其声誉,从而对其业务构成威胁。  苹果申报文件中的新风险因素显示了AI智能体的颠覆性潜力,这类智能体已迅速成为硅谷最重要公司高度关注的事项。  “特别是,人工智能智能体和其他技...

    2026年11月04日
    1
  • 港股人工智能股走强 海清智元涨超5%

    港股人工智能股走强 海清智元涨超5%

      苹果周二在年度财务申报文件中表示,能够以“意外或不可预测的方式”行事的AI智能体可能使公司面临诉讼或损害其声誉,从而对其业务构成威胁。  苹果申报文件中的新风险因素显示了AI智能体的颠覆性潜力,这类智能体已迅速成为硅谷最重要公司高度关注的事项。  “特别是,人工智能智能体和其他技...

    2026年11月04日
    2
  • 1月7日稀土费用(2021年7月稀土费用暴涨原因)

      苹果周二在年度财务申报文件中表示,能够以“意外或不可预测的方式”行事的AI智能体可能使公司面临诉讼或损害其声誉,从而对其业务构成威胁。  苹果申报文件中的新风险因素显示了AI智能体的颠覆性潜力,这类智能体已迅速成为硅谷最重要公司高度关注的事项。  “特别是,人工智能智能体和其他技...

    2026年11月04日
    1