人工智能时代 警惕“智能体风险”

来源:互联网 时间:2025-05-29

据新华社报道,专家认为,人类目前需尽快从智能体开发生产到应用部署后的持续监管等全链条着手,规范智能体行为,从而更好地预防智能体失控。

智能体是人工智能(AI)领域中的一个重要概念,是指能够自主感知环境、做出决策并执行行动的智能实体,它可以是一个程序、一个系统或是一个机器人。

智能体的核心是人工智能算法,包括机器学习、深度学习、强化学习、神经网络等技术。通过这些算法,智能体可以从大量数据中学习并改进自身的性能,不断优化自己的决策和行为。智能体还可根据环境变化做出灵活的调整,适应不同的场景和任务。

学界认为,智能体一般具有以下三大特质:

第一,可根据目标独立采取行动,即自主决策。并独立采取行动实现该目标。

第二,可与外部世界互动,自如地使用不同的软件工具。比如基于GPT-4的智能体Auto-GPT,可以自主地在网络上搜索相关信息,并根据用户的需求自动编写代码和管理业务。

第三,可无限期地运行。美国哈佛大学法学院教授乔纳森·齐特雷恩近期发表的《是时候控制AI智能体》一文指出,智能体允许人类操作员“设置后便不再操心”。

以GPT为代表的大语言模型(LLM)的出现,标志着智能体进入批量化生产时代。此前,智能体需靠专业的计算机科学人员历经多轮研发测试,现在依靠大语言模型就可迅速将特定目标转化为程序代码,生成各式各样的智能体。而兼具文字、图片、视频生成和理解能力的多模态大模型,也为智能体的发展创造了有利条件,使它们可以利用计算机视觉“看见”虚拟或现实的三维世界,这对于人工智能非玩家角色和机器人研发都尤为重要。

由于目前并无有效的智能体退出机制,一些智能体被创造出后可能无法被关闭。

相关AI教程资讯 +
  • 人工智能时代 警惕“智能体风险”

    据新华社报道,专家认为,人类目前需尽快从智能体开发生产到应用部署后的持续监管等全链条着手,规范智能体行为,从而更好地预防智能体失控。 智能体是人工智能(AI)领域中的一个重要概念,是指能够自主感知环

    AI教程资讯 05-29

  • 你会把健康交给人工智能吗?

    美国《大西洋月刊》7月12日文章,原题:你会把健康交给人工智能吗? 日前OpenAI首席执行官萨姆·奥尔特曼和企业家阿里安娜·赫芬顿与我的同事查理·沃泽尔谈到了他们用生成式人工智能(AI)重塑美国医疗体系的雄心。

    AI教程资讯 05-29

  • 国内第一部AIGC短剧《山海奇镜之劈波斩浪》是怎样炼成的?

    在预告片获得了60万全网浏览量后,陈坤的正片终于上映了,很快就在快手平台收获了超1000万播放量。 这部名为《山海奇镜之劈波斩浪》的短剧讲述了一个非常简单的故事:一位少年为了救出被掳走的母亲,一路冲进

    AI教程资讯 05-29

推荐AI教程资讯 +
近期热点 +
最新推荐 +