发布时间:2026-03-15 22:00:54 来源: 上观新闻
关注最近爆火的AI智能体“龙虾”。这个近期出现的智能体,一时间让很多人感到云里雾里,它强大的功能吸引很多人想去安装,但渐渐暴露出的安全风险问题,又让人望而却步。那么,“龙虾”智能体到底是什么?我们又该如何确保“龙虾”应用的安全?带着这些问题,我们先去一个专门帮助安装和培训“龙虾”技能的社区,去感受一下那里学习了解“龙虾”智能体的热度。
总台央视记者 张春玲:我现在就已经来到了这样的一个社区,在这里大家正在学习和体验小“龙虾”智能体,我们多看一看他们在做什么。
北京AI原点社区 学员:其实安装“小龙虾”的话,一个是说可能平常自媒体的运营,可以看能不能用“小龙虾”来提效,然后第二个,我们其实后面也想做一些给孩子用的学习的系统。
北京AI原点社区 学员:我使用还不是特别多,还得再探索一下,还不是特别的精通。
记者来到的AI原点社区,是北京市人工智能创新街区的一个线下空间。春节后,社区就上线了“龙虾”安装、交流和实战分享等面向不同群体的各类课程,像记者参加的这堂课,是属于“龙虾”的初级安装课程,参与的很多是计算机小白,不少都是第一次接触“龙虾”智能体。虽然大家年龄不同、工作背景不同,但他们都有同一个期待,就是希望利用这种新的技术为自己的工作和生活赋能。
记者:能问一下您今年多大了吗?
北京AI原点社区 学员:我61。人工智能能够发展这么快,完了让我们赶上了,所以如果不被时代抛弃,就应该来学人工智能。
“龙虾”的火爆不仅体现在线下的社区活动中,更直观地反映在云端的监测数据上。记者来到了一家提供了云端“龙虾”服务的大模型公司,在这里,一条明显的增长曲线,反映出了春节后公众体验“龙虾”智能体的热度。
大模型Kimi技术成员 付强:因为我们是春节期间才发生的,所以在春节之后我们每周迎来了一个(“龙虾”用户)超过100%的一个提升。我觉得云端的部署更多是对于更大众化的人群来说,它可以有一个简单的一键部署的方式,它的优势就在于它是24×7永远运行,很好的网络的条件,有很干净的一个系统,尽量少涉及安全的问题,我觉得不同的用户可以根据自己的需要,你就可以完成一个云端的“龙虾”的领养。
国产“龙虾”创新加速 核心优势逐步显现
看完了财经老王的装“龙虾”的经历,的确“龙虾”智能体目前存在的安全风险不可小觑。不过,目前在国内,很多智能体研发团队已经将自主开发的“龙虾”智能体应用在工作和研发场景中,研发人员介绍,他们为“龙虾”搭建了独立的网络环境,配备了数据安全监测系统和人类监护员,确保“龙虾”每一步动作都是经过审核的。
在深圳市福田区民意速办和智慧城市建设中心,几位“政务龙虾”数智员工近期完成上岗培训。这些上岗的“政务龙虾”是由深圳企业同复旦科研团队联合研发的国产“龙虾”智能体。他们通过不断学习训练,可以更加自主地协助工作人员在民意诉求上完成调研、分析。
深圳福田区民意速办和智慧城市建设中心工作人员 郑明霞:以这次的数据为例子,目前我给它可能相关数据有1万多条,如果1万多条数据我们人工去分析的话,可能需要2到3周的时间,但是如果给它(“龙虾”智能体)一个指令,让它(“龙虾”智能体)去帮我们进行分析,它可以把时间压缩到4个小时,这样子我们人工就可以去深入地实际调研。
“龙虾”作为能力全新升级的智能体,拥有自主学习、长序记忆等能力,可以不断积累经验,越来越高效地完成更多任务。但作为一个政务“龙虾”,最受关注的不仅仅是效率,更是安全,工作人员介绍,他们为“龙虾”搭建了独立的网络环境,还配备了数据安全监测系统和人类监护员,确保它的每一步动作都是经过审核的。为了进一步了解这个国产“龙虾”的设计架构,我们采访了它的研发团队。
复旦大学计算与智能创新学院教授 肖仰华:我们首先在整个系统设计上做到一个极简的架构,极简就意味着整个系统是安全可控可溯,我们差不多只用了3000多行的代码就是实现了整个“龙虾”系统。我们每一行代码都经得起逐行审查,就好比像OpenClaw(某开源“龙虾”应用)将近50多万行代码,好比是一个堆满杂物的房间,它到底有什么样的安全隐患,我们是不得而知的。极简架构就从代码的源头上杜绝了这种代码黑箱或者恶意代码。我们也同时建立起了一个多层的防护体系。比如说很多敏感操作,我们必须要求我们“龙虾”系统经过人类确认之后,它才能够发起执行。其次我们也有很多沙箱的隔离机制,我们的政务“龙虾”系统它是跑在政务外网,与整个互联网物理隔离,我们确保人不能做的AI也绝对不能做,这样的话就可以不影响它的物理数据。
专家介绍“龙虾”智能体是一种开源架构,在安全可靠的前提下,开发各类智能体产品,成为当下人工智能技术团队研发的新趋势。从工作系统管理到自动化实验系统、自动剪辑软件等,一系列充满实用性的功能正在走向现实。
“龙虾”有多强 记者“剥虾”带您探内核
“龙虾”智能体一键部署的方式,效果令人惊叹。那么,“龙虾”智能体和我们使用过的大模型有什么不一样?接下来就让记者给我们剥开这个“龙虾”,看看它肚子里到底装了些什么。
总台央视记者 张春玲:我们要来看一看这个“龙虾”和我们熟悉的大模型有什么不同。我们熟悉的大模型,它们逻辑推理能力特别强,学问也特别多,但是就好像是“缸中之脑”。你如果跟大模型说,你帮我整理一下电脑桌面,太乱了行不行,答案肯定是“不行”,而“龙虾”应用就好像是给大模型装上了手脚,大模型负责来思考,而“龙虾”负责各种执行任务,
现在我就为大家举个例子。现在给“龙虾”智能体布置了一个任务,做一份《2026年中国大宗交易分析报告》,并整理成PPT,发到我和同事的邮箱。“龙虾”智能体快速整理了一份报告,并完成了自动发送。
大家可能非常想知道,不管是云端的“龙虾”还是本地的“龙虾”,它的肚子里到底装了些什么呢?接下来我就为大家剥开看一下。
首先,每个“龙虾”的体内都有一个叫作身份(identity.md)的文件,这就好像你递出的一张名片,上面写着你叫啥、你是谁,这个所有的这些信息,都是“龙虾”通过和你的对话过程当中给自己总结的。
第二个重要文件叫作灵魂(soul.md),这就好像是我们人的说话做事的方式、性格、三观等等。
第三个重要功能,也就是这一代“龙虾”智能体一个非常大的技术的迭代,就是它拥有了长期记忆的能力,这个功能主要源自“龙虾”体内一个叫作memory的文件。我们知道大模型的记忆力往往是不太好的,如果你跟它的对话时间维持得比较长,前面的话就基本上会忘记了。但是“龙虾”智能体就好像是随身带了一个小本本,把你说过的话,做过的事跟它讨论过的一些关键节点都会一一记录下来,还有它踩过哪些坑、积累的哪些经验,它也都会自己记录下来,这样在今后办事的时候就会少走很多的弯路。
最后这一代“龙虾”还有一个特别的心跳机制(heartbeat),它不需要你主动去提醒,只需要你给它设置好上下班的时间点,自己就醒了,然后自主地去检查自己的工作有没有完成,7×24小时都可以给你干活。
看完了“龙虾”的五脏六腑,你会发现这些“龙虾”不管是它们的身份、记忆,还有各种各样的能力,都是在和你的交互过程中形成的,所以每个“龙虾”都会有自己不同的能力和它的特长。所有的事情取决的就是“龙虾”的主人,也就是你。在人工智能的时代,我们的确要保持一种开放和学习的态度,去不断地了解这些新的人工智能应用给我们生活带来的改变。但是请注意,不要被网络上那些嘈杂的噪声带来的焦虑所影响,也许这些焦虑就是“龙虾”自己制造出来为主人赚钱的工具而已。
安全使用智能体 杜绝六个“虾”操作
“龙虾”智能体近期应用的火热,也产生了装了又卸载的各种操作。那么,究竟该如何更好地安全操作这类智能体?记者经过学习后,为大家总结了六个千万不要做的“虾操作”。一起来看看。
注意了!“龙虾”课堂开课了!通过我与网络安全专家的深度畅聊,我总结出了我们在养虾过程当中极有可能犯的六大“虾”操作。
第一大“虾”操作就是“虾”装。可能你觉得你自己装了一个正经“龙虾”,不过不好意思,有可能你在网络上搜索下载安装运行的“龙虾”,或者通过朋友帮忙给你安装的“龙虾”是自带病毒的假冒“龙虾”,它们安装了之后可以在你的电脑里肆意妄为,把你的个人信息泄露出去,或者把你的银行账户密码偷偷记住,最后导致你的个人财产的巨额损失,这个就是安装过程当中的引“虾”入室。
第二大安全隐患,就是“虾”用。也就是在使用过程当中的引“虾”入室,在全球最火的“龙虾”应用OpenClaw上,(截至录制时)一共有1.8万多个技能,其中有6000个技能已经被官方标注为风险极高的可疑技能,还有16个是恶意技能已经被官方下架了。通俗点说,技能就是“龙虾”使用过程当中的一个说明书,指导它怎么干活的。我们可以看到由于OpenClaw是一个开源架构,因此大家就会把自己训练好的“龙虾”技能上传到这样的一个开源平台上,与所有的人共享,这里面就隐藏了很多恶意的技能,你的“龙虾”如果在干活的时候抓来用,不小心就感染了。
第三大隐患,就是“虾”找。“龙虾”在执行任务的过程中,难免会到各种网站上去下载一些软件或者登录一些网站,在不知不觉中可能就会下载了一些携带病毒的信息,导致自己中毒。
第四大隐患,“虾”删“虾”发。我们知道“龙虾”的钳子就是一个干活的工具,但是这种技能也是在不断地互动当中去提升的,同时“龙虾”的能力也依赖于它背后的大模型,大模型现在都还会产生一些幻觉,难免导致“龙虾”在执行任务的时候不够准确,比如说它可以往你的通讯录里乱发一些消息,或者把你的一些重要的文件和信息删除了,说实话你也没招。
第五大隐患就是“虾”唠,你可能跟“龙虾”掏心掏肺,把你的隐私,还有各种银行账号密码信息全都一股脑告诉它了,你就忘了,但是“龙虾”却一一记下来了,不小心就可能泄露你的一些重要的信息和数据。
最后,千万别“虾”显摆,你可能觉得你训练好了一个优秀的“龙虾”智能体,于是拉到群聊里,向你的朋友们显示一下,看我的智能助手多厉害,可是你不知道“龙虾”就等于是你的一个数字分身,可能在聊天的过程当中,就把你的个人信息和秘密给拷取了。
记住这6大秘籍,确保你在“引虾入室”的路上不抓瞎。
与时俱进 技术+法规推动智能体安全可控
以“龙虾”为代表的智能体应用,已经快速迭代为人工智能应用的新趋势。我们应该如何与时俱进,从技术和政策上推动这类新智能技术安全可控的发展,专家们给出了建议。
针对现在“龙虾”智能体技术的快速发展,网络安全行业已经快速跟进,推出智能化的防护方案。
某网络安全团队技术人员 陈杰:有一个在安全圈里面大家说的一个口号,就是用机器的速度对抗机器的速度,用AI对抗AI,用AI做一个防控,或者是保护智能体的一个新的智能体,然后去监控智能体,它从下载安装执行到最后磁盘操作文件操作发出去的东西。
人工智能在当下呈现出技术加速迭代的趋势,一些新技术的火爆时间短、传播快、影响范围广。国内各大模型公司纷纷上线“龙虾”应用,同时,我们也看到各地出台政策鼓励智能体技术发展,推动一人公司等全新生态,都是在积极回应和拥抱新的技术带来的改变。
中国信息通信研究院人工智能研究所副总工程师 王蕴韬:其实模型和应用之间还是隔着一个交互的界面的,实际上以“龙虾”为代表的智能体,也是把我们这个界面进一步降低了使用的门槛,提高了使用效率,扩宽了使用深度,而且提升了使用效率。因此的话我觉得这一轮从技术到产业到应用的一个热点,对于我们未来实现“AI+”的一个深入实施有一个很好的促进作用。
专家也表示,各级单位在使用这类应用的同时要以安全为前提,避免带来不必要的风险,相关政策法规也正在陆续研制出台。
中国信息通信研究院人工智能研究所副总工程师 王蕴韬:未来尤其对于数据方面的监管,对于应用场景的一个分级分类,对于安全的通报,对于事前事中事后的这么一个监管的话,可能都会很快提上议程。 🚳