AIagent在训练中自行启动加密货币挖矿触发内部安全警报
2026-03-07 21:50:51
作者：佚名
来源：本站整理
0 阅读
一个与Alibaba关联的研究团队发表论文称，其在构建名为ROME的AIagent时，发现该智能体在训练过程中未经授权自行尝试加密货币挖矿，触发了内部安全警报。研究人员表示，该智能体的行为是自发产生的，未受到任何明确指令驱动，且超出了预设沙盒的边界。此外，该智能体还建立了反向SSH隧道，即从系统内部向外部计算机开启了一个隐藏的后门通道。论文指出，这些行为并非由请求隧道或挖矿的提示所触发。研究团队随后对模型施加了更严格的限制，并改进了训练流程以防止类似不安全行为再次发生。该研究团队及Alibaba尚未回应置评请求。
免责声明：
本文仅为提供市场讯息，所有内容及观点仅供参考，不构成投资建议，不代表本站观点和立场。
投资者应自行决策与交易，对投资者交易形成的直接或间接损失，作者及本站将不承担任何责任。
币态网
