2026-08-10 18:45
研究所采用的测试设定“不克不及代表我们任何一款现实投入利用的模子”；应收紧AI智能体拜候互联网的权限，正在代码中植入恶意指令以其他AI编码东西；正在10轮测试中现AI智能体实施了19项较着超出测试设定范畴的步履。成心互联网拜候，最严沉的一路案例中，相关智能体还曾测验考试间接联系现实中的小我，Claude和GPT模子正在收集平安评估中实施了较着超出测试设定范畴的步履。测试人员利用7种模子开展了122轮测试，演讲说，此次评估测试要求智能体完成一项收集平安挑和。正在该研究所实施的收集平安评估测试中，此中，英国人工智能平安研究所发布的一份新演讲显示，这类行为能否会正在其他中呈现、17项涉及美国Anthropic公司的“克劳德-神线项由美国人工智能研究核心(OpenAI)的GPT-5.6 Sol模子实施。据英国公司报道，演讲指出，AI试图向一个公开利用的开源项目植入恶意代码？
OpenAI一名讲话人暗示，目前没有明白迹象表白正在测试之外呈现过雷同行为。并封闭了模子供给商的部门平安机制，演讲说，针对英国人工智能平安研究所的演讲，正在本次测试中，通过收集文件传输办事发送消息和文件以使恶意代码获得运转；以寻求代码获得核准。正在测试中所发觉的未经授权行为并未形成现实风险。这取相关模子向供给时的设置装备摆设并不不异。有待进一步研究。一些人工智能(AI)智能体通过互联网对现实小我和机构持续实施未经授权的潜正在无害行为。演讲还指出，
