AI agent 投毒风险:程序员闭眼让 AI 往电脑装软件
我想到的是 agent 投毒,每天数以千万计的程序员,闭着眼睛,咣咣地让 ai 往电脑上随便装软件。
AI 导读
作者提出 agent 投毒风险:数以千万计的程序员每天不加审查地让 AI 往电脑上安装软件。 Cos(余弦) 回应认为,看客嘲笑币安被盗事件中的工程师犯低级错误,但实际攻击涉及人性利用、情报踩点、恶意代码免杀、信任链利用、针对性横向投毒、云环境渗透、风控绕过及 0day 等手段,自己被打了才知道其中门道。
我想到的是 agent 投毒,每天数以千万计的程序员,闭着眼睛,咣咣地让 ai 往电脑上随便装软件。
作者提出 agent 投毒风险:数以千万计的程序员每天不加审查地让 AI 往电脑上安装软件。 Cos(余弦) 回应认为,看客嘲笑币安被盗事件中的工程师犯低级错误,但实际攻击涉及人性利用、情报踩点、恶意代码免杀、信任链利用、针对性横向投毒、云环境渗透、风控绕过及 0day 等手段,自己被打了才知道其中门道。