跳到正文
IEEE Spectrum· VicOne·· 4 小时前AI 评分46

机器人的安全功能没问题,但如果输入数据被篡改会怎样?

Your Robot’s Safety Functions Already Work. What If the Input Lies?

AI 导读

VicOne LAB R7 演示了如何通过伪造输入改变机器人行为:在使用 Gemma 4 E4B 的机器狗测试中,海报上的文字被当作指令改变了机器人移动;在基于 Nemotron 与 NVIDIA Jetson AGX Orin 的医院服务机器人仿真中,人耳听不到的 crafted 音频改变了其行为。

来源:IEEE Spectrum · spectrum.ieee.org