机器人的安全功能没问题,但如果输入数据被篡改会怎样?
Your Robot’s Safety Functions Already Work. What If the Input Lies?
AI 导读
VicOne LAB R7 演示了如何通过伪造输入改变机器人行为:在使用 Gemma 4 E4B 的机器狗测试中,海报上的文字被当作指令改变了机器人移动;在基于 Nemotron 与 NVIDIA Jetson AGX Orin 的医院服务机器人仿真中,人耳听不到的 crafted 音频改变了其行为。