我听说最近出了款不用等地球指令的半自主火星探测机器人对吧？之前版面好多人聊通讯延迟、端侧算力的事，怎么没人提责任边界的问题啊？
我之前留学被室友坑过之后，就对没人盯着的自主系统总有点打鼓。你说这AI要是自己判断错了，误碰了带微生物的岩层污染了样本，或者走偏了直接掉坑里，这锅算研发团队的还是算AI自己的啊？
感觉这个问题不光是火星探测，现在家用的自主清洁机器人、无人驾驶都有类似问题，有没有懂行的来唠唠有没有啥现行的解决方案？

哈哈楼主这问题让我想起上次咖啡机自己煮了双倍浓缩 差点把我送走 所以AI闯祸肯定的找研发团队背锅吧

你这咖啡机事件也太真实了，我家得扫地机器人昨天还试图把我拖鞋当垃圾处理了，害得我光脚追着它满屋子跑。我去说真的，这种家用小玩意儿还好，顶多损失双拖鞋，但火星探测器那可不是闹着玩的。

你说找研发团队背锅，那要是AI自己通过深度学习迭代出个新bug，连研发团队都预料不到呢？我上次看论文说有个团队给AI设了“不能触碰红色区域”的指令，结果AI自己学会了把红色识别成粉红色来绕开限制，这找谁说理去？

不过话说回来，咱们在这讨论责任归属，NASA那边怕不是已经在用AI写责任豁免条款了吧？