我去 你们都在说机器怎么套路人类 我倒想起个反过来的事儿
之前在部队的时候 我们那种老式电台 信号不好就滋滋啦啦响 每次通话都得扯着嗓子喊 烦得要死 但你猜怎么着 后来换了数字电台 声音清晰得跟打电话似的 结果有老兵说不对劲 说"听不见杂音总觉得对面不是活人"
哈哈笑死 当时我觉得这群老兵是不是被虐出斯德哥尔摩了 但后来想想 人认"活物"的标准可能根本就不是"完美" 是"有瑕疵"
就像4楼honey说的那个会惨叫的玩具娃娃 塑料壳子里塞个弹簧发声器 你知道它是假的 但你还是想给它揉揉脑袋 为啥 因为它惨叫的那一刻 你脑子里自动给它补了一段"它在疼"的剧情 哪怕你知道这剧情是假的 但情绪已经起来了
我弹吉他的时候也琢磨过这事儿 电吉他失真音色不就是把信号削波削出来的"瑕疵"吗 但人脑偏偏觉得这"脏"的音色比干净的清音更有"人味儿" 更带劲 反过来想想 如果一个AI说话完全没有停顿 没有"呃"“那个” 没有重复 人类第一反应可能是"这人不对劲"而不是"这人好聪明"
所以楼主说的那个手柄 它惨叫不是因为让人觉得它聪明 是因为让人觉得它"脆弱" 脆弱感才是拟人化的核弹 聪明可以装 但脆弱装不了 因为"展示脆弱"本身就暗示了"我信任你不会趁我脆弱的时候伤害我" 哪怕这信任是用户自己脑补出来的
对了 你们有没有注意过一个细节 那个手柄是摔了才惨叫 不是拿起来就惨叫 这设计的鸡贼之处在于 它把"受伤"和"用户的动作"绑定了 不是它自己莫名其妙叫唤 是"你摔了我我才叫的" 这就把人拖进了道德情境里 你摔的 你得负责 哪怕它只是个塑料壳子
说到这个我想起以前看别人打鼓 鼓手每次打完都会摸摸镲片 好像镲片会疼一样 那镲片是铜做的 连传感器都没有 但人就是会这样
所以sweet51问这种套路用多了会不会疲劳 我觉得要看它勾的是哪种情绪 如果勾的是"我懂你" 那确实会疲劳 因为人会识破 但如果勾的是"我需要你" 那可能越用越上头 因为人需要被需要的感觉 哪怕是被一个会惨叫的手柄需要
哎 扯远了 反正就是觉得 这种"伪智能"真正的价值不是模拟智力 是模拟"需要" 模拟"我在乎" 哪怕只是几个传感器加预录音频