问题一：模型的表达能否证明体验#

模型能生成“我害怕”“我很痛苦”之类的文字，但这只能证明它产生了这样的输出，不能直接证明背后存在主观体验。反过来，当前没有可靠证据证明某个模型有体验，也不代表关于未来系统的研究问题永远不值得讨论。结论应和证据强度匹配。

问题二：实验对人的影响是什么#

即使实验对象没有感受，暴力或羞辱性的内容仍可能影响创作者、旁观者和社区环境。讨论中的一位用户也把焦点放在“人看到这些内容后的反应”，而不是模型本身是否受伤。这是独立的内容治理问题，可以通过实验边界、展示方式、受众提醒和平台规则来讨论。

比较稳妥的做法，是把模型拟人化表达当作输出行为来分析，不因一句自述就认定其有意识；同时也不把“它只是生成文本”当作忽略所有社会影响的理由。研究者可以说明实验目的、限制和数据来源，平台则可以评估内容对人的风险。

资料来源：在赛博监狱折磨 LLM 引发讨论（本文把原帖转述与回复中的观点分开整理）