做长尾学习久了，很难再把数据分布只当成一个技术问题。
训练日志通常很诚实。数量多的类别先学会，少数类别一直摇摆。它们不是完全没有被看见，只是得到的信号太薄，薄到模型很容易把它们并入一个更熟悉的答案。我们会重采样、调权重、改边界，想办法替这些稀少的样本争一点空间。
真正让我不安的其实不是尾类准确率低，而是大多数应用系统可以十分合理地忽略它们。我的导师在第一次看到我的问题时就直白的指出，他们曾经面对数据的长尾就是直接截断，或者把所有尾部类别融合成一个类。
离开实验室以后，这种情形到处都是。出现得少的可能是一种口音、一段不常见的病史，也可能只是一个人不愿意按通常方式生活。机器当然不知道什么叫「通常」。它只是反复遇见多数，于是多数慢慢有了正常的外观。
我原来以为，AI 伦理主要讨论的是明显的伤害：歧视、失业、版权、幻觉，或者某个自动系统究竟害了谁。这些问题都很实际。但用得越多，我越在意另一种较慢的变化。我们为了让模型听懂，会把问题改写得更标准；为了得到稳定结果，会删掉那些不好解释的犹豫。写作有模板，提问有模板，连困惑也最好先整理成模型熟悉的格式。
海德格尔那个很拗口的词 Gestell，我以前一直觉得离日常生活很远，现在倒觉得它很具体。它说的不是机器统治人，而是一种观看习惯：河流先被看作水能，土地先被看作产量，注意力先被看作可以购买的时长。到了生成式 AI 这里，语言也进入了这套秩序。句子可以拆成 token，风格可以成为参数，过去写过的东西可以拿来预测下一句话。
这当然厉害。我每天也在用。只是工具并没有停在手上，它会回过头来训练使用它的人。起初是模型学习我们怎么说话，后来我们学会怎样说话才更容易被它接住。久而久之，人可能不是被机器取代，而是先把自己修剪成机器容易处理的形状。
这让我对「对齐」这个词有一点迟疑。模型和谁对齐？是和一套写进规则的价值，和多数人的平均选择，还是和提供反馈的人在某个下午做出的判断？这些都可以成为工程目标，却很难等同于伦理。规则擅长处理已经命名的问题，生活偏偏不断带来尚未命名的处境。
阿伦特谈「复数性」时，指的也不是把不同群体列进一张表。人共享一个世界，却没有谁能替另一个人占据完全相同的位置。公共判断之所以费事，正因为这些位置不能被平均掉。模型可以汇总偏好、模拟争论，甚至给出很周全的折中方案；可折中不等于判断。判断意味着有人要在具体处境里说「这是我的决定」，并承担它落到别人身上的后果。
自动化很容易把这一刻藏起来。开发者说模型只提供分数，机构说流程依照分数，使用者说自己只是按建议办事。决定确实发生了，做决定的人却散开了。AI 伦理有时不像在给机器划边界，更像是在一条很长的链条上，把责任重新找到。
还有一个麻烦：预测总是从过去出发。一个人的档案越完整，系统越有把握他接下来会怎样。但人并不只由过去构成。她所说的「诞生性」里，有一种我很喜欢的固执：人能够开始此前没有的东西。换工作、改变立场、离开一段关系，甚至只是这次不再重复以前的选择。对预测而言，这是误差；对一个人而言，可能正是自由。
模型还有一种很强的本领：把陌生的东西变熟悉。找到相似者，放进已有的表征，再推断一个大概。统计上没有什么可指责的。可当一个人站在面前时，「你很像哪一类人」并不能回答我该如何对待他。总有一些东西留在分类之外，而且那一部分未必是噪声。
所以我对公平的理解也变了。它当然包括不同群体的准确率、机会和误差，但不止这些。有时公平意味着一个人可以要求解释，可以申诉，可以说过去的数据已经不能代表现在的我。甚至可以暂时拒绝被归类。不是因为人比机器神秘，而是因为任何人都不该被自己的记录用完。
我不觉得答案是少用或者拒绝使用 AI。它确实替我省下时间，也让我抵达过去很难抵达的知识。麻烦在于，便利有记忆。今天交出去的一小段写作、检索或判断，明天可能就变成我不再练习的能力。工具带来的好处很快就能看见，它从我这里拿走了什么，通常要晚一些才知道。
我不知道界线应该画在哪里，也不太相信一套原则能替所有人画好。也许只能在每次把事情交给模型以后，多问一句：这次什么变容易了，我又停止做什么了？
如果被省掉的只是重复劳动，那很好。如果被省掉的是判断，最好还是慢一点。