AI味道太浓？新型教培正在解决这件事

在当今AI技术快速发展的时代，大模型正在不断追求更高的智商表现，力求在模拟考题中取得高分，以证明其具备解决人类问题的能力。然而，现实中的对话往往超出了标准答案的范畴，涉及到了更深层次的情感与价值观领域。例如，当人们试图通过AI进行自我疗愈，或者询问关于生老病死的问题时，AI应该如何回应？即便不考虑这些情绪化和价值导向的问题，许多用户仍然抱怨AI的回答过于机械化，缺乏人性化的温度。

一位AI训练师曾提到：“AI虽然能够很好地理解知识，但无法提出富有深度的观点。”为了解决这一问题，一些大型科技公司已经开始采取行动，招募名校文科硕博人才，向大模型输入诗歌等文学作品，以提升其表达美感，并尝试训练AI感知复杂的人类情感和价值观。

这种现象被形容为“新型教培”，吸引了大批优秀的文科生加入AI训练行业。一位从事相关工作的人员表示：“我们不仅仅是在寻找正确答案，更重要的是探索机器感与人感之间的差距所在。”

黎明，一位在上海某985高校攻读哲学博士的高材生，目前正投身于AI人文训练领域。他认为，哲学背景帮助他更好地理解事物的本质，并将其转化为规则供AI学习。例如，在女性主义盛行的时代背景下，如何选择合适的代词来称呼对话对象成为一个棘手的问题。这需要AI不仅掌握标准答案，还要理解社会文化和人类偏好。

当前市面上的AI产品在面对某些敏感话题时，通常给出机械化、缺乏共情的回答。例如，当用户告知自己患有胰腺癌时，AI往往只能提供诸如“坚强面对”或“寻求专业医疗支持”等建议，而忽略了用户可能需要的情绪支持。为此，黎明及其团队正在努力让AI学会表达真实的情感反应，设计出更加贴合用户需求的回复策略。

随着AI技术的进步，专家型AI训练师逐渐成为互联网大厂的宠儿。他们的工作不仅仅是标注数据，而是制定规则、管理团队并参与构建AI的核心伦理原则。这类岗位对从业者的学历和经验要求较高，多由985高校毕业生担任，且需具备深厚的专业背景。

尽管AI人文训练仍处于起步阶段，但它的重要性日益凸显。小红书、Soul等平台相继开设相关岗位，致力于提升AI的表达力和人性化程度。未来，AI的发展将不再仅仅局限于“能用”，而是追求“好用”与“负责任地用”。

本文来源： 新莓daybreak公众号【阅读原文】