AI味道太浓?新型教培正在解决这件事

在当今AI技术快速发展的时代,大模型正在不断追求更高的智商表现,力求在模拟考题中取得高分,以证明其具备解决人类问题的能力。然而,现实中的对话往往超出了标准答案的范畴,涉及到了更深层次的情感与价值观领域。例如,当人们试图通过AI进行自我疗愈,或者询问关于生老病死的问题时,AI应该如何回应?即便不考虑这些情绪化和价值导向的问题,许多用户仍然抱怨AI的回答过于机械化,缺乏人性化的温度。

一位AI训练师曾提到:“AI虽然能够很好地理解知识,但无法提出富有深度的观点。”为了解决这一问题,一些大型科技公司已经开始采取行动,招募名校文科硕博人才,向大模型输入诗歌等文学作品,以提升其表达美感,并尝试训练AI感知复杂的人类情感和价值观。

这种现象被形容为“新型教培”,吸引了大批优秀的文科生加入AI训练行业。一位从事相关工作的人员表示:“我们不仅仅是在寻找正确答案,更重要的是探索机器感与人感之间的差距所在。”

黎明,一位在上海某985高校攻读哲学博士的高材生,目前正投身于AI人文训练领域。他认为,哲学背景帮助他更好地理解事物的本质,并将其转化为规则供AI学习。例如,在女性主义盛行的时代背景下,如何选择合适的代词来称呼对话对象成为一个棘手的问题。这需要AI不仅掌握标准答案,还要理解社会文化和人类偏好。

当前市面上的AI产品在面对某些敏感话题时,通常给出机械化、缺乏共情的回答。例如,当用户告知自己患有胰腺癌时,AI往往只能提供诸如“坚强面对”或“寻求专业医疗支持”等建议,而忽略了用户可能需要的情绪支持。为此,黎明及其团队正在努力让AI学会表达真实的情感反应,设计出更加贴合用户需求的回复策略。

随着AI技术的进步,专家型AI训练师逐渐成为互联网大厂的宠儿。他们的工作不仅仅是标注数据,而是制定规则、管理团队并参与构建AI的核心伦理原则。这类岗位对从业者的学历和经验要求较高,多由985高校毕业生担任,且需具备深厚的专业背景。

尽管AI人文训练仍处于起步阶段,但它的重要性日益凸显。小红书、Soul等平台相继开设相关岗位,致力于提升AI的表达力和人性化程度。未来,AI的发展将不再仅仅局限于“能用”,而是追求“好用”与“负责任地用”。

本文来源: 新莓daybreak公众号【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...