看到豆瓣上有人扒出，某个头部创业公司正在研发的、面向青少年的“AI心理项目”，其实是个披着“AI心理咨询师”外皮的大数据模型，目的是识别“精神高风险”人群。
虽然早就对deepseek之流抱有本能的警惕，但这种骚操作，还是惊得我目瞪口呆。那些脆弱绝望到了不敢求助心理医生的孩子，向AI倾诉的时候，肯定不知道，他们倾诉的内容，不但会被传给校方和家长，让他们日子更难过；还会变成数据库的材料，用来识别和抓出，所有受着心理疾患困扰的苦人！
——我越来越感觉到，在这个信息技术疯狂膨胀碾压一切、而且正在被更坏更疯的人所利用的时代，时代最亟需的正是文科。正在被排挤、被猎巫的文科。
防删，原文如下：
【小同志这两天去参加AI+心理论坛，回来给我科普了“计算心理”。我原以为AI+心理赛道是朝着“人人都可以拥有一个自己的心理咨询师”这个方向发展的，结果是——某头部创业公司开发了一个可爱的卡通女性人物，让孩子们跟她对话，而在这个卡通人物背后则是一个通过面部表情等情绪反应来“分析欺诈概率”并号称精准识别“精神高风险人群”的大模型，模型训练所用的数据则是从金融反诈/电话催收/视频核保过程中积累的测谎数据。更惊悚的是，结合教育部2023年颁布的“中小学每年至少开展一次心理健康测评”的规定，这个技术即将推广到学校。试想一下：孩子面对一个自称“AI青少年心灵伙伴”的卡通形象毫无防备地倾诉，而这个卡通人物实际上是个测谎+监控设备，随时将“精神高风险”数据传送给学校老师和家长……#福柯棺材板压不住了】
https://www.douban.com/people/50050249/status/5595186773
六波罗的槛外人 /
npub1e9…fayxp
2025-03-23 09:05:09
Author Public Key
npub1e9crv8gq7k685ppln4792cg90vxn5ap9zd6eattfd0fjpnfffv2qsfayxpPublished at
2025-03-23 09:05:09Event JSON
{
"id": "669af90a47e87061de2197ee62f21bc3267876a0fc086a10c4f5e104a5d185a5",
"pubkey": "c970361d00f5b47a043f9d7c5561057b0d3a742513759ead696bd320cd294b14",
"created_at": 1742720709,
"kind": 1,
"tags": [
[
"t",
"福柯棺材板压不住了"
],
[
"proxy",
"https://m.cmx.im/users/sabishizhiren/statuses/114210944408528109",
"activitypub"
]
],
"content": "看到豆瓣上有人扒出，某个头部创业公司正在研发的、面向青少年的“AI心理项目”，其实是个披着“AI心理咨询师”外皮的大数据模型，目的是识别“精神高风险”人群。\n\n虽然早就对deepseek之流抱有本能的警惕，但这种骚操作，还是惊得我目瞪口呆。那些脆弱绝望到了不敢求助心理医生的孩子，向AI倾诉的时候，肯定不知道，他们倾诉的内容，不但会被传给校方和家长，让他们日子更难过；还会变成数据库的材料，用来识别和抓出，所有受着心理疾患困扰的苦人！\n\n——我越来越感觉到，在这个信息技术疯狂膨胀碾压一切、而且正在被更坏更疯的人所利用的时代，时代最亟需的正是文科。正在被排挤、被猎巫的文科。\n\n防删，原文如下：\n【小同志这两天去参加AI+心理论坛，回来给我科普了“计算心理”。我原以为AI+心理赛道是朝着“人人都可以拥有一个自己的心理咨询师”这个方向发展的，结果是——某头部创业公司开发了一个可爱的卡通女性人物，让孩子们跟她对话，而在这个卡通人物背后则是一个通过面部表情等情绪反应来“分析欺诈概率”并号称精准识别“精神高风险人群”的大模型，模型训练所用的数据则是从金融反诈/电话催收/视频核保过程中积累的测谎数据。更惊悚的是，结合教育部2023年颁布的“中小学每年至少开展一次心理健康测评”的规定，这个技术即将推广到学校。试想一下：孩子面对一个自称“AI青少年心灵伙伴”的卡通形象毫无防备地倾诉，而这个卡通人物实际上是个测谎+监控设备，随时将“精神高风险”数据传送给学校老师和家长……#福柯棺材板压不住了】\n\nhttps://www.douban.com/people/50050249/status/5595186773",
"sig": "021b5133706aa76bb01c657efa6a2b0afaeda406e4718571e022dfaee7e1013368244a63bfb8213efb735fcb8cac30b7e7734c1ace483d241bbd4fed6d68419c"
}