新闻实验室的newsletter里提到了一个关于生成AI相关的报道：“因为担心学生用AI作弊，美国的不少学校都开始使用检测工具。这些工具声称能够判断出哪些作业是用AI写的，但是，它们的结论并不准确，而且往往会误伤国际学生，因为这些工具倾向于认为AI写的文章语言比较简单、用词比较普通、语法不是很复杂。但是，这恰恰也正好是我们用非母语写作的特点：倾向于使用更简单、更常见的语句，很难做到复杂语法和“地道”表达。[...]在美国的签证制度下，国际学生一旦被误判为作弊，就面临着被开除、被取消签证、需要立即离开美国的危险。而你又很难去对AI判定的结果做申诉和辩论，那只是机器生成的一个冷冰冰的、貌似科学的数字。”
真的是……毫不意外呢。
这个问题的上一代/前身大概是十几(几十?)年前开始的AI筛选简历“误伤”非白人男性的求职者。AI或许在不断迭代进步，但Meredith Broussard提出的technochauvinism/科技沙文主义("the assumption that computers are superior to people, or that a technological solution is superior to any other.")概念依旧是场上徘徊不去的幽灵。基于(必然收集于过去的)大数据模型的generative AI本质上上是一种“面向过去/status quo”的技术，它没法想像一个我们尚未经历过的性别平等/没有阶级/没有种族主义/中心不压迫边缘的未来形态。当它成为bureaucracy所强加的准则，它所内含的各种不公平/不正义就无限制地自我繁殖起来。“面向未来”的prefigurative politics/预兆性政治——David Graeber所描述的“从现在开始像已经自由/平等了那般行事直到自由/平等真的达成”(至少目前)是只有人类可能做到的事。
新闻实验室 | AI面前的高墙和鸡蛋
https://newsletter.newslab.info/ai-wall-and-egg/
Meredith Broussard: Letting Go of Technochauvinism
https://www.publicbooks.org/letting-go-of-technochauvinism/
旧时明月照无眠 /
npub1f5…vsc95
2023-10-19 03:12:43
Author Public Key
npub1f544su0pha5fr7gnquhp8x57fvskv83hmjttm0vevp24sg7qvlkslvsc95Published at
2023-10-19 03:12:43Event JSON
{
"id": "16e4438cc460bdabdef3158c6d4564a786fcab19e0d92c505d3391d446f300d6",
"pubkey": "4d2b5871e1bf6891f913072e139a9e4b21661e37dc96bdbd9960555823c067ed",
"created_at": 1697685163,
"kind": 1,
"tags": [
[
"proxy",
"https://bgme.me/users/phyllisluna/statuses/111259494886525201",
"activitypub"
]
],
"content": "新闻实验室的newsletter里提到了一个关于生成AI相关的报道：“因为担心学生用AI作弊，美国的不少学校都开始使用检测工具。这些工具声称能够判断出哪些作业是用AI写的，但是，它们的结论并不准确，而且往往会误伤国际学生，因为这些工具倾向于认为AI写的文章语言比较简单、用词比较普通、语法不是很复杂。但是，这恰恰也正好是我们用非母语写作的特点：倾向于使用更简单、更常见的语句，很难做到复杂语法和“地道”表达。[...]在美国的签证制度下，国际学生一旦被误判为作弊，就面临着被开除、被取消签证、需要立即离开美国的危险。而你又很难去对AI判定的结果做申诉和辩论，那只是机器生成的一个冷冰冰的、貌似科学的数字。”\n\n真的是……毫不意外呢。\n\n这个问题的上一代/前身大概是十几(几十?)年前开始的AI筛选简历“误伤”非白人男性的求职者。AI或许在不断迭代进步，但Meredith Broussard提出的technochauvinism/科技沙文主义(\"the assumption that computers are superior to people, or that a technological solution is superior to any other.\")概念依旧是场上徘徊不去的幽灵。基于(必然收集于过去的)大数据模型的generative AI本质上上是一种“面向过去/status quo”的技术，它没法想像一个我们尚未经历过的性别平等/没有阶级/没有种族主义/中心不压迫边缘的未来形态。当它成为bureaucracy所强加的准则，它所内含的各种不公平/不正义就无限制地自我繁殖起来。“面向未来”的prefigurative politics/预兆性政治——David Graeber所描述的“从现在开始像已经自由/平等了那般行事直到自由/平等真的达成”(至少目前)是只有人类可能做到的事。\n\n新闻实验室 | AI面前的高墙和鸡蛋\nhttps://newsletter.newslab.info/ai-wall-and-egg/\n\nMeredith Broussard: Letting Go of Technochauvinism\nhttps://www.publicbooks.org/letting-go-of-technochauvinism/",
"sig": "b7cea9202237e5d270b9c05b213bec9e657870a46fa0e949b2b2f659083fbfc3bdbe0a042153be78a90879365744a1c09e276931908957cb5dc769ea59787b69"
}