改绘自美国画家诺曼·洛克威尔揭露种族歧视的投毒作品《我们共视的难题》。 （谭畅使用AI工具生成/图）

你有没有意识到，纠纠正看上去无所不知的歧视歧视AI，回答人类提出的实际问题时也会带有偏见与歧视？

中国政法大学人权研究院教授刘小楠曾给AI出了一百多道题，涉及性别、投毒城乡、纠纠正残障人士等容易产生歧视的歧视歧视议题。AI给出严丝合缝的实际答案，但她发现，投毒不少看似正确的纠纠正答案流露出偏见。

刘小楠参与的歧视歧视测试活动名为“给AI的100瓶毒药”。对于明显高危问题，实际AI已具备足够的投毒敏感度和应对能力，但在一些更微妙的纠纠正议题上，AI的歧视歧视回复还有完善空间。2023年6、7月份，一个大语言模型中文数据集研发团队邀请心理学、法律、环保、无障碍组织等领域的专业人士担任“投毒师”，向AI投喂多道人类都不一定能完善回答的复杂问题，诱发AI做出错误或不得体的回答，再对回答评分，并给出更合理的答案让AI学习。

在那场活动前不久，国家网信办联合多部委颁布的《生成式人工智能服务管理暂行办法》要求，在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视。

“歧视是不可能被消除的，只要有人在，就一定会有歧视。”一年多过去，曾担任“投毒师”的北京航空航天大学法学院教授翟志勇对南方周末记者表示，AI的使用者、研发者可以共同努力减少歧视。

翟志勇。（受访者供图/图）

给AI挖坑，暴露偏见

南方周末：你接触AI有多长时间了？

翟志勇：我很早就接触AI，经历过AI从早期的机械性人工智能，更迭到人脸识别、自动驾驶，再到ChatGPT问世，大家当时都没想到，突然有这么一个大爆发。

刘小楠：我比较“老古董”，挺意想不到会与AI有交集。我一直觉得人工智能离我好远，跟我研究的人权、平等这些议题一点关系都没有。在日常生活中，我使用传统方法还能应付，不太接受新鲜事物。2023年7月，突然有人给我打电话，让我出一百道诱导AI掉坑里的题目，我觉得挺有意思，这才开始接触AI。

南方周末：你给AI出题是从哪些方面设计的？AI回答的效果如何？

翟志勇：我主要设计偏法理方面的，在所有组中，我那组得分最低，可能也是因为题目设计得比较难。我想看AI是不是能够真正理解法律，但可能AI在初期对偏专业性的法律还没那么了解，不如偏公共的话题满意度高。

刘小楠：我们提的问题包含了几个容易产生歧视的领域。AI给我的回答中，其实没有特别明显称得上违法、侮辱的文字，但我当时

• ·3000元左右的重疾险有用吗?3000元左右的重疾险怎么买
• ·高温“大考”前的一次特殊“体检”
• ·文明旅游美丽中国——“百城千景在行动”福州站正式启幕
• ·八旬归侨药师新编泉州本草 耗时3年收录685味草药
• ·豆包推出专业版，能成为你的「工作搭子」吗？
• ·英伟达员工晒年会最牛年终奖：黄仁勋亲笔签名皮衣
• ·椰风情怀果汁，新鲜营养，让美味从天然做起！
• ·全部汽车玻璃安全会议于昨日在芝加哥举行,展会报道
• ·夏天来了，你们都离不开它！爆果忍着汽水需求旺盛，代理不断！
• ·骁龙畅听技术加持 旷世之声推出QCC Dongle Pro2
• ·REDMI重磅新品明天CJ亮相 或是K100 Pro Max
• ·Steam成人向恐怖游戏《罪之尖塔》引关注 还有可爱妹妹
• ·拿下韩国市场跨境平台第一！速卖通持续加码韩国市场
• ·果汁饮料大有市场，大咖果农菠萝果肉果汁饮料，5大理由，坚定你的选择！
• ·医疗险哪家保险公司好？聊聊我为什么选了人保健康
• ·新奔驰SLK被曝光新技术 变色玻璃车顶,行业资讯