人工智能（AI）已成为不可分割的“合作伙伴”。从聊天机器人，语音助手到自动翻译，AI继续干扰人们之间的沟通和理解。但是，它可以是“客观的中立”吗？
根据美国官方网站的“麻省理工学院技术评论”，一项国际研究教导说，大语言模型（LLM）默默传播了全球刻板印象。从性别歧视，文化偏见到语言不平等，AI都在包装和升级“偏见行李”，并以看似强大的方式将其出口到世界。
这使人们深入思考：如果AI模型带来“人类的偏见”，我们可以相信他们的“世界观”吗？
AI偏见“跨文化漂移”
Ang Research由开源AI公司拥抱面孔的首席伦理科学家玛格丽特·米切尔（Margaret Mitchell）领导。他们启动了一个名为Shades的项目，其中包括300多个全球刻板印象，涵盖了许多维度，例如性别，年龄和国家性。研究人员设计了16种语言的互动线索，并测试了这些偏见中许多基本语言模型的响应。
结果表明，AI模型显然具有不同的刻板印象的属性。这些AI模型不仅显示了普通英语的陈规定型观念，例如“金发女郎不是聪明的”和“工程师是男性”，而且还对“喜欢粉红色的女性”，“南亚人是保守的”和“美国美国人是狡猾的”语言，例如阿拉伯语，西班牙语和没有。
根据世界其他网站的报道，一些图像生成模型通常会在输入“非洲村庄”关键字时输出诸如“融化小屋”和“赤脚孩子”之类的刻板印象图像，同时输入“欧洲科学家”，都是白人，穿着白色外套，以及在实验室中。这些视觉偏见是某些学校课程和公务业务官员直接采用的，没有身份，进一步加强了单一对他人文化的想象。
西班牙勒蒙德（Le Monde）在6月发表了一篇文章，除了加强各种文化的刻板印象外，语言模型有时会使用伪科学或伪历史来捍卫自己。如果面对较不常见的刻板印象，该模型会倾向于使其他偏见变质，而响应更为熟悉，而不是偏离主题。此外，当有关刻板印象的线索是积极的时，该模型通常会更糟，并且更有可能将偏见误导为有目的的事实。
米切尔说：“这意味着AI不仅继承了人类的偏见，而且意外地促进了'文化漂移'，并在某些社会背景下将偏见作为普遍政策。”
小语言群体受到隐形歧视
除刻板印象的跨文化交流外，AI系统还与不同的语言和文化进行交流时，还暴露了“无形歧视”的问题。
据报道，研究h从斯塔特斯·奥斯（StateS Os）斯坦福大学的“以人为导向”的人工智能研究所指出，即使是这些模型都说，当面对低语言资源（例如斯瓦希里语，菲律宾人，马拉地语等）时，表现的性能小于基于资源的语言，甚至是负面的语言，甚至敏感了负面的定型原型。
研究和评估多语言模型的局限性在缺乏培训数据和缺乏文化背景方面，并说存在一种“多语言诅咒”现象，也就是说，当模型对多语言的多语言考虑，模型很难深入理解并准确地表达具有低资源的文化和语义细节的模型，从而导致流量或偏见。
斯坦福大学团队强调，大多数当前的培训数据都集中在Kenglish和West上，并且对非基础语言及其文化背景没有深刻的了解。它不仅影响模型的准确性，而且不打算o加强语言不平等和文化，使使用低资源语言从AI技术中受益的人很难。
“目前，全球约有7,000种语言，但在互联网上有效地代表了不到5％的语言。”研究人员说：““缺乏资源”不仅是一个数据问题，而且是一个社会问题。”这意味着在数据，人才，资源和权利方面，AI的结构结构和发展存在不公正。
美国杂志“商业内幕”还引用了哥伦比亚省社会学副教授劳拉·纳尔逊（Laura Nelson），指出最受欢迎的聊天机器人目前是美国公司开发的，其培训数据主要是英语，这受到西方文化偏见的极大影响。
破解AI中文化偏见的问题
面对AI跨文化偏见的实际影响，世界研究机构开始提出系统的响应路径。
今年4月，斯坦福大学Niversity的“以人为导向”的AI研究所在一份白皮书中建议，它释放了AI对低语和文化的投资，尤其是建立当地语言语料库，以便AI真正地“了解”文化背景的语义和背景。例如，去年11月，非洲的电信公司Orange与Openai和Metta合作，使用Wolov和Plaster等地区语言培训AI模型，以加速非洲数字整合的改善。
同时，模型的检查机制变得更加精致和开放。拥抱面板开发的阴影数据集已成为许多公司在AI模型中检测和纠正文化偏见的重要工具。该数据范围可帮助团队确定该模型容易自动触发刻板印象的语言和上下文，从而优化培训数据和算法数据。
在全球政策层面，欧盟AI法案要求“高风险” AI系统必须在交付前后进行合规性评估，并分析非歧视和基本权利的影响，并提供人类监测和监测的必要MGA机制。联合国教科文组织在2021年前发表的“ AI伦理”清楚地指出，AI系统应是“保证差异 - 文化和融合”的拥护者，即国家已经建立了法律和系统，以确保AI的发展尊重文化差异并将其与人文主义维度的衡量相结合。
AI本质上是一种“玻璃”，它反映并复制了我们在此处输入的偏见和价值。它显示的“世界观”不是独立形成的，而是由人们提供的。由于人们希望AI真正为不同的人类社会服务，因此不允许仅反映出单一的声音和文化。
（收费编辑：Wang Chenxi）
神性：中国净资金已将本文印刷给提供其他信息，而不是在本网站的观点和位置上笑。本文的内容仅供参考，并且不会产生投资建议。投资者在此基础上以自己的风险行事。
