专家访谈丨昝红英：应形成跨学科研究团队，共同解决大模型的安全和伦理问题 新东方俞敏洪谈对直播带货团队要求

专家访谈丨昝红英：应形成跨学科研究团队，共同解决大模型的安全和伦理问题 新东方俞敏洪谈对直播带货团队要求， 

专家访谈丨昝红英：应形成跨学科研究团队，共同解决大模型的安全和伦理问题

作为生成式人工智能的代表，大模型已经进入全新的发展阶段。

红星新闻、红星资本局与OpenEval平台联合发起“巢燧杯”大模型创新发展大赛，已于本月正式启动。2024“巢燧杯”大模型创新发展大赛由通用大模型评测、行业大模型评测大赛、专项挑战赛、大模型应用场景挑战赛四个大赛组成。

近日，红星资本局专访了郑州大学计算机与人工智能学院教授、博导，自然语言处理实验室负责人昝红英。她认为近一年来，大模型的能力有了一定提升，研究者们也开始更多地关注模型的效率、可解释性和伦理问题。关注重点也从大模型的参数数量和效果优化转向如何实际进行应用，更加关注大模型的落地应用问题。

同时她认为，大模型的安全和伦理问题复杂，需要多领域知识和技术，还需要形成跨学科的研究团队，共同解决复杂的安全和伦理问题。

大模型要赋能千行百业

应打造行业合作生态

红星资本局：现在我们说AI赋能各个行业，“AI+行业”，这和过去常提及的“互联网+”有什么区别，大模型如何赋能千行百业？

昝红英：“AI+”注重的是通过人工智能技术的运用来改进和优化各种应用场景，使其具备更高的智能化水平。“互联网+”关注的是如何利用互联网技术改造传统行业，创造新的商业模式和增长点，以及促进经济的转型升级。尽管两者都强调了技术与其他领域的结合，但“AI+”更侧重于人工智能技术的应用，而“互联网+”更关注互联网技术对传统行业的影响和改造。

大模型要赋能千行百业，应该打造行业合作生态。比如引导人工智能企业与行业领军企业开展定向合作。基于行业企业提供真实业务场景、数据和行业真实需求，开发核心算法和预训练模型，共同研发落地应用大模型。

平台方面，打造人工智能企业与行业企业的对接平台。搭建人工智能企业与制造业、医疗、农业等行业企业的对接平台，帮助双方实现技术、模型、数据、场景等资源对接，孵化行业领域应用模式。

依托工业互联网平台，打造人工智能企业与行业企业的大模型合作生态。通过工业互联网平台实现两者的快速对接，提供保障算法、模型、数据安全的人工智能要素线上交易服务，面向不同行业建立标准化的大模型开发环境。

红星资本局：您如何看待垂类模型的趋势，垂类大模型的挑战是什么？在应用落地方面还有什么难度？

昝红英：数据质量问题、算法调优难度、应用场景多样性、跨行业合作难题，这些都是垂类大模型的挑战。

垂直领域大模型需要大量的数据进行训练，才能达到最佳效果。然而，在实际应用中，往往存在数据质量不高、数据量不足等问题，导致模型训练效果不佳。

算法调优方面，难度也比较大。垂直领域大模型的算法较为复杂，需要专业的技术人员进行调优。然而，不同行业、不同场景下的算法需求差异较大，如何根据实际情况进行有效的算法调优是摆在技术人员面前的一道难题。

垂直领域大模型的应用需要不同行业的合作，共同推进技术应用。但不同行业利益诉求、技术标准等存在差异，如何协调各方利益、推进合作是一个难题。

大模型落地应用之所以困难，主要是客户对大模型价值和应用领域还缺乏明确认知，高昂的算力成本和数据治理、模型训练与运维的投入使得企业犹豫，而且现阶段技术的可靠性、经济性和易用性尚未达到理想水平。数据共享不足也是阻碍大模型广泛应用的关键问题。

模型的效率、可解释性和伦理问题被更多关注

红星资本局：您认为2024“巢燧杯”相较去年有什么变化？评测维度上又有哪些不同？经过一年这些大模型的总体表现有何进步和关键进展？

昝红英：去年我们的评测主要聚焦于对通用大模型的多个维度进行评测，而2024“巢燧杯”大模型创新发展大赛则由通用大模型评测、行业大模型评测大赛、专项挑战赛、大模型应用场景挑战赛四个大赛组成。

其中，“通用大模型评测”将延续2023年聚焦开源和专有大模型展开通用测试，依托OpenEval平台，对参赛的通用大模型从多个维度进行评测，根据相关大模型更新时间进行复测打榜。行业大模型评测大赛设有金融、医疗、法律、交通、水利、科学六个垂直行业，由北京交通大学、上海交通大学、郑州大学、香港中文大学（深圳）等（排名不分先后）高校分别负责组织各垂直行业的比赛。

在基准评测外，金融和医疗行业还将分别举办产业交流活动。专项挑战赛则聚焦大模型特定维度（如Agent能力、价值对齐等）进行专项评测。目前已确定三个方向：角色大模型专项挑战赛（角色知识）、Agent大模型专项挑战赛（真实场景App工具规划与调用）、大模型道德对齐专项挑战赛（中文道德伦理对齐）。而大模型应用场景挑战赛计划通过调研的方式，发掘企业大模型需求场景，在把部分数据进行隐私处理后，邀请大模型企业针对企业需求场景进行开发训练、活动现场路演，由企业负责人进行打分，评选优秀获奖项目。

大模型技术持续发展，我认为现在模型规模不断增大，除了模型的能力有了一定提升外，研究者们也开始更多地关注模型的效率、可解释性和伦理问题。此外，关注重点从大模型的参数数量和效果优化转向如何实际进行应用，更加关注大模型的落地应用问题。

红星资本局：在水利行业的大模型评测时，您是如何确定评测标准的？水利行业在大模型评测中有哪些独特的需求和挑战？

昝红英：数据复杂性是水利大模型的主要挑战。水利大模型需要大量的地理、气象、水文、环境等多源异构数据。数据的质量、完整性和可获得性往往是限制模型性能的重要因素。

另外，将大模型应用到实际的水利资源管理及风险预警中，如何保证大模型输出的正确性是一个重要挑战。我认为对于大模型确实不知道的内容，应该回答“不知道”，而不应该产生幻觉问题编造答案。

这一次的评测任务中包含了不同的题目类型。为了提高评测效率，我们采用了自动化的评估指标。对于答案具有多样性的问答式生成任务，我们通常采用ROUGE-L、BLEU和BERTScore等指标来评估大模型输出与标准答案的匹配与相似程度。对于有固定答案的选择式或填空式任务，我们主要采用准确率作为指标。

应形成跨学科的研究团队

共同解决大模型的安全和伦理问题

红星资本局：本次测评还提到了大模型伦理、安全，目前我们在这方面还存在哪些欠缺，如何完善？

昝红英：比如数据来源验证不足、数据加密技术性能开销大、防御效果与模型性能之间的权衡、越狱攻击和提示注入攻击等问题。这种就需要改进数据加密技术、提高模型的鲁棒性、总结并分享最佳实践、持续进行防御策略研究。

还存在缺乏全面的安全风险建模和评估系统、模型决策过程不透明，难以理解等问题。这种就需要构建系统化的安全评估系统，引入XAI（可解释性AI）技术等方式来解决。

伦理原则都相对比较抽象，难以转化为具体的工程实践。我认为需要进行伦理嵌入设计，考虑不同文化和社会价值，探索新的对齐技术和策略。

此外我们还面临着法律法规和监管措施不足，国际合作不充分等问题。我认为需要加快推进人工智能监管立法，政府和监管机构加强对大模型安全和伦理的关注，促进国际合作，确保AI技术的开源开放和普惠发展。

因为安全和伦理问题复杂，需要多领域知识和技术。我们还需要形成跨学科的研究团队，共同解决复杂的安全和伦理问题，确保AI发展应用的负责任和安全可控。

红星新闻记者 王田 实习生 刘川蒙

编辑 邓凌瑶

发布于：四川


新东方俞敏洪谈对直播带货团队要求

IT之家 1 月 25 日消息，新东方创始人俞敏洪此前回顾了一周经历，提到新东方直播带货，俞敏洪称自己并不想成为带货网红。俞敏洪称：“幸好我还是帮助团队卖掉了一点货。我并不想把自己发展成直播带货网红。只有团队自身强大，业务才可以持续发展。我还有更加重要的事情要去做。”

IT之家了解到，2021 年 12 月 29 日，新东方直播带货平台“东方甄选”正式露面，俞敏洪的首场直播带货以约 500 万元的金额落地。据抖音官方披露的数据，俞敏洪排在当晚带货主播榜的第 16 位。

近期，俞敏洪通过老俞闲话再次谈及了对直播带货团队要求，希望可以脚踏实地稳健发展，最后超越期待。俞敏洪称，在 2021 年后上播放了一首改编的歌曲《重生》，后来在网络上流传了开来。歌词如下：

“我的兄弟忽然告别了，再也不来教课了；但是他还放不下孩子们啊，放心，还有我们呐。我的姐妹也有离开的，可能不当老师了；她说她也很挂念原来的家，放心，他坚挺着呢；政策变化、生死大考、至暗时刻里；突然经历停课和分离；沉着应对、奋发图强、自信冲上去；教育巨轮转向再努力。坚守阵地、鼓舞士气、重塑影响力。一步一步脚踏实地，主动转型、拓展业务、革新自己、自信转身，不惧风雨；围棋、书法、演讲、写作、游学和营地，新东方依然很牛逼。感恩大家的关心、祝福和鼓励，失意不忘做公益。即使在最艰难的时光里，肩负责任仍没有忘记。驰援水灾、防控疫情、助力新亚运，哪里需要，哪里就有你。政策变轨，再次思考教育的意义，坚守本质、步履更坚定。突破自我、直播助农，澎湃的热情，新赛道上起舞要自信，没有什么坎坷过不去，我们依然齐心协力。科技发展、日新月异、教育在创新，好老师，还在这里。新年伊始说句祝福语，新年快乐，万事如意，勇担责任、无畏风雨、正能量传递；新东方再创奇迹，身体健康、事事顺心，吉祥又如意。生意兴隆，大吉又大利。学习进步、工作顺利，烦恼一边去；恭喜发财，年年都有余。”

下面是文章内容：

2022 年 1 月 23 日 星期日

忙碌如斯，一个星期就只能写一篇简单的回顾了。

一年只有 12 个月，今天已经 23 号，不知不觉已经快一个月过去了。惊回头，不知不觉，人的一生也是这么快就过去的。回顾过来的岁月，有的人懊恼，有的人后悔，有的人蹉跎，觉得自己过得特别充实、特别愉快的人，并不是很多。

人不能总是蹉跎岁月，但也不能把时间塞得一点轻松的时刻都没有。有句话说：越自律，越自由。但真要做到自律并不是一件很容易的事情。何况万一自律错了，反而是麻烦的事情。比如老年人养身自律，只吃蔬菜不沾荤腥（信仰原因除外），现在研究表明，不沾荤腥对身体并无好处，甚至会伤害身体健康。

这周最让人喜欢的事情，是北京下雪了。2022 年的第一场雪，在大寒这一天降临。雪下得不大不小，飘飘洒洒，下了两天。我录制了两段下雪的视频，放在我的自媒体上，算是表达一种心情，还配了首破诗：“北京的深夜 / 飘舞着雪花 / 无声、无息 / 落在地上 / 白茫茫一片 / 掩盖了旧的岁月 / 迎来了新的惆怅。”本来想写“迎来了新的希望”，感觉“惆怅”更加适合当时的心情。雪有很神奇的作用，本来灰灰黑黑的冬天，盖上一层白雪，突然世界就纯净起来，安静起来。落雪狗欢是真的，我家的那条狗，见到雪，就欢乐地在雪地里来回飞奔起来。

工作依旧繁忙，大部分时间都是无趣的会议和应酬。十几次会议和七八场应酬，都是不太值得记录的事情。不过 21 号，新东方的新春年会，值得留下一笔。年前的时候，大家讨论现在七零八落的状态，还要不要举行新春年会，我说必须举行。越是这样的时刻，越要展示我们乐观的心情和面向未来的决心。

因为疫情，年会只能在线举行，当面参加的人员仅限总部的几十个人。年会展示了新东方欢乐幽默调侃的气氛，全国新东方几万人一起抽奖。今年手头紧张，大家共渡难关，所以抽奖总额不太多。年会播放了预先录制好的一些节目，我给大家做了新年致辞。其中一个改编的歌曲《重生》，后来在网络上流传了开来。歌词如下：

“我的兄弟忽然告别了，再也不来教课了；但是他还放不下孩子们啊，放心，还有我们呐。我的姐妹也有离开的，可能不当老师了；她说她也很挂念原来的家，放心，他坚挺着呢；政策变化、生死大考、至暗时刻里；突然经历停课和分离；沉着应对、奋发图强、自信冲上去；教育巨轮转向再努力。坚守阵地、鼓舞士气、重塑影响力。一步一步脚踏实地，主动转型、拓展业务、革新自己、自信转身，不惧风雨；围棋、书法、演讲、写作、游学和营地，新东方依然很牛逼。感恩大家的关心、祝福和鼓励，失意不忘做公益。即使在最艰难的时光里，肩负责任仍没有忘记。驰援水灾、防控疫情、助力新亚运，哪里需要，哪里就有你。政策变轨，再次思考教育的意义，坚守本质、步履更坚定。突破自我、直播助农，澎湃的热情，新赛道上起舞要自信，没有什么坎坷过不去，我们依然齐心协力。科技发展、日新月异、教育在创新，好老师，还在这里。新年伊始说句祝福语，新年快乐，万事如意，勇担责任、无畏风雨、正能量传递；新东方再创奇迹，身体健康、事事顺心，吉祥又如意。生意兴隆，大吉又大利。学习进步、工作顺利，烦恼一边去；恭喜发财，年年都有余。”

本周另外一件值得一写的事情，是周六晚上去了北京顺义的“分享收获有机农场”，为他们做了一场直播带货。分享农场是一对博士生夫妇经营的有机农场，已经连续深耕了十几年，以会员制的方式，为北京市民提供无公害无农药的蔬菜粮食肉类等。男的叫程存旺，女的叫石嫣，他们的故事可以写一本书。我把石嫣发给我的简介在这里抄一下，大家大概就明白怎么回事。

石嫣说：“2006 年-2008 年，我们跟温铁军老师读研，大量到乡村调研做课题，产生大量对三农的思考和问题意识。2008 年，我去美国明尼苏达一个 CSA 农场参与式研究实习，种了半年地，真正放空自己，思考人生价值和未来方向，土地和食物改变了我，也给予我力量。程存旺因为本科读了《中国农民调查》，从工程管理专业转到农业专业，并在硕士二年级办理了休学一年去支农。

2009 年，我回国正好人民大学在海淀区建立了一个产学研基地，我就申请去了基地，创办了当时国内最早的一个 CSA 市民农园，程存旺也在这个基地里休学工作，我俩在这个时候开始谈恋爱，我们的客户包括自己来农场租地种菜和配送到家两种，从第一年的 54 个到 2011 年的 800 多个，当时也引发了大量的社会关注。

2009-2011，我们两个在此期间翻译了三本著作，其中包括《四千年农夫》、《分享收获社区支持农业指导手册》、《慢钱》，从文化反思到跳出常规后如何实践，再到对农业社会、经济、生态的系统思考实践。

（石嫣和程存旺 图片来源于“分享收获农场”公众号）

2011 年，我俩在农场结婚办了有机婚礼，我博士毕业后到清华大学社会学系做博士后，同时通过五年吃菜众筹 30 万元创办分享收获有机农场，这是我们自己创业。

2014 年，我博士后出站，全身心投入农场的运营。2015 年，程存旺通过天使投资，自己创业“好农场”，希望为广大 CSA 农场提供农场管理平台。2020 年，好农场开始转变思路为地方政府、城投公司、地产的农业项目做规划、设计、运营并进一步根据温铁军老师的三级市场理论做乡村资产的运营平台，目前在福建、广东、安徽等地有项目。2022 年，分享收获十周年，基本形成了一个 300 亩农场的良性循环，北京基地像是“黄埔军校”不断孵化新农人，并为新农人提供后续技术、销售的服务。

总之，我们两个人虽然目前负责不同公司，但都是通过自己的实践去实现乡村建设的理想，在乡村振兴的国家战略下，将我们十多年研究实践的积淀去服务三农。”

（图片来源于“分享收获农场”公众号）

因为最近我也在接触农业和农产品，所以就和他们对接上了。他们也希望通过我能够让更多的人知道分享农场的发展模式，所以我答应他们做一场直播连线，并帮助他们推销一下产品。他们也建了网络商店，但是还没有打开局面。周六晚上 7 点我到达农场，先和石嫣做了一场直播连线，谈谈她做农业的体会，然后又进入他们的直播间，一起推销他们的农产品。经过一个多小时的售卖，卖出去了接近七万元的蔬菜和粮食。因为他们的平台是新平台，流量不是很大，算是一次不错的开端。帮助这样有情怀，并且十年如一日坚守的新农人，是我义不容辞的责任。

除了帮助分享农场进行直播带货，我在周三晚上还自己做了一场以售卖我读过的历史书为主题的直播，共六种不同的书卖出去了六千多本。周五晚上又到东方甄选直播现场串场，和员工一起售卖了接近百万元的农产品。东方甄选在一步步发展起来。我对他们的要求就是脚踏实地，步步为营，稳健发展，最后超越期待。

最重要的直播，是周日晚上和历史作家张宏杰的对谈。很久前我就读过他的《明朝的七张面孔》一书，觉得他对历史人物的剖析深刻到位。最近又读了他的《简读中国史》，觉得写得很好，很有对历史成因的洞察力，因此通过出版社约他对谈，他欣然同意。

和他一起商量对谈的主题，他希望谈谈曾国藩。他研究曾国藩已经很多年，出了好几本关于曾国藩的著作：《曾国藩的正面与侧面》3 本，《曾国藩传》，《曾国藩经济课》。我对曾国藩不是那么熟悉，但谈历史人物也是我的兴趣所在。为了更好地对谈，我又加紧阅读了《曾国藩传》和《曾国藩经济课》，翻阅了《正面与侧面》，这样不至于他讲曾国藩的平生、思想和事迹的时候，我显得十分懵懂。周日晚上的对谈持续了两个小时，对谈非常顺畅，内容也十分丰富，持续在线人数一直在两万人左右。对谈文字记录下来，估计有两万字以上。后续整理好了，会发到“老俞闲话”里面。

一周时间又匆匆而去。这几天晚上，我都会半夜到小区踏雪散步。雪中的户外，寂静无声，天地苍茫，似乎一切安好。但本周发生的二件事，刺痛了全国人民的心。一件是山东的岳 xx，确诊新冠。他的流调轨迹一公开，半个月整整 32 处，几乎全部是半夜打工运送垃圾等，一边打工一边寻找丢失的大儿子，被称为“流调中最辛苦的中国人”。另一件是河南某县县长，为了防疫，不让外地的家乡人回乡过年，号称回去一个抓一个，说他们是“恶意返乡”，由此被网友痛骂，创造了一系列“恶意”词汇，其中我觉得最到位的，就是说某些人“恶意为官”。这两件事，一边是底层的辛苦，一边是小官僚的冷漠，让我们知道，现实并不全部是“岁月晴好”。

真的，希望每一个生存在祖国大地上的人，都有一个温暖的家；希望每一个手握权力的人，都能够有一点人性的温暖和光辉！[db:内容]?