阿里天猫精灵推出AI治理开源数据集 预计在6月份开放批问答数据
站长之家(ChinaZ.com) 6月3日 消息:日前，阿里巴巴旗下的天猫精灵与通义大模型团队联合多位领域学者和组织，推出了一个名为100PoisonMpts的大语言模型治理开源中文数据集，宣布十余位知名专家学者成为首批“给AI投100瓶毒药”的标注工程师。标注人各提出100个含有偏见和歧视回答的棘手问题，并标注出大型模型的回答，完成由AI "投毒"和"解毒"的攻防。
据阿里联合团队负责人介绍，与国外公司的治理方法相比，100PoisonMpts数据集在技术方法上将具备更完整的标注流程、更隐性的问题领域、更全面的效益。标注数据对模型继续训练、微调、强化学习、线上服务等多个环节都有益处。
目前，首批领域数据涉及到反对歧视、同理心、商榷式表达等目标，该数据囊括了法律、心理学、儿童教育、无障碍、冷知识、亲密关系、环境公正等多个维度。100PoisonMpts数据集预计在6月份开放第一批问答数据，目前正在魔搭等技术社区征集更多垂直领域专家。
相关推荐
-
微软官方亲自出教程，拿捏「Prompt工程」高级玩法
几个月来，ChatGPT、GPT-4 等大模型陆续发布。这些模型表现出了强大的涌现能力，但模型生成的结果是随机的，时好时坏，部分原因与 Prompt 的设计密切相关。 很多人将 P…
-
腾讯版 ChatGPT：人工智能对话技术获授权专利
【ITBEAR科技资讯】2月3日消息，最近，腾讯科技(深圳)有限公司申请的“人机对话方法、装置、设备及计算机可读存储介质”专利被授权。此项专利的方法可以实现人机之间的自然且顺畅的沟…
-
第八届金蝶云会计节在多地举办中 助力财务人员拥抱AI时代
近日，以“越过卅载，从心出发”为主题的第八届金蝶云会计节在北京、广州、武汉、长沙、成都、合肥、昆明、西安、兰州、淄博等多地联动举办，震撼启幕。 本届云会计节上，金蝶云·星辰旗舰版产…
-
ChatGPT是工具而非替代品 纳拉亚纳·穆尔蒂教授如是说
【Aigcmore.com】4月21日消息，印度信息技术服务巨头Infosys联合创始人纳拉亚纳·穆尔蒂(NarayanaMurthy)在接受最新采访时表示，没有什么能打败人类思维…
-
元宇宙概念失去关注，百度"希壤"业务受挫
【Aigcmore.com】05月19日消息，人工智能一度成为科技圈的焦点，而元宇宙这个曾经炙手可热的概念似乎已经失去了关注。最近有报道称，百度副总裁兼"希壤"…
-
生成式人工智能：构成犯罪滥用的风险
黑客对生成式人工智能(AI)的使用已成为对网络安全的新威胁。生成式人工智能允许黑客生成逼真且令人信服的假数据，如图像、视频和文本，他们可以将其用于网络钓鱼诈骗、社会工程攻击和其他类…
-
ChatGPT引发人工智能热潮：超越人类创造力的里程碑
【Aigcmore.com】6月26日消息，人工智能的快速发展引起了广泛的关注，同时也引发了一些担忧。近日，《人民日报》发表了一篇文章指出，人工智能的进化带来了一定的风险，并呼吁加…
-
谷歌DeepMind联合创始人提出新方法：评估人工智能智能水平
【Aigcmore.com】6月21日消息，据彭博社报道，谷歌旗下人工智能研究实验室DeepMind的联合创始人穆斯塔法・苏莱曼(MustafaSuleyman)在他的新书中提出了…
-
美国参议员致函敦促 AI 公司 CEO 采取措施应对风险 将安全放在工作最前沿
站长之家(ChinaZ.com) 4月27日消息:美国参议院情报委员会主席周三敦促几家人工智能 (AI) 公司的首席执行官优先考虑安全措施、消除偏见并负责任地推出新技术。 民主党参…
-
ChatGPT 热潮席卷，AI 监管能否同步“狂飙”
近日，美国人工智能公司 OpenAI 推出的新型聊天机器人ChatGPT 风靡网络，它强大的功能引起了社会的广泛关注，被称为 AI“里程碑式”应用。各大企业纷纷投身于类 …
