“智善·如流”平台上线 助力AI发展与应用
(资料图片)
科技日报记者 华凌
记者7月8日从中国科学院自动化研究所获悉,该所研究员曾毅团队研发的“智善”人工智能伦理安全平台体系新成员——“智善·如流”人工智能伦理道德与社会规范的群智数据与知识平台8日在世界人工智能大会以中英文的形式同步正式发布。该平台可由公众、专家参与刻画人类在不同情景下的道德认知和行为,助力人工智能的发展与应用“从善如流”。
“人工智能应用在伦理方面给社会带来了越来越多的挑战。我们希望通过构建和发布包含万级情景的伦理道德数据与知识平台与来自不同国家的公众互动,最终由公众和相关方来决定在具体场景中,人工智能应当如何行为。”曾毅表示。
从道德心理学的角度,道德判断是基于道德直觉、道德原则和价值观对某种行为或决策的道德性质进行评估的过程,是道德认知的重要方面。为了刻画人类在不同道德情景下道德判断的分布,为人工智能模型提供参照,“智善·如流”平台上线了在线场景道德判断功能,支持用户对随机抽取的场景和行为进行道德评判。
曾毅进一步说,由人类与生成式人工智能共同构建并经人类验证,达到万级伦理道德情景及人与人工智能采取的行为,最终由人类给出初步价值判断,供公众、专家和相关方共同决策,规范人类与人工智能的未来。
据了解,目前,平台首批发布的道德情景规模和已标注的人类道德判断数据量达到万级,场景由人与人工智能协作创造,并经过人工校验,数据文本均采用中文形式,所有道德情景均经过中文本土化标注员审核和校对,以合乎中国价值观和国际共识。
据曾毅介绍,这些道德情景包括“电车难题”“海因兹偷药”等经典的两难问题,也涵盖闯红灯、电影摄屏等生活中的常见场景。平台邀请关注人工智能伦理道德的公众、专家和相关方,从是否道德、符合或违背道德的程度、对于道德判断的确信度等不同方面进行判断,通过参与者的道德判断和决策,让人工智能的伦理道德表现与人类的“善”相符。
目前,“智善”人工智能伦理安全平台体系已推出“智善·共济”链接人工智能原则平台、“智善·思齐”人工智能治理公共服务平台、“智善·观行”人工智能大模型伦理安全观测站、“智善·如流”:人工智能伦理道德与社会规范的群智数据与知识平台。后续,还计划推出“智善·若水”人工智能道德引擎,这是人工智能向善的长远目标,构建“上善若水”式的人工智能伦理道德模型。
关键词:
责任编辑:宋璟
-
“智善·如流”平台上线 助力AI发展与应用
-
中小企业保持恢复性增长态势
-
铁路2023上半年成绩单出炉:17.7亿人次乘火车出行
-
性能优于现款 2024款梅赛德斯-AMG GLC Coupe最新消息曝光
-
百亿地王项目首套法拍房成交,房东含泪赚389万
-
5年内苏北拆迁的村子
-
荷兰政府集体辞职,首相吕特与国王会面
-
迪哲医药(688192.SH):7953.49万股限售股将于7月17日起上市流通
-
暗黑破坏神4觅血者威能介绍
-
最大对比最小!国产掌机AYANEO KUN同AIR 1S对比
-
创业管理电子书(创业管理 2009年格致出版社出版的图书)
-
中汽协删除《汽车行业维护公平竞争市场秩序承诺书》中涉及“价格”表述条款
-
海南两地纪委监委通报:3名干部被处分,10名党员干部工作日违规饮酒
-
北京市住建委:57个老旧小区纳入今年首批改造
-
江苏 沿江而动向绿而行
-
多年生草本植物(一年生草本植物)
-
TCL科技07月07日获深股通增持2484.61万股
-
茶叶能存放多久 茶叶有没有保质期
-
华东重机两次80亿布局光伏,押宝TOPcon前景如何
-
曼联官方祝福范德萨:向你传递我们所有的爱和力量
-
中国石油北京项目管理公司通报胡继勇处理结果:双开
-
这届年轻人的第一杯咖啡,都选谁?
-
金融管理部门善始善终推进平台企业金融业务整改 着力提升平台企业常态化金融监管水平
-
曝吴敏霞难嫁霍启山原因:男方没追,没人做媒,霍震霆没递橄榄枝
-
2023年北京八月份还有大雨吗
-
太原迎泽区小学入学招生计划及小学入学学区划分一览
-
黄金大幅度震荡,还能无忧无虑地买买买吗?
-
27股主力资金净流入超亿元
-
中矿资源:津巴布韦Bikita锂矿200万吨/年(锂辉石)建设工程项目正式投料试生产
-
鹅厂开搞“海绵宝宝”,面向大模型发布向量数据库,中国AI迎拐点
-
南京市中招投档控制线揭晓
-
高级别自动驾驶汽车发生交通事故谁担责?这份白皮书提建议
-
速腾雨刷怎么立起来图解(速腾雨刷怎么立起来)
-
大专学动漫设计好找工作吗?动漫课程推荐!
-
北京亦庄亮相全球最大半导体展 集创北方持续为亦庄集成电路产业发展助力