政党ღ★,尊龙ღ★,尊龙凯时人生就是博ღ★,2025年9月26日ღ★,中国科学院学部在北京组织召开2025年度科技伦理研讨会ღ★。会议以“人工智能时代的科研诚信”为主题ღ★,围绕“人工智能时代科研不端行为的界定ღ★、特征及责任主体认定”“人工智能时代科研不端行为审查与监管的技术博弈”“人工智能在科研中的使用边界与伦理红线”“人工智能时代科研治理诚信及实务”四个议题展开研讨ღ★,对人工智能时代的科研诚信展开了全方位ღ★、多角度ღ★、深层次的分析和讨论星空无限传媒国产剧情ღ★,并就具体问题提出了对策建议ღ★。
中国科学院学部科学道德建设委员会主任胡海岩院士在致辞中指出ღ★,以ChatGPT为代表的大语言模型相继问世以来ღ★,人工智能在知识获取星空无限传媒国产剧情ღ★、数据分析及学术写作等领域得到广泛应用ღ★,学习和研究效率显著提升ღ★。但是人工智能的介入根本性地改变了学术活动的主体构成ღ★。这种“算法参与”的科研模式带来了一系列新问题ღ★,包括贡献归属难以明确ღ★、研究过程不够透明ღ★、结论可解释性下降等ღ★。此外ღ★,人工智能系统潜在的算法偏见及其生成虚假或误导性信息的风险也不容忽视ღ★。他强调ღ★,科研诚信是科学事业的基石ღ★,面对人工智能带来的新挑战ღ★,我们要更加坚守诚信底线ღ★,通过协同治理营造良好的科研生态ღ★。
中国科学院学部科学道德建设委员会副主任梅宏院士在引导发言中指出ღ★,人工智能正在逐渐融入科研全过程ღ★,在显著提升科研效率的同时也带来风险ღ★。他通过案例分享ღ★,指出人工智能的科研诚信问题主要出现在两个环节ღ★:一是成果的产出ღ★,二是成果的表达ღ★。他提出要建立健全主动披露和标注制度ღ★,建立涵盖大模型开发者ღ★、创作者ღ★、使用者的标注责任机制ღ★,推进相关标准和规范的制定ღ★。
南京大学教授ღ★、中国科学院院士谭铁牛从人工智能发展趋势ღ★、带来的科研诚信新挑战和应对之策三个角度加以阐述ღ★。他认为ღ★,人工智能总体上还处于发展的初级阶段ღ★,人工智能尚存在“多知ღ★、少智ღ★、无谋ღ★、缺情”等基础性问题ღ★。在新挑战方面ღ★,他通过对比人工智能生成内容和真实实验数据ღ★,阐述了人工智能的“完美造假”ღ★,提出人工智能带来的篡改伪造ღ★、成果归属ღ★、责任界定等系列挑战ღ★。他指出ღ★,通过明确主体责任ღ★、制定各学科领域的人工智能使用规范ღ★、创新人工智能防伪检测和溯源检测技术ღ★、强化高校科研诚信教育培训ღ★、加强国际合作等多种举措ღ★,共同维护人工智能时代的科研诚信ღ★。
国家自然科学基金委员会原副主任韩宇认为ღ★,以人为主体的学术规范虽然效果较好ღ★,但无法适用于人机协同的人工智能时代ღ★。他指出ღ★,在新旧范式转变过程中ღ★,人工智能在适应科学发展要求ღ★、责权合理分享ღ★、影响学者发展等维度仍存在问题ღ★。他认为ღ★,需合理构建人工智能时代的新范式ღ★,在人智和机智共存的阶段ღ★,要坚持以人智为核心ღ★,坚持完善人工智能能力培训ღ★,坚持批判性创新和包容韧性的学术规范引导尊龙棋牌官网35bღ★,坚持驯化人工智能向善ღ★。
爱思唯尔(Elsevier)全球期刊中国区董事孙岩总经理回顾了爱思唯尔的数字化转型历程星空无限传媒国产剧情ღ★。数据显示ღ★,全球人工智能主题文献仅2024年已经达到近50万篇ღ★。在这种背景下ღ★,期刊应该如何应对人工智能带来的科研诚信问题?她认为ღ★,人工智能产生的学术不端行为可能发生在出版过程的各个环节尊龙棋牌官网35bღ★,要“两手抓”ღ★:一手抓技术与人才ღ★,一手抓标准与协作星空无限传媒国产剧情ღ★。开发一流的诚信检查工具ღ★,培养科研诚信领域专业人才ღ★;制定面向作者ღ★、编辑ღ★、审稿人的生成式人工智能学术规范ღ★,并用于实践ღ★,构建人工智能科研诚信新生态ღ★。
中国科学院自动化研究所宗成庆研究员重点阐述了大模型为科技规范和社会伦理带来的挑战ღ★。他提出ღ★,大模型带来训练数据真实性与合法性ღ★、数据开放与版权保护ღ★、人机责任认定等挑战ღ★。在人工智能使用规范方面ღ★,他认为ღ★,要积极拥抱新技术ღ★。对于学生ღ★,应制定相应学术规范加以引导ღ★,合理运用人工智能技术ღ★;对于其他成人ღ★,没有理由也没有必要限制其使用人工智能工具ღ★。
中国科学院文献情报中心马娜副研究馆员指出ღ★,科学研究的严谨性需要准确的知识库ღ★、文献库ღ★、数据库作为“智囊”ღ★。为确保人工智能时代期刊论文的高质量ღ★,Science等国际出版机构制定了出版规范ღ★。在数据方面ღ★,采用强制或建议作者提交研究数据尊龙棋牌官网35bღ★,并开放共享的方式ღ★,推动科学研究的透明性ღ★、可信性ღ★;在署名方面ღ★,学术期刊应明确人工智能系统不能以作者身份出现ღ★,作者需对论文完全负责ღ★。
中国科学技术信息研究所科学计量与评价中心副主任杨代庆研究员围绕学术论文中人工智能使用边界标准化问题ღ★,重点介绍了《学术出版中AIGC使用边界指南2.0》ღ★,从资料收集ღ★、论文撰写ღ★、出版发表的各阶段划定了清晰的“红黄蓝线”标准ღ★,这是人工智能使用的有效实践指导ღ★,有望走向国际化ღ★。
北京航空航天大学和鸿鹏副教授基于案例和调查研究数据ღ★,阐述了生成式人工智能的学术应用潜力ღ★,但也指出其带来了难以认定的学术剽窃ღ★、隐蔽性的数据泄露ღ★、自增强的虚假信息等科研伦理问题ღ★。他认为ღ★,要走出人工智能诱发的学术伦理困境星空无限传媒国产剧情ღ★,应立足“从无到有ღ★、先有后优”的政策思路尊龙棋牌官网35bღ★,对已有学术诚信政策做出调整ღ★,并出台生成式人工智能学术使用指南ღ★。
主旨报告之后ღ★,专家围绕四个议题进行了深入交流ღ★。在“人工智能时代科研不端行为的界定ღ★、特征及责任主体认定”方面ღ★,大家普遍认为人工智能的科研不端行为具有复杂ღ★、隐蔽ღ★、难识别的特点ღ★,容易引发科研诚信治理重构以及科研生态变化的问题ღ★。多数专家认为人应作为科研主体ღ★,并承担主要责任ღ★。研究人员要全面审查人工智能生成内容ღ★,反对“图片误用”等推卸责任的行为ღ★。但是在科研诚信问题与人工智能的关系方面ღ★,专家存在分歧ღ★。部分专家认为ღ★,科研不端行为本质仍属伪造ღ★、篡改ღ★、抄袭范畴ღ★,人工智能仅是引发治理重构的技术诱因ღ★;另一部分专家则认为ღ★,人工智能的介入使科研诚信问题产生了新属性ღ★,需区分与人工智能相关的诚信问题和传统诚信问题ღ★。
在“人工智能时代科研不端行为审查与监管的技术博弈”方面ღ★,专家一致认为ღ★,人工智能既可能成为不端行为的帮凶尊龙棋牌官网35bღ★,也可能成为监督的利器ღ★,如何在攻与防的博弈中保持动态平衡ღ★,是科研诚信治理的重要问题ღ★。关键对策包括ღ★:一是“以技制技”ღ★,开发高级诚信审查工具ღ★,从技术层面引导人工智能的规范使用ღ★,实现“从内到外”的风险预防ღ★;二是强化特殊领域监管ღ★,尤其需加强对生命科学企业的伦理审查ღ★。
在“人工智能在科研中的使用边界与伦理红线”方面ღ★,专家提出需要明确三大核心红线ღ★。一是责任归属红线尊龙棋牌官网35bღ★,即在数据生成ღ★、成果界定及引用标注等关键环节ღ★,必须始终由研究者承担主体责任ღ★。二是能力替代红线ღ★,需明确科研中诸如价值判断ღ★、实验设计及结果阐释等核心环节ღ★,不应完全交由人工智能完成ღ★。三是主体规范红线ღ★,科研共同体需制定统一的人工智能使用规范和标注机制ღ★。国家自然科学基金委员会提供了实践标准ღ★,在进行科研不端行为调查处理中重点把握以下三点ღ★:申请人不允许使用人工智能生成申报材料ღ★;评审专家经批准的情况下可以使用人工智能评审ღ★;项目负责人合理披露研究中使用的人工智能ღ★。
在“人工智能时代科研诚信治理及实务”方面ღ★,专家普遍认可人工智能带来的科研诚信的挑战需要制度ღ★、实践ღ★、教育协同推进ღ★。一是完善科研伦理制度体系ღ★,从软法到硬法体系化分层分类ღ★、有针对性地采取措施ღ★。二是采取多方联动组合的方式ღ★,建立群防群治的格局ღ★,整合科研机构ღ★、企业ღ★、出版机构等多元主体力量ღ★。三是实现全过程敏捷治理ღ★,不断探索兼顾发展ღ★、安全星空无限传媒国产剧情ღ★、可信的治理路径ღ★。
综上ღ★,专家一致认为ღ★,人工智能时代科研不端行为呈现复杂ღ★、隐蔽的特征ღ★。人应该始终作为科研主体并且承担首要责任ღ★,需明确划定人工智能在科研应用中的伦理边界与不同主体的行为规范ღ★,同时关注安全风险防控ღ★。人工智能时代的科研诚信治理需要制度ღ★、实践ღ★、教育三方协同推进ღ★。审查监管需“以技制技”ღ★,同时加强企业伦理审查机制建设ღ★。
谭健英ღ★,中国科学院大学公共政策与管理学院博士研究生ღ★,中国科学院学部科学规范与伦理研究支撑中心研究助理ღ★。研究方向为科技人才星空无限传媒国产剧情ღ★、科技政策;
李瑞ღ★,中国科学院学部科学规范与伦理研究支撑中心助理研究员ღ★。研究方向为国家创新体系ღ★、新兴技术治理;
王振宇ღ★,中国科学院学部科学规范与伦理研究支撑中心执行主任ღ★。研究方向为人工智能科技伦理与治理ღ★、生命健康领域科技战略咨询星空无限传媒国产剧情ღ★、数智中医ღ★。
