K8凯发(中国)天生赢家·一触即发

K8凯发(中国)天生赢家·一触即发【科技日报】构建AI时代的科研诚信体系
栏目:k8凯发官网资讯 发布时间:2025-09-30
 ——习在致中国科学院建院70周年贺信中作出的“两加快一努力”重要指示要求  1949年,伴随着新中国的诞生,中国科学院成立。作为国家在科学技术方面的最高学术机构和全国自然科学与高新技术的综合研究与发展中心,建院以来,中国科学院时刻牢记使命,与科学共进,与祖国同行,以国家富强、人民幸福为己任,人才辈出,硕果累累,为我国科技进步、经济社会发展和国家安全做出了不可替代的重要贡献。更多简介 +  中国

  ——习在致中国科学院建院70周年贺信中作出的“两加快一努力”重要指示要求

  1949年,伴随着新中国的诞生,中国科学院成立。作为国家在科学技术方面的最高学术机构和全国自然科学与高新技术的综合研究与发展中心,建院以来,中国科学院时刻牢记使命,与科学共进,与祖国同行,以国家富强、人民幸福为己任,人才辈出,硕果累累,为我国科技进步、经济社会发展和国家安全做出了不可替代的重要贡献。更多简介 +

  中国科学院院级科技专项体系包括战略性先导科技专项、重点部署科研专项、科技人才专项、科技合作专项、科技平台专项5类一级专项,实行分类定位、分级管理。

  为方便科研人员全面快捷了解院级科技专项信息并进行项目申报等相关操作,特搭建中国科学院院级科技专项信息管理服务平台。了解科技专项更多内容,→

  中国科学技术大学(简称“中国科大”)于1958年由中国科学院创建于北京,1970年学校迁至安徽省合肥市。中国科大坚持“全院办校、所系结合”的办学方针,是一所以前沿科学和高新技术为主、兼有特色管理与人文学科的研究型大学。

  k8凯发官网

  中国科学院大学(简称“国科大”)始建于1978年,其前身为中国科学院研究生院,2012年经教育部批准更名为中国科学院大学。国科大实行“科教融合”的办学方针,与中国科学院直属研究机构(包括所、院、台、中心等),在管理体制、师资队伍、培养体系、科研工作等方面高度融合,是一所以研究生教育为主的独具特色的高等学校。

  上海科技大学(简称“上科大”),由上海市人民政府与中国科学院共同举办、共同建设,由上海市人民政府主管,2013年经教育部正式批准。上科大致力于服务国家经济社会发展战略,培养科技创新创业人才,努力建设一所小规模、高水平、国际化的研究型、创新型大学。

  人工智能(AI)在广泛赋能科学研究的同时,也催生了“AI洗稿”“数据装饰”“代笔”等一系列新型科研诚信问题。如何应对这些新挑战,已成为关乎科学事业健康发展的关键课题。

  9月26日,中国科学院学部科技伦理研讨会在北京举行,主题为“人工智能时代的科研诚信”,旨在为应对AI时代的科研诚信挑战建言献策,为完善我国科研诚信体系、推动AI的负责任应用凝聚共识。

  自ChatGPT等大型语言模型问世以来,人工智能已广泛应用于知识获取、数据分析和学术写作等领域,显著提升了学习与研究效率。然而,AI的深度介入也使学术活动的主体构成发生根本性变化。

  以“算法参与”为特征的科研模式,导致了贡献界定模糊、研究过程不透明、结果可解释性下降等一系列新问题。更复杂的是,AI系统可能携带算法偏见,甚至生成虚假或误导性内容,这使研究结果的可靠性面临严峻挑战。

  中国科学院学部科学道德建设委员会主任胡海岩院士在致辞时强调,当前AI检测技术的发展明显滞后于AI生成技术,传统查重与识别手段效力渐微,致使科研不端行为更具隐蔽性和复杂性。大量因AI随机生成内容和虚假引文导致的撤稿案例,已引发国际学术界的广泛警惕。

  “AI的应用,至少从两个方面加剧了传统的科研不端行为。一是生成式AI速度快,大幅降低了造假成本;二是目前大语言模型生成内容的结构、格式、语法,都呈现出较高水准,检测判断的难度急剧增加。”中国科学院院士、北京大学教授梅宏分析道。

  AI的应用也带来了不少新问题。“比如,AI的介入模糊了责任边界。大模型生成的错误或‘幻觉’内容,应被视为‘诚实的错误’还是归责于使用者?大模型能否作为作者或共同作者?”梅宏举例说,“操纵AI审稿”等新伎俩已经出现,如在论文中隐藏“仅限正面评价”的指令,以欺骗AI评审系统。

  尤为值得警惕的是,AI生成内容可能污染人类知识体系。近期案例显示,有自媒体账号发布杜撰的“科技新闻”,虚构顶尖大学的研究成果。这些由AI炮制、语言通顺但事实错误百出的文章被广泛传播,误导公众并侵蚀知识的可信基石。

  对此,中国科学院院士、南京大学党委书记谭铁牛表示,AI生成的虚假或错误内容,若未被有效识别而进入学术传播链条,长期危害不容小觑。

  面对这些挑战,我们必须采取系统性的综合措施,在拥抱技术创新的同时,坚决守住科研诚信的底线。梅宏建议,持续深化理论探讨与案例研究,厘清AI对科研诚信的影响机制;全面开展科技伦理教育与AI技能培训,引导科研人员负责任地使用AI工具;积极凝聚全球共识,构建适应AI时代的科技伦理治理体系。

  “人工智能对于科学研究而言,既是赋能创新的‘阿拉丁神灯’,也可能是开启风险的‘潘多拉魔盒’。”谭铁牛认为,我们唯有坚持管理与技术并重、制度规范与教育文化协同、国内治理与国际合作并举的综合施策思路,才能破解人工智能时代的科研诚信难题,确保我国科技事业在健康可持续的轨道上行稳致远,为人工智能更好地造福人类贡献中国智慧与中国方案。

  人工智能(AI)在广泛赋能科学研究的同时,也催生了“AI洗稿”“数据装饰”“代笔”等一系列新型科研诚信问题。如何应对这些新挑战,已成为关乎科学事业健康发展的关键课题。9月26日,中国科学院学部科技伦理研讨会在北京举行,主题为“人工智能时代的科研诚信”,旨在为应对AI时代的科研诚信挑战建言献策,为完善我国科研诚信体系、推动AI的负责任应用凝聚共识。自ChatGPT等大型语言模型问世以来,人工智能已广泛应用于知识获取、数据分析和学术写作等领域,显著提升了学习与研究效率。然而,AI的深度介入也使学术活动的主体构成发生根本性变化。以“算法参与”为特征的科研模式,导致了贡献界定模糊、研究过程不透明、结果可解释性下降等一系列新问题。更复杂的是,AI系统可能携带算法偏见,甚至生成虚假或误导性内容,这使研究结果的可靠性面临严峻挑战。中国科学院学部科学道德建设委员会主任胡海岩院士在致辞时强调,当前AI检测技术的发展明显滞后于AI生成技术,传统查重与识别手段效力渐微,致使科研不端行为更具隐蔽性和复杂性。大量因AI随机生成内容和虚假引文导致的撤稿案例,已引发国际学术界的广泛警惕。“AI的应用,至少从两个方面加剧了传统的科研不端行为。一是生成式AI速度快,大幅降低了造假成本;二是目前大语言模型生成内容的结构、格式、语法,都呈现出较高水准,检测判断的难度急剧增加。”中国科学院院士、北京大学教授梅宏分析道。AI的应用也带来了不少新问题。“比如,AI的介入模糊了责任边界。大模型生成的错误或‘幻觉’内容,应被视为‘诚实的错误’还是归责于使用者?大模型能否作为作者或共同作者?”梅宏举例说,“操纵AI审稿”等新伎俩已经出现,如在论文中隐藏“仅限正面评价”的指令,以欺骗AI评审系统。尤为值得警惕的是,AI生成内容可能污染人类知识体系。近期案例显示,有自媒体账号发布杜撰的“科技新闻”,虚构顶尖大学的研究成果。这些由AI炮制、语言通顺但事实错误百出的文章被广泛传播,误导公众并侵蚀知识的可信基石。对此,中国科学院院士、南京大学党委书记谭铁牛表示,AI生成的虚假或错误内容,若未被有效识别而进入学术传播链条,长期危害不容小觑。面对这些挑战,我们必须采取系统性的综合措施,在拥抱技术创新的同时,坚决守住科研诚信的底线。梅宏建议,持续深化理论探讨与案例研究,厘清AI对科研诚信的影响机制;全面开展科技伦理教育与AI技能培训,引导科研人员负责任地使用AI工具;积极凝聚全球共识,构建适应AI时代的科技伦理治理体系。“人工智能对于科学研究而言,既是赋能创新的‘阿拉丁神灯’,也可能是开启风险的‘潘多拉魔盒’。”谭铁牛认为,我们唯有坚持管理与技术并重、制度规范与教育文化协同、国内治理与国际合作并举的综合施策思路,才能破解人工智能时代的科研诚信难题,确保我国科技事业在健康可持续的轨道上行稳致远,为人工智能更好地造福人类贡献中国智慧与中国方案。(原载于《科技日报》2025-09-30 03版)