前言：11月22日在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学教授梅宏，再度发声认为，当前AI面临此三大问题。
（1）泡沫太大，仍处于技术成熟度曲线（hype cycle）的高峰阶段，喧嚣埋没理性，需要一个冷静期；
（2）以偏概全，对成功个案不顾前提地放大、泛化，过度承诺；
（3）期望过高，用户神化AI的预期效果，提出难以实现的需求。
文 ｜ 《中国科学报》 (2024-11-27 第3版 领域)
“智能是人类区别于其他动物的专有特征，特别是认知能力。我们可以接受机器在感知能力方面超越人类，但对机器认知智能的研发，需要高度审慎。从科技伦理的视角来看，我们为什么要造出一个替代我们认知的东西？”
11月22日，在以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学教授梅宏直指当前数字技术面临的伦理挑战。
从智能制造到智慧城市，从医疗健康到金融服务，当前大语言模型火爆，人工智能（AI）风头正盛。梅宏认为，在AI热潮中，泡沫太大，仍处于技术成熟度曲线的高峰阶段，喧嚣埋没理性，需要一个冷静期。
他强调，虽然基于当前的技术路径，大模型尚不能“无中生有”，做出超越人类预期的事情，但一味信奉“蛮力”、追求规模，也极易发展出在覆盖面和复杂度上人们难以掌控的“巨兽”。
“拿着手机读不到有价值的内容”
现实情况不尽如人意
没有跳出概率统计框架
适时调整伦理审查的复核清单
日前，中国计算机学会刊发中国科学院院士梅宏《对当前人工智能热潮的几点冷思考》一文。文章指出，当前社会经济发展中，“人工智能”（AI）无疑是焦点之一。技术的迅猛发展，尤其是深度学习方面的突破，不仅推动了AI技术本身，也对社会经济产生了深远的影响。然而，在这一片繁荣景象的背后，AI领域的大同行却对当前AI发展中的“过热”现象表达了担忧，并对AI技术路径多样性欠缺的问题提出了思考。
文章原文
对当前人工智能热潮的几点冷思考
注：
1 第一定律是机器人不得伤害人类，或因不作为而让人类受到伤害；第二定律是机器人必须服从人类的命令，除非这些命令违背了第一定律；第三定律是在不违背第一与第二定律的前提下，机器人必须保护自己。
2 https://openai.com/
3 https://openai.com/chatgpt/
4 https://deepmind.google/
文章整理自《中国科学报》、中国计算机学会 、数据君
本文转自微信公众号“工业互联说”。
更多精彩文章请点击下面“蓝字”标题查看：
CALL FOR PAPERS｜《物理与工程》征稿量子世纪年
乌云里的常数——4.14话h
会议纪要｜2024年全国高等学校物理基础课程教育学术研讨会
2023版《理工科类大学物理课程教学基本要求》内容细化修订解读
中国大学物理教育MOOC联盟2023年工作会议（扩大）暨典型案例交流会 会议纪要
2021年《物理与工程》优秀论文、优秀审稿专家、优秀青年学者名单
王青教授：源自苏格拉底的问题驱动式教育——在互动中共同学习和成长
读后感：教育中的现实和远方
王青教授：昨晚（6月9日），清华电动力学期末考试
朱邦芬院士：“减负”误区及我国科学教育面临的挑战
《物理与工程》2024年第2期目录
乐永康：新冠肺炎疫情防控下美国物理实验教学及中美情况对比 顾牡：对于重新制定的《非物理类理工学科大学物理课程教学基本要求》的认识和体会
朱邦芬院士：从基础科学班到清华学堂物理班
朱邦芬院士：对培养一流拔尖创新人才的思考
李学潜教授：物理是一种文化
李学潜教授：如何帮助物理系学生迈过从高三到大一这个坎
穆良柱：物理课程思政教育的核心是科学认知能力培养
穆良柱：什么是物理及物理文化？
穆良柱：什么是ETA物理认知模型
穆良柱：什么是ETA物理教学法
吴国祯教授：我的国外研究生经历印象——应清华大学物理系“基科班20年·学堂班10年纪念活动”而写
陈佳洱，赵凯华，王殖东：面向21世纪，急待重建我国的工科物理教育
王亚愚教授：清华物理系本科人才培养理念与实践
葛惟昆教授：关于中外人才培养的几点思考
安宇教授：为什么传统的课堂讲授模式需要改变
安宇教授：其实教学就是积累的过程
刘玉鑫教授：关于本科生物理基础课程教学和教材编著的一些思考
沈乾若：重创理科教育的美加课程改革
Henderson C：美国研究基金支持下的物理教育研究及其对高等物理教育的影响
《物理与工程》期刊是专注于物理教育教学研究的学术期刊，是中国科技核心期刊，1981年创刊，欢迎踊跃投稿，期刊投审稿采编平台：
欢迎关注