2023年北京智源大会AI安全话题备受关注 《人机对齐》中文版首发

6月9日至10日，2023年北京智源大会在京举行。

大会集结全球AI领域大咖。

红网时刻新闻6月10日讯（记者 蔡娟 通讯员 周洋）6月9日至10日，2023年北京智源大会在京举行。作为人工智能巅峰盛会，大会集结全球AI领域的探索者、 实践者、以及关心智能科学的兴趣爱好者，上演百场精彩报告，研讨分享研究成果、交换实践经验、建立联系合作，共同见证一场关于智能的惊叹演化。

6月10日全天为“AI安全与对齐”主题论坛。进入大模型时代，如何确保越发强大和通用的人工智能系统安全可控，符合人类意图和价值观，是极为重要的一个问题。这一安全问题又被称为“人机对齐”（AI alignment）问题，它代表了本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。

论坛上，“深度学习之父”Geoffrey Hinton、OpenAI创始人Sam Altman和中国科学院院士张钹等14位国内外嘉宾，围绕人机对齐、大模型的可拓展监督、人工智能的生存风险，以及其他人工智能安全相关的议题带来精彩报告。

《人机对齐》中文版新书首发仪式。

《人机对齐》作者布莱恩·克里斯汀（Brian Christian）线上发言。

《人机对齐》中文版新书首发。

同时，与此次论坛议题高度契合的科学作家布莱恩·克里斯汀(Brian Christian)的最新作品——《人机对齐》中文版（英文书名《The Alignment Problem》）也在会上震撼首发。该书由湖南科学技术出版社引进出版，安远AI审校。安远AI创始人谢旻希主持此次新书发布仪式。

论坛当天，畅销书作家、《人机对齐》作者布莱恩·克里斯汀应邀线上发言，对《人机对齐》新书内容作介绍。他表示，期望《人机对齐》的出版能为中国AI领域活跃且持续的探讨作出贡献，也期待看到此次大会的探讨以及中国AI领域的研究将如何促进人机对齐领域的全球发展。

《人机对齐》全书共分为三篇。第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨，第二篇名为自主，焦点从监督和自监督学习转移到强化学习，第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。《人机对齐》中文版的发布，不仅对研究人员起到帮助，更能有助于非专业人士走进这个领域。

《人机对齐》在2023年北京智源大会会场展出。

如今的“机器学习”系统已具备非凡能力，能够在各种场合代替我们看和听，并代表我们做决定。但是警钟已经敲响。随着机器学习飞速发展，人们的担忧也在与日俱增。如果我们训练的人工智能（AI）做的事情与我们真正的目的不符，就会引发潜在的风险和伦理问题。研究人员称之为对齐问题（the alignment problem）。

《人机对齐》一书中，布莱恩·克里斯汀用生动的笔调，清晰阐释了AI与我们息息相关的问题。在书中，我们将认识第一批积极应对对齐问题的学者，了解他们为了避免AI发展的局面失控，付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史，并且亲自深入科研一线同科学家对话，准确呈现了机器学习最前沿的进展。读者可以清晰认识到，对齐问题研究的成败，将对人类的未来产生决定性影响。

对齐问题还是一面镜子，将人类自身的偏见和盲点暴露出来，让我们看清自己从未阐明的假设和经常自相矛盾的目标。《人机对齐》是一部精彩纷呈的跨学科史诗，不仅审视了人类的科技，也审视了人类的文化，时而让人沮丧，时而又柳暗花明。

《人机对齐》在国外出版后反响热烈，被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一，被《纽约时报》评为关于AI关键技术和道德问题的best书籍，如作者布莱恩·克里斯汀所言：“希望中国AI领域以及更广泛的中国读者也可以读到这本书，希望对你们而言，这本书是内容丰富、发人深省、鼓舞人心的，不仅对于作为研究人员有帮助，也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”