人工智能“伪造”新书售卖，尽快规范AI的发展很有必要

电子发烧友网报道（文/李弯弯）近日，知名作家简·弗里德曼(Jane Friedman)发现，亚马逊上有以她的名义出售的新书，只是这些书不是由她所写，而是由人工智能(AI)伪造的。

人工智能“伪造”新书并不是新鲜的事情，在当前的网络文学中，已经有很大的一部分的网络文学作品都出自人工智能。可以说，只要能够掌握CahtGPT并且熟练的调用，不仅能模仿各种作者的风格，还可以根据用户的要求持续性的创作。

人工智能伪造新书售卖

弗里德曼告诉媒体，一位细心的读者想要阅读更多她的作品，在亚马逊上购买了一本新书。虽然该书的标题与她过去所写的主题十分相似，但文字内容明显是由人工智能生成式模仿她的风格而成。

她表示：“当我看到这些书时，浏览开头几页及简介，就很明显大部分内容都是由人工智能生成的，因为我在网上有很多免费的内容，如写博客，所以让人工智能来模仿我的风格并不难。”

事实上，AI早就被用来出版书籍。施普林格·自然曾于2019年出版了第一本完全由AI生成的有关锂离子电池的图书，书名为《锂离子电池：计算机生成的当前研究摘要》。施普林格·自然携手德国法兰克福大学等机构合作开发了一种算法，用这种算法自动编写了一本有关锂离子电池最新研究进展的图书。

随后，2021年，施普林格·自然采用混合人机交互方式出版了另一本AI生成的文献综述图书《气候、行星和进化科学：计算机生成的文献综述》。不同于此前完全基于AI生成的关于锂离子电池的图书，这本新书采用了创新的混合人机交互方式。

新书将人工撰写的文本和计算机生成的文献综述融合起来，计算机根据施普林格·自然出版的期刊先前发表的大量文章生成文献综述，然后由作者放入图书的各个章节并提供科学观点。

《CRISPR——计算机生成的文献综述》一书则是由施普林格·自然最新的AI平台自动生成。如今随着CahtGPT等生成式AI工具的出现，AI模仿作者出书的能力更强。

需要尽快规范生成式AI的发展

生成式人工智能工具如ChatGPT目前能够快速、廉价地产生大量令人信服的文本。一些作家和作者已经对此发出警告，担心他们的工作会被这项新技术取代。同时，还有些作家表示不希望自己的研究成果被用于训练人工智能模型。

上个月，美国立法者与创意产业成员包括作家协会进行了会面，讨论了人工智能的影响。非营利作家倡导组织作家协会的首席执行官玛丽·拉森伯格呼吁制定立法保护作家免受人工智能的影响，其中包括要求人工智能公司在训练模型时保持透明度。

此外，超过1万名作家，包括玛格丽特·阿特伍德、詹姆斯·帕特森和强纳森·法兰森等人，签署了一封信，要求微软、Meta Platforms和Alphabet等公司的领导人在未经许可或未支付报酬的情况下不要使用他们的作品来训练人工智能系统。

对于人类社会而言，AI所带来的挑战已经越来越明显。业界认为，尽快通过立法的方式来规范AI的发展很有必要。事实上，自ChatGPT发布以来，许多国家和地区也意识到其中的风险，开始规制或限制相关应用。例如，欧盟将ChatGPT等生成式人工智能列入高风险人工智能清单，意大利等国一度以保护隐私为由在全国范围内禁止使用ChatGPT。

我国不久前发布《暂行办法》全面、系统地为生成式人工智能的应用设定了规制框架。比如，对于生成式人工智能可能产生的风险，《暂行办法》要求生成式人工智能服务的提供者和使用者遵守法律、行政法规，尊重社会公德和伦理道德，尤其要做到：其一，不得生成虚假有害信息等法律、行政法规禁止的内容；其二，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；其三，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；其四，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；其五，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

小结

生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，如今已经在多个领域实现应用。然而，生成式AI为人们的生产生活带来便利的同时，也带来了诸多挑战。当前，除了探索生成式AI落地应用，也需要积极思考如何规范AI的发展，以保证其真正赋能人们的生产生活，而不是造成危害。