一、定制化内容生产对公共议程的弱化风险
算法推荐已成为智能时代内容分发的重要机制，特别是个性化算法推荐。目前ChatGPT提供的定制化内容，较多集中在知识或生活领域，但随着大模型应用的进一步发展，新闻类的定制化内容也将逐步增多。
定制化内容带给人们的满足感不断增强，人们对机器的依赖也会加深，由此带来一种可能：社交平台中人与人的互动，日益让位于智能平台中人与智能机器的互动，这种人机互动将构建一种封闭的个人门户。人们对外界的感知与认知，会越来越多地受制于机器提供的内容。人与人互动的减少，意味着公共性内容在人际网络中的流动减少，由内容引发的交流、对话也在减少。这带来的一个潜在挑战是，公共话题与议程难以形成。
二、虚构性内容带来的幻觉与幻象
智能机器的应用，带来了大量的虚构性内容，包括虚构的资讯与知识、虚假的新闻以及虚构的视觉化内容等。
1. 机器的胡说八道与人的幻觉。当人们希望得到真实的内容，但机器提供的却是虚构、编造的内容时，人们常会调侃机器在“一本正经胡说八道”，并称之为机器的幻觉。如果人不能意识到机器在胡说八道，甚至把这些内容当作真实、可靠、权威的内容，这才是幻觉。机器带来的认知偏差，也会造成人的认知幻觉。
2. 用户制造的虚构内容与虚实难辨的世界。智能时代另一种虚构内容也将大行其道，那就是用户利用AIGC（人工智能生成内容）等智能技术有意制造的虚构内容，特别是虚构的视觉内容。一些机构或个体用户，会基于营利、干扰信息环境或其他意图，通过机器来制造虚假信息。今天，这些虚假信息制造的成本更低，速度更快，也更难识别。
三、整合式内容加工带来的多元影响
ChatGPT等技术可以超越单一内容生产者的局限，收集广泛来源的语料，对多源内容进行深度整合加工。这种整合加工是智能机器内容生产的突出特点，其影响较为多元。
1. 多源内容整合集成的群体智慧与扩展的认知空间。从用户角度看，机器对多源内容的收集与再加工，可使他们突破个人视野与知识的局限，快速获得某个话题下的信息，甚至包括信息的逻辑化整合。ChatGPT为人们提供的答案，正是这样一种逻辑化的信息整合。多源的信息整合加工，很多时候也是跨界信息的整合与碰撞，这会带来原来单一领域不具备的视野与思维，一些行业或专门领域的发展空间也会因此扩展。
2. 加工素材或语料的混乱、结构缺陷等对认知的干扰。机器加工所依赖的素材或语料，直接影响其所生成内容的质量。目前机器在进行加工时，并没有对内容进行查证或审核，因此，整合加工后的内容难免存在很多问题。这些问题，一方面，会对用户的认知产生干扰、误导；另一方面，当用户将机器给的答案进行再传播时，这些有错误或杂质的内容会再次进入语料库，一些错误会被不断放大。
3. 机器加工思维对内容生产丰富性的削弱。无论机器的内容整合能力多强，它都是基于数字化的信息，因此有研究者担心，AI技术遮蔽掉了语言表达中无法被数字化的部分，而这一部分恰恰是知识生产中不可或缺的。如果我们过度依赖AIGC的知识生产，无疑将人类对自身知识掌控的权力也让渡给了AI。当AIGC的知识生产追求对确定性和唯一性的认识时，人类知识的无限可能性被扼杀了。
4. 精加工内容催化的速食化、捷径化内容消费。机器的整合加工，很多时候也是一种精加工，推动各种内容消费趋向速食化，人们自身对信息、知识的理解与消化能力则被弱化。进一步来说，如果将答案作为目的地并停留在此，而不是在获得答案后有更多开放的思考，提出新的问题，思维能力可能会不断衰退。
5. 中庸、平庸的机器整合对人的认知水平的制约可能。ChatGPT的内容生成思路是对语料库中的内容进行选择与重组，主要是基于概率进行文字“接龙”生成句子，目前的模型思路下，虽然“接龙”有一定的随机性，但总体来看，出现概率更高的词更有可能被选中并加入“接龙”，因此，很多时候它反映的是多数人的选择或平均性选择，给人带来中规中矩的感受。
相关拓展：“新常人”：AI高考作文火热的冷思考
四、智能化内容生产是否与创造性绝缘？
1. 机器生产的内容是否具有创造性?
人工智能哲学家博登认为创造力有三种，即组合型、探索型、变革型，这三种创造力都可以发生在人工智能中，机器尤其擅长探索型创造。大多数学者认同人工智能具备这三种创造力，至少组合型和探索型创造力是智能机器具备的。事实上，人类自身很多时候也并非从无到有地进行创造，而是对现有的观念或对象进行重组，甚至这种重组能力也并非人人皆有，多数人是在不断地模仿、重复他人的工作。如果机器能够通过重新组合带给人们新方式、新想法，也可以体现其创造性。
2. 人如何利用机器激发内容生产的创造性?
曾被人工智能“阿尔法狗”打败的顶级围棋棋手柯洁认为：“自从AI进入围棋界后，大部分棋手的能力得到了非常大的提高，从技术上大家变得无比接近，这个行业已经没有秘密和壁垒了，就是看谁更用功，谁对AI的理解更深。”机器提升了人类对围棋的认识能力，打破了人类的思维套路，从而创造了新的可能。在内容生产方面，人们也需要像围棋选手一样去理解智能技术，利用智能技术激发创造力，具体需要在以下几方面做出努力。一是利用机器来拓展认知空间与边界，在突围、跨界、脱轨的思维中获得新灵感。二是为机器设置有创意的生产目标。三是向机器提出可理解的、创造性的行动指示。四是持续保持人类自身的好奇心与想象力。