浅谈生成式人工智能cHatGPT发展可能带来的潜在风险

咿呀咿呀哦喂

生成式人工智能ChatGPT的横空出世，让一些学者专家惊呼，这是新一轮科技和社会革命开端，具有里程碑意义。此类人工智能技术的核心功能在于真实反馈与强化学习，有助于提高实用性，拓宽应用场景，将在全球范围内带动技术、资本密集投入，进而对科技进步、社会生活等产生一系列重大深刻影响。同时，有不少专家学者指出，这项新技术存在“双刃剑”效应，其短板与潜在风险不容忽视。特别是未来人工智能“武器化”风险需要高度警惕。
一、类似ChatGPT 生成式人工智能或能诱导改变群体认知，存在被特定国家用于意识形态武器等风险。

ChatGPT虽然是最新科技产物，内容生产模式高度依赖数据库构建与人工逻辑训练，这意味着相关应用的“底色”往往由训练数据内容偏向和训练者、使用者的价值观决定。其内容生成是美西方文化的产物，在产出上更倾向西方主流意识形态，对美西方文化的宣传传播有加成作用，因而容易被美西方政府纳入“认知战”体系中。特别是国际重大热点事件发生时，ChatGPT 代表的生成式人工智能能够大量将带有预设价值的合成内容快速投放舆论场，迅速形成舆论攻势，抢战舆论制高点。这类人工智能加持的舆论攻势将使得舆论场上的力量对比更为悬殊，进而影响他国政治与意识形态安全，改变事态走向。在生成式人工智能生产模式下，虚假信息与预设价值问题较难识别。一个政权国家如果对ChatGPT所产出内容不能及时加以鉴别，很可能使虚假信息以高度可信的面貌传播，使公众判断失灵、价值观受到负面影响，进而对政治和意识形态安全带来挑战。
二、生成式人工智能能大大提升开源情报分析综合能力，或成为辅助战略决策、战略设计或战略诱导利器。

ChatGPT 技术应用广泛，将很快全方位嵌入到其他互联网平台应用中，全球网民纷纷涌入其中，真正使互联网平台“一统天下”。这也助于美国部分政策制定者有意加强对全球公共数据、社情民意信息的搜集，依托人工智能技术预测别的国家政策、民意、意识形态等重要走向，成为国家战略决策的重要辅助，甚或进行战略设计或战略诱导，忽悠动员他国民众消耗自身国力、陷入内乱。有专家提醒，ChatGPT有可能成为美国等国家对外开展社会工程的技术工具，被用于精准投放虚假信息、散播极端情绪、挑动社会矛盾，鼓动反抗行动并进行有目的指导。
参见本人文章：浅谈人工智能ChatGPT 与开源情报分析 - 洪国瑞的文章 - 知乎 https://zhuanlan.zhihu.com/p/614532635
三、生成式人工智能存在监控难点，敏感内容审核难度大。

生成式人工智能的内容信息较之传统内容生产方式更难被监测识别。ChatGPT 对大数据与人工逻辑训练的依赖，导致其不同于PGC 与 UGC 等传统内容生产模式，难以进行“前置审核”。因此，由 AI 生成的有害内容可能会“逃逸”出内容安全审核机制，对国家互联网防护墙带来巨大挑战。
四是ChatGPT 面临网络和数据安全领域挑战。

有专家提醒，当前ChatGPT等AICG程序难以区分虚拟情绪与真实表达，数据训练常出现偏误，对信息安全的影响不容忽视。网络安全方面，业界已出现对 ChatGPT 用于网络攻击的担忧，多家网络安全公司报告证明其可能被用于编写恶意软件，使网络攻防 AI 化。数据安全方面，ChatGPT 以大量未标记数据训练模型为基础，开发者需重视数据安全保护工作，应当注意遵守国家数据法规、做好授权工作，同时做好数据库的管理维护，避免非合规的访问和流通。
五是ChatGPT 等应用或面临一定的科技伦理争议。

一方面，ChatGPT 或进一步带来版权问题。生成式人工智能技术的产权保护问题目前仍处在探索阶段，ChatGPT 无论是采用数据爬取方式收集信息，还是进行内容创作，都可能出现版权侵权行为。此前已有创作者提出抗议，认为 AI 本身并没有创造能力、只能通过不断学习人类来生产信息，其行为带有抄袭性质。另一方面，用户对 ChatGPT 的不合规使用，将对学术伦理构成挑战。目前该技术已经能够生成部分学术论文，质量亦有一定保障，但随之而来的学术道德问题已引发教育界争议，学生群体用该程序完成作业甚至作弊的情况有所增多。目前，已有多所欧美知名高校与学术期刊发表声明，将利用 ChatGPT生成文本和数据等行为视作学术不端，亦有教育机构在所辖范围内发布对 ChatGPT 的禁令。
六是生成式人工智能技术发展易诱发社会性失业、数字鸿沟等风险。

如，舆论已经在担忧人工智能技术加剧人类失业问题。随着 ChatGPT的发展，如翻译、写作、数据录入等重复性、基础性、低创新性的工作可能被技术取代，相关行业和岗位的工作机会也相应减少。近期联合国贸发组织发文，担忧更多技能密集型工作将被ChatGPT 抢走，提示发展中国家政府需要加快步伐做好准备。同时，在全球数字化进程中，不同国家、地区、行业、企业、人群利用 ChatGPT 等人工智能获取知识和技术的能力存在现实差异，国家内部和国家间的数字鸿沟会进一步扩大。普通人群的作用被弱化、精英人群更加被依赖，社会不平等问题将更加凸显。
当前，世界各国包括我国对于生成式人工智能产业发展的法律法规体系尚不够完善，甚至存在不少空白。我国可酌情参考美国及欧洲关于相关产业发展的约束政策，着重在目前争议较大的内容生态、版权规制、学术伦理等领域设置规则，以更好地规范相关技术与产业发展，做好应对外部风险挑战的准备，并采取有力措施，保障和鼓励我国人工智能相关产业发展，为其营造良好发展生态，争取在人工智能产业高峰有一席之地。
同时，我国应从战略安全高度看待新兴技术带来的潜在风险，加强我国生成式人工智能技术安全能力与体系建设，着力强化数据库、算法等关键环节的安全防护，同时在研发阶段加强规则设置与准入审核，确保我国技术不失控、不偏向，防范外国技术控制者对我实施渗透破坏等潜在风险。
相关企业也应扎牢网络安全和数据安全防护网，强化数据安全管理，提升技术安全能力，完善平台规则，充分保障用户个人信息与隐私安全，防范可能的“人工智能武器化”风险。