ChatGPT(OpenAI发布的聊天机器人模型)在人工智能技术上实现了重大飞跃,引发了新一轮科技发展浪潮。但其瞬间爆红的背后,隐藏着数据信息及意识形态安全等风险隐患,需要关注和警惕。 一是影响信息安全。ChatGPT使用条款规定,OpenAI对用户输入和输出内容拥有广泛使用权,相关数据将被纳入训练数据库,但却未明确说明如何删除相关信息。从微观层面看,若用户在输入端的相关内容涉及个人隐私或商业秘密,则会导致从输入端到产出端的信息泄露风险。从宏观层面看,ChatGPT搜集到的海量数据将会直接出境,影响国家数据安全。 二是危害意识形态安全。ChatGPT已形成庞大的用户群体,舆论属性和社会动员能力飞速提升,由此带来的意识形态安全风险不容忽视。据相关资料,有用户要求ChatGPT撰写对一些国家元首的歌颂文章,其答案存在一定意识形态的偏见。 三是降低信息精准度。ChatGPT在问题集中的领域,有更多的样本进行学习、训练、自纠;在相对小众的领域,则缺乏足够数据支撑学习训练,很可能会“胡说一番”。长此以往,在某些领域将会出现大范围信息偏差。 四是侵犯知识产权。一方面,ChatGPT的运行基于海量数据信息,其中包括受《著作权法》保护的作品及受《专利法》保护的发明专利等。一些回复内容大量借鉴他人作品或发明专利,有侵犯知识产权的风险。另一方面,我国相关法律对AI机器人能否成为作者仍持否定态度,若相关用户直接使用ChatGPT独立创作的内容,对如何认定作者仍存在法律空白。 五是导致摩擦性失业。从工业革命发展规律看,以ChatGPT为代表的人工智能技术发展到一定阶段后,部分传统行业尤其是初级雇工群体可能会出现短暂的摩擦性失业。ChatGPT目前已在人工客服、翻译、编写代码、撰写文案和脚本、构建数据分析模型等方面展现出较高的能力水平,部分企业为降低经营成本可能会引入相关技术,届时将威胁相关岗位的就业。 六是带来资本泡沫。ChatGPT的热度从春节后第一个工作日便传导到了国内A股市场,汉王科技、360等股价和市值连涨,汉王科技8个工作日累计涨幅高达112%,市值增加46亿元。ChatGPT爆红推动科技投资市场成为当前资本的热门流向,但尚未变现为生产力,短期资本市场的震动不排除市场盲从或有资本力量的操作。 七是触动人类文明格局。工业革命以前,人类社会关系主要由“人与人”和“人与神”构成。第一次工业革命以来,出现了“人与机”的新型社会关系,强调以人为本和机器为人服务。但ChatGPT问世后,机器拥有了强大的自我学习、自我生成和自我独立的能力,将使人机关系发生不可估量的改变。 ChatGPT代表了人工智能领域的发展方向,笔者建议,我们既要持开放态度,与时俱进,积极拥抱,也要未雨绸缪,防范相关风险隐患。 一是对标ChatGPT大力发展自主人工智能技术。下大力气提升人工智能底层技术能力,夯实相关基础设施建设。鼓励和引导国内有关企业积极参与人工智能技术研发,补齐人工智能领域技术短板。 二是加速布局人工智能的应用生态。目前国内外人工智能技术更多处于研发和适用阶段,很多技术尚未真正应用于生产生活。牢牢把握这一契机,推动构建人工智能应用生态,促进人工智能与市场经济形成闭环,使技术真正转化为生产力,实现应用端的“弯道超车”。 三是警惕相关安全隐患。尽快对ChatGPT开展系统性风险评估,全面准确衡量有关隐患。充分利用现有法律体系,加强对ChatGPT等相关技术的监管。从数据、算法、算力三个维度进一步完善人工智能源头治理新范式,构建多元治理路径,守住意识形态和信息安全底线。 四是加强标准引领。在大力发展和应用人工智能技术的基础上,着重发挥标准的引领作用。支持国内企业和行业协会成立人工智能国际标准组织,在相关领域率先形成国际通用规则的“中国方案”。
蒋磊 袁赞
相关文章









猜你喜欢
成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体106689