当前位置:首页 >娱乐 >对“ChatGPT”的冷思考 正文

对“ChatGPT”的冷思考

来源:旋欣头条   作者:热点   时间:2024-03-29 04:24:18

原标题:对“ChatGPT”的对C的冷冷思考

美国人工智能公司OpenAI标识和智能聊天机器人ChatGPT网站页面。 新华社图片

近期,思考一股ChatGPT热席卷全球。对C的冷道念三生人们兴致盎然地与机器人从社会热点谈论到天文地理,思考而ChatGPT也可以较准确理解自然语言提问,对C的冷甚至延伸回答问题的思考关联内容。

相比于以往的对C的冷问答机器人,ChatGPT智能水平有飞跃性提升,思考不仅能以更为拟人化的对C的冷道念三生方式与人类沟通,还可进行文章撰写、思考代码编写等初等创作,对C的冷甚至能够通过美国执业医师执照考试。思考此外,对C的冷ChatGPT针对通识方面问题的思考回答具有相当的逻辑性、体系性、对C的冷科学性,准确性也较高。如果加入专业领域语料库进行针对性训练,或与其他智能算法合并,可衍生出适应多个领域的新型能力。

以ChatGPT为代表的各种人工智能辅助工具不断涌现,帮助人类提升了生产效率。然而,正如“科林格里奇困境”所言:“每一次技术变革都会带来相应的进步,但往往也会带来风险和威胁。”

首先,由于ChatGPT采用了“人在回路”式的模型训练机制,这意味着操控人员将在一定程度上影响它的输出结果。若将该模型叠加认知对抗相关语料库进行针对性再训练,则有可能引导用户产生推理谬误。并且,通过分析用户长期使用中所积累的数据,ChatGPT将有能力对用户进行个性画像,并自主筛选定位用户中的关键岗位人员,对其进行长期的信源控制、认知培塑、信息欺骗或信息轰炸。此外,ChatGPT还存在泄密风险。前不久,三星引入ChatGPT不到20天,便爆出机密资料外泄的意外事件,更是引起了人们的警惕。

其次,ChatGPT模型采用了基于大数据量和巨型模型的深度学习的技术路线,训练模型所需的数据量和计算资源量极高,导致其语料库更新缓慢。目前版本ChatGPT仍基于2021年之前的互联网语料训练,回答部分问题会出现严重错误,尤其在理科和时效性较强的领域,此问题更为突出。另外,其模型训练和使用所需的高算力成本,也大大限制了它的部署范围。

随着人工智能技术的不断演进,人们的弗兰肯斯坦情结越来越严重。不少专家认为,随着技术的持续发展,AI有可能产生自我意识,甚至目前已具有了初级的自我意识和情感。在未来,这是否会成为人工智能与人类伦理道德产生冲突的隐患还不得而知。

OpenAI公司宣布开放API后,已有不少公司将ChatGPT集成到产品当中。这将加速ChatGPT的普及,但由此带来的风险也将成倍增加。面对AI技术浪潮带来的风险与挑战,我们需要积极应对。一方面,应制定国家级人工智能发展战略,从人工智能应用生态和专用智能芯片方面布局,打造自主可控的人工智能产品;另一方面,需联合国际社会共同制定研发、训练和使用人工智能的相关法律、标准和伦理规范,提升人工智能伪造信息、传播虚假消息的法律成本,引导人工智能向服务全人类的方向发展。(■贾理理 岳 凡)

标签:

责任编辑:焦点