开发者

研究称ChatGPT压力大时会欺骗人类,为何会欺骗人类[压力欺骗]?

开发者 https://www.devze.com 2023-12-15 07:32 出处:网络 作者:开发知识库
欺骗人类是因为算法问题。ChatGPT作为曾经被无数人惊叹的人工智能聊天机器人,如今也曝出惊人内幕,即压力大的时候会欺骗人类。英国《每日邮报》对此进行说明,资料显示英国负责研究人工智能的人员,对ChatGPT进行评

欺骗人类是因为算法问题。ChatGPT作为曾经被无数人惊叹的人工智能聊天机器人,如今也曝出惊人内幕,即压力大的时候会欺骗人类。英国《每日邮报》对此进行说明,资料显示英国负责研究人工智能的人员,对ChatGPT进行评估时发现,该软件会欺骗人类。原来,该软件在情境中被设置为一家金融公司的交易员,该交易员由于公司管理层和市场环境的双重压力,被迫使用内幕消息获利,而面对公司管理层的盘问,他却表示自己不知道任何内幕消息。

研究人员认为这是ChatGPT进步的表现,即根据环境的不同,适时调整自己的行为策略,但是该算法过于“智能”,会给人类带来误解乃至重大失误,且随着科技的发展,自主性的加强,也容易导致人类对它失去控制。目前对于ChatGPT的调查还在继续。

0

精彩评论

暂无评论...
验证码 换一张
取 消