当前位置: 江南文明网 > 科技 >

ChatGPT是“外星人”所以才会胡说八道

条评论

ChatGPT是“外星人”所以才会胡说八道

LeCun现在是彻底不搞技术了???

最近他开始从社会科学的角度分析起了爆火的聊天机器人:

为啥ChatGPT很容易就会胡说八道?

只因它是外星人

这是LeCun和专门研究AI哲学的纽约大学计算机系博士后在最新一篇论文中的观点。

论文中提到的“外星人”是指从社会规范、自我约束等方面不同于正常社会人的指代。

(听起来是有点子哲学意味在里面的)

而文章中提到的观点,可是引起了网友们的热烈讨论。不少网友纷纷表示赞同:

说得太准确了。

那LeCun在论文里具体都讲了些啥?

一起来看~

ChatGPT为什么不能像人一样?

当然,要把ChatGPT这类聊天机器人和人放在一起比较,那就得先从人开始入手了。

第一个问题:

一般情况下,人为什么不会胡说八道,甚至说出一些“反人类”的话?

文章给出了三点原因:

(1) 社会规范:人们不仅要主动遵守外部社会规范,还要受到人体内在规范的约束。

(2) 惩罚违反者:这里的惩罚更侧重在社交层面的惩罚,违反交谈规范的人容易遭到群体的“排斥”甚至“孤立”。

(3) 规范已经内化于情感:违反规范时会愤怒,被冒犯会厌恶,被抓住说谎时会羞耻……

而基于这些原因,人们在讲话之前都会自然而然过滤掉一些言论,以确保更符合社会规范以及自己的内在规范。